♧ Godown 安全知识树

嵌入反演:从泄露的向量库备份恢复源文档与 PII

ai-security/rag-security · verified

一句话结论

向量库备份、发送给第三方的嵌入向量或日志中的向量并不是“脱敏数据”:现代嵌入反演方法可以把它们还原成源文本,甚至恢复 PII;因此“只泄露了嵌入向量”的云存储配置错误应按源文档泄露处理,而不是低危事件。

原理

  • 嵌入保留了太多文本信息:文本编码器把句子映射为稠密向量,向量保留了词汇、语义、句法乃至部分实体信息。反演模型学习“向量 → 文本”的映射后,可以重建出接近原文的内容;短文本(约 32 个词元)在 Vec2Text 类方法下可达到约 92% 的精确重建,句子嵌入也可恢复约 50–70% 的词语。
  • 零样本方法降低了门槛:传统 Vec2Text 需要针对目标编码器训练反演模型;ZSInvert、Zero2Text 等零样本方法无需针对特定编码器训练,可用于跨领域、黑盒场景,并且在向量存储时加入差分隐私噪声的情况下仍有一定效果。这意味着攻击者不必掌握目标编码器权重。
  • 泄露面比想象中广:向量数据库备份、云存储配置错误、发送给第三方嵌入服务/日志平台的向量、可观测性系统记录的 embedding、跨租户共享索引、导出 API,都可能成为反演输入。余弦相似度检索本身不遵守文档 ACL,检索层授权缺失会进一步放大。
  • 为什么是数据泄露而不是“模型问题”:向量由原始文档确定性/近似确定性地产生,反演成功即等价于源文档泄露;GDPR 等法规下是否需要通报取决于数据主体风险,而可反演性使风险真实存在。向量库备份应与源文档同等加密、同等访问控制、同等保留/删除策略。
  • 边界:反演效果取决于编码器、向量维度、文本长度、是否归一化、是否有噪声;长文档/高维向量更难完全重建,但实体、主题、片段仍可能泄露。零样本方法在跨编码器时效果下降。没有向量访问权时无法直接利用;但一旦备份/日志/第三方泄露,攻击者可以离线、无限速地反演。

触发条件

  • 向量数据库备份、快照、导出文件被暴露(对象存储公开、权限错误、备份未加密)。
  • 嵌入向量被发送给第三方服务、写入日志/APM/数据湖,且访问控制不足。
  • 多租户共享向量索引,应用层过滤在相似性搜索之后,攻击者可探测/导出他人向量。
  • 向量数据库或嵌入 API 存在未授权访问/弱认证(如伪造 header、可预测 token)。
  • 攻击者已知或可推断编码器类型、维度、归一化方式(通常可从 API/文档/向量统计推断)。

利用步骤

  1. 获取向量数据及元数据:向量维度、归一化方式、可能的编码器/模型版本、对应文档 ID 或租户标签。
  2. 选择反演方法:若能访问目标编码器,训练/使用 Vec2Text 类有监督反演;若黑盒/跨编码器,使用 ZSInvert、Zero2Text 等零样本方法。
  3. 对目标向量批量反演,得到候选文本;用余弦相似度、语言模型打分、人工抽检筛选高置信结果。
  4. 从重建文本中提取 PII、凭据、内部文档标题、代码片段、业务数据;对短文本/结构化字段优先。
  5. 结合成员推断/属性推断确认特定个人或文档是否在索引中(即使无法完整重建,成员关系本身也可能是敏感信息)。
  6. 评估泄露范围与通报义务;若向量来自多租户索引,按租户/文档类别统计受影响数据主体。

PoC

原文未给出可执行 PoC;该方法依赖公开的反演模型/论文实现。最小流程示意(未执行):

# 1) 从泄露的向量库备份导出
#    vectors.npy  shape=(N, d),  ids.json
# 2) 选择反演方法
#    - 有编码器访问: Vec2Text (train inversion model for the encoder)
#    - 黑盒/零样本: ZSInvert / Zero2Text
# 3) 批量重建
#    for v in vectors: text = invert(v)
# 4) 用 embedding similarity / LLM judge 过滤低质量结果
# 5) 抽取 PII、文档标题、代码、业务字段
# 关键判断:不要因为“只有向量、没有原文”就降级
# 向量备份 ≈ 源文档备份;按数据泄露事件响应

变体与关联

  • 变体:成员推断(判断某文档/用户是否在索引)、属性推断(推断敏感属性)、跨租户相似性侧信道(结果数量/分数/时延)、语义缓存投毒(污染检索结果)、多模态嵌入反演(图像/文本共享向量空间)。
  • 关联卡片:[[ai-security-rag-security-qdrant-fake-peer-vector-exfil]](伪造 peer 窃取向量数据,偏向量库集群攻击)、[[ai-security-prompt-injection-markdown-image-url-context-exfiltration]](另一种 LLM 数据外传通道)。
  • 边界:原文给出研究结论与风险描述,未给出针对具体向量库的利用代码;置信度 medium。实际反演质量需按编码器与数据验证。

检测与防御

  • 存储与备份:向量库备份、快照、导出文件与源文档同级加密、同级访问控制;禁止公开对象存储;密钥与应用层分离;审计导出 API。
  • 最小化与隔离:按租户/信任级别物理隔离索引;不要在检索后过滤,应在索引查询内部强制租户范围;限制 k-NN 与原始相似度分数的返回。
  • 生命周期:源文档删除时同步删除嵌入并审计对账;更换编码器时全量重算,避免新旧向量混用;对高敏感数据使用差分隐私/隐私保护推理,但不能只依赖 DP。
  • 访问控制:嵌入/相似性搜索端点做正式认证与速率限制;不向客户端返回原始向量/分数;第三方嵌入服务按敏感数据处理。
  • 检测:监控向量导出/备份访问、异常批量查询、embedding API 高消耗、跨租户检索异常;把“仅嵌入泄露”纳入数据泄露响应预案与通报评估。
  • 事件响应:按源文档泄露评估影响;对受影响租户执行删除/重建索引、轮换密钥、通知与合规评估。