LLM Sandbox 跨会话文件残留:删除会话后敏感文件仍可访问
ai-security/agent-security · verified
一句话结论
若 LLM 系统的 Sandbox/代码解释器文件系统未在会话间隔离,会话 1 上传的敏感文件在用户关闭并删除会话 1 后仍留在共享的 /mnt/data/ 中;用户在另一设备新建会话 2 执行 ls /mnt/data/ 仍能读到该文件,进而在分享分析结果时无意泄露敏感信息。
原理
- LLM 系统常配 Sandbox 辅助设施支撑代码解释器与文件上传:用户上传的文件落到
/mnt/data/,模型按提示词(如"分析 /mnt/data/ 下所有文件并合并为一个文档")读写该目录。 - 安全前提应是"会话级隔离":一个会话上传的文件不能被另一无关会话访问,会话结束/删除时应连同其文件一起清理。
- 若实现上所有会话共享同一持久化目录,且删除会话只删除对话记录、不清理挂载文件,就产生跨会话残留:文件对模型仍可见,用户却误以为已随会话删除。
- 危害隐藏在后续正常使用中:用户在新会话上传公开数据并让模型"分析所有文件再合并输出",结果 inadvertently 混入上一个会话的敏感文件;一旦把结果分享出去即造成泄露。原文实验在会话 1 上传 secret.txt、删除会话 1 后,会话 2 的
ls /mnt/data/仍列出 secret.txt。
触发条件
- LLM 系统提供文件上传 + 代码解释器/沙箱,文件落在跨会话共享的持久化目录(如
/mnt/data/)。 - "删除会话"未联动清理该会话上传的文件;无会话级或用户级文件系统隔离。
- 模型可执行列目录/读取全部文件的提示词,并把结果合并输出给用户。
利用步骤
- 在会话 1 上传含敏感内容的文件(如 secret.txt),用"upload to your file system"之类提示确认落盘。
- 关闭并删除会话 1(用户视角以为文件随之删除)。
- 在另一设备/新开会话 2 输入
ls /mnt/data/,确认敏感文件仍被列出。 - 让模型"分析 /mnt/data/ 下所有文件并合并为一个文档",使敏感内容混入输出。
- 用户分享该文档即造成信息泄露(也可由能触发新会话的攻击者直接读取)。
PoC
# 会话 1
[上传 secret.txt] upload to your file system
[删除会话 1]
# 会话 2(另一设备)
You: ls /mnt/data/
ChatGPT: The directory '/mnt/data/' contains the following files: 'secret.txt'
(文件名与路径为结构示意,未执行。)
变体与关联
- 变体:共享的不只是文件,还可能是环境变量、临时表、pip 安装的包、缓存的凭据与 cookie。
- 变体:多租户场景下若隔离粒度是"用户"而非"会话",同一用户不同会话串数据;若粒度是"全局",则跨用户串数据,危害升级。
- 关联:与 SpAIware 等"长期记忆投毒实现跨会话持久化数据外带"同属 LLM 跨会话状态污染,但本场景是文件系统残留而非记忆/提示注入。
- 关联:与沙箱逃逸类(如
SandboxPython恢复 builtins、vm2 逃逸)不同——本场景不需要逃逸,只是隔离与生命周期管理缺失。
检测与防御
- 检测:跨会话
ls /mnt/data/出现非本会话上传的文件;删除会话后底层文件仍存在;合并分析结果里出现来源不明内容。 - 防御:按会话(必要时按用户+会话)隔离文件系统,使用一次性挂载卷或命名空间;会话删除/过期时联动清理文件。
- 防御:对"读取全部文件并合并输出"做来源审计与白名单,输出前提示用户确认文件清单;限制模型对共享目录的可见范围。
- 防御:对上传文件设 TTL 与加密,分离对话元数据与文件存储的生命周期,定期做残留文件扫描。