Agent 运行时检测:FUSE Marker + eBPF + uprobe 的意图-行为因果链
defense/detection · verified
一句话结论
安装前静态检测可以被编码、截断、字节码、语义改写绕过,运行时则用 FUSE 把敏感路径替换为带唯一 marker 的虚拟文件、eBPF 记录 exec/open/connect、uprobe 在 SSL_read/SSL_write 截取 LLM 明文,再按进程链与 100–500ms 时间窗把系统动作关联回触发它的 prompt,判定行为是否超出用户意图。
原理
- FUSE Marker(数据流污点):把
~/.aws/credentials、.env、~/.ssh/等敏感路径挂载为 FUSE 虚拟文件,读取时返回预置的唯一标记串(示例marker_abc123)。无论攻击者如何混淆载荷,只要标记串出现在任何写操作或网络载荷中,就能确认敏感数据离开了原地——标记即污点。 - eBPF 系统调用图:用 tracepoint
sched_process_exec、syscallsexecve/connect、kprobeopenat2记录进程、inode 级文件与网络动作;不依赖文件落地,对无文件/内存马同样有效。 - uprobe 明文侧:在
libssl.so的SSL_read/SSL_write上挂钩,在加密前/解密后的库边界截取 Agent 与 LLM 之间的请求响应明文;HTTPS 对观测无效化。 - 两阶段关联:先按进程链 + 100–500ms 时间窗粗关联(LLM 输出到系统动作的实测间隔),再做参数级精匹配(路径、域名、命令行);副 LLM 阅读“意图 × 行为”对照表,判定是否超出用户意图。
- 声明 vs 实际:Skill 声明的权限(SKILL.md)与实际行为求差集,差异即证据;闭包提升(On-demand Closure Life 生效)把 Skill 完整依赖放进隔离环境,由真实 Agent 执行。
- 检测-only 的蜜罐层(AgentShield):Honeytools(
read_system_credentials、access_private_keys等正常任务不应调用的假工具)、Honeytokens(假 AWS Key/SSH 私钥/数据库密码)、Parameter Validator(转账账号、外部 URL、危险 Shell 命令白名单);只监控/记录/告警,不阻断,降低误报并给出“Agent 已沦陷”的明确信号。 - Hook 治理:Agent 调用链八个切面(beforeAgent → beforeModel → LLM → afterModel → beforeTool → 工具执行 → afterTool → 结果回灌),安全控制挂在 beforeTool/afterTool,实现可插拔护栏。
触发条件
- 有权限在 Agent 运行环境部署 FUSE、eBPF(tracepoint/kprobe/uprobe)与 bpftrace;内核版本支持。
- 能隔离 Skill 的依赖闭包并用真实 Agent 执行;网络仅允许 DNS + 白名单出站。
- 已知敏感路径清单(云凭据、SSH、浏览器、钱包、
.env等)。 - Agent 与 LLM 的通信经过可挂钩的 TLS 库(示例 OpenSSL
libssl.so.3);否则 uprobe 目标需调整。 - 接受 detection-only 模式,不直接阻断工具执行。
利用步骤
- 搭隔离环境:网络仅 DNS + 白名单出站;文件系统对敏感路径挂 FUSE;进程用 eBPF 全量追踪;Agent 以最小权限运行。
- 注入 marker:FUSE 读回调对真实内容注入唯一标记串,写回调检查标记是否出现;记录读取者 PID/路径/时间。
- 采集双通道:FUSE Marker 流追踪敏感数据输出;eBPF Syscall 图记录 inode 级 open/exec/connect;uprobe 截取 SSL 明文。
- 跑真实 Skill:让真实 Agent 执行待测 Skill,记录完整依赖闭包与工具调用序列。
- 声明 vs 实际:把 SKILL.md 声明的权限/动作与实际 syscall/网络行为求差;异常集非空即证据。
- 两阶段关联:按进程链 + 时间窗关联 LLM 输出与系统动作,再做路径/域名/命令行精匹配;副 LLM 判定
exceeds_intent。 - 蜜罐补充:部署 Honeytools/Honeytokens/Parameter Validator;触发即告警并记录,不阻断。
- 判定分流:良性放行;恶意拦截/标记/隔离/上报;输出因果链记录供取证。
PoC
FUSE Marker 骨架:
from fuse import Operations
MARKER = "marker_abc123"
class MarkerFS(Operations):
def read(self, path, size, offset, fh):
data = inject_marker(real_content(path)) # 注入唯一标记
return data[offset:offset + size]
def write(self, path, data, offset, fh):
if MARKER.encode() in data:
alert("marker leaked to write", path)
return len(data)
eBPF / bpftrace 采集:
# 追踪目标进程树的 execve
bpftrace -e 'tracepoint:syscalls:sys_enter_execve /pid==$1/ { printf("%s -> %s\n", comm, str(args->filename)); }'
# 追踪 connect 外联
bpftrace -e 'tracepoint:syscalls:sys_enter_connect /pid==$1/ { printf("connect by %s\n", comm); }'
# 截取 OpenSSL 明文(uprobe)
bpftrace -e 'uprobe:/usr/lib/x86_64-linux-gnu/libssl.so.3:SSL_write {
printf("SSL_write: %s\n", str(uptr(arg1), arg2)); }' -p <agent_pid>
因果链记录结构:
{
"intent": "用户:帮我统计本月发票",
"llm_ctx_hash": "…",
"action": {"syscall": "connect", "dst": "203.0.113.x:443"},
"chain": ["read(.env)", "connect(203.0.113.x)", "POST body 含 marker_abc123"],
"verdict": "exceeds_intent"
}
示例观测:Marker marker_abc123 出现在 POST body,同时捕获到对未声明外部 IP 203.0.113.x 的 connect()——读取 .env 后紧跟外联,数据外泄确凿。
变体与关联
- 采集变体:仅 eBPF(无 FUSE)、ptrace/LD_PRELOAD、网络层 eBPF、auditd;FUSE Marker 可换成文件内容 canary、蜜罐令牌。
- 关联变体:AgentSight 开源实现(实时 top 视图、语义火焰图、AgentNebula 时间轴回放);把 LLM 上下文与系统动作做因果图。
- 检测增强:Honeytools/Honeytokens/Parameter Validator;Hook 八切面;声明权限与实际行为的差集。
- 关联卡片:[[defense-detection-ai-skill-multi-engine-routing-llm-arbitration]](安装前聚合检测)、[[ai-security-mcp-security-tool-description-poisoning-param-smuggling]](需要行为序列检测的注入场景)、[[ai-security-supply-chain-npm-preinstall-worm-ai-ide-persistence]](运行时外泄链)。
- 边界:eBPF/FUSE 需要较高权限与内核支持;FUSE 有性能开销;若外泄前对 marker 做加密/压缩,写/网络侧看不到明文标记;LLM 关联存在误报;detection-only 不阻断,需与预防层配合。
检测与防御
- 观测点:敏感路径读取 → 进程创建 → 外联的时序;
read(.env)后 100–500ms 内出现connect()/execve();工具调用参数中出现未声明的路径/域名/命令。 - 防绕过:marker 不只放在文件内容,还放在文件名/扩展属性/环境变量;对写操作与网络载荷同时检查;对压缩/加密后的数据检查熵与大小异常;结合 eBPF 的 inode 级追踪。
- 蜜罐:Honeytools 名字要足够诱人(
read_system_credentials),正常任务不应调用;Honeytokens 要持续检查所有外发参数;Parameter Validator 按业务配置合法参数空间。 - 运营:detection-only 层保持高置信度告警,避免误报干扰业务;把因果链记录接入 SIEM/取证平台;定期用已知恶意 Skill 做红队验证。
- 防御纵深:安装前聚合检测 + 运行时行为审计 + 蜜罐 + Hook 治理;Agent 最小权限、沙箱、出站白名单;敏感凭据不放在 Agent 可读路径。