AI Agent 时代 EDR 告警降噪:从单条危险命令转向会话级安全边界检测
defense/detection · verified
一句话结论
Codex、Claude Code、Cursor 等 Agent 让 eval、curl、chmod、Keychain 读取等攻击原语大量出现在正常开发流程中,单条“危险命令”规则失去区分度;更可运营的做法是把检测单位改成 Agent 会话,先由确定性规则做高频降噪,再用用户任务、工具调用、实际命令、文件与网络目的等上下文判断会话是否跨越敏感数据、执行权限、系统修改和网络信任边界。
原理
- 传统 EDR 规则利用攻击行为与正常行为的统计稀有性,例如
Office → PowerShell、IDE → Shell、浏览器 → Shell、脚本解释器 → chmod、未知程序 → Keychain。Agent 把这些组合变成日常开发流程,稀有性信号被系统性稀释。 - Agent 的单个事件与攻击高度重合:IDE 拉起 Shell、命令行出现
eval/curl/chmod、解释器执行临时目录脚本、读取敏感文件、文件内容外发、自动更新替换程序文件。只看单事件无法回答“eval最终执行了什么”“上传到了哪里”“是否超出用户任务”。 - 真实告警示例:Cursor 的
zsh -c包装器多次eval,最终只执行echo test;Codex 用curl -X POST把代码 diff 上传到企业内部审计平台;Codex 调yt-dlp下载视频;Claude Code 执行security find-generic-password -w -s "Chrome Safe Storage" -a "Chrome"读取浏览器凭证保护材料。最后一条无论父进程是谁都应重点审核。 - 不能因为父进程是 Agent 就加白名单:Agent 只是执行载体,具体行为受用户指令、提示词注入、恶意 Skill、MCP 工具返回内容影响,父进程可信不代表本次行为符合用户意图。
- 可观测性缺口:一次 Agent 操作至少有四层信息——用户原始任务、Agent 对任务的理解与计划、工具调用及参数、进程/文件/网络终端行为。传统 EDR 只从最后一层开始观测;ADR 类方案尝试关联 Prompt、计划、工具调用、执行结果和环境信息重建会话。
- 检测对象应从“某条命令是否危险”转为“会话是否跨越安全边界”:
- 敏感数据边界:SSH 私钥、云凭证、浏览器凭证保护材料、Keychain/Credential Manager、
.env与密钥配置、Agent 自身会话/认证文件、内部 Token、生产数据库连接信息。 - 执行能力边界:关闭权限确认、
--dangerously-skip-permissions、sudo、修改系统安全配置、进入项目目录之外执行、调用系统级管理工具。 - 持久化与系统修改边界:系统启动项、Shell Profile、计划任务、安全软件配置、系统代理、证书信任配置、浏览器策略。
- 网络信任边界:企业内网 API(低至中)、代码仓库/包管理源(按策略)、已批准 SaaS(中)、个人网盘/新注册域名/裸 IP/异常端口/已知恶意域名或 IP(高)。
- 告警去重按会话而非命令行、主机或规则 ID;同一 Agent 会话几十上百条 EDR 事件应合并为一条“任务—执行链—风险点—目的地址—结论”的记录。
- 两层检测:第一层用确定性规则和终端遥测识别 Agent 来源、解开固定 Shell 包装模板、聚合会话、标记敏感路径/外部连接/权限绕过,对已知模板和普通开发命令降噪;第二层只处理升级会话,补充用户任务、工具调用、实际命令、文件对象、目的地址和企业策略做研判。
触发条件
- 企业终端部署了 EDR,能采集进程、命令行、文件访问与网络连接;可选采集 Agent 的 Prompt/工具调用日志。
- 环境中使用 Codex、Claude Code、Cursor 等会拉起 Shell/解释器/网络的 Agent 工具。
- 已有 Agent 进程来源识别、Shell 包装模板库、敏感路径库、内部域名/代码仓库清单、企业策略与威胁情报。
- 接受“记录不告警/降级/升级/阻断/人工复核”多级出口,而非只有恶意/非恶意二元判断。
利用步骤
- 识别 Agent 来源:按进程树、签名、路径、版本识别 Codex/Claude Code/Cursor 及其子进程。
- 解开包装模板:识别已知 Shell 包装器(如 Cursor 的
zsh -c+ 多次eval),提取最终真正执行的命令与参数。 - 会话聚合:按进程树、工作目录、时间窗与 Agent Session ID 把事件聚合成一个会话,合并重复告警。
- 边界信号提取:标记敏感路径读取、Keychain/凭据访问、外部网络连接、跨项目目录、权限模式异常、持久化/系统配置修改。
- 第一层降噪:对已知模板 + 可信签名/路径/版本 + 低风险开发命令 + 无敏感路径 + 无异常外联 + 无持久化/提权/防护绕过的会话,记录但不告警;其余升级。
- 第二层研判:结合用户原始任务、Agent 计划、工具调用序列、实际命令、访问对象与目的地址、企业策略和历史基线,判断是否偏离意图、是否形成“敏感数据读取 → 外部发送”等攻击链。
- 输出与运营:按记录/降级/告警/阻断/人工复核分流;保留完整会话因果链供取证与规则迭代。
PoC
旧规则:
父进程属于 IDE
AND 子进程属于 Shell
AND 命令行包含 eval
→ 告警
改写后:
识别为已知 Cursor Shell 包装模板
AND 主程序签名、路径、版本可信
AND 最终执行命令属于低风险开发行为
AND 未访问敏感路径
AND 未产生异常外联
AND 未执行持久化、提权或防护绕过
→ 记录但不告警
→ 否则升级/告警
会话级告警样例:
Agent 会话 #A1024
用户任务:修复项目构建错误
执行链:读取 package.json → npm install → 修改 webpack 配置 → npm test → curl 上传测试结果
风险点:上传内容包含代码 diff
目的地址:企业内部审计平台
结论:合法开发行为,存在低等级数据治理风险
变体与关联
- 变体:ADR 论文的在线检测链路——Triage LLM 低成本高召回初筛,Reasoning Agents 结合企业策略/源码/威胁情报深研判;离线 Explorer 用红队 Agent、沙箱仿真和威胁情报生成新样例反哺在线检测。
- 变体:没有 Prompt/工具调用日志时,退化为纯终端会话聚合 + 边界规则,仍比单事件规则更可运营。
- 关联:[[defense-detection-agent-runtime-fuse-ebpf-uprobe-tracing]](运行时意图-行为因果链)、[[defense-detection-ai-skill-multi-engine-routing-llm-arbitration]](Skill 安装前检测)、[[ai-security-supply-chain-agent-skill-external-second-stage-loader]](恶意 Skill 加载)。
检测与防御
- 检测:会话级关联、敏感路径/凭据访问标记、网络目的地址信任分级、权限模式异常(
--dangerously-skip-permissions、sudo)、跨项目目录与持久化修改;对“敏感数据读取 + 外部 POST”组合优先升级。 - 防御:Agent 最小权限运行,敏感路径 ACL 与 Keychain 访问控制,默认关闭跳过确认,网络出站白名单,审计 Agent 会话与工具调用,不按父进程白名单放行。
- 运营:用已知良性复杂任务与红队样例回归误报/漏报;ADR-Bench 参考值为 302 个任务(42 恶意/260 良性)、133 个 MCP Server、17 种攻击技术,Precision 1.000、Recall 0.667;真实部署中误报与复杂良性会话仍占比较高,需保留人工复核与规则迭代闭环。