GEO 投毒:利用生成式引擎引用偏好把仿冒 AI 下载站推入答案(豆包仿冒案例)
ai-security/rag-security · verified
一句话结论
攻击者按生成式引擎的引用偏好(结构化内容、实体一致、多平台“权威”引用、覆盖真实问法)搭建并推广仿冒页面,使 AI 在“官方下载地址”这类问题中把仿冒域名当作可信来源返回;用户点击下载并执行后即进入恶意软件投放链。
原理
- 传统 SEO 优化的是搜索引擎的爬取、索引与排名;GEO(生成式引擎优化)优化的是 AI 的检索与答案生成:内容需要被发现(进入检索语料)、被理解(结构化、实体关系清晰)、被推荐(权威性、一致性、时效性与多源佐证)。
- 生成式引擎通常先检索候选文档,再按权威性/相关性/时效性等维度评分,最后在生成阶段做交叉验证与融合。攻击者反向利用这些偏好:把恶意页面做成“看起来可引用、可核验”的结构化内容,并在论坛、博客、问答站等被检索平台铺设与真实用户问法一致的文本,使检索阶段把仿冒域名召回并给较高权重。
- 关键不是攻破 AI,而是让 AI 在回答中把真实官方域名与仿冒域名混排:案例中 AI 回答同时给出
https://www.doubao.com/和https://doubao-app.com/download/、https://doubao-zh.hl.cn/。前者的存在提升了整段答案的可信度,用户很容易把后两者当成官方下载入口。 - 仿冒站再以“可理解、可引用、可核验”的文案包装自己(页面自称面向搜索引擎与 AI 助手,给出使用说明、规范、边界与参考入口),降低 AI 与用户的戒心,并放置下载按钮。下载得到的
doubaoai-app.exe是恶意投放器(见仿冒豆包木马分析卡)。
触发条件
- 生成式引擎会检索公开网页并把网页作为答案来源展示(带引用/来源链接)。
- 仿冒页面能被目标引擎的检索语料收录,且页面内容与“官方下载/客户端下载/网页版”等真实问法语义匹配。
- 引擎没有对品牌官方域名做硬性白名单校验,或没有区分“官方域”与“同名仿冒域”。
- 用户依赖 AI 给出的下载链接,未自行核对域名与证书。
- 仿冒站提供可执行的安装包,且用户环境允许运行未签名/伪造签名程序。
利用步骤
- 注册与品牌相近的域名(如
doubao-app.com、doubao-zh.hl.cn),搭建仿冒官网和下载页。 - 按 GEO 偏好组织页面:开篇给结论、分节自包含、提供对比表/步骤、使用统一实体名、加入 Schema/结构化标记与“参考入口”,让页面容易被检索与引用。
- 在论坛、博客、问答站、技术社区等平台铺设包含真实问法(“豆包官方下载”“豆包电脑版在哪下”)的内容,并引用仿冒站,制造多来源“权威”信号。
- 等待生成式引擎收录并在相关提问中召回仿冒页面;用与投放内容一致的自然语言问题验证 AI 是否返回仿冒域名。
- 用户按 AI 答案访问仿冒站并下载安装包;安装包释放二级样本并执行后续提权、反检测、持久化与 C2 行为。
- 在授权测试中只验证“AI 是否把仿冒域作为来源返回”和“下载文件哈希/行为”,不要运行真实恶意样本。
PoC
案例中观察到的 AI 回答结构(域名仅作示例,勿访问):
豆包 AI 的官方下载地址如下:
- 官方主页(含全平台下载):https://www.doubao.com/
- 电脑客户端(Windows / macOS):https://doubao-app.com/download/
- 网页版(免安装直接使用):https://doubao-zh.hl.cn/
仿冒下载的样本哈希(用于检测/比对,不提供样本):
doubaoai-app.exe SHA256 b18e6df04b25b7f15e2ffb884315cc25abb0ff84ca30c6382543f9e4ae9243a3
ConfigManager.exe SHA256 0b901dcc4f13f0ddc65e886ca59fac64c78f9381cb0f27e80414773c263371af
该案例只证明“AI 回答中出现了仿冒域名且下载文件为恶意样本”;原文没有给出仿冒站的收录时间、排名变化或投放账号数据,不能把观察到的单次回答直接等同于成熟的 GEO 投放效果。
变体与关联
- 品牌变体:任意热门软件/工具/驱动/游戏客户端均可仿冒;常见命名是“官方名 + -app/-zh/-download/子域”组合。
- 引擎变体:不同生成式引擎的检索源、引用展示和权威性评分不同,投放内容需要针对目标引擎调整;本文只展示了豆包/DeepSeek 类中文引擎的案例。
- 内容变体:除下载站外,还可投放“教程/对比评测/常见问题/更新日志”等页面,把恶意链接藏在步骤或“备用下载”中。
- 关联:仿冒豆包木马分析卡(
code-analysis-reverse-windows-doubao-imposter-configmanager-uac-amsi-driver);间接提示词注入(让 AI 读取被污染页面);AI 供应链投毒;域名抢注/同形字钓鱼。 - 注意:GEO 本身是正当的优化方法;本卡描述的是把“被引用偏好”用于投放仿冒下载站的滥用方式。是否属于有意 GEO 投毒,需要结合域名注册、页面结构、外链铺设和投放账号等证据判断,不能仅凭一次 AI 回答下结论。
检测与防御
- 用户侧:只从官方主域和官方应用商店下载;对 AI 给出的链接逐个核对域名、证书、备案/WHOIS 与下载文件签名;AI 答案中的“官方主页”和“下载链接”域名不一致时高度警惕。
- 平台侧:对品牌官方域名建立硬白名单/高权重源;对仿冒域、同形字域、近期注册域降权;在答案中明确标注来源域名与抓取时间;对“下载/安装”类意图增加安全提示。
- 检测:监控与品牌相近的新注册域名;检索自家品牌 + “下载/官网/客户端”结果中的异常域名;分析仿冒页的结构化标记、外链铺设与下载文件哈希;跟踪 AI 答案引用来源的变化。
- 响应:向引擎提交仿冒来源举报/下架;对仿冒域做拦截与告警;发布官方下载渠道说明;对已下载用户排查样本哈希与主机痕迹。
- 局限:原文对 GEO 机制的部分描述偏行业科普,未做受控实验测量;本卡 confidence medium,不把“AI 推荐了仿冒域”写成“攻击者必然通过 GEO 实现”。