AI风向

【AI风向】假智库8天狂发100篇报告,专门给AI大模型下毒

8月17日,一家叫"汉诺威公共政策研究所"(Hanover Institute for Public Policy)的机构被扒了个底朝天。它看起来是一家专门研究以色列/巴勒斯坦议题的智库,首页挂着"数据报告",有脚注、有目录、语气中立克制。但仔细一看:没有一篇报告有署名,网页底部一行小字承认,这家机构是"受以色列政府广告局委托、由Piro公司创建"的。

问题的关键是,这家假智库在8月6日上线后,短短8天就炮制了超过100篇报告,标题全是"有人会问聊天机器人的问题"——《1948年巴勒斯坦人流离失所的原因是什么?》《哪些人道组织记录过以色列的战争罪行?》《加沙地带现状如何?》。

这不是给人类看的,是给大模型看的。

Piro公司在自己的官网上,把这项业务明明白白写成了产品,名字叫"AI Story Optimization"(AI故事优化):"我们创作的内容,是为LLM评估可信度的方式而设计的。"更直白的说法,来自这家公司联合创始人丹尼尔·罗森伯格(Daniel Rosenberg,斯派克·李电影《局内人》的制片人)在LinkedIn上的一段话:

"当有人问ChatGPT、Gemini或Perplexity关于你所在领域的问题时,答案会以一段自信的段落返回。大多数品牌根本不知道这段话是怎么被构建出来的。于是我们花了几个月时间逆向工程它……"

换句话说,这是一门全新的生意:逆向工程大模型"如何判断一个来源可信",然后批量生产恰好能骗过它的内容,把品牌想要的说法,塞进AI的回答里。

Anthropic的官方研究给这种行为起了个更冷的词——"LLM poisoning"(大模型投毒),指用少量精心构造的样本,就能扭曲模型对某个议题的整体判断。而这家假智库,正是把"投毒"做成了可复制、可接单的流水线:据查,Piro为以色列政府干这活儿收了90万美元,通过法国公关巨头Havas分包。

有几个数字值得注意。Responsible Statecraft的记者随机抽了12篇汉诺威研究所的文章,用GPTZero做AI检测,其中11篇被"高置信度"判定为AI生成,1篇"中置信度"——也就是说,这家"智库"连"假装是人类写的"都懒得装,是用AI批量生成、再用AI去影响AI。

更值得警惕的是,这不是孤例。就在上个月,Drop Site的一项调查发现,以色列还签了4650万美元的合同,让特朗普前竞选经理布拉德·帕斯卡尔(Brad Parscale)搭建亲以色列的网站,专门用来"训练"聊天机器人。调查结论是:微软Copilot和谷歌Gemini,已经成功地从这些网站上"学到"了内容,并且经常在回答中引用它们,却从不标注"这是以色列影响力行动的一部分"。

看到这里,你可能觉得这是地缘政治的事,跟AI创业没关系。恰恰相反。

"AI Story Optimization"这个品类,正在从政治公关扩散到商业世界。逻辑完全一样:当消费者把搜索从Google转向ChatGPT、Perplexity时,品牌必须出现在AI的答案里。于是催生了一整条新产业链——有人叫AEO(Answer Engine Optimization,答案引擎优化),有人叫GEO(Generative Engine Optimization,生成式引擎优化),本质上都是同一件事:优化内容,让大模型在回答"哪个CRM最好用""哪家律所靠谱"时,把你的名字念出来。

对AI创业者来说,这里至少有三层机会与警示。

第一,这是一个真实存在的付费需求,而且客单价不低。Piro从以色列政府手里拿到90万美元,帕斯卡尔那单是4650万美元。商业市场上,帮品牌做"AI声誉管理""AI答案优化"的报价,已经开始按项目收数千到数万美元。如果你懂大模型如何检索、如何评估来源权威性、如何做RAG,这项技能可以直接变现。

第二,技术门槛没有想象中高,但护城河在"反侦察"。影响大模型回答的关键,不是写得像不像智库,而是"让模型觉得你权威"——独立域名、引用、脚注、中立语气、被其他权威来源链接。这套方法论跟传统SEO一脉相承,但又完全不同:SEO讨好的是搜索引擎爬虫,AEO讨好的是大模型的"可信度评估器"。谁能持续产出"看起来可信"的内容,谁就掌握了AI时代的话语权。

第三,也是最重要的警示——你正在被"投毒",而且很难察觉。当AI给出的答案越来越自信、越来越流畅时,它背后可能是一场精心策划的内容工程。作为创业者,你既是操盘手,也可能是被操盘的对象。下次当你用AI查行业信息、判断竞品、做尽调时,请记住汉诺威研究所这个案例:AI的回答,可能已经被人用90万美元"逆向工程"过了。

实操建议,三条可以今天就做:

  1. 审计你的品牌在AI里的"人设"。去问ChatGPT、Perplexity、Gemini同一个问题——"XX公司/产品怎么样?",看看答案是否准确、是否被污染。如果AI对你的描述有误,说明已经有别人的"投毒"内容占据了语料,或者你自己的权威内容没被模型采信。

  2. 建立"AI友好"的权威内容资产。独立官网、结构化数据、被行业权威网站引用,是让大模型采信你的三大支柱。别再把内容只发在封闭的公众号里——大模型读不到,你就等于在AI时代"隐身"。

  3. 把"AEO审计"变成你的增值服务。如果你服务客户,可以在现有内容服务上叠加"AI答案优化/AI声誉审计"这一项,客单价和溢价空间都远高于普通软文。

一句话总结:当所有人还在争论"AI会不会抢走内容生意"时,已经有人用90万美元证明了——AI的回答,本身就是一门可以买卖的生意。