AI风向

【深度】"你的AI代理"可能是史上最大的谎言——Web架构师Mark Nottingham的冷思考

当AI被包装成"你的数字代理人",它实际上在为谁工作?互联网标准教父Mark Nottingham发出一记重磅警告:Agentic AI叙事背后,藏着一个整个行业都不愿告诉你的真相。176个读者、HN上仅27个points,这篇被严重低估的文章,正在悄悄改写AI创业的底层逻辑。

前言

4月24日,一位在互联网圈极具分量的人物——Mark Nottingham——发表了一篇名为《What's Missing in the 'Agentic' Story》的博客文章。Mark Nottingham是谁?他是HTTP Working Group的主席、多项RFC标准的合著者,曾在Cloudflare和IETF担任重要职务。可以说,他是互联网架构领域最懂"信任机制"的人之一。

他在这篇文章中说了一句让整个AI行业脊背发凉的话:

"当你说这是'你的'AI代理时,你实际上在信任一群你从未见过的陌生人。"

这篇文章目前只在HN上有27个points(1小时前),关注度远低于同期其他AI新闻。但在我眼里,这是最近最值得深思的一篇——因为它戳破的,是整个"AI Agent"叙事最核心的那个假设。

核心洞察:为什么我们被骗了?

工具的信任逻辑,和AI Agent的信任逻辑,完全不同

Mark Nottingham在文章中画了一条清晰的分界线:传统工具 vs AI Agent

传统工具(螺丝刀、手表):你用螺丝刀拧螺丝,螺丝刀不会"顺便"上传你的数据。它没有主体性,只是一个执行器。

AI Agent:它被包装成"你的代理",帮你订餐厅、填表格、发邮件。但在这个过程中,它实际上在和数十个你不认识的服务商打交道——每一个都可能有自己的数据利益。

这背后的逻辑差异,源于一个简单的事实:当你的电脑联网之后,"工具"和"服务"的边界就消失了

你的"智能"手表每天在向谁发送数据?你的"AI助手"在调用哪些第三方API?你的浏览器在平衡谁的利益?

没人知道。

为什么"你的AI"实际上不属于你?

Mark Nottingham在文章中列举了一系列触目惊心的真实案例——都是知名公司,都是光明正大的数据收集:

事件 涉事公司 行为
智能电视监控门 多个电视品牌 未经同意监控用户观看行为
Meta流量解密门 Meta 加密用户流量用于"研究",并存入自家服务器
Facebook×Netflix数据共享 Meta 让Netflix访问用户私人消息
Microsoft Outlook密码门 Microsoft 悄悄将第三方邮箱密码上传云端,分享给700+合作伙伴
车企数据共享 通用、福特等 详细行驶数据分享给数据经纪商和保险公司
Ring摄像头门 Amazon 内部员工和黑客均能访问用户家庭摄像头

文章原文说:"这只是一个小样本,还有更多。这些都是对信任的惊人侵犯。而且,它正在变得正常。"

为什么会这样?Mark Nottingham认为三个原因叠加:

  1. 云计算的常态化——所有东西都跑在别人控制的电脑上
  2. 投资人对增长和回报的无限压力——公司需要新的、持续的收入来源
  3. 监管力量的缺位——没有人真正在执法

为什么AI Agent比传统软件更危险?

传统的信任问题,是"静默的"——你的TV在后台偷传数据,但它不会主动帮你做任何事。

AI Agent不同。它被设计成主动帮你做事。这意味着:

  • 你授权它主动访问你的邮件、日历、银行账户
  • 你授权它主动代表你与第三方交互
  • 你授权它主动决策——什么信息该分享,在什么时候

换句话说,你在给一个你不完全了解的Agent,安装了一把可以主动行动的万能钥匙。

Mark Nottingham指出了问题的核心:"User Agent"这个概念,原本是指"代表你利益的软件"(如浏览器),但AI Agent实际上在同时服务多个主人——它的创建者、它的投资人、以及你的利益可能并不总是一致的。

他说,在互联网上,你每次使用一台联网电脑,你都在信任某个人(通常是很多人)在代表你行事。从应用的代码到底层芯片,软件和硬件以及它们使用的网络服务,都牢固地嵌入了它们创建者的利益——这些利益可能与你的利益一致,也可能不一致。

一个被忽视的历史教训:浏览器是如何解决信任问题的?

Mark Nottingham在文章中提到了一个关键类比:Web浏览器是迄今为止最成功的"User Agent"

为什么浏览器成功了?因为它建立了一套透明的规则,平衡了用户、网站、开发者的利益。这套规则是通过开放标准组织(W3C、IETF)用共识流程决定的——而不是由某一个商业公司单方面制定的。

更重要的是:你不止有一个浏览器可以选择。Chrome、Firefox、Safari、Edge——用户可以用脚投票,选择最尊重自己利益的浏览器。这产生了市场竞争压力,迫使各大浏览器厂商不敢太过分。

AI Agent呢?目前你没有选择。你只能用OpenAI的Agent、Anthropic的Agent、或者某个创业公司的Agent——而你对它们的底层运作几乎一无所知。

对AI创业者的警示

这篇文章对所有AI创业者来说,是一记清醒剂。

当前AI Agent的叙事逻辑是:把Agent包装成"你的数字员工",帮你降本增效。它强调的是"效率"和"自主性",但刻意回避了一个问题:当Agent的利益和你的利益冲突时,谁说了算?

有三个具体问题,每个AI创业者都应该认真思考:

问题1:你的Agent在调用谁的数据?

如果你在做一个客服Agent,它调用了某家LLM API——那家LLM公司是否也在收集你的客户对话数据?这些数据会被如何处理?

问题2:你的Agent的行为边界在哪里?

一个"帮你订餐厅"的Agent,如果餐厅需要你的信用卡号,它应该直接提供吗?它应该记住这个信息以便下次使用吗?它应该把你的饮食偏好分享给第三方吗?

问题3:你的用户真的理解他们在信任什么吗?

当你告诉用户"Agent会帮你做这件事",他们理解为"这件事,只为我的利益做这件事"。但实际上,Agent底层往往有多个数据流向,这是大多数用户完全不知情的。

我们能学到什么?

Mark Nottingham不是技术悲观主义者。他在文章结尾给出了一个方向:User Agent的中介价值

AI Agent需要类似的机制:

  • 透明度:Agent应该清楚告知用户,它在和哪些服务通信,数据去了哪里
  • 可审计性:用户应该能够查看Agent的完整行为日志
  • 可选择性:用户应该能够选择Agent信任的底层服务商,而不是被绑定
  • 标准化的利益冲突声明:当Agent的创建者和用户存在利益冲突时,应该有强制披露机制

行动建议

如果你正在做AI Agent相关的创业或内容,这里有三条立即可操作的建议:

1. 做产品时,把"信任边界"设计文档写清楚

在你的产品文档中,明确列出:你的Agent会调用哪些外部服务,数据如何流动,用户可以如何审计和关闭特定数据流。这是监管即将到来的方向,提前做比被动应对要好。

2. 内容选题时,区分"效率叙事"和"信任叙事"

目前市面上99%的AI Agent内容都在讲"如何用AI代理提升效率"。但真正稀缺的内容,是"AI代理的信任风险和边界在哪里"。这是一个差异化的内容方向。

3. 用户教育是下一个蓝海

当AI Agent无处不在时,"如何安全使用AI代理"会成为下一个和"如何安全使用密码"一样重要的话题。如果你有相关积累,现在是最好的布局时机。

总结

Mark Nottingham这篇文章的标题是《Agentic叙事中缺失了什么》。答案很简单:缺失的是对"信任"的诚实讨论

当整个行业都在告诉你"AI Agent是您的数字员工、您的第二大脑、您的AI助手"时,很少有人告诉你:这些Agent实际上在为多个主人服务,而你的利益,只是其中一个考量因素。

这不是说AI Agent不好。而是说,在信任机制建立之前,盲目拥抱Agentic AI,可能比想象中更危险。

对于AI创业者来说,这既是风险,也是机会。谁能最早建立透明的信任机制,谁就能在下一个阶段赢得用户的长期忠诚度。


AI创业 #Agentic #信任机制 #隐私 #Web标准