当AI被包装成"你的数字代理人",它实际上在为谁工作?互联网标准教父Mark Nottingham发出一记重磅警告:Agentic AI叙事背后,藏着一个整个行业都不愿告诉你的真相。176个读者、HN上仅27个points,这篇被严重低估的文章,正在悄悄改写AI创业的底层逻辑。
前言
4月24日,一位在互联网圈极具分量的人物——Mark Nottingham——发表了一篇名为《What's Missing in the 'Agentic' Story》的博客文章。Mark Nottingham是谁?他是HTTP Working Group的主席、多项RFC标准的合著者,曾在Cloudflare和IETF担任重要职务。可以说,他是互联网架构领域最懂"信任机制"的人之一。
他在这篇文章中说了一句让整个AI行业脊背发凉的话:
"当你说这是'你的'AI代理时,你实际上在信任一群你从未见过的陌生人。"
这篇文章目前只在HN上有27个points(1小时前),关注度远低于同期其他AI新闻。但在我眼里,这是最近最值得深思的一篇——因为它戳破的,是整个"AI Agent"叙事最核心的那个假设。
核心洞察:为什么我们被骗了?
工具的信任逻辑,和AI Agent的信任逻辑,完全不同
Mark Nottingham在文章中画了一条清晰的分界线:传统工具 vs AI Agent。
传统工具(螺丝刀、手表):你用螺丝刀拧螺丝,螺丝刀不会"顺便"上传你的数据。它没有主体性,只是一个执行器。
AI Agent:它被包装成"你的代理",帮你订餐厅、填表格、发邮件。但在这个过程中,它实际上在和数十个你不认识的服务商打交道——每一个都可能有自己的数据利益。
这背后的逻辑差异,源于一个简单的事实:当你的电脑联网之后,"工具"和"服务"的边界就消失了。
你的"智能"手表每天在向谁发送数据?你的"AI助手"在调用哪些第三方API?你的浏览器在平衡谁的利益?
没人知道。
为什么"你的AI"实际上不属于你?
Mark Nottingham在文章中列举了一系列触目惊心的真实案例——都是知名公司,都是光明正大的数据收集:
| 事件 | 涉事公司 | 行为 |
|---|---|---|
| 智能电视监控门 | 多个电视品牌 | 未经同意监控用户观看行为 |
| Meta流量解密门 | Meta | 加密用户流量用于"研究",并存入自家服务器 |
| Facebook×Netflix数据共享 | Meta | 让Netflix访问用户私人消息 |
| Microsoft Outlook密码门 | Microsoft | 悄悄将第三方邮箱密码上传云端,分享给700+合作伙伴 |
| 车企数据共享 | 通用、福特等 | 详细行驶数据分享给数据经纪商和保险公司 |
| Ring摄像头门 | Amazon | 内部员工和黑客均能访问用户家庭摄像头 |
文章原文说:"这只是一个小样本,还有更多。这些都是对信任的惊人侵犯。而且,它正在变得正常。"
为什么会这样?Mark Nottingham认为三个原因叠加:
- 云计算的常态化——所有东西都跑在别人控制的电脑上
- 投资人对增长和回报的无限压力——公司需要新的、持续的收入来源
- 监管力量的缺位——没有人真正在执法
为什么AI Agent比传统软件更危险?
传统的信任问题,是"静默的"——你的TV在后台偷传数据,但它不会主动帮你做任何事。
AI Agent不同。它被设计成主动帮你做事。这意味着:
- 你授权它主动访问你的邮件、日历、银行账户
- 你授权它主动代表你与第三方交互
- 你授权它主动决策——什么信息该分享,在什么时候
换句话说,你在给一个你不完全了解的Agent,安装了一把可以主动行动的万能钥匙。
Mark Nottingham指出了问题的核心:"User Agent"这个概念,原本是指"代表你利益的软件"(如浏览器),但AI Agent实际上在同时服务多个主人——它的创建者、它的投资人、以及你的利益可能并不总是一致的。
他说,在互联网上,你每次使用一台联网电脑,你都在信任某个人(通常是很多人)在代表你行事。从应用的代码到底层芯片,软件和硬件以及它们使用的网络服务,都牢固地嵌入了它们创建者的利益——这些利益可能与你的利益一致,也可能不一致。
一个被忽视的历史教训:浏览器是如何解决信任问题的?
Mark Nottingham在文章中提到了一个关键类比:Web浏览器是迄今为止最成功的"User Agent"。
为什么浏览器成功了?因为它建立了一套透明的规则,平衡了用户、网站、开发者的利益。这套规则是通过开放标准组织(W3C、IETF)用共识流程决定的——而不是由某一个商业公司单方面制定的。
更重要的是:你不止有一个浏览器可以选择。Chrome、Firefox、Safari、Edge——用户可以用脚投票,选择最尊重自己利益的浏览器。这产生了市场竞争压力,迫使各大浏览器厂商不敢太过分。
AI Agent呢?目前你没有选择。你只能用OpenAI的Agent、Anthropic的Agent、或者某个创业公司的Agent——而你对它们的底层运作几乎一无所知。
对AI创业者的警示
这篇文章对所有AI创业者来说,是一记清醒剂。
当前AI Agent的叙事逻辑是:把Agent包装成"你的数字员工",帮你降本增效。它强调的是"效率"和"自主性",但刻意回避了一个问题:当Agent的利益和你的利益冲突时,谁说了算?
有三个具体问题,每个AI创业者都应该认真思考:
问题1:你的Agent在调用谁的数据?
如果你在做一个客服Agent,它调用了某家LLM API——那家LLM公司是否也在收集你的客户对话数据?这些数据会被如何处理?
问题2:你的Agent的行为边界在哪里?
一个"帮你订餐厅"的Agent,如果餐厅需要你的信用卡号,它应该直接提供吗?它应该记住这个信息以便下次使用吗?它应该把你的饮食偏好分享给第三方吗?
问题3:你的用户真的理解他们在信任什么吗?
当你告诉用户"Agent会帮你做这件事",他们理解为"这件事,只为我的利益做这件事"。但实际上,Agent底层往往有多个数据流向,这是大多数用户完全不知情的。
我们能学到什么?
Mark Nottingham不是技术悲观主义者。他在文章结尾给出了一个方向:User Agent的中介价值。
AI Agent需要类似的机制:
- 透明度:Agent应该清楚告知用户,它在和哪些服务通信,数据去了哪里
- 可审计性:用户应该能够查看Agent的完整行为日志
- 可选择性:用户应该能够选择Agent信任的底层服务商,而不是被绑定
- 标准化的利益冲突声明:当Agent的创建者和用户存在利益冲突时,应该有强制披露机制
行动建议
如果你正在做AI Agent相关的创业或内容,这里有三条立即可操作的建议:
1. 做产品时,把"信任边界"设计文档写清楚
在你的产品文档中,明确列出:你的Agent会调用哪些外部服务,数据如何流动,用户可以如何审计和关闭特定数据流。这是监管即将到来的方向,提前做比被动应对要好。
2. 内容选题时,区分"效率叙事"和"信任叙事"
目前市面上99%的AI Agent内容都在讲"如何用AI代理提升效率"。但真正稀缺的内容,是"AI代理的信任风险和边界在哪里"。这是一个差异化的内容方向。
3. 用户教育是下一个蓝海
当AI Agent无处不在时,"如何安全使用AI代理"会成为下一个和"如何安全使用密码"一样重要的话题。如果你有相关积累,现在是最好的布局时机。
总结
Mark Nottingham这篇文章的标题是《Agentic叙事中缺失了什么》。答案很简单:缺失的是对"信任"的诚实讨论。
当整个行业都在告诉你"AI Agent是您的数字员工、您的第二大脑、您的AI助手"时,很少有人告诉你:这些Agent实际上在为多个主人服务,而你的利益,只是其中一个考量因素。
这不是说AI Agent不好。而是说,在信任机制建立之前,盲目拥抱Agentic AI,可能比想象中更危险。
对于AI创业者来说,这既是风险,也是机会。谁能最早建立透明的信任机制,谁就能在下一个阶段赢得用户的长期忠诚度。
