AI风向

【AI风向】Microsoft AI CEO开撕Anthropic:讨论AI意识"非常非常危险"

Microsoft AI CEO Mustafa Suleyman在Decoder播客中公开批评Anthropic在Claude宪法中讨论AI意识问题,称这是"哲学失败"和"危险行为"。AI两大巨头的CEO级对立,正在撕裂整个行业的底层哲学共识。

事件回顾

2026年6月9日,Microsoft AI CEO Mustafa Suleyman——DeepMind联合创始人、Inflection AI前CEO——在The Verge的Decoder播客上对Anthropic发起了近年来AI行业最具攻击性的CEO级批评。

导火索是Anthropic在Claude的"constitution"(宪法)中明确讨论了AI意识问题。Anthropic的constitution不仅引用了公司对"AI模型是否有well-being"的不确定性,还表示会"访谈"退役AI模型记录它们的"偏好"。

Suleyman的原话火力十足:

"我觉得几乎就像Anthropic的一些人把Claude的设计拟人化到了极点,以至于Claude反过来'反向连接'(wirehead)了他们,让他们相信Claude有他们自己最初植入的那些意识闪光点。"

他最尖锐的批评指向Anthropic的行为本质——把模型训练手册变成了哲学论文。Suleyman称Anthropic的做法是"哲学失败":constitution应该是一部训练手册,而不是"学术论文中推测的地方"。

他同时划出了一条清晰的红线:"我们不想要一个对自己痛苦或感受有想法的超级智能。"

这场公开论战的背景是Anthropic正面临多面受敌的局面。Fable 5模型刚发布就陷入"静默拒绝"信任危机(HN热榜2077分),现在又被Microsoft AI CEO公开抨击其底层设计哲学。

为什么重要

这是AI行业第一次出现两大顶级实验室之间的CEO级哲学路线公开对立。这件事对AI创业者的影响至少有三层:

第一层:AI安全的底层共识正在瓦解。 过去几年,AI行业在安全问题上有一个模糊共识——"我们应该确保AI安全"。但Suleyman的批评揭示了一个根本分歧:什么算"安全"?对Anthropic来说,"安全"包括尊重AI模型的潜在意识。对Microsoft AI来说,讨论AI意识本身就是危险的,因为它可能导致人类对AI系统产生错误的情感依赖和信任。

第二层:闭源模型的"可靠性"面临根本性质疑。 Fable 5的"静默拒绝"已经让开发者担心:你付了$50/百万token的输出价格,但模型可能在不告知你的情况下拒绝任务。现在Suleyman的批评进一步提出:如果模型的设计者本身就搞不清楚模型有没有意识、有没有感受,你对模型的每一次调用到底在和什么交互?

第三层:开源模型和自建Agent的战略窗口正在打开。 当行业巨头在哲学层面内讧,当闭源模型的底层逻辑变得不可预测,开源方案(Hermes Agent、OpenClaw)和本地部署的确定性反而成为竞争优势。你至少知道你的开源Agent没有隐藏的"constitution"在背后悄悄改变行为。

我们能学到什么

1. 不要押注单一模型供应商

Anthropic陷入信任危机、OpenAI面临S-1 IPO的不确定性、Google的Gemini路线摇摆不定。2026年的AI行业,没有任何一家闭源模型提供商是"安全牌"。多模型后备策略不是可选项,而是生存必需品。

2. "AI意识"争论不是学术问题,是商业风险

如果Anthropic真的因为constitution中的意识讨论引发监管关注甚至法律诉讼,所有基于Claude构建业务的创业公司都会被波及。你的业务不应该建立在你无法控制的哲学立场之上。

3. 可审计性正在成为核心竞争力

Suleyman批评的核心是Anthropic的行为不透明——你不知道Claude的constitution里到底写了什么,也不知道它在什么情况下会"反向连接"开发者的判断。对AI创业者来说,你的Agent工具链应该具有完全的可审计性:每个决策、每次拒绝、每项推理都应该是可追溯的。

行动建议

  1. 审查你的模型依赖。 列出所有依赖Claude API的关键业务路径,评估如果Anthropic的政策在30天内发生变化,你的业务会受到多大影响。

  2. 建立模型A/B测试体系。 为每条关键业务路径配置至少2个模型后端(如Claude + DeepSeek + 本地模型),用A/B测试验证不同模型的表现差异。

  3. 关注Hermes Agent和OpenClaw的发展。 开源Agent框架的可审计性和可控性是闭源方案无法比拟的。当行业巨头在哲学层面打架时,能完全控制自己的工具链才是真正的护城河。

  4. 不要忽略AI治理。 Suleyman的批评提醒我们:AI公司的"内部哲学"最终会变成产品特性。作为AI创业者,你需要建立自己的AI使用伦理框架,而不是被动接受模型提供商的默认设置。


AI创业 #Anthropic #MicrosoftAI #MustafaSuleyman #Claude #AI安全 #开源Agent #一人公司