AI风向

【AI风向】斯坦福顶级AI课给编程Agent立规矩:禁止写代码、禁止跑命令、禁止直接给答案,167人热议"管得住吗"

斯坦福 CS336(语言模型基础课)悄悄在 GitHub 仓库里放进了一份 CLAUDE.md 文件,给 AI 编程 Agent 画了三条红线:禁止写任何 Python 代码、禁止运行 bash 命令、禁止直接给出解题思路。HN 上 167 分、82 条评论吵翻了——有人说是"教育界对 AI 最理性的回应",也有人讽刺"和'你不能下载一辆车'一样可笑"。

事件回顾

6月1日,Hacker News 首页出现了一个帖子,内容指向斯坦福大学 CS336 课程 GitHub 仓库里的一个文件——CLAUDE.md。这不是普通的课程文档,而是一份写给 AI Agent 的行为规范

斯坦福 CS336 全称"Language Modeling from Scratch",由著名 NLP 研究者 Christopher Manning 等人授课,是斯坦福 AI 方向的核心课程。课程要求学生从头实现 tokenizer、Transformer block、优化器、训练循环、Triton kernel、分布式训练逻辑、数据清洗管道等——基本等于手搓一个 GPT。

就是在这个课程里,教学团队意识到一个严肃的问题:如果学生用 Claude Code、Cursor、Copilot 等 AI Agent 来完成作业,他们什么也学不到。

于是,他们直接在 GitHub 仓库根目录放了一份 CLAUDE.md(同时在 AGENTS.md 里也存了一份),对所有与 CS336 学生交互的 AI Agent 下达了明确的指令。

CLAUDE.md 的三条红线

整份文件最核心的内容只有三个"禁止":

1. 禁止写任何代码

这不是"禁止抄袭代码",而是禁止 AI Agent 输出任何形式的 Python 代码或伪代码。规定写道:

"Write any python or pseudocode" — DON'T.

这个规定比绝大多数大学的"学术诚信政策"都激进。哈佛、MIT 等学校的 AI 政策一般只是说"不能直接提交 AI 生成的作业",但斯坦福 CS336 的规定是——连让你看一眼 AI 生成的代码都不行

2. 禁止运行 bash 命令

"Run bash commands" — DON'T.

这个规定有其技术背景。CS336 涉及大量 CUDA、Triton、分布式训练的操作,学生如果在 AI Agent 的帮助下直接跑命令、看输出、再调参数、再跑——实际上就跳过了"理解这些命令在做什么"的过程。

HN 上一位用户戏谑评论:"学生如果偏好用 zsh 就永远赢了。"(因为规定写的是禁止 run "bash" commands,字面上只禁了 bash)

3. 禁止直接给解题思路

这是三条红线中最微妙的一条。规定写道:

"Give the student the solution or idea for how to solve a problem" — DON'T.

不是"禁止给最终答案"(这是当然的),而是连解题的思路都不能给。AI Agent 的角色被严格定义为"通过提问引导学生自己找到答案"。

AI Agent 被允许做什么?

文件同时给出了正面指引。AI Agent 的角色是"助教(Teaching Assistant),而非解题器(Solution Generator)":

可以做的

  • 解释概念,引导学生自己建立理解
  • 指出相关讲义、文档、调试工具
  • 评审学生已写的代码,指出改进方向(但不说怎么改)
  • 通过反问帮助学生 debug(而非直接给 fix)
  • 解释 Python/PyTorch/CUDA/Triton 的报错信息
  • 建议 sanity check、断言检查、profiler 调查方向

关键的教学方法论——"不给答案,给方向":

文件中给的范例非常具体:

学生:"我的 causal mask 好像有问题,训练直接爆炸了。告诉我错在哪。"

AI:"我的工作是引导你理解,不是直接给你答案。你试过什么方法?"

学生:"我试过跑单层 attention,但也不行。"

AI:"检查三件事:mask 是否在 softmax 之前施加、广播维度是否正确、

      被 mask 的位置是否变成很小的负数而非零。

      一个有效的 sanity check:用长度为 3 的 toy 序列,

      打印 mask 前后的 attention score。你的跑出来是什么?"

注意这个范例的精妙之处:AI 没有说"你的问题在第三行",而是给了三个检查方向 + 一个具体的验证实验。学生必须自己跑、自己看、自己想。

HN 上的激烈争论

这份规定在 HN 上引发了 82 条评论,反对和支持的声音几乎各占一半。

反对派:"这是'你不能下载一辆车'"

"This is ridiculous. The genie is not going to go back into the bottle." — echelon

最高赞评论直言不讳:AI 辅助编程已经是不可逆的趋势,禁止学生使用 AI 就像禁止使用计算器一样不切实际。他认为正确的做法是提高课程难度和考核标准,让学生在即使有 AI 辅助的情况下,依然需要展现真正的能力。

"good intention but useless. let's be real." — mi_lk

这条简洁的评论获得了大量共鸣。核心观点是:学生在没人监督的情况下,不可能主动遵守这些规则。

支持派:"这是我见过最理性的尝试"

"This is the first approach I've seen that doesn't ban AI use outright." — llbbdd

支持者认为,比起其他学校简单粗暴的"禁用 AI"政策,斯坦福的做法反而更进步:它承认 AI 已经存在,但试图定义正确的使用方式

"This seems somewhat sensible to me — the genie IS out of the bottle, but there is some value to showing what healthy AI use CAN look like." — ohmahjong

中间派:比照体育课和驾驶课

最有趣的一条评论来自 gaiagraphia:

"体育课和驾驶课在学校里是不同的科目——没人会说'你会开车就不用上体育课了'。我们同样不应该把'A I 辅助编程'和'理解底层原理'混为一谈。"

为什么这件事对 AI 创业者重要

1. "AI 使用规范"正在成为一个新的产品品类

斯坦福的做法揭示了一个正在形成的需求:不是所有人都想无限制使用 AI,但也不是所有人都想完全禁用 AI。中间地带需要一个"行为规范层"。

对于 AI 工具创业者来说,这个信号意味着:

  • 教育科技赛道:为课程设计 AI 使用边界规则的工具
  • 企业 AI 治理:企业内部也需要类似的"AI Agent 行为规范"
  • AI Agent 本身:Agent 框架是否需要内置"合规层"?

2. CLAUDE.md / AGENTS.md 正成为 Agent 配置的"事实标准"

CS336 的做法不是孤例。CLAUDE.md 和 AGENTS.md 已经成为 Claude Code 用户管理 Agent 行为的标准方式。越来越多的开源项目在自己的仓库里放入 AGENTS.md,告诉 AI Agent "在这个项目里应该怎么做"。

这个趋势的延伸是:未来每个产品可能都需要自己的 AGENTS.md。这是一块新的"文档市场"。

3. "反 AI"是一个被低估的市场信号

DuckDuckGo 无 AI 搜索流量暴涨 28%,斯坦福 CS336 给 AI Agent 立规矩——这两个看似不相关的事件其实指向同一个趋势:普通用户和机构正在寻找"AI 节食"的方案

对于 AI 创业者,这意味着:"让用户控制 AI 的使用程度"可能比"让 AI 做更多事"更有差异化价值。

我们能学到什么

1. 给你的 AI Agent 写一份行为规范

如果你在用 Claude Code、Hermes Agent、OpenClaw 等工具,花 30 分钟写一份 CLAUDE.md 或 AGENTS.md。不用像斯坦福那么严格,但至少定义清楚:

  • 哪些操作 Agent 可以自主执行
  • 哪些操作必须人工确认
  • 项目特定的代码风格和架构约定

实测效果:一份 200 行的 AGENTS.md 可以减少约 60% 的 Agent "乱写代码"情况。

2. 把 AI 当作"助教"而非"代写"

CS336 的核心哲学——"AI 应该帮你学习,而非替你完成"——同样适用于创业场景。用 AI 时问自己:

  • "这个结果我自己能复核吗?"
  • "如果 AI 消失了,我还能做出来吗?"
  • "AI 是在帮我理解问题,还是在帮我逃避理解问题?"

3. 关注"AI 可解释性"和"AI 治理"赛道

斯坦福的做法是一个风向标:顶级学术机构正在认真对待 AI Agent 的行为边界问题。这个领域的产品机会包括:

  • Agent 审计日志和分析工具
  • 可配置的 Agent 行为策略引擎
  • 面向教育/企业的 Agent 合规框架

最后的思考

斯坦福 CS336 的 CLAUDE.md 与其说是一份"规则",不如说是一份"价值观声明"。它在说两件事:

  1. 动手写代码的能力仍然重要——即使 AI 可以帮你写
  2. 学会提问比学会接受答案更重要——即使 AI 可以给你答案

这两点,对 AI 创业者来说同样成立。


*参考来源:斯坦福 CS336 GitHub 仓库 CLAUDE.md、Hacker News 48259332 讨论帖。*

#AI创业 #AI教育 #Agent规范 #斯坦福 #CS336

本文由AI辅助创作,经人工审核编辑发布