280 points、94 条评论登顶 Hacker News。一个 GRPO 强化学习微调的 9B 开源模型，在电商目录审核任务上达到 87.3% 准确率，而最强前沿模型只有 76.9%。更炸裂的是：每千次推理成本从 34 美元降到 0.5 美元——差了 68 倍。
为什么要读这篇
如果你正在用 GPT-4、Claude Opus 等前沿模型做产品或服务，每个月 API 账单在涨，但利润率在降——这篇就是写给你的。
这篇文章的核心发现：你不需要等下一个更大的模型。一个 9B 的开源小模型，经过 500 美元的强化学习微调，就能在你的特定任务上吊打所有前沿模型，而且推理成本降 98%。
这不是实验室里的玩具实验。文章展示了 Bridgewater、Harvey、Intercom、LinkedIn、Perplexity 等公司的真实部署数据。
核心数据：一张图看懂差距
| 指标 | 前沿模型最佳 | GRPO 微调 9B 模型 |
|---|---|---|
| 目录审核准确率 | 76.9% | 87.3% (+13.5%) |
| 每千条推理成本 | $34 | $0.50 (68× 便宜) |
| 年化成本（4000万条/天） | ~$5 亿 | ~$700 万 (98% 节省) |
五个前沿模型（包括 GPT-4 级别模型），即使经过精心优化提示词，准确率在一个小数点内打转——全部被一个 9B 小模型碾压。
为什么小模型能赢？
答案在三个字：专有数据。
前沿模型是"全科医生"——什么都会，但什么都不精。你的业务场景有独特的规则、数据分布和判断标准，这些是 GPT-4 的预训练语料里根本不存在的信息。
当 Bridgewater（全球最大对冲基金之一）用 GPT-4 做投资研报筛选时，发现一个致命问题："相关的"在 Bridgewater 内部有特定含义，而这个判断标准无法通过任何提示词注入模型。所以他们用自己的投资专家标注数据训练了一个开源模型——结果错误率比 GPT-4 降低了约 30%。
Harvey（法律 AI 独角兽）也一样：用强化学习微调的开源模型，在法律文件审核上同时超越了 GPT-5.5 和 Claude Opus 4.8。
Intercom 的客服 AI Fin Apex：用数十亿条客服交互数据微调后，"解决的问题更多，成本更低"——直接干掉了前沿大模型。
赢家的统一打法：三步走
文章从这些成功案例中提炼出了一套标准操作流程：
第一步：用前沿模型建立基线
不要一上来就微调。先用 GPT-4/Claude 等前沿模型跑通你的业务逻辑，确认"这事 AI 能做"。这个阶段你同时在积累数据——每次模型调用都在产生输入-输出对。
第二步：收集纠错数据
前沿模型不是完美的。每个被人类修正的输出，每个客户投诉，每次人工审核推翻模型判断——这些都是黄金训练数据。
第三步：GRPO 强化学习微调
用收集到的数据，构建一个评分器（scorer/rubric），然后用 GRPO（Group Relative Policy Optimization）强化学习算法训练开源小模型。评分器是核心——它决定了模型优化的方向。
文章展示的 2×2 决策矩阵非常实用：
| 任务简单、数据少 | 任务复杂、数据多 | |
|---|---|---|
| 成本敏感 | 提示词工程 + 前沿模型 | 🔥 微调开源模型 |
| 成本不敏感 | 前沿模型直接调用 | 提示词工程 + 微调 |
你大概率在左下角——成本敏感、任务复杂。这正好是微调开源模型的最佳场景。
真实案例：电商目录审核的完整流程
文章用了一个完整的端到端案例，模拟了电商平台的商品审核流程：
输入：一双工作手套的图片 + "PU涂层，黑色，10号"描述
↓
模型调用 search_taxonomy → "安全劳动手套"
↓
模型调用 lookup_brand → 查到品牌已注册
↓
模型调用 get_attribute_schema → 提取品牌、颜色、材质、尺码
↓
输出：分类正确 + 属性完整 → 标记为 "allowed"（通过）
整个流程在一个"数字孪生"环境中训练——用 Amazon Berkeley Objects 数据集构建的模拟电商平台。模型可以在里面反复试错、失败、重来，直到学会。
已经跑通的 8 个生产部署
文章附录列出了更多已验证案例：
| 公司 | 任务 | 效果 |
|---|---|---|
| 候选人-职位匹配 | 比替换前的 GPT 模型准确率高 4%，成本降 75× | |
| Ambience Healthcare | 医疗编码 | 比 18 位认证医师更准确，超越 o4-mini 12 个百分点 |
| Phonely | 客服电话接听 | 99.2% 准确率（GPT-4o 是 94.7%），一个客户一个月替换了 350 个人工客服 |
| OpenPipe | 邮件/工单处理 | 93% 的 QA 得分（o3 只有 50%），64× 更便宜，5× 更快 |
| Perplexity | 搜索回答 | 与 GPT-4o 用户盲测持平，10× 更快 |
| Checkr | 背景调查分类 | 在最难案例上超过 GPT-4，5× 更便宜，30× 更快 |
核心规律：这些公司的业务各不相同，但打法完全一致——用专有数据做 RL 微调，得到一个在自己的赛道上吊打所有通用模型的专用小模型。
实操指南：你今天就能做的事
1. 选择基座模型（零成本）
推荐 Qwen-2.5-7B/14B 或 Llama-3.1-8B。这些模型开源、社区成熟、微调教程多，可以用 Unsloth 框架大幅降低显存需求。
2. 构建评分器（核心工作）
你需要一个能自动判断模型输出好坏的"裁判"。常用的方案是：人工标注 100-500 个样本作为"标准答案"，然后训练一个分类器或直接用 GPT-4 做自动评分。
3. 跑 GRPO 微调（500 美元以内）
用 TRL 库（HuggingFace 出品）或 Unsloth 的 GRPO 实现。训练一个 9B 模型通常需要 1-2 张 A100（或等价的云 GPU），训练时间在 4-12 小时，总成本在 100-500 美元。
4. 部署推理（便宜到离谱）
微调后的 9B 模型可以用 vLLM 部署，单张 RTX 4090 就能跑到每秒几百 token。如果推理量不大，甚至可以用 Ollama 在本机跑。
常见问题
Q: 我没有那么多数据怎么办？
A: 先用前沿模型生成一批输出，然后人工修正其中错误的。100-200 个高质量样本就足够启动第一次微调了。关键不是数据量，而是数据质量（正确标注）。
Q: 微调后模型会不会在其他任务上变差？
A: 会。这就是"专门化"的代价。但好消息是：你的模型是用在你自己业务上的，不需要通用能力。文章的建议是：微调模型做专业任务，遇到需要通用能力的场景时回退到前沿模型。
Q: Anthropic 说要禁止蒸馏，我还能用 GPT 输出做训练数据吗？
A: 目前法律灰色地带，但趋势是收紧。建议策略：用 GPT 输出做初始基线和评分器，但最终训练数据应该是你自己的真实业务数据。
总结
这篇文章最重要的信息不是"500 美元微调很强"——而是未来的竞争不是谁有最强的通用模型，而是谁有最好的专有数据。
GPT-5、Claude Opus 5 这些前沿模型在不断变强，但它们永远不会有你的用户数据、你的业务流程、你的专家判断。把这些东西"蒸馏"进自己的模型里——这才是 AI 创业的护城河。
500 美元，1-2 天时间，你就可以开始。
AI创业 #模型微调 #GRPO #成本优化 #一人公司
本文基于 Fermisense 技术博客及 Hacker News 讨论综合撰写。原文：https://fermisense.com/when-machines-take-the-wheel/