Neon+Castform用RL后训练让4B开源模型在检索任务上匹敌GPT-5.6 Sol，成本降低100倍。AI Agent的推理成本正在崩塌。
事件回顾
2026年8月5日，Neon（Databricks旗下Serverless Postgres平台）联合Castform发布了一项惊人成果：一个经过RL后训练的4B开源模型，在检索任务上的准确率匹敌GPT-5.6 Sol，而单次请求成本仅为后者的1/100。
具体数据：典型的GPT-5.6 Sol多轮搜索请求耗时超过10秒，端到端成本约$0.03。同样的任务用Castform后训练的4B模型，成本降至不到$0.0003。在规模化场景中，这意味着：
- 每天10万次搜索请求：从$3000/天降至$30/天
- 每月节省约$89,000
HN上该消息获得320 points，成为当日AI领域最受关注的技术突破之一。
为什么重要
1. Agent推理成本的天花板被打穿
当前AI Agent面临的核心瓶颈之一就是推理成本。一个复杂的Agent任务（如代码审查、多步搜索、数据检索）往往需要数十次LLM调用，每次调用都在烧钱。如果每次调用的成本能降低100倍，Agent可以承担的推理深度和广度将大幅扩展。
这意味着：以前因为成本不敢做的深度Agent工作流，现在变得可行。
2. RL后训练让"小模型"不再"小"
Castform的核心思路不是训练更强的基座模型，而是用RL教小模型使用工具：
RL后训练循环：
1. 模型尝试任务（给定搜索工具）
2. 奖励函数评分（检索正确性+引用准确性+答案正确性）
3. 反馈信号指导模型优化搜索策略
4. 重复——模型学会如何高效搜索
关键创新：你不需要专门的训练数据。Castform能从你现有的数据库（文档、产品记录、客服对话、wiki）中自动生成训练任务。这就是他们说的"你最好的训练数据已经在你的数据库里了"。
3. Agentic Search的三次进化
这篇文章清晰地描绘了搜索技术的代际演进：
- 2022年：Embedding搜索（pgvector），工程师手工搭建RAG管道
- 2025年：Agentic Retrieval（多跳搜索、循环查询），每次循环都调一次GPT-5.6
- 2026年：RL后训练的小模型Agent——自己学会如何搜索、何时停止、怎么引用来源
4. Neon的Serverless基础设施使这一切成为可能
在训练过程中，数千个并行rollout每个可能产生数十次搜索调用，形成一个高度突发的负载。Neon的自动扩缩容吸收了这些峰值，不需要为最大容量全天候预配资源。更关键的是，Neon的数据库分支（branching）功能让每个rollout拥有隔离的数据库状态——这是训练有状态Agent的前提。
我们能学到什么
1. 不要盲目追大模型
GPT-5.6 Sol确实强，但它的强是"通用强"。对于特定任务（如检索），通过RL后训练的小模型可以达到同等水平，成本降低100倍。未来AI应用的竞争力不在于用哪个大模型，而在于能不能为具体场景定制小模型。
2. 你的数据就是最好的训练数据
Castform证明了：企业内部已有的文档、记录、wiki就是最好的RL训练素材。不需要雇佣标注团队、不需要购买数据集。这对于资源有限的一人公司和创业团队来说，意味着定制AI能力的门槛大幅降低。
3. Agent的成本结构正在重构
当推理成本不再是瓶颈，Agent可以：
- 做更深的搜索（多跳10+轮而不是3轮）
- 做更广的探索（并行搜索更多来源）
- 做更多验证（交叉引用多个来源确认事实）
Agent的能力上限将被重新定义。
行动建议
- 评估你的Agent成本结构：统计每个任务的平均LLM调用次数和单次成本，找出可以通过小模型替代的高频调用
- 关注Castform等RL后训练工具：它们正在让"定制AI模型"变得像prompt engineering一样简单
- 检查你的数据资产：哪些内部知识库/文档可以通过RL后训练变成一个小模型的领域知识
- 重新计算ROI：当推理成本降低100倍，很多之前"不划算"的Agent应用场景将变得可行
总结
这次发布的核心信号是：AI Agent的成本曲线正在经历断崖式下降。这不是渐进式优化，而是数量级的突破。4B模型匹敌GPT-5.6只是开始——随着RL后训练工具的成熟，更多垂直场景的小模型将涌现。
对于AI创业者来说，这是一个关键转折点：过去拼的是谁能调用最强的API，未来拼的是谁能最有效地为具体场景定制小模型。那些能率先掌握RL后训练能力、把成本打到竞品1/100的团队，将拥有不可撼动的竞争优势。