为何解决纳维-斯托克斯方程后，我仍不看好大语言模型

本文AI辅助生成“尴尬模式”内容，若偏好人工原创内容，可切换至“硬核模式”。

[感谢 Claude Fable 5.1、Holden Saberhagen、Gabriel Kammer、Andres Erbsen、Alice McKean 及 Tristan Wylde-LaRue 对本文提出的修改意见]

我先抛出几个论点供读者思考：

• 前沿实验室的估值建立在一套叙事之上：他们已经或即将在短期内打造出可完全替代多数知识工作者的自动化方案。但现实是，当前的前沿模型哪怕执行最简单的任务，也需要大量人工监督与约束。若有人被那些吸睛的成果（纳维-斯托克斯方程求解、FreeBSD远程代码执行漏洞、Hugging Face事件）和前沿实验室的宣传话术误导，认为模型已实现真正的自主能力，不妨看看软件行业——他们仍在聘用甚至招募底层软件工程师，这些工程师在当下的基准测试中得分远低于他们所监督的模型。
• 模型仅能在与训练任务高度相似的小范围内实现良好泛化，且即便如此也存在诸多限制。前沿实验室已掌握一套通用方法，可教会模型完成几乎任何特定任务，只要该任务有明确的性能衡量标准；训练数据也覆盖了大量任务。但即便在同一类任务中做出微小改动，模型也可能彻底失效或出现“奖励黑客”行为。
• 当前的“奖励黑客”问题，唯有通过领域专家制定严谨规范才能解决。领域专家的时间成本极高，而严谨规范的制定本身就是一门技能，需要独立于具体问题领域的专业能力。许多资深软件工程师都不擅长这项工作，在绝大多数领域，同时具备领域专业知识与规范制定能力的人少之又少。
• 制定严谨规范的人力成本，可能远高于直接实现一套非正式规范。硬件工程领域就是绝佳案例：据业内经验，一个典型的CPU项目中，负责规范制定与验证的工程师人数约为设计工程师的3倍，5:1的比例也并非闻所未闻。更糟的是，许多任务无法采用“一劳永逸”的规范模式——即写一次规范就持续依此执行。严谨的正式规范往往会随着执行非正式规范过程中获得的新洞察而不断演进。对于那些有高层级“一劳永逸”规范的任务（比如某系列CPU架构的可执行指令集架构（ISA）规范），以当前技术水平，针对这类高层级规范开展验证的成本高得难以承受，因此不得不转而使用低层级规范——这类规范不仅制定成本更高，面对设计变更时也脆弱得多。
• 纳维-斯托克斯方程这类纯数学命题，是基于严谨规范开展智能体工作的最优场景。定理本身就是严谨的规范，经过了数学界数十年的反复校验，将其转化为Lean语言时，只需基于Mathlib库中久经考验的数学对象进行直接翻译即可。验证工具Lean定理证明器也经过了全面审计，专门设计以避免可能导致其被“奖励黑客”攻击的不严谨性。但即便如此，Lean及同类定理证明器也并非无懈可击：此前就存在漏洞导致大语言模型可通过证明内核炮制虚假证明，未来出现更多此类漏洞也并非不可能。这已是最理想的情况，绝大多数人类知识工作都无法与之相比。下文我会提及少数在这一点上与纯数学类似的知识工作领域。
• 严谨规范之外的最佳替代方案是人工审核，但人工审核难以应对大语言模型的海量输出。更糟的是，即便专家审核也极易受到“奖励黑客”攻击：想想xz后门事件，以及明尼苏达大学（UMN）那些混入Linux内核的“伪善提交”。如果人工审核仍是智能体生产流程中的关键环节，生产效率必然会受限于人类的时间与注意力，这对于前沿实验室CEO们口中“再过几个月就能实现的、数据中心里满是天才的自主AI”而言，完全是死路一条[https://darioamodei.com/essay/machines-of-loving-grace]。

综合来看，在绝大多数领域，大语言模型仍会像个不靠谱的实习生：在成年人指导下能高效完成工作，但绝不能放任自流。大多数企业无法采用完全自主的AI，并非因为技术能力不足或技术普及滞后，而是当前模型架构存在结构性缺陷。据我观察，能接受完全自主大语言模型的企业仅有三类：

• 可低成本承担失败后果的企业：比如原本就会雇佣实习生的公司、从事快速原型开发的企业等。
• 只需完成少量定义明确、已有清晰约束的任务的企业：比如受控环境下的重复性体力劳动、呼叫中心及客服聊天工作等。
• 能够承担或本身就需要投入严谨规范与验证成本的企业：比如芯片设计、药物研发等领域，一旦部署失败就可能危及企业生存。

前两类企业对价格敏感，且未必需要从廉价模型升级到前沿模型所带来的推理能力提升。对它们而言，在廉价硬件上运行开源模型（甚至在本地部署）是最优选择。对于第一类和第三类企业，在数学与安全研究中取得瞩目成果的模糊组合搜索，似乎更依赖智能体集群的规模而非单个模型的推理能力：比如小型开源模型就重现了引发2026年春季 hype 周期的Mythos漏洞。若情况确实如此，使用廉价开源模型以扩大集群规模就更具合理性。

第三类企业或许仍会使用前沿模型，但目前尚不确定它们的工作是否无法通过DeepSeek V4.1 Flash这类廉价模型完成；而我前文假设的集群规模优势，更让它们有理由倾向于使用低成本模型。这类企业还有一个特点：它们通常对自身知识产权高度保密，即便Anthropic和OpenAI有所谓的不使用用户数据训练协议，它们恐怕也不愿将核心数据交给这些公司。

你可能会提出，即便前沿实验室的前景黯淡，“数据中心满是弱智能体”的场景所驱动的AI算力需求，或许与“人工超级智能”场景不相上下。但两者的区别在于：“满是天才的自主AI”可自我驱动，仅受限于算力供给；而“弱智能体集群”则会严重受制于人类管理者。我个人认为，这场变革的影响范围将远超前沿实验室本身。