AI推理：结果正确，理由错了吗？
我直说了：AI的“推理”到底是怎么回事？
抱歉用了引号。这种带点质疑意味的标点在2024年还很常见——当时那些被称为“大推理模型”（LRM）的LLM特殊训练版本才刚问世。到了2026年5月，OpenAI的一款“通用推理模型”一举解决了著名的数学公开研究难题，如今再用引号，似乎显得有些刻薄。但面对这些AI系统实际运作机制的科学解读，我实在找不到别的方式来表达自己的认知冲击。
推理在学术上有多种定义，但基本过程很好理解：通过串联一系列逻辑连贯的中间步骤，得出合理结论。人类靠思考完成这个过程，而LRM则借助所谓的“思维链”——这是个专业术语，指模型在回答复杂问题前生成的一连串合成文本。前一分钟，苹果公司的研究团队还在权威期刊上撰文，将AI通过思维链进行推理的观点斥为“思维错觉”，称其在极其简单的条件下就会“完全丧失准确性”；后一分钟，LRM就拿下了国际数学奥林匹克竞赛的金牌——科学家兼AI评论家加里·马库斯和欧内斯特·戴维斯在2025年的文章中写道，这项成就难度极高，“即便是非常成功的数学家和科学家，也可能一辈子都把它写在简历上”。如果这都不算“真正的”推理，那什么才算？
可别急——不久后，圣塔菲研究所的新研究显示，LRM能轻松攻克精心设计的推理基准测试（比如一套类类比视觉谜题），靠的却只是“表层捷径”。它们的行为更像是钻测试的空子，而非具备可推广的推理能力。紧接着，又一个“看好了”的时刻出现：谷歌DeepMind与数学家陶哲轩（史上最牛！）合作，用AI重新发现或改进了67个数学问题的解法，涵盖数学分析、组合数学、几何学和数论领域。质疑者们，这下没话说了吧！
那又怎么解释LRM无法可靠推理的诸多证据？哪怕算法和算力都达标，它们仍会出现一长串有科学记录的失效状态，清单长到能当滑水道用。没关系，这大概就是所谓的“参差不齐的智能”（AI圈术语，指“行的时候就行”）。
从2025年末到2026年，情况就这样来回摇摆。我做了20年科学记者，其中10年专注AI领域，深知快速发展的研究领域本就难有整齐划一的结论。但即便是我，也觉得这种反复有点离谱。借用《惊爆内幕》中阿尔·帕西诺的台词：“我现在只有两种感觉：恼火，还有好奇。”我不认为这里存在欺诈，只是想搞清楚到底哪方才是对的。AI的推理怎么可能既是瞎扯，又不是瞎扯？如果真是这样，这到底是怎么做到的？
我知道该先找谁请教。
梅兰妮·米切尔的AI研究生涯可以追溯到上世纪80年代，如今她成了炙手可热的AI“真话者”——为《科学》杂志撰写清晰易懂的科普文章，运营着广受欢迎的通讯刊物，同时在圣塔菲研究所开展研究（那篇关于“表层捷径”的论文就是她的团队做的）。当我问她我们对AI推理到底了解多少时，她的回答简短到能写在索引卡上。
“第一，它有效，能提升性能，”她指的是LRM在推理任务上比LLM准确率更高，“第二，模型生成的文本——也就是每个LRM为提升性能而被训练生成的思维链——不一定忠实于模型内部的真实运作过程。第三，很多这类文本根本没用，完全可以删掉。”
我们来拆解第二点和第三点，这正是AI推理“既是瞎扯又不是瞎扯”的核心所在。思维链是2022年半偶然、半刻意发现的LLM提示技巧：给模型展示书面推理的例子（或者更有名的，直接让它“一步步思考”），它就能突然给出不那么离谱的逻辑和数学题答案。从2024年OpenAI的o1模型开始，LRM被训练成自动完成这一技巧——生成这类提示（也叫推理轨迹或思维标记），再反馈给自己。由于LRM本质上还是语言模型，这些额外生成的文本看起来就像是模型“思考过程”的可信记录。
但事情没这么简单。越来越多的学术和产业研究开始质疑，这些“中间标记”是否真能如实反映LRM的内部运作。它们不像可审计的凭证或准确报告，反而更像亚利桑那州立大学研究员苏巴拉奥·坎班帕蒂所说的“喃喃自语”——确实是语言片段，但它们的含义可能与实际发生的推理完全无关。坎班帕蒂的实验室在2025年的研究显示，将模型的正确“轨迹”全部替换为错误或无关内容，并不会降低它在形式推理任务中的表现；而只给模型输入正确轨迹数据进行训练，它仍会偶尔生成无效的推理记录——哪怕它给出了原始问题的正确答案。纽约大学研究人员2024年的一篇论文指出，“无意义的填充标记”——说白了就是一串点——可以有效替代人类可读的“思维链”。
该论文作者之一、现任芝加哥丰田技术研究所教授的威廉·梅里尔说得很直白：“思维链完全没必要具备任何意义。”纽约大学研究员、同时任职于Anthropic（曾是其推理模型核心团队成员）的帕维尔·伊斯梅洛夫则表示，他怀疑强化学习（LRM的典型训练方法）从一开始就没有激励模型生成忠实的思维链。“也许未来会有，但我觉得可能性不大。”他告诉我。
好吧，推理轨迹的语言内容可能并不可靠。但这些标记本身肯定对模型输出有影响吧？（就像弹珠机靠硬币运转，而非硬币上的“我们信仰上帝”这句话。）
别着急下结论。东北大学和加州大学伯克利分校2025年针对前沿开源LRM的一篇论文显示，这些模型的“思考步骤”中，有30%到60%对基准数学题的答案“几乎没有因果影响”。删掉一半步骤，模型的性能几乎不受影响。“我们审视思维链提示时必须谨慎，因为它们可能和最终输出毫无关联，”该研究作者之一施伟彦说。
这么说来，那些本该是LRM与普通LLM（仅预测下一个词）的核心区别的推理轨迹，既不一定有意义，也不一定对模型的……推理有因果作用？我不是哲学家，但这似乎把“推理”的含义拉伸到了极限。坎班帕蒂的研究团队在相关立场论文的标题中毫不掩饰厌烦之情——这篇论文发表在2026年国际机器学习大会（AI领域最权威的学术会议之一）上：《别再把中间标记拟人化为推理/思维轨迹了！》
需要明确的是，坎班帕蒂曾任美国人工智能促进会主席，拥有AI规划算法研究背景，他并不否认LRM在有效的时候确实能发挥作用。当我问他对OpenAI 2026年解决著名的单位距离问题有何看法时，他说：“我们正身处神奇的时代。”他不满的是，学界和产业界都急于接受那些过于方便的解释。
“关于这些模型优势来源的很多观点都被误解或误传了，”他说，“现在有一种普遍心态：‘先宣称具备某种能力，反正最终可能会实现。’但我认为这不是科学，是投机。”
在AI推理的另一阵营，这种不屑似乎是相互的。“去年夏天那些‘科学’论文——我要给这个词加上大大的引号，”OpenAI技术人员（同时也是向科学家和数学家推广该公司推理模型的核心倡导者）塞巴斯蒂安·布贝克说。他称苹果早期批评AI推理的研究结果“错误”，认为那是由现已淘汰的模型的训练缺陷导致的。“从GPT-5.5开始的现代模型不存在这个问题，重新验证那些结果会很有意思。”（苹果未安排其研究人员接受采访。）
关键在于：没人否认AI推理模型确实能产出重要且准确的结果。此外，我采访的所有研究人员都承认，关于模型在某些推理任务上能力不足的负面发现（尤其是针对小型开源LRM的），可能并不适用于最先进的AI产品——毕竟它们的内部运作仍是商业机密。但如果我们不愿（就像我一样）简单否定关于AI推理驱动机制的矛盾证据，问题依然存在：我们该如何解释这种矛盾？
事实证明，坎班帕蒂恰恰致力于解决这个问题。“我不是唱反调，只是其他人过于乐观，显得我很消极，”他说，“在科学领域，你必须真正了解当前事物能做什么、不能做什么。”
他告诉我（米切尔也认同这一点），最先进的LRM之所以有效，一个直接原因是它们通常被“常规”软件包围，这些软件会引导并验证它们的输出。2025年秋以来彻底改变软件工程的智能体AI系统就是如此，谷歌DeepMind的AlphaProof Nexus也是——它依赖自动定理证明工具Lean。但坎班帕蒂更感兴趣的是理解完全依赖自生成推理轨迹的独立推理模型，也就是“思考部分”。
“思考部分”正是OpenAI重点投入的方向。当我问布贝克，那个引人注目的单位距离问题证明是否用到了LRM自身思维链之外的方法——比如用Lean验证结果——他似乎觉得这个问题毫无意义。
“我们没有刻意保密，”他说，“我们已经发布了思维链，你可以直接去看。核心在于，模型像人类一样推理，而人类推理时不会用Lean。”严格来说，OpenAI发布的是由两位人类专家用该公司另一款模型Codex改写的模型思维链“总结版”。自2024年起，该公司不再公开其推理模型的“原始”思维链，谷歌DeepMind和Anthropic也采取了同样的政策。
坎班帕蒂的分析起点与OpenAI惊人地相似：LRM只是经过更专项训练的LLM。“没有额外的魔法，”他说。但他的观点从此处开始大幅偏离。“我无法理解，LLM怎么会在给出答案前，先一步步描述自己的推理过程——因为就LLM的训练方式而言，这项任务比直接猜测答案难得多。”
他的工作假设是，LRM和它的LLM前身一样，会在庞大的训练语料库中进行他所谓的“近似检索”：介于模式匹配和推理之间，但更接近前者。那么“思维标记”的作用，就不是叙述真实的思维链（因为根本不存在），而是填充模型的上下文窗口，让它更有可能预测或“近似检索”出符合推理形式的文本串。
坎班帕蒂把这个过程比作喃喃自语来唤起记忆：说什么其实不重要（当然相关的词可能更有帮助），只要能触发有用的信息就行。LRM的巨大“记忆”包含它训练时接触到的所有问答式书面推理示例，这些示例被转化为数值“嵌入向量”，将它们的异同（以及其他难以理解的关联）编码为高维空间中的几何关系。在这个空间中以概率方式得出答案，可能涉及中间标记——它们的嵌入向量对应着英文中看似连贯的“想法”，但也可能不是。它们可以是其他语言的片段，可以是虚假的感叹词比如“啊哈”，在合适的条件下，甚至可以只是一串点。
“嵌入向量是否对应某个单词，甚至是否忠实反映推理过程，都无关紧要，”坎班帕蒂说。
这个框架有助于解释为什么有些思维链看似“瞎扯”，却能引出准确的输出，也能合理说明LRM在编程和数学领域的稳步进步——AI研究人员称之为“可验证领域”。代码要么能运行，要么不能；证明要么正确，要么错误。这些二元条件及其相关的书面步骤，能为LRM提供清晰的训练信号。坎班帕蒂说，模型不需要学习或可靠地应用通用推理过程，只需要吸收足够多的步骤示例，在“拼凑”出可验证的合理结果的过程中进行预测性模仿。
坎班帕蒂补充道，推理模型的训练和步骤遵循能力的极限，也就是“推理 horizon”（推理视野），正是苹果研究人员在2025年的“思维错觉”论文中揭示的内容。较新的模型似乎进一步拓展了这个视野，尽管过程参差不齐。“大多数时候，它们可能并没有学习与推理过程相关的算法，”他说，更有可能的是，它们在利用不断扩大的示例库和巧妙的奖励信号。
坎班帕蒂并不认为自己的结论已成定论，我也一样。但这是一个合理的起点——考虑到其他研究人员也用类似的“问题出在训练上”的方法来揭秘AI行为，这个观点更具说服力。不过，还有一个关键问题悬而未决：我们能否准确观察、描述和验证大推理模型内部的运作过程，这到底有多重要？
米切尔给出的坦诚答案是：视情况而定。“想想AlphaFold，”她说，指的是谷歌那款预测蛋白质结构的AI工具，“它在进行某种极其复杂的统计关联运算，我们不知道具体是什么，但确实有效。这些东西本来就是黑箱，有没有‘推理轨迹’都是如此。”如果LRM能像AlphaFold推动计算生物学那样加速数学研究，那我们为何不接受它们的全部——包括那些怪异之处——只验证结果就好？“我的观点是：我们要追求实用。我们构建这些模型是为了让它们解决重要问题，真正加速科学研究，”布贝克说，“讨论它们能做什么，比纠结‘哦，但它们只能因为X原因做到’更有趣、更有成效。”
但米切尔也指出，LRM可能“因错误的理由得出正确答案”，这对未来的研究工作显然有重要意义。“你希望答案正确的同时，理由也正确，这样才能信任这些系统，”她说，而且这不仅适用于可验证领域。
纽约大学和谷歌的研究员塔尔·林曾的计算心理语言学实验室发表过与苹果“思维错觉”论文类似的结果，他说：“你希望AI系统能可靠地应用算法，不管你称之为推理与否。”过于迷信思维链——哪怕结果是可验证的——也可能阻碍科学家发现让LRM更倾向于输出准确结果的更好方法。“我们可能错过了一些机会，”曾在艾伦人工智能研究所参与训练开源LRM的研究员普拉迪普·达西吉说。坎班帕蒂的说法更尖锐：认真对待AI推理轨迹的意义，是一条科学上的“歧途”，就像相信地心说或以太论一样。
这话可能有些刺耳，但他说得有道理。那些错误的思维模型在当时看似符合直觉，就像现在的思维链一样。当LRM给出正确答案，同时附上几页“思考过程”说明它是如何得出结果的，直觉会告诉我们两者必然相关。我们很难想象过程和结果可能毫无关联。但在90年代（米切尔和伊斯梅洛夫都提到过这件事），人们也很难想象暴力搜索能击败国际象棋世界冠军加里·卡斯帕罗夫；2023年，人们同样无法理解一堆矩阵乘法怎么能写出抑扬格五音步诗。对我们大多数人来说，这些想法曾是不可想象的——直到突然成真。
2024年夏，就在第一款LRM问世前几个月，米切尔向我介绍了一个概念，我在AI报道中一直反复提及：“一厢情愿的助记符”。这个说法最早由计算机科学家德鲁·麦克德莫特在1976年提出，出自一篇标题极具火药味的论文《人工智能遇上天然愚蠢》[https://dl.acm.org/doi/10.1145/1045339.1045340]。我引用米切尔提到的那段话：
AI程序中简单化思维的一个主要来源，是使用“理解”或“目标”这类助记符来指代程序和数据结构……如果研究人员……把程序的主循环称为“理解”，那他（除非能证明并非如此）只是在回避问题。他可能会误导很多人，尤其是他自己……他应该把这个主循环称为“G0034”，看看能否让自己或其他人相信，G0034实现了理解的某一部分……一旦明白这一点，你就能想到AI研究人员使用一厢情愿助记符的诸多典型例子。
我就是这样理解AI推理的。LRM、思维链、思维标记：全都是一厢情愿的助记符——是速记法与暂缓怀疑的混合体，就像奥普拉式的“显化法则”披上了计算机科学的外衣。这不一定是贬义；所有开创性研究可能都需要某种类似的思维模式才能起步。当然，这也不意味着AI推理不能或不会发挥作用。但其中“一厢情愿”的成分似乎依然强大。
“我们对语言的反应带有很强的拟人化倾向，这是人类的天性，”米切尔告诉我。围绕AI推理的诸多争议性研究活动，她说，“是正常现象，但在某些方面，也存在很多非常不科学的地方。”或者用坎班帕蒂的话来说：“错误的理论比承认我们没有理论更糟糕。”
无论如何，在搞清楚它到底是什么之前，我们总得给它起个名字。我不认为自己会一直给AI推理加上引号，就像我不会给“马力”里的“马”加引号一样。LRM就像引擎：需要燃料，会排出废气，还能跑得很快。不过，当我描述我的丰田车踩油门时的动力，并不是因为我相信引擎盖下有小马在奔跑。在关于AI推理模型引擎盖下到底发生了什么的清晰科学解释出现之前，我会以同样的心态看待它们的“马力”——哪怕引擎正轰鸣作响。
计算机科学栏目还推荐
