人类愚蠢的本质
我从未听过有人说一块石头“愚蠢”，河流、飓风，甚至恒温器也不会被贴上这个标签。尽管“愚蠢”名声不佳，但它实则是一种复杂的行为模式。
人类能让自主探测器登陆火星，能在几小时内完成基因组测序，还能制造纳米级电路。然而，阴谋论、反科学政治运动和群体仇恨却大行其道，其泛滥程度足以让中世纪炼金术士那寥寥无几的“成果”都显得不那么难堪。
或许可以说，“愚蠢”的前提是具备把事情做对的能力——唯有先拥有这种能力，才有可能把事情搞砸到离谱。愚蠢并非智慧的对立面，而是它邪恶的孪生兄弟：就像善于伪装的该隐，对应着理智的亚伯。令人惊讶的是，一个系统能达到的愚蠢程度，与其智慧水平直接成正比——智慧越高，犯下的蠢事可能越离谱。我们很难说细菌愚蠢，猫狗偶尔会犯些小糊涂，但人类拥有语言、抽象思维、技术、制度和意识形态，能把愚蠢上升到文明层面。这不是玩笑，而是近乎自然规律的法则——一条可能让我们走向毁灭的法则。
我们有数千个研究智慧的项目，并非所有项目都足够明智，包括对智商、AI、动物认知和集体问题解决的研究。这些项目开展于知名院系，发表在权威期刊上，目标是探究思维如何化繁为简。如今，关于智慧与AI的文章随处可见，就连对智慧研究及其历史一无所知的跨领域研究者，也纷纷自封为自然智能与人工智能领域的“思想领袖”。
然而，愚蠢几乎无人问津。人们把它看作智慧的缺失，仿佛减去智慧之后，剩下的就是愚蠢；又把它比作关掉思考的灯后陷入的心理黑暗。但这是一种误解。黑暗不会像愚蠢那样造成危害：愚蠢会把简单的问题，用大量精力和错用的聪明才智，变得复杂难解。这种“投入”是理解愚蠢的关键——唯有复杂的认知机制，才能酿成真正影响深远的蠢事。
从科学角度，我是这样理解的：如果说智慧是通过运用工具、数学方法和策略，将难度为X的问题简化，降低解决成本；那么愚蠢就是把难度为X的问题复杂化。出乎意料的是，把简单问题变难最可靠的方式，就是动用一套看似令人信服的复杂理论、详尽信念和精密算法——但这些工具的表现还不如什么都不做。不知道问题答案的人只是无知；但为错误答案构建出精妙的百页论证的人，才是愚蠢。古往今来的伟大作家、艺术家和哲学家都明白，这样的论证恰恰需要极高的智慧。
不妨做个类比：流星撞击地球，谈不上“犯错”，它只是遵循经典力学规律而已。但鸟儿撞上玻璃窗，情况就不同了——我们完全可以称之为“错误”。
在所有物理系统中，生命是唯一会“犯错”的。愚蠢是一种极为特殊的失败，并非所有错误都能算作愚蠢。人们会因无知（数据不足）、干扰（信号失真），或是在新环境和变化情境中诚实地误用规则而犯错，这些是生活中的不幸，我们应当予以谅解。而愚蠢始于错误被刻意加工、辩护、细化、制度化，并成为后续行动的基础。愚蠢会让一切愈演愈烈。矛盾的是，这种对错误信念和行为的“加工”，恰恰需要以智慧的存在为前提。
有些最离谱的蠢事，源于把完美适用的理论用在了错误的问题上。量子力学或许是物理学最“智慧”的成果之一，它为描述亚原子粒子的行为提供了精度极高的框架，尽管其要求违背直觉。
但有一小部分思想家，试图将量子力学应用于人类意识、决策和心理学，以此解释人们为何犹豫不决，又为何最终下定决心。量子力学的数学推导无懈可击，物理理论也坚实可靠，但这样的应用却十分怪异。原本用来简洁描述光子和电子的理论，移植到心理学后，变成了一种荒谬复杂的表述，其实无非是想说“人有时会改变主意”——小说家用一段话就能讲清楚的现象，却被一套为完全不同尺度的现实设计的形式主义理论掩盖了。理论本身并未失去智慧，只是被要求解决一个它从未被设计来应对的问题，结果反而让这个问题更难理解，而非更简单。这完全违背了科学的宗旨——正如物理学家、哲学家恩斯特·马赫所说：“用最少的思维消耗，最完整地呈现事实。”
早期控制论运动也提供了类似的警示。麻省理工学院的诺伯特·维纳及其同事，开发出一套强大的框架，用于理解机器和生物体中的反馈、控制与通信机制。相关数学方法具有开创性，工程应用成果斐然，控制论研究甚至为复杂性科学的发展奠定了基础。
后来，管理顾问斯塔福德·比尔等人试图将控制论应用于整个国家的经济管理，最著名的案例是萨尔瓦多·阿连德执政时期的智利。当时的“赛博协同项目”试图通过电传网络管理智利经济，其核心理念是将经济建模为一个有输入输出的动态系统，通过实时反馈优化生产与分配。
遗憾的是，经济并非伺服机械。国民经济中的反馈回路涉及数百万具有适应性的个体，他们拥有私人信息、相互冲突的目标，还会不断改变偏好。我的圣塔菲研究所同事、作家弗朗西斯·斯帕福德在小说《红色富足》中，精准描述了将控制论方法应用于复杂系统的诱惑：“世界正从黑暗中崛起，开始焕发光芒，而数学是我能贡献的力量。这是我的使命，是我力所能及的付出。我有幸生活在这个星球上唯一的国家——在这里，人类掌握了用理性塑造事件的力量。”
有时，一个简单的行为干预，比如调整价格、修改法规，甚至只是询问人们的需求，往往一个下午就能见效，而控制论系统却要花数周时间艰难建模。控制论作为控制简单系统的框架，其智慧毋庸置疑，但将它应用于经济，反而让原本要解决的问题变得更复杂。
奥地利小说家、散文家罗伯特·穆齐尔在1937年的演讲《论愚蠢》中，提出了愚蠢研究文献中最重要的一个区分：他将“体面的愚蠢”与“智慧型愚蠢”分开，前者只是简单的认知局限，或是无法理解复杂论证；后者则危险得多。这一洞见，正是我最喜爱的穆齐尔小说《没有个性的人》的核心主题。智慧型愚蠢调动所有智力资源为错误服务，它不是不会思考，而是朝着错误的方向进行华丽且系统的思考。一个看不懂数学证明的学生，并非穆齐尔所说的愚蠢；但一个构建精妙理论体系，去捍卫连孩子都能看出是错误的命题的数学教授，就是典型的智慧型愚蠢。
并非只有穆齐尔认真对待愚蠢。长期以来，小说家对智慧与愚蠢的关系有着清晰的理解，而这一点被大多数科学家刻意忽视——或许是因为小说能展现智慧自我毁灭的过程，这对理性主义者而言是一幅令人不适的图景。
乔纳森·斯威夫特在《格列佛游记》中描述了拉格多科学院，那里的研究者采用各种复杂的实验方法：有人试图从黄瓜中提取阳光，有人想把大理石变软做枕头，还有人培育无毛羊。斯威夫特的讽刺显然指向各种方向错误的系统性研究——这些研究的智慧被禁锢在僵化的框架中，最终产生的结果还不如什么都不做。在飞岛拉普他，才华横溢的数学家和音乐家运用射影几何建造没有直角的建筑，厨师则根据几何图形烹制菜肴。这些数学抽象概念精妙而强大，但一旦被用于错误的实际问题，就变得毫无用处。
威廉·加迪斯在《认可》中描绘了一个充斥着伪造、误判和造假的社会，人们耗费巨大的聪明才智追求虚假。主角怀亚特·格温伪造佛兰芒画作，其技艺和知识含量甚至超过原作：他的赝品技术精湛、符合艺术史细节，却完全是欺诈。小说中的众多角色在对话中各说各话，误解不断升级，他们动用高超的语言技巧，反而加深了普遍的混乱。
托马斯·品钦在《万有引力之虹》中，描述了二战时期一个庞大的官僚和军事体系，它如同一台将理性计划转化为灾难的机器。品钦笔下的垄断集团和火箭工程师绝非愚蠢，恰恰相反，他们能力出众，而他们的“成果”——V-2火箭，却威胁着将饱受战争蹂躏的西方城市夷为平地。品钦描绘了一个制度性智慧沦为集体愚蠢的世界。
不少哲学家试图为这种反常现象构建理论框架。伊拉斯谟在1511年的《愚人颂》中提出，愚行是人类成就的驱动力：没有自欺和过度自信，人类将一事无成。对伊拉斯谟而言，问题不在于文明是否会产生愚蠢，而在于能否承受其带来的后果。
迪特里希·朋霍费尔1943年在纳粹监狱中写道，愚蠢并非认知缺陷，而是一种被强加的社会结构：受权力蛊惑的人往往会放弃独立判断能力，沦为“愚蠢”的工具。意大利经济史学家卡洛·奇波拉在1976年出版的《人类愚蠢基本法则》中，将愚蠢的人定义为：给他人造成损失，自己却毫无收益，甚至反而受损的人。奇波拉大胆提出，愚蠢之人在所有群体中的比例是恒定的，无论是教授、水管工、将军还是门卫。而我想补充的是，正如斯威夫特和穆齐尔所暗示的，系统越复杂，愚蠢的危害就越大。
既然愚蠢对践行者而言代价高昂，为何自然选择乃至文化选择没有将它从生物群体中淘汰？一个显而易见的原因是环境变化，导致原本有效的行为变得过时。
数百万年来，保持与遥远天体（月球和恒星）的固定角度，是整个动物界至关重要的导航策略：高效、可靠，且只需极少的神经机制。但人类发明人工照明后，这套沿用了亿万年的策略变得致命。飞蛾扑向烛火，并非导航失败，而是在新环境中，这套久经考验的经验法则变得灾难性地错误。
智慧与愚蠢具有时间相对性：一个精妙的经验法则，在环境意外改变后，可能就会变成致命的错误。海龟追随月光奔向海洋的行为延续了1亿年，如今却会朝着海滨公寓的人工灯光爬行；信天翁演化出从海面捕食鱼类的能力，如今却会误把漂浮的塑料当作食物喂给幼鸟。
偏侧蛇虫草菌会感染木蚁，控制其行为机制。被感染的蚂蚁会爬到植物茎干的特定高度，用下颚紧紧咬住叶片背面，随后死去——这个位置最适合真菌传播孢子。蚂蚁的行为程序被“劫持”了，它执行着一系列复杂动作（攀爬、定位、咬合），却是在为另一个生物体服务。这正是朋霍费尔所说的“能力被恶意主体利用，去解决错误问题”的典型案例。或许，专业化会产生局部智慧，但一旦过度延伸，就可能引发全局愚蠢。这种尺度和领域的转变，与飞蛾面临的环境变化本质相同。
物理学家开尔文勋爵曾动用全部物理学知识，证明重于空气的飞行器不可能存在——而不到10年后，莱特兄弟就让重于空气的飞机飞上了天。尼古拉·特斯拉拒绝接受量子力学和相对论，主张未来人类文明将通过“地球共振”利用地球能量。珀西瓦尔·洛厄尔用望远镜绘制火星表面的“运河”，声称那是外星文明的灌溉沟渠。这些都是过度执着于某个理念的例子：当理念被推离了原本适用的领域，或是被强行应用到不适合的场景，就会走向荒谬。
人工智能是人类设计出的最强大的认知工具，它旨在通过完成人类耗时费力甚至无法完成的任务，最大限度减少用户的付出。问题在于，工具越好用，用户就越不需要独立思考；而用户思考得越少，就越依赖工具，形成恶性循环——直到工具消失，整个系统彻底崩溃。
如果说智慧是愚蠢的必要前提，且二者成正比（唯有真正的智慧，才能酿成惊天大蠢事），那么超级智慧的到来，将开启一个超级愚蠢的时代。
AI幻觉或许是这种趋势的首个信号。大语言模型能生成流畅、自信、详尽的文本，但这些文本常常与事实不符。这并非简单的程序漏洞，而是系统的结构性特征——它们被优化的目标是文本的吸引力和可信度，而非真实性。危险之处不在于AI会犯错（毕竟人类也经常犯错），而在于人类原本发明了检测和纠正错误的方法——也就是科学方法，但现在，人们可能再也无法识别AI的错误：因为原本用于纠错的能力，要么被外包给了机器，要么已经超出了人类的认知范围。我们可能面临一种极度复杂的愚蠢，在其受益者眼中，它与智慧毫无区别。这正如道格拉斯·亚当斯在《银河系漫游指南》中讲述的寓言：关于生命、宇宙和一切终极问题的答案，是42。
我想提出一个小小的建议：我们需要一门与智慧科学同样严谨的愚蠢科学。这无需数十亿美元的投入，而是要探究以下问题：智能系统产生愚蠢结果的机制是什么？尽管存在选择成本，愚蠢仍能存续的进化动力是什么？如何设计能增强而非替代人类认知的工具？集体智慧退化为集体愚蠢的制度条件有哪些？
愚蠢并非智慧缺失后的剩余物，而是一种具有自身逻辑、动态机制的主动过程，它依附于人类的聪明才智，具备无限发展的能力。在这个痴迷于开发更强大认知技术的世界里，理解愚蠢绝非学术空谈——它或许是我们能做的最明智的事。
延伸阅读
亚当斯，D. 《银河系漫游指南》，潘出版社，伦敦（1979）。
朋霍费尔，D. 《十年之后》，收录于贝特格，E. 编《狱中书简》，SCM出版社，伦敦（1953）。
奇波拉，C.M. 《人类愚蠢基本法则》，Il Mulino出版社，意大利博洛尼亚（1976）。
伊拉斯谟，D. 《愚人颂》（1511）；米勒，C.H. 译，耶鲁大学出版社，美国康涅狄格州纽黑文（1979）。
加迪斯，W. 《认可》，哈考特-布雷斯公司，美国纽约（1955）。
穆齐尔，R. 《论愚蠢》，1937年于维也纳发表的演讲，收录于派克，B. & 卢夫特，D.S. 编《精准与灵魂：随笔与演说》，芝加哥大学出版社，美国芝加哥（1990）。
穆齐尔，R. 《没有个性的人》（1930-1943）；威尔金斯，S. & 派克，B. 译，阿尔弗雷德·A. 诺普夫出版社，美国纽约（1995）。
品钦，T. 《万有引力之虹》，维京出版社，美国纽约（1973）。
斯帕福德，F. 《红色富足》，费伯与费伯出版社，伦敦（2010）。
斯威夫特，J. 《格列佛游记》，本杰明·莫特出版社，伦敦（1726）。
首图：jdoms / Adobe Stock