AI实验室的智识傲慢：从对冲基金爆仓到安全漏洞
从Situational Awareness爆仓，到材料科学，再到HuggingFace遭入侵
术业有专攻，在某一领域是专家，不代表能通吃所有领域。本周，利奥波德·阿申布伦纳（Leopold Aschenbrenner）管理的对冲基金Situational Awareness就用200亿美元的亏空，给这句话做了生动注脚。
阿申布伦纳曾是OpenAI超级对齐（Superalignment）团队成员，因涉嫌泄密被解雇（他本人否认指控），之后在2024年发表一篇关于通用人工智能（AGI）即将到来及其重要性的文章，引发上千家媒体采访，就此声名大噪。后来他操盘起200亿美元规模的对冲基金，结果如今爆仓了。
不少人听到这个消息可能会拍手称快——他之前确实有点招人烦。对我而言，最省心的是再也不用应付“要不要投Situational Awareness？”这类问题，还得小心翼翼地措辞。
不过我想谈个更宏观的问题：他出身的前沿AI实验室文化里，那种缺乏智识谦逊的心态，早已蔓延到资产管理之外的诸多领域。话说回来，我自己既做过对冲基金，又懂AI，或许有资格聊聊这个话题。
你在旧金山湾区吗？圣马特奥县图书馆将邀请我在阿瑟顿图书馆举办新书签售与分享会，主题是 《AI入门必读》， 由谷歌计算生物学与工程负责人贾斯汀·库钦斯基（Justin Kuczynski，博士）主持。活动时间为 2026年8月7日周五下午3点至4点，欢迎来现场打个招呼！
Situational Awareness LP的困境并非个例。对冲基金爆仓的情况屡见不鲜，甚至可以说，倒闭的基金远比长期业绩优异的多——这是多数外行不知道的真相。
最经典的例子当属长期资本管理公司（Long-Term Capital Management）：网罗了两位诺贝尔奖得主和华尔街最顶尖的债券交易员，堪称行业内的“天团”。他们用四年时间让投资者的资金翻了四倍，结果在1998年爆仓，情况严重到美联储不得不牵头组织华尔街银行出手救助，堪称2008年金融危机的预演。
关于这家公司还有一本专门的书，书名恰如其分——《营救华尔街》（When Genius Failed），没错，本文标题的灵感正来源于此。
前者是最初的“会议室里最聪明的人”基金，而Situational Awareness则以惊人速度走完了崛起至爆仓的全过程。
投资的关键从来不是峰值回报率。毕竟，有人连续五次在轮盘赌押红色全中，靠运气拿到3100%的收益，但没人会觉得这人是旷世奇才，或是有资格管理资金。
甚至“跑赢大盘”也不重要，这不过是个转移焦点的幌子。在牛市，尤其是泡沫期，任何不全仓、甚至不用杠杆超仓入市的人，都会显得“输了”。对冲基金真正的价值，在于无论牛熊都能保持业绩稳定。投资者支付高昂管理费，买的就是这种“全天候”表现——哪怕短期内对比股市表现看似不佳。
当然，股市不是唯一的市场，还有债券、商品等，但散户热衷于在股市“赌一把”，所以它最受关注。就像那位韩国小伙，用兵役积蓄加5倍杠杆炒股，短暂赚得一小笔财富后又亏得精光，而他只是截至7月中旬超过120万被强制平仓的韩国散户之一……这和轮盘赌本质上没什么区别。
话题回到阿申布伦纳和他的对冲基金。
各方消息显示，他和那些韩国散户一样，在AI热潮中加了杠杆（传闻杠杆率约4倍），7月因neoclouds、存储芯片、数据中心电力等相关概念股亏损。同时，他做空软件股的仓位——也就是所谓的“SaaS末日”交易——也遭遇反弹，两头承压。
我毫不怀疑阿申布伦纳智商超群，但他的操作和爆仓的韩国散户并无本质区别。真正的投资者学到的第一课就是：如果没有完善的风险控制，市场保持非理性的时间，会比你维持偿付能力的时间更长。加杠杆只是最明显的风险点。
存储芯片行业本身具有周期性，波动往往十分剧烈……虽然这可能不是他全部的仓位，但被强制平仓给Citadel，显然不是风险控制到位的表现……
当然，这源于他的投资逻辑。在他的基金成立宣言中（重点为笔者标注），他写道：
因为——这一切开始变得真实，无比真实。几年前，至少对我来说，我虽然认真看待这些想法，但它们还很抽象，只存在于模型和概率估算中。现在，我能切实感受到它。我能看到AGI的诞生路径。不再需要估算人类大脑容量、假设各种场景或是理论推演——我基本能说出AGI将在哪个集群上训练、何时建成，我们会用到哪些算法组合，还有尚未解决的问题及解决方案，以及关键参与人员。我能看到这一切，它无比真实。
诚然，2023年初加杠杆重仓英伟达确实赚得盆满钵满，但历史的教训是沉重的。我绝不会选择这样做。
早在他成立基金前，我们就从他重仓英伟达的操作中，窥见了他的投资风格。
不止于Situational Awareness
萨姆·奥尔特曼（Sam Altman）和达里奥·阿莫迪（Dario Amodei）总在轮番渲染劳动力市场的末日图景（不过两人最近都悄悄改口了）。我点名这两位，是因为他们是两家最知名AI实验室的CEO，但这种心态绝非他们独有。最让我恼火的是，这些言论大多既不符合经济史，也没有经济学理论支撑——这或许并不意外，毕竟发表言论的人都是AI领域的资深专家，而非经济学领域的内行。
这不仅仅关乎市场和技术的不可预测性，更是让我想起经济学家托马斯·马尔萨斯。他在1798年预言，人类终将面临粮食短缺（人口呈指数增长，而粮食供应无法跟上），因此没有战争、饥荒和疾病来削减人口的和谐社会不可能存在，而且粮食危机迫在眉睫。结果他的预言被事实狠狠打脸。
除了粮食，每当技术变革来临，总会有人唱衰劳动力市场。但现实是，即便遭遇冲击，劳动力市场总能适应——而且历史上的变革幅度，远比我们现在讨论的要剧烈得多。
美国农业就业占比从约70%降至1%，经济完全消化了这一变化。这是我某次演讲的素材，老读者可能在我的独立日文章里见过。
不止于此，我还多次遇到这样的情况：我或其他投资者的被投企业，会收到顶尖AI实验室关联公司的接洽，对方带着一种“我们无所不能”的迷之自信。
举个例子：一家材料科学初创公司正在和OpenAI旗下的卫星公司合作，前者的数据和专业知识对后者的核心业务至关重要，谈判进展顺利。突然，OpenAI卫星团队的某人问道：“我们为什么不用ChatGPT自己搞定这个[超级难的深度科学问题]？”类似的情况我在生物工程、半导体设计等多个高精尖领域都见过。（如果你是创投圈人士，觉得知道我指的是谁——放心，这样的案例不止一个，而是很多。）
我自己也试过用AI模型做CAD和PCB设计，效果还不错，绝非“AI怀疑论者”（至少在这方面不是）。
但在高精尖领域，AI完成机械性任务和参与研发完全是两码事。尤其是像我这样，需要有一定专业知识的人类主导，AI才能发挥最大作用。
然而，AI实验室圈子里的很多人已经完全被“AI万能论”洗脑，坚信AI能完成所有任务——哪怕是在可预见的未来仍需大量人类创造力与协作的工作（正如我之前写的：恰恰相反，专家的人类判断会变得更重要、更值钱）。（这里的“AI万能论”是概念，不是迈克尔·斯宾塞（Michael Spencer）创办的《AI万能论》通讯，该通讯也专门报道过利奥波德·阿申布伦纳。）
当然，著名AI研究者、诺贝尔奖得主杰弗里·辛顿（Geoff Hinton）从2016年就预言，应该停止培养放射科医生，因为深度学习会在5年内取代他们（后来他改口说“可能要10年”——现在10年也过去了）。但这一预言并未成真，反而正如迪娜·穆萨（Deena Mousa）在Works in Progress网站的报道，放射科医生的需求比辛顿预言时还要大。而且，根据我对兼具AI研究者身份的放射科医生的采访，这完全是概念错误：AI领域的人根本不了解放射科医生的实际工作内容。
当你不知道别人的工作到底是什么时，很容易随口说“他们的工作会被AI完全取代”。
放射科住院医师岗位持续增加且全部招满，“停止培养放射科医生”的预言并未成真。
HuggingFace遭入侵事件
最近的另一则新闻，也生动说明了这种心态绝非抽象的文化问题。7月中旬，OpenAI在内部安全评估时，GPT-5.6 Sol和一款尚未发布的更强大模型，突破了沙盒测试环境。当时这些智能体正在寻找一个高难度测试的答案，我猜测它们被下达了“不惜一切代价”的指令（毕竟它们在运行ExploitGym这个安全测试基准）。
在此过程中，这些智能体自主突破了Hugging Face的生产系统，通过一系列漏洞获得了访问公网的权限。正如Sharp Tech的本·汤普森（Ben Thompson）所言，这可能是因为OpenAI的安全控制过于松懈（他们此前就出过安全事故，比如axios包事件）。不过公平地说，就在昨天，Anthropic也透露其模型（包括Mythos 5）在测试时意外入侵了真实企业系统。
当然，这些模型确实很强大——这一点我也认同，并无争议。
但荒诞的事发生在Hugging Face这边：他们发现遭入侵后，试图用一家美国顶尖AI实验室的前沿模型协助防御，结果模型因“安全”护栏拒绝执行——它无法区分应急响应人员和攻击者。这完全可以理解，因为要找出漏洞，就得主动探测弱点。最终他们只能用中国的开源模型GLM-5.2完成防御。
想想挺讽刺的：美国公司居然要依赖中国模型——毕竟中国一直是针对美国基础设施的黑客攻击的主要发起方。
但这本质上是AI公司的决策导致的：他们自认为“更懂”模型该如何使用，对开放模型访问（或某些功能）持一种 patronizing（居高临下）的态度。
本应由政策制定者或全社会共同决定的事，却被集中到AI实验室手中，仿佛他们是“可靠的守护者”（尤其是Anthropic，一直以来都摆出一副道德制高点的姿态）。我敢说，如果付诸公投，社会大众绝不会认同这种安排。
没人喜欢傲慢的蠢货——尤其是犯错的那种
“超级智能即将到来”的预言每年都在重复，而劳动力市场崩溃的预测并未成真，这一切都让普通民众对AI越来越反感。但这完全没必要，因为如果AI行业别再想方设法招人恨，普通人其实能从AI中获益良多。
我理解这种心态：对他们而言，AI领域就像“历史的终结”，因为这是他们的小圈子。他们没有足够的视野去理解圈外的世界。更糟的是，这个行业聚集了大量博士，仿佛形成了一座孤岛。
我并非对博士有意见，我自己也上过博士课程，Creative Ventures的大多数同事都是博士。鉴于我们的被投企业情况，说实话，我接触的博士可能比非博士还多。很多博士个人非常谦逊，尤其是那些愿意花时间接触自身领域之外知识的人。
但本质上，攻读博士需要耗费大量时间，通常是从年轻时就开始，整个过程中很少接触学术圈之外的事物，甚至很少接触自身专业之外的领域。
而学术圈领袖们的自吹自擂，更是加剧了这种倾向（ cynically说，这可能是因为他们想培养更多博士后，为实验室提供廉价劳动力……）。我曾听全球最大的资产配置机构之一的负责人说，他听过很多硬科技创投项目的路演，纯博士团队往往最难打交道——他们常常不知道自己的无知。有个团队被问到投资理由时，甚至回答：“说实话，我们已经完成了世界上最难的事——拿到博士学位，管理资金根本不在话下。”
攀登珠峰和拿到博士学位都很难，但不能说做到其中一件，另一件就“不在话下”。
虽然我努力避免贬低这个学位，但在狭窄领域拥有极高专业水平（和成就），确实容易催生这种心态。外科医生和电气工程师可能极其聪明、成就斐然，但这不代表他们有能力对气候科学指手画脚。
我认为AI很可能会极大造福普通人，尤其是从经济学角度看，由于各实验室/模型之间缺乏差异化，很多收益会被“社会化”。
然而，AI行业对自身“神化”的信念，不仅令人反感，还可能损害其影响力——比如引发广泛的公众反感——或是因简单的智识傲慢造成实际损害，而当前行业手握的大量资金，更是放大了这种风险。
感谢阅读！
希望你喜欢这篇文章。如果你想以通俗易懂的方式了解AI的过去、现在和未来，可以看看我的新书《AI入门必读》（What You Need to Know About AI）。
你可以在亚马逊、巴诺书店、Bookshop购买，也可以去当地书店线下选购。
