AI怀疑论者Zitron的预测准确性分析
我一直很好奇,我所见过的被引用最多的AI怀疑论者Ed Zitron,他的预言到底准不准,于是便着手梳理了他那些预言的实际走向。先声明我的立场:我对AI发展既不盲目乐观,也不刻意唱衰。比如2022年,我曾全面梳理过一众未来学家的预言,其中包括Kurzweil这类备受尊敬的人物,结果发现他们不仅预言结果大多错误,推理逻辑也站不住脚。但另一方面,早在2015年我就撰文指出,人们低估了AI取代人类工作的能力,而且此后也多次公开表达过这一观点。我的AI立场其实非常平实:“如果一件事正在发生,那么那些断言它绝无可能发生的人,大概率是错的。”
很多AI怀疑论者在遭到反驳时会说,所有声称AI并非骗局的人,都是出于私利的骗子。但对我而言(显然这对我没什么好处),我与AI公司没有任何特殊财务关联:我仅通过普通指数基金持有标准比例的AI公司股份;虽然有一些种子轮投资,但由于投资时机和行业发展情况,AI相关资产在我的投资组合中占比偏低;我既不在AI实验室工作,也不为AI实验室提供产品或服务。我之前提过自己面试表现糟糕透顶——多年前我曾面试过一家AI实验室,结果电话面试就惨败而归,那表现简直能成为Jeff Atwood那篇著名文章《为什么程序员……不会编程?》https://blog.codinghorror.com/why-cant-programmers-program/的灵感素材。Atwood在文中得出结论:肯定有很多“伪程序员”存在,因为真正懂编程的人不可能把代码面试考得这么差。AI发展好坏对我没有特殊利益影响,顶多和所有持有宽基指数基金的人一样,能间接获益,但我确实很在意事实的准确性。
Zitron的预言数量不少,在列出完整清单前,我们先详细分析其中一个,看看他的推理逻辑是怎样的。我们随便选他2024年11月的一次演讲https://www.youtube.com/watch?v=7Slib2bbMs4,他在演讲中称,Meta、谷歌等科技巨头正在走向衰落,它们疯狂押注AI,只是因为不知道该如何实现增长。
Zitron明确点出Meta是“正在衰落的公司”,称其“产品在消亡,公司也在走向消亡”。但Meta的营收和利润(GAAP营业利润)数据如下:
| 时间段 | 营收 | 利润 | ||
|---|---|---|---|---|
| 金额 | 同比增速 | 金额 | 同比增速 | |
| 2023年 | 1350亿美元 | 16% | 470亿美元 | 62% |
| 2024年 | 1650亿美元 | 22% | 690亿美元 | 48% |
| 2025年 | 2010亿美元 | 22% | 830亿美元 | 20% |
| 2026年上半年 | 1170亿美元 | 30% | 420亿美元 | 10% |
他还提到这些公司“不知道如何增长”,称“在垂死的生态系统中急于重燃增长动力,科技行业会把AI垃圾强行塞进一切事物里”,并点名了谷歌和微软。谷歌母公司Alphabet的营收和利润数据如下:
| 时间段 | 营收 | 利润 | ||
|---|---|---|---|---|
| 金额 | 同比增速 | 金额 | 同比增速 | |
| 2023年 | 3070亿美元 | 9% | 840亿美元 | 13% |
| 2024年 | 3500亿美元 | 14% | 1120亿美元 | 33% |
| 2025年 | 4030亿美元 | 15% | 1290亿美元 | 15% |
| 2026年上半年 | 2300亿美元 | 23% | 800亿美元 | 30% |
微软的数据如下(注:为保持一致,所有数据均为自然年度数据,而非财年数据):
| 时间段 | 营收 | 利润 | ||
|---|---|---|---|---|
| 金额 | 同比增速 | 金额 | 同比增速 | |
| 2023年 | 2280亿美元 | 12% | 1010亿美元 | 21% |
| 2024年 | 2620亿美元 | 15% | 1180亿美元 | 17% |
| 2025年 | 3050亿美元 | 17% | 1430亿美元 | 21% |
| 2026年上半年 | 1730亿美元 | 18% | 790亿美元 | 19% |
有人可能会抬杠说,Meta确实在走向衰落,只是还没彻底倒下,但这显然不符合Zitron的原意——他的核心推理是错误的:Meta、谷歌和微软的生态系统根本没有衰落。从营收和利润的增长速度来看,AI绝非他口中那种“因为不知道如何增长而病急乱投医”的无奈之举。我不想对每个预言都花这么多笔墨,但这个例子足以体现Zitron的典型套路。
为了证明这些公司正在衰落,他会抓住一些无关紧要的小问题,声称这些问题将引发他所说的重大变革。比如针对Meta,他提到Facebook的月活跃用户(MAU)据称有所下降,但他没有采用Meta自己公布的MAU数据,也没有参考营收或利润指标,而是用了Similarweb的数据。根据我的经验,这类第三方追踪数据非常不准确,顶多只能用来做粗略的数量级对比,Zitron拿它来证明用户数下降毫无意义。Facebook自2023年12月起不再公开MAU数据,但多数估算显示其MAU一直在增长,Meta公布的其他数据也显示旗下产品的整体使用量呈上升趋势;Zitron显然是刻意挑选了一个异常偏低的估算值来支撑自己的观点。
针对谷歌,他把Prabhakar Raghavan称为“彻头彻尾的恶人”“背叛计算机科学家群体、倒向管理咨询派的叛徒”,声称Raghavan严重损害了谷歌搜索的质量。但在他对Raghavan的长篇指责中,从未拿出可信证据证明Raghavan对谷歌搜索造成了严重伤害,而且[谷歌搜索工程师在评论他的言论时,也不认同“Raghavan是搜索问题的唯一或主要原因”这一假设]https://news.ycombinator.com/item?id=40133976。
退一步说,就算Zitron是对的,“反派”Raghavan击败了“英雄”Ben Gomes,导致谷歌搜索出现问题,这也不代表谷歌整体营收增长会陷入困境——谷歌还有YouTube、谷歌云等众多核心产品,就算搜索业务不增长,这些产品也能推动公司整体增长。
他这段推理的每一环不仅错误,但凡对谷歌或大公司运作有一点了解,都会觉得完全站不住脚。我可以第一个站出来说,[谷歌搜索质量确实存在严重问题]/seo-spam/,而且谷歌近年来确实越来越重视营收,相对忽视用户体验。2013年我在谷歌工作时,就有不少注重用户体验的工程师对此深感不满。
比如Zitron提到的广告误导用户问题,2013年我曾问过一位搜索工程师,为什么谷歌要修改广告的背景色,让它更像自然搜索结果——此前有研究显示,广告越像搜索结果,用户就越难区分两者,而我听说谷歌曾刻意让广告看起来不像搜索结果,就是为了避免用户混淆。那位工程师告诉我,因为有人不想让用户混淆,所以不可能一步到位让广告和搜索结果几乎一模一样,那样意图太明显了。
实际的操作方式是:每次通过A/B测试微调广告,让它更接近搜索结果一点,就能赚更多钱。于是这种调整会在多年间分多次进行,每次调整幅度都很小,让反对这种做法的人难以提出有力的反对理由。后来事情的发展完全符合这位工程师的预测,而且不管Raghavan是否负责搜索业务,这种情况都会发生。当然,这种做法并不会让谷歌增长乏力,也不会让它在“垂死的生态系统”中急于重燃增长动力——不管你是否认同谷歌的做法,它确实能让谷歌赚更多钱。
人们为何引用Zitron?
据我观察,人们引用Zitron时,是把他当作权威,想借此表明“这位研究过数据的人都这么说,所以我的观点有数据支撑”。但实际上,只要你了解相关领域,就会发现他的观点根本站不住脚——不过这可能并非重点。重点是,人们可以说“有人研究过数据了”;另一个重点是,这个人充满愤怒,而愤怒是吸引流量的好办法。
但人们提到他时,当然不会说“他很愤怒”,而是会说“这位研究过数据的人也对AI感到愤怒,他和我们立场一致,而且有数据支持”。正如我之前所说,我不想对他的每个观点都做如此详细的分析——这个例子只是为了说明他的其他观点是什么样的。我读过他的所有文章,里面虽然充斥着各种数据,但这些数据根本无法支撑起一个连贯的论证。很多时候,就像我们上面看到的,数据甚至根本不支持他的论点(比如Facebook的MAU下降会导致Meta陷入财务困境,进而让Meta把AI乱用到不该用的地方)。我怀疑他是在利用人们看到数据就头晕、不会深究数据含义的心理。
对于下面列出的预言,有人可能会说,就算预言全错,也可能是有合理理由只是没应验;也有人可能预言全对,但推理逻辑完全错误——后者可能是有直觉但无法表达,或者只是运气好。不过好在我们不用做这种艰难判断,因为Zitron不仅预言全错,推理逻辑也完全站不住脚。
对Zitron有细致了解的人
由于[我多年来与世隔绝,最近才跟上AI领域的讨论]/ai-coding/,我之前从未读过或看过Zitron或其他AI知名评论者的任何内容,但当我去了解那些判断力可靠的人对他的评价时,发现他们也认为Zitron对数据的使用不过是障眼法,比如Juho Snellman的评论https://news.ycombinator.com/item?id=45402639:
他的文笔确实华丽,但这种攻击性和脏话似乎更多是为了煽动已经认同他观点的人,而非说服持不同意见的人。他找到了“反科技骗局”这个 niche,现在正全力挖掘这个市场。但你最好核实一下他那些让你信服的说法,因为至少在他的文章里,几乎所有内容都是编造或歪曲的。他的文章里确实有很多来源链接,但如果你点进去看原始资料,就会发现内容和Zitron暗示的完全不同。
[有个例子,评论者似乎理所当然地认为Zitron的分析很有道理,Juho Snellman回复道]https://news.ycombinator.com/item?id=45404088:
关键问题在于,他的经济分析完全是垃圾。我以前以为他只是完全不懂经济,但从他的错误带有明显偏见来看,这显然是故意欺骗。但通常很难反驳他,因为他每篇文章都是一篇一万字的“乱枪打鸟”(gish gallop)。我曾在HN评论里试图揭穿他某个故意犯下的错误,结果有人抱怨我的回复太长。
比如,[Timothy B. Lee查看了Zitron用来预测Anthropic营收的电子表格]https://x.com/binarybits/status/2034377838883700953,发现:
他没算2月1日至10日,把3月1日至10日算了两次,把8月21日至10月21日算作一个月而非两个月,还没算10月21日至11月1日。[另一位评论者指出,他的电子表格里还出现了2月30日]……Ed声称他算出Anthropic 2025年的营收将达到36亿美元,暗示其中有猫腻[但修正错误后,数据就合理了]。
Zitron的部分预言
2024年2月
2024年3月
2024年4月
2024年6月
- 错误(OpenAI确实有可能倒闭,但绝不是因为2024年增长停滞)
2024年7月
2024年7月
- 错误(AI模型持续变得更强大)
2024年8月
2024年8月
- 错误(Bartek Ogryczak认为可以算“正确”,因为AI证明了自身价值,但Zitron同时声称AI没有进步,所以按他自己的逻辑是错误的)
2024年9月
2024年10月
- 错误(2025年目标已超额完成,2029年目标虽未实现,但绝非他所说的“严重财务犯罪级别的离谱”)
2024年10月
- 错误(OpenAI超出预期,且持续快速增长)
2024年12月:“我早在3月就警告过你们,生成式AI已经见顶。”
- 错误(而且荒谬地暗示2024年3月以来AI没有任何进展)
2025年1月
2025年1月
- 错误(OpenAI和Anthropic一直拥有显著的定价权,能够维持远高于DeepSeek的价格)
2025年2月
- 错误(不管他们2027年能否达到这个数字,2026年的年度经常性收入(ARR)已经远超该数字,说明2027年的预测绝非可笑)
2025年2月
- 错误(Gemini用户数达到了7.5亿)
2025年2月
- 错误(GPT-5相比GPT-4.5有实质性提升)
2025年2月
- 错误(Zitron被多次证明错误后,仍在继续写作)
2025年3月
- 错误(CoreWeave仍然存在,截至本文撰写时,其股价已较IPO价格翻倍;CoreWeave在IPO时仅融资15亿美元)
2025年4月
- 错误(Zitron暗示即将发生重大事件证明他是对的,但这类事件并未发生)
2025年4月
2025年5月
- 技术上无法证伪,因为没有截止日期,但其中隐含的主张是错误的
2025年7月
- 错误(Cursor以600亿美元估值被收购)
2025年8月
2025年8月
2025年10月:被问到“你猜测AI泡沫何时会破裂?”时,Zitron回答:“不晚于2026年第二季度”
2025年11月
在这之后,我看到他的大多数预言要么无法证伪,要么要在未来才能验证。需要说明的是,我没有试图收录那些无意义或发布时就明显不符合事实的言论,比如他2024年12月声称“生成式AI产品实际上已经停滞了一年多”,2026年1月又说“[AI模型]基本上和一年前一样,效能没有变化”。Zitron不仅多次预测AI能力不会进步,还一直声称AI能力没有进步——尽管这些说法在当时显然是错误的,但似乎很受他的支持者欢迎(和他其他虚假言论一样)。把他的所有言论联系起来看,他暗示2026年1月的AI能力和2023年12月一样(如果联系他后来的言论,实际上是暗示2026年8月的能力和2023年12月一样,不过公平地说,他经常自相矛盾,也承认2026年年中AI有有限的进步)。
公平地说,我们可以认为Zitron是在口语化表达,比如他说“实际上已经停滞了一年多”,并不意味着2023年12月以来完全没有变化,所以这些言论不能直接推导。但即使假设他只是口语化表达不够严谨,从他的一系列言论来看,仍能得出2023年12月至2026年8月AI进步极小的结论(也许除了他自相矛盾时承认的某些领域有有限进步)。
与知名未来学家对比
如果我们对比[我们分析过的未来学家的表现]/futurist-predictions/,从风格上看,Zitron比我们研究过的任何未来学家都更依赖愤怒情绪;从推理质量上看,他大概处于平均水平。尽管他几乎全错,但他并不比Buckminster Fuller更离谱——Fuller曾提出,我们可以通过无线电传送人类,因为原子有频率,无线电波也有频率,所以我们可以捕捉人体的所有频率并通过无线电发送。
从推理风格来看,他最接近Kurzweil:两人都用数据营造一种可信的假象,但只要你了解相关领域或仔细查看数据,就会发现他们的推理站不住脚。Zitron的推理并不比Kurzweil差——比如Kurzweil不断预测技术会极快发展,但都没有应验(比如2001年他预测到2011年人类将实现无限寿命)。Zitron不断预测AI进步会停止,理由却站不住脚,这只是和Kurzweil站在了对立面:Kurzweil预测无限进步,Zitron预测毫无进步。每次预言被证明错误,他就再做一个类似的预言,把时间往后推一点。Michał Zalewski(lcamtuf)对这种现象有一些看法:
建立受欢迎的追随者群体最可靠的方法,是表达清晰、坚定、不容置疑的立场。你不能靠“市场可能涨也可能跌”“两党都有合理之处”“AI既有价值也有炒作成分”这种话获得大量播客或电视采访机会。或者用文中的例子,“《哈利·波特》是本不错的书”也不行。
实际上,这里存在一个正反馈循环。如果你采取挑衅、激进的立场,就会得到更多关注和点赞,于是你会……自我激进?到了某个阶段,这就不再是可以改变的观点,而是一种身份,一个个人品牌。
这就是……Ed Zitron能写出一篇篇关于“一切都是骗局”的爆款博客的原因。如果你采取更微妙的观点,最好的情况是无人回应,最坏的情况是遭到双方的嘲笑。
如果有人想找有充分理由的反AI观点,我觉得[whitequark]https://social.treehouse.systems/@whitequark的观点很不错(我并不认同,但他的推理很严谨,如果前提稍有不同,我能理解为什么有人会认同),但whitequark当然没有Zitron那么大的受众群体。
错误立场能维持多久?
我很好奇,当一个人对技术进步的一系列预言都被证明错误后,会怎么做。对于那些未来学家来说,即使几乎全错([我们研究过的未来学家全是如此]/futurist-predictions/),他们仍然可以辩称“我说的四分之一的事情发生了,只是时间比我预期的长了2到20倍”,如果他们不太在意准确性,甚至可以说成“我说的事情都发生了”——他们通常就是这么做的。这似乎对他们很有效,因为没人真的在乎细节。
但像Paul Ehrlich这样的人呢?他预测即将发生大灾难,但在他写作时灾难显然没有发生,后来也没有发生。看看Ehrlich的维基百科页面:
常见的批评是,Ehrlich的预言经常落空;比如《理性》杂志的Ronald Bailey称他是“不可救药的末日论者……据我所知,他所有关于即将发生灾难的预言没有一个是对的。”[41]在1970年第一个地球日,他警告说:“十年后,海洋中所有重要的动物生命都将灭绝。沿海大片地区将因死鱼的恶臭而不得不疏散。”[41][42]
在1971年的一次演讲中,他预测:“到2000年,英国将沦为一个由约7000万饥饿人口组成的贫穷小岛群。”“如果我是个赌徒,”Ehrlich教授在登机前总结道,“我愿意赌平局,英国到2000年将不复存在。”[41][42]
当这种情况没有发生时,他回应说:“预测未来总会出错。错到什么程度是另一个问题。如果我打了那个赌,我会输。但如果你仔细看看英国,我能说什么呢?他们和其他所有人一样,也有各种各样的问题。”[41]
Ehrlich在《人口炸弹》中写道:“印度到1980年不可能再多养活2亿人。”[27]1967年,Ehrlich呼吁停止对印度的紧急粮食援助,称其“毫无希望”。[43]这一立场后来遭到批评,因为印度随后通过绿色革命实现了粮食产量的飙升,在接下来的几十年里,尽管人口翻了一番,但人均热量摄入显著增加。[44]
自20世纪60年代以来,全球粮食产量大幅增加,人口增长放缓,在当前不可再生资源持续消耗的背景下,避免了Ehrlich夫妇预言的大规模粮食短缺、饥荒和灾难。
加拿大记者Dan Gardner在2010年出版的《未来胡言》[45]中指出,Ehrlich没有充分承认自己的错误,同时在声称自己“正确”时表现得不够诚实或含糊其辞。例如,他很少承认自己在预测资源短缺、大规模饥饿死亡(在《富裕时代》一书中预测多达10亿人死亡)或特定国家的灾难性影响等方面的错误。与此同时,他乐于声称自己“预测”了艾滋病的蔓延或全球变暖。[13]
在疾病方面,Ehrlich曾基于人口过剩或饥饿人群免疫系统减弱预测某种疾病会增加,所以“把这看作是对20世纪80年代艾滋病出现的预测有点牵强”。同样,全球变暖是Ehrlich描述的场景之一,所以声称自己预测到了全球变暖,却否认对失败场景的责任,这是双重标准。Gardner认为Ehrlich表现出了典型的认知失调迹象,他未能承认自己明显的判断错误,这使得他当前的观点值得怀疑。[13]
Barry Commoner批评Ehrlich1970年的声明:“当你意识到进一步的努力将是徒劳的,你不妨照顾好自己和朋友,享受剩下的一点时间。对我来说,那个时刻是1972年。”[46]Gardner批评Ehrlich支持William和Paul Paddock在《1975年饥荒!》一书中提出的策略。他们提出了一种“分诊”制度,即停止对印度和埃及等“无望”国家的粮食援助。在《人口炸弹》中,Ehrlich建议:“除了采用某种形式的Paddock策略进行粮食分配外,没有合理的选择。”如果这一策略应用于当时依赖粮食援助的印度和埃及等国,它们几乎肯定会遭受饥荒。[13]相反,埃及和印度都大幅提高了粮食产量,现在无需依赖粮食援助就能养活更多人口。
令人惊讶的是,在1968年《人口炸弹》出版后,Ehrlich做出了一系列错误预测,但他在1990年又出版了《人口爆炸》,并继续声称全球人口过剩正在或即将引发严重危机,除非我们削减全球人口。他在本世纪甚至本十年都在说同样的话。他现在不再这么说,似乎只是因为他今年早些时候去世了。
如果我没有查资料,我会猜测他最近的立场会是“我有些地方错了,但正是因为我的工作引发的行动,才避免了危机”或者“虽然危机得以避免,但这只是运气好,在大多数可能的宇宙中,避免我预测的大规模饥饿的农业进步不会发生”,而不是“等着瞧,危机现在正在发生,我即将被证明是对的”;但在2015年,他提到自己1968年的错误著作时说:“我今天的措辞会更具末世感。”这正是我们在Zitron身上看到的模式,但我没想到我查到的这个人会坚持这种立场长达50年。也许我们还能再看Zitron预测AI进步终结50年。
对Zitron的一些反应
在上面Juho Snellman的引述中,他提到Zitron的文章大量使用“乱枪打鸟”(gish gallop)手法,即通过大量廉价(容易炮制)的无稽之谈淹没你,让没人愿意花时间逐一反驳。我们刚才详细讨论Zitron演讲的一小部分,就用了一千多字来解释他对企业运作的理解是错误的,他的推理逻辑是站不住脚的。有人读了之后可能会说“但你没提到X”,这确实是事实。我第一次看他的演讲时,90秒后就关掉了页面,因为里面全是无稽之谈,不值得花时间继续看。我可以用5000字来写视频前90秒的内容。Zitron炮制这些无稽之谈非常容易,但如果我手头有所有事实,反驳他90秒的言论可能需要30到60分钟;如果需要查找准确的信息,时间可能还要翻倍或三倍。当判断力可靠的人看到这种内容时,往往会立刻把这个人归为怪人,不再关注。比如,我跟一个朋友说我在写这篇文章,他说:
我听过这个家伙的播客,根本听不下去。我的心率都快起来了,因为他会说一些错误的事情,然后那个还算理性的采访者会问‘那X呢?’,然后他就跳到另一个错误的说法上……
……在我退出之前,他说过去一年LLM没有太大进步,采访者说人们一直在用,而且过去一年确实进步很大,Zitron否认了,说‘真的吗?’,采访者只是说‘是的……’。那一刻我就想,我为什么要听这个对话?
我们主要讨论了他的预言,没有讨论他关于过去或现在的错误陈述,但我读过或看过的Zitron的所有内容都充斥着这类错误。很多人看到这种情况会认为这个人是个怪人,不再关注。但也有很多人看到有人反驳他的一些观点后,会说“但你没反驳X”,而反驳的人可能会回应几个,但最终会放弃,因为“乱枪打鸟”手法就像一种放大版的拒绝服务攻击:炮制新的无稽之谈成本极低,但反驳却需要付出努力。
顺便说一句,我很好奇这是哪个采访,所以我把上面的引述输入ChatGPT,让它查找相关采访。它成功找到了有相关对话的采访(实际上找到了多个,因为这似乎是Zitron常见的问答模式),并找到了每个相关陈述的时间戳([论点开始的位置在这里]https://www.youtube.com/watch?v=Lf5oqGOCRCM&t=5601s,["真的吗?"的回应在这里]https://www.youtube.com/watch?v=Lf5oqGOCRCM&t=5888s)。在“真的吗?”之前,采访者试图确认AI助手的能力确实有所提升。Zitron否认了这一点,然后当采访者提到实际使用这些工具工作的人时,Zitron用“真的吗?”来否认(在这段对话中,他实际上做出了多个相互矛盾的陈述)。
另一个值得注意的点是Zitron表现出的极高自信。比如他说OpenAI的预测“离谱到我惊讶说出来不算金融犯罪”(但OpenAI到目前为止已经实现了预测);他还声称谷歌对Gemini用户数的预测“如此不切实际,谷歌应该有人被解雇,那个人就是Sundar Pichai”(但谷歌最终的用户数比预测高出50%,而Zitron曾说这个数字完全不可能实现)。
我也做过很多预测,其中不少是错的。当我做预测时,我会给自己的预测附上一个置信度,这样我以后可以回顾,看看我的预测校准得如何。我从来没有在像Zitron那样高置信度的预测上出错。以他声称的置信度来看,哪怕只有一次预测错误,都表明他极度过度自信。这种置信度的预测几乎不应该出错,但Zitron那些用修辞表达出最高置信度的预测,却经常出错。
顺便说一句,有趣的是,Zitron曾说Gemini达到5亿用户“如此不切实际,谷歌应该有人被解雇,那个人就是Sundar Pichai”,但他也(错误地)说谷歌不知道如何增长,因此才会把AI强行塞进一切事物里。Dennis Snell指出,如果Zitron真的相信自己的话,谷歌完全可以通过他所说的“把AI塞进一切事物里”的方式,让Gemini的用户数达到任何想要的数字。
你不可能同时认真对待Zitron的两个说法:一个是谷歌因增长乏力而疯狂押注AI,另一个是Sundar提出5亿用户的目标是严重渎职。这是看他的演讲或文章时立刻就能发现的问题:他的很多陈述相互脱节,根本无法自洽,唯一的共同点是它们都在说AI公司以及使用AI的人和公司是邪恶的、不好的。这些陈述背后的数字和逻辑相互矛盾,似乎只是想到什么就说什么,只要能把“反派”描绘成邪恶的就行。而有趣的是,Gemini最终达到7.5亿用户的事实,证明了Zitron的两个说法都是错误的。如果谷歌真的像Zitron所说的那样急于刷数据,他们完全可以通过把Gemini塞进一切事物里,轻松让用户数超过10亿,而7.5亿显然已经超过了5亿的目标。
顺便说一句,我第一次关掉他演讲的时刻是在他说:
一个痴迷于同比营收增长的市场。这种发展是自然的,但很糟糕。你可以怪Marc Andreessen,他是个坏人。你可以怪很多坏人。现在有很多人可以让你生气。
最后这句话完美概括了Zitron的立场:“现在有很多人可以让你生气。”在这次演讲中,他突然攻击Andreessen,指责他导致Meta、谷歌和微软追求增长。但实际上,就算Marc Andreessen从未存在过,Meta、谷歌和微软几乎肯定仍会努力增长,所以我们当然不能怪Andreessen让这些公司追求增长。他只是看到一件他认为不好的事,然后按照他一贯的风格,随便拉一个人出来,说这个人是导致这件坏事的邪恶反派,然后就跳到下一个不相干的话题上。
为什么有人会认真对待他?
我有点自虐,真的去读了很多关于Zitron的讨论(我相信我读了HN和lobsters上的所有主要讨论,还有其他很多讨论),想看看那些认真对待Zitron的人是怎么说的。一种常见的辩护是:“你反驳了一些观点,但你没提到X”。更常见的辩护是笼统地说,人们攻击Zitron是因为Y(通常是他的风格),但从来没人反驳他的观点,“这说明了一切”(或类似的话)。从消息的时间戳来看,就正在讨论的内容而言,通常已经有评论指出Zitron的实际错误,但Zitron的支持者会忽略这些评论,只是声称没人能指出Zitron的错误。这是典型的Zitron式手法,喜欢他风格的人也会用这种手法,这很合理——毕竟,什么样的人会觉得Zitron有说服力?就是认为这种手法是合理推理的人。
第二种最常见的“手法”是干脆否认Zitron说过被反驳的话。当人们提到Zitron在2024年和2025年多次公开表示LLM出于根本原因无法进一步改进时,Zitron的支持者会说他从未说过这些话,对他之前的预言或不符合事实的陈述也是如此。
我看到的另一类辩护是:“但那些AI鼓吹者不也错了吗?”正如我之前所说,[我写过一篇3.4万字的文章,讨论那些最受尊敬的未来学家如何犯错,不仅是因为他们的预测错误,还因为他们的方法和推理错误]/futurist-predictions/。但一群鼓吹未来的人错了,并不意味着Ed Zitron或Paul Ehrlich就没错。就算那些未来学家从未存在过,Zitron和Ehrlich也一样错。
我的一个朋友还提到,在有人指出Zitron关于2023年至2026年AI模型没有进步的说法被证明错误时(是的,这正是讨论Zitron已被证伪的能力停滞言论的文章或评论),评论区的反应很有意思:
看到这么多人说‘Zitron没错,他只是说得早了点!’,真是不可思议。我猜他们的意思是,我们最终会意识到2026年的模型其实并不比2024年的好?
发布这篇文章后,有一件有趣的事:相当一部分给我发消息说我错了的人,都声称2026年的AI模型实际上自2023年或2024年以来没有任何进步。我猜上面引述中的大多数人可能只是在“走流程”——他们根本没读原文,只是用一个毫无意义的 canned 回复来回应,但事实证明,确实有很多人真的相信Zitron那套暗示2023年或2024年以来AI模型没有进步的说法。
我觉得,对于这种否认现实的人,你真的无能为力。但如果有人想要一个直观的例子看看这段时间的进步,[这里有2023年和2025年视频生成的对比]https://www.youtube.com/watch?v=ZBOgtTCfnGs,[这里有2026年8月的例子]https://www.youtube.com/watch?v=TudmZN3h8_s。视频生成可能不是最好的例子,因为AI在编码方面的进步要大得多——[很容易找到AI比顶尖人类表现更好的实际问题]/perf-opt/。但视频生成是个不错的例子,因为在上面提到的采访中,在“真的吗?”的对话之后,Zitron的“反驳”之一是:“你不会用它来拍电影吧?”而现在人们已经在用AI生成相当多的数字镜头了。当然,AI先从低端市场切入,但仅从现在AI视频的用途来看,Zitron应该给他那些认为2023年或2024年以来AI模型没有进步的信徒找个新的反驳理由了。
未来预言
尽管Zitron过去的预言大多错误,但也许他未来的某个预言会成真。比如某些公司的估值可能会因为某些原因下降。但就算AI行业遭遇大规模崩盘,OpenAI和Anthropic归零,从社会影响来看,如果同时发生其他事件,导致AI模型的进步停滞在当前AI实验室的内部水平,仍会带来相当大的变化。哪些公司成功会改变谁变得富有,但特定公司的倒闭不会阻止当前或下一代AI模型能力带来的变革——只会改变谁受益最多。
对我个人而言,哪家公司的人变得富有并不重要。如果一家公司在某些方面(抽象意义上)比另一家做得更好,我可能会有点兴趣,但我对任何一家公司声称自己会比另一家更“做正确的事”持怀疑态度(我可能会被说服,但我觉得目前看到的公开说法没什么说服力)。
Zitron关于某家公司倒闭的预言就算成真,对我来说也远不如AI能力的发展(他到目前为止一直错在这一点)有趣。当然,他到目前为止的财务预言也都错了,但这对我来说也没什么兴趣,不过为了完整起见,我还是收录了一些财务预言。
感谢Yossi Kreinin、Juho Snellman、Dennis Snell、Nick Bergson-Shilcock、Bartek Ogryczak、Jamie Brandon和Shriram Krishnamurthi提供的评论/修正/讨论。
附录:Ed Zitron谈为什么人们不喜欢Ed Zitron
在查找关于Zitron作品的讨论时,reddit上的第二条结果是[Zitron的这条评论]https://archive.is/EdOKE:
……有些男人不喜欢我,因为情感诚实和内省对他们来说很难。男人被告知要压抑或克制自己的感情。我拒绝这样做,而且我觉得任何让我这么做的人都很恶心……
……我们从情感开始说起,因为这是最明显的一点。人们真的不喜欢我的样子,认为我“把生气当噱头”,甚至说我精神病发作、失控,等等等等。我发现,这种反应常见于那些自己在工作中压抑情感的人。要做到既情绪化又有成熟的观点,很难……
……我也没有走“应该走”的路来达到今天的位置。你“应该”成为大媒体的主流作家,或者分析师,或者从事金融行业,或者走其他各种“正确的道路”,这样你才“配得上”你想要的东西。我没有以传统方式“积累资历”,而那些这么做的人认为我不配拥有今天的一切……
……我的工作也很彻底,这让那些不认真工作的人感到沮丧。我对每个观点都深思熟虑,煞费苦心地深入了解主题。看看有多少人还在说“这就像Uber一样”或“这就像互联网泡沫一样”。不假思索地假设事情要容易得多!有个混蛋带着彻底而充满激情的观点出现,会让人感到沮丧。这会反衬出他们的工作有多糟糕……
……我拍好看的照片,做精彩的采访,利用事件造势,而且我这么做并不虚伪,因为我通常会带着几千字的想法或一集关于这件事的内容出现。我相信有些人想要这种关注或声望,但他们不想付出努力去获得,这让他们很恼火……
……我爱得热烈,努力拼搏,我就是我自己,任何“圈内”群体都从未接纳过我。我拼命工作,比任何人都写得多,我全力以赴。无论我创造了什么空间,我都会反抗“圈内”群体或小圈子。我恨他们,他们也恨我。而且我从根本上知道我为什么相信我所相信的。这会让那些不知道自己为什么相信的人感到不安……
我不知道他说的这些是不是真心话([如果《连线》杂志关于Zitron和他经营的公关公司的报道是准确的,那大概率不是]https://archive.is/m9pHl),但Zitron似乎非常擅长说他的听众想听的话,所以这可能能让我们对他的听众有所了解。
值得注意的是他关于小圈子和“圈内”群体的言论——如果你在reddit上搜索他的名字,会发现评论者提到,如果你在他的子reddit上发布任何表明AI有进步的内容(比如链接到基准测试),你就会被封禁,导致那里变成一个高度排外的回音室。我曾公开表示[METR的进步基准测试没有意义]https://www.patreon.com/posts/149123122,与其依赖误导性的分析,不如凭感觉判断,还说[被广泛引用的AI评估经常有缺陷]/exercise-7/,所以我并不是认为基准测试普遍有效,但从评论来看,如果你不遵守他的“路线”,很快就会被封禁,这与他上面描绘的画面完全相反。这并不是Zitron独有的现象——不久前我查另一个网红时发现,如果你在他们的reddit上不同意他们的观点,他们会写一条评论感谢你的评论,说他们多么喜欢从别人那里得到反馈,说世界是多么充满和平与爱,我们应该彼此相爱,同时偷偷把你封禁。
我还发现Zitron关于人们不喜欢他的工作是因为讨厌彻底工作的言论很有趣,原因有二。
首先,我的工作经常被称赞为严谨、彻底。当然也有很多人不喜欢我的工作,但据我所知,没人说过不喜欢我的工作是因为它彻底——如果有人暗地里因为这个不喜欢我的工作,我会很惊讶。一般来说,这似乎不是人们讨厌一件事的理由。
其次,我个人并不认为我的工作是彻底的。[我在这里提到的对自己工作不满意的情况]/bug-blind/也适用于不认为我的工作彻底。我会对自己的工作做一些检查。我不知道我花的时间是否比大多数人多,但从效果来看,我怀疑我的方法和时间投入的组合比平均水平更好。但我发表文章时总是对自己的工作不满意,因为我可以永远更彻底地检查下去,永远不发表,所以我强迫自己在一个我认为比平均水平更彻底但远未达到“彻底”的水平上发表。如果我把我的工作和我认为彻底的人(比如Gary Bernhardt)的工作相比,我不敢说我的工作是彻底的。我有几个朋友能做出Bernhardt级别的工作,但我选择产出更多但质量更低的工作。我觉得在质量和速度的权衡中,这是一个不错的位置,但这并不意味着我的工作是彻底的。自从今年7月重新开始公开写作以来,我发表的所有文章更是如此——我在尝试更快地发布内容,检查和编辑比平时少得多。然而,我的事实核查过程似乎比Zitron的要彻底得多。
附录:为什么写这篇文章?
其实没什么特别的理由。我只睡了四个小时,脑子不太好使,然后看到有人发了一张reddit帖子的截图,嘲笑Ed Zitron的预言记录。我[写那篇关于未来学家预言准确性的评论]/futurist-predictions/时,尽量确保自己没有偏见。从帖子里看不出那位reddit用户在挑选Zitron的预言时是否公正,或者是否带有某种偏见(因为AI已经成为一个文化战争议题,有人挑选有偏见的预言也不足为奇),所以我决定在业余时间读一些Zitron的文章,同时尝试让AI助手完成一项无关的任务。写那篇未来学家的文章时,我读了多本完整的书来收集预言,通常只有当某人重复说同样的话时才会停止。但Zitron的所有内容都是重复的,所以用那篇文章的方法,我应该只看几个预言就立刻停止。为了克服这个问题,我让ChatGPT给我列了一份预言清单(尽量不偏向正确或错误的预言),然后我浏览了ChatGPT链接的帖子。有些情况下,我认为ChatGPT对帖子的解读是错误的(通常是它标记了一个预言,如果它的解读正确,这个预言就是错误的,但我不同意它的解读),而且(下面会讨论)我还删除了那些无法证伪或毫无意义的同义反复预言(我在那篇未来学家的文章中也提到过类似的情况)。
如果我真的仔细想过,我可能会找到更好的事情来打发时间,但事已至此;我有时会在待办事项里列一些脑子不好使时做的任务,但这次没有。我不认为那位reddit用户特意挑选了特别糟糕的预言,尽管他们确实选了一些听起来更荒谬的。但如果你去看那些不是明显“打脸”的预言(比如他说Gemini年底达到5亿用户是如此荒谬,Sundar应该为此被解雇,但实际上Gemini年底达到了7.5亿用户),会发现它们和那些明显错误的预言一样错误——比如他说Cursor没有现实的买家,暗示它甚至卖不到100亿美元,但“所有”关注AI收购的人都知道它以600亿美元的价格被收购了。
那位reddit用户挑选了那些引人注目的失败预言,但Zitron的预言库里还有更多失败的预言,而且正如上面提到的,更大的问题是他的推理逻辑。
关于那条reddit评论,不管它是否公正,人们可能会怀疑它带有偏见,因为它发布在r/accelerate上,发帖人显然是r/accelerate的信徒。查看实际预言后,发现它们确实带有一些偏见(但也可能是诚实的错误,从记录中无法区分)。比如,其中一个“反驳”是Zitron说OpenAI将在12到24个月内倒闭。OpenAI没有倒闭,所以这表面上看起来是证明Zitron错误的好例子,但如果你读Zitron的帖子,会发现他实际的说法是OpenAI要么倒闭,要么筹集更多资金——而OpenAI确实筹集了更多资金。我不同意Zitron暗示这必然会导致后来倒闭的说法,但他明确的预言并没有被证伪。
这个预言没有被列入本文的评分清单。有些人可能会认为应该把它列入。我没有列入的原因是,这个预言除了支撑Zitron的核心观点(OpenAI注定要倒闭)外,毫无意义。
如果我们考虑可以做出的预言,一个同义反复的预言(为了节省篇幅,我会省略所有边缘情况)必然是正确的:OpenAI要么有足够的钱运营,要么没有;如果没有,它必须以某种方式筹集资金。我可以做出一百万个这样的同义反复预言,但如果有人给我的预言记录评分,把这些列入是没有意义的,因为它们毫无价值。一般来说,一家活着的公司会支付成本;如果无法支付,它会尝试筹集资金;如果筹集不到,它就会倒闭或被收购。“一家公司要么能支付成本,要么不能”的预言毫无意义。
OpenAI自己的预测是它还没有盈利,成本将超过收入。这似乎几乎是肯定的,所以如果你假设这个几乎肯定的事情是真的,那么你就得到了一个几乎同义反复的预言:OpenAI要么倒闭,要么筹集资金来支付成本。做出这样的预言并给出极高的置信度(99.9%或更高)是合理的。如果你使用任何预言评分方法,比如[Brier评分]https://en.wikipedia.org/wiki/Brier_score,这些预言基本上不会对评分有任何贡献,除非它们被证明错误——只要Zitron有大量高置信度的错误预言。
而且,正如上面提到的,Zitron那些给出最高置信度(从他的措辞来看,我会给其中一些预言99.9999%的置信度)的预言反复被证明错误,所以在任何类似Brier评分的机制下,Zitron的记录都非常糟糕。而这样的汇总指标实际上还低估了这类预言的无意义程度。假设Zitron做出了无数个正确的、置信度99.99%的近乎同义反复的预言,这会让他做出的有限数量的其他预言的评分在Brier评分中变得毫无意义。但这仍然不会让你对他的任何非近乎同义反复的预言有信心——而那些才是人们通常讨论的预言(AI进步已经结束,AI公司必然倒闭,这也会导致大型科技公司倒闭,等等)。
回到那位reddit用户的潜在偏见与我的偏见的话题,正如上面提到的,我并不偏向“快速进步不可避免”的观点,而且我曾指出人们过于乐观的情况,比如那篇关于[未来学家预言](/futurist-predictions/的文章。我也[不需要也不想通过编造理由说别人错误或不好来获取流量]https://www.youtube.com/watch?v=rlcd5m4FY-o,而且我不会一致地给所有预言者差评,比如[这篇关于Steve Yegge预言记录的评论]https://danluu.com/yegge-predictions/,我指出他的得分很高,而且实际上比原始得分显示的更好,因为他的预言通常推理严谨,即使精确预言错误,方向也是正确的。我认为如果有人对未来有很好的洞察力并公开分享,那真的很棒,所以当我注意到这种情况时,我很乐意指出来。只是在Zitron这个案例中,他是Yegge的反面:预言记录糟糕,而且实际表现比记录显示的更差。
附录:本文中的错误
我几乎可以肯定这篇文章有多处错误。一般来说,我发现很难在阅读大量错误推理后,在寻找其中错误时不变得马虎。[我在评论未来学家预言时也遇到过完全相同的问题]/futurist-predictions/。这让我想起编程时遇到的编译器非常buggy的情况——你每天都会遇到编译器bug(在嵌入式系统中并不少见,至少在LLM出现之前是这样;现在你可以相对容易地修复这些bug)。我发现自己很难不马虎,会想“嗯,这可能是编译器bug”,但偶尔也会发现其实是自己的bug,不是编译器的bug。看这类预言时,问题更严重,因为编译器通常基本正常工作,而且经常是对的,而读这里讨论的这类文本时,你会不断被无稽之谈淹没,偶尔才会遇到一个正确的、准确的观点。
我认为,要做好这件事,要么需要找到一个对这类内容有异常高耐力的人(我的意思是比我高得多,而我对这类内容的耐力似乎已经高于平均水平),要么需要一个团队的人独立评分,但谁愿意花这么多精力呢?毕竟,只要表面读一下,就能立刻发现很多表明这些人几乎完全错误的地方。
我确实让ChatGPT(网页版,Pro)和Claude(网页版,Fable 5)对这篇文章进行了事实核查。它们都发现了一些小错误,在发表前已经修正。
一年前,我觉得这类事实核查几乎没用,但现在它们已经还算不错了——与Zitron的说法相反,我预计它们会继续变得更好。如果有人好奇两者的表现,在这次核查中,ChatGPT比Claude彻底得多,发现了更多错误,而且Claude发现的错误它都发现了。不过它有点过于激进,指出了一些并非错误的地方,比如认为一些开玩笑的评论是错误的,认为一些普遍正确的陈述应该用更字面的方式重新表述(还附上了AI风格的文本)。