AI发展公开信综述

2026年8月2日

关于AI发展的公开信

这篇总结了近几周公开信的文章原本是我付费订阅通讯的内容，但我决定也在这里分享。

由微软牵头、日期为7月24日的《开放权重与美国AI领导力》公开信，得到了235家AI相关企业的署名，其中包括NVIDIA（参见黄仁勋的首条推文）、亚马逊、Y Combinator、Linux基金会，以及后来加入署名的OpenAI。

这封信显然是为了反驳美国政府出于“安全”考虑封禁或限制开放权重模型的任何倾向——考虑到Claude Fable 5事件，这种担忧并非毫无道理！

仅依赖闭源模型并非绝对安全：它们可能被攻破、滥用，或是出现外部人员无法察觉的故障。而将先进AI能力集中在少数闭源模型中，会进一步放大风险。这会形成少数单点故障，削弱市场竞争，还会让关键技术落入少数供应商之手。反观开放权重模型，它能让广大研究者和开发者社群检视模型行为、发现漏洞、制定防护措施，并持续优化模型。

信中有一点令人意外：它明确支持“蒸馏”技术，即一个模型以其他模型的输出为训练数据：

在构建这一生态系统时，政策制定者应注意不要将合法的模型开发技术与不当盗用混为一谈。蒸馏，也就是利用一个模型的输出来训练或改进另一个模型的做法，是广泛应用于模型优化、评估与验证的技术。这延续了从现有技术中学习、迭代、改进的悠久传统，正是这一传统自开源软件运动兴起以来推动了创新发展。

值得注意的是，Anthropic并未在这封信上署名。三天后，该公司发布了自己的回应《我们对开放权重模型的立场》[https://www.anthropic.com/news/position-open-weights-models]。CEO达里奥·阿莫戴伊强调了两大风险：一是独裁政府可能开发出“比美国更强大的AI模型”，二是模型可能被“滥用于网络攻击或生物攻击”，同时呼吁“打击规模化的[蒸馏操作](https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks)”，但也表示“Anthropic从未主张封禁开放权重模型”。

7月28日，《把控前沿节奏》[https://www.pacingthefrontier.com]公开信发布，署名者包括“1324家前沿AI企业员工”，其中不乏知名人士：OpenAI首席科学家雅库布·帕乔茨基、Safe Superintelligence Inc（原OpenAI）的伊利亚·苏茨克韦尔、Anthropic的达里奥·阿莫戴伊与杰克·克拉克等。他们的核心诉求是：

我们请求美国政府支持一项国际协作，开发必要的技术与治理工具，以主动把控自动化AI发展的前沿节奏。

他们的担忧源于激烈的竞争压力，以及自动化AI研究推动的AI加速发展——考虑到Anthropic用Claude Code生成了80%的代码、OpenAI借助Sol将端到端服务成本降低了20%、Kimi K3设计了一款芯片，为基于自身架构开发的纳米模型提供服务，不难理解为何人们如今愈发重视这一风险。