AI让软件过于安全，执法机构的“走向黑暗”危机

我刚在家乡巴尔的摩参加完Usenix Security（USENIX安全研讨会），这几天的对话主要围绕两件事：一是跟同行解释，巴尔的摩根本不像《火线》The Wire里演的那样；二是尽量避开AI这个话题。

不过今天，我打算打破第二条规矩。

关于AI对我们这个领域（无论从哪种定义出发）的影响，我有不少担忧。但这篇文章里，我只想聚焦一个有点反常的顾虑：AI可能会让软件过于安全。

表面看这似乎是好事，实则会引发连锁反应。我指的是一个非常具体的问题：美国情报和执法机构可能即将陷入**“断网困境”（Going Dark）**——也就是说，他们会突然丧失很大一部分能力。而这不仅是这些机构的麻烦，也会波及所有重视网络安全与隐私的人。

断网困境与执法黑客时代

要讲清来龙去脉，得先回顾一段近年历史。这下我总算有正当理由提到《火线》了，因为它完美定格了2002年电子监控的真实样貌。看过第一季的人应该记得，剧情围绕警方监听毒贩展开，毒贩当时用的是公用电话和一次性手机。剧中的移动电话在那时还算新鲜，但从技术角度看，哪怕是1989年的警察穿越过来，也不会对这套监听手段感到惊讶。

然而，距离剧集首播还不到十年，这一切就彻底成了老黄历。

变化始于2000年代末，智能手机和短信的兴起是转折点。智能手机既能传输数据，也能存储数据，很快就成了执法部门获取情报的新渠道——直到2010年，苹果开始用用户密码生成的密钥对iPhone存储数据加密（安卓手机紧随其后）。次年，苹果在iPhone短信中部署了端到端加密。2014年，一家名叫WhatsApp的小型短信初创公司已在全球积累6亿用户；到2016年，其用户规模接近10亿，且全部默认使用端到端加密的消息和通话服务。从语音通话转向短信，再从短信转向加密数据，这两大转变来得异常迅猛。下图直观展现了这一过渡：

联邦调查局（FBI）和其他执法机构并非对这些变化视而不见。2014年，时任局长科米发起了一项名为“断网困境”的倡议，呼吁展开一场“全国性对话”，探讨科技服务商可以（或被迫）采取哪些措施，让这些新型通信工具能被执法和反情报部门监控。

2016年，FBI不再空谈，将理论付诸法庭。一起恐怖袭击发生后，FBI缴获了凶手的加密iPhone，随即要求苹果为其解锁，但苹果予以拒绝。打破僵局、甚至在某种程度上终结“断网困境”争议的，是FBI和苹果都没料到的事：一家外部公司宣称，根本不需要苹果协助——他们直接就能黑进这部手机。

苹果与FBI的诉讼，成了整个“断网困境”争议的缩影。在之后的十年里，执法和情报机构仍在要求获取“特殊权限”后门，但紧迫感已不复存在。机构和厂商都清楚，只要有迫切需求，执法部门完全可以采购定向黑客工具，比如用于解锁手机的GrayKey，甚至是NSO Group开发的Pegasus这类远程入侵工具。苹果、谷歌等厂商则持续加强防御，一旦发现漏洞就立即修复，但漏洞挖掘者总能保持领先优势。

而现在，这一切很可能即将成为历史。

AI漏洞挖掘时代已至

就在今年4月（仅仅四个月前！），Anthropic公司发布了一款名为Mythos的新模型，它在软件漏洞挖掘方面表现格外出色。美国政府暂时禁止其出口，仅允许美国本土机构和受信任的厂商使用。这一禁令看似声势浩大、博足眼球，实则基本毫无意义。因为此后，OpenAI以及中国的开源模型实验室如Z.ai、Moonshot都证明，漏洞挖掘并非某一家实验室能垄断的技术。这些模型发现的严重漏洞数量与日俱增，既令人担忧，也让人惊叹。

乍一看，这对攻击方和黑客群体似乎是好消息，但我怀疑长期来看并非如此。防御方目前正全力修补能找到的所有漏洞——其中不少是存在了几十年的旧漏洞，待处理的漏洞积压如山，但他们确实在取得进展。整个CI（持续集成）工具链都在重构，以便在软件进入人工环节前，就融入AI驱动的漏洞扫描。我并不认为这意味着所有漏洞都会被发现（就连计算一段代码中的漏洞数量，恐怕都无法实现），但现实中，可用的漏洞数量很可能很快就会触及天花板。

也就是说：未来两年内，主流软件可能会彻底耗尽可远程利用的漏洞。

显然，我认为这是件好事，但对执法和情报机构而言，这将是一场噩梦。自2010年以来，执法部门可能第一次真正陷入“断网困境”——面对绝大多数先进且维护良好的设备和软件，他们将束手无策。

这为何会成为问题？

关于“特殊权限”机制的争议从未真正平息。在英国等一些国家，相关政策甚至变得更糟；在美国，争议则暂时陷入沉寂。这种放缓部分源于专家的反对——学者和行业工程师指出，后门可能被那些本该由情报机构防范的对手滥用。但我担心，这并非出于原则性的暂停，更像是市场供需关系下的暂时平衡。

易挖掘的“低垂果实”式漏洞消失后，执法（及情报）机构的需求会变得愈发迫切。对人为构建的后门的需求将重新高涨，进而给行业带来巨大压力，迫使他们重新架构系统，以适配特殊权限访问。在某些情况下，政府要求这类功能，是为了监视其他国家——这种策略在AI时代前或许难以被察觉，但如今可能收效甚微。其结果难以预料，比如非美国政府可能会彻底摆脱对美国软件的依赖。

这种局面最糟糕的地方在于，这些潜在的新后门可能只会影响提出要求的国家，也就是说，它们主要会让美国自身的系统安全性下降。这反而会给境外对手创造攻击我们通信系统的新机会。正当我们终于开始掌控自身基础设施安全之际，却要主动进行自我破坏。

我们该如何应对？

说实话，我毫无头绪。这并非号召专家们团结起来执行什么复杂计划。就像AI革命带来的诸多问题一样，我只是突然意识到，我们正滑向一个与当下截然不同的未来。意识到这一点，并不代表我有什么规避策略。这种情况下，我们只能寄希望于这一次能做出正确选择——不为别的，只因那是正确的事。