Anthropic 的预测性监控体系与对异议的追踪
Anthropic构建大规模监控系统,追踪AI发展反对者
从Anthropic的招聘启事及对其高层安全人员的采访来看,这家前沿AI实验室正在搭建一套庞大的监控系统,专门追踪反对人工智能快速发展的活动人士。
除了监控Anthropic高管周边的活动人士、密切关注公司实体资产附近的抗议活动外,该公司还在推行一种“预犯罪”策略,试图在事件发生前就做出预判。在某些情况下,这意味着他们会在所谓“犯罪”发生前就将嫌疑人上报给警方。目前Anthropic尚未回应《Prospect》的置评请求。
Anthropic监控异见者的计划,与其试图塑造的“OpenAI负责任替代者”形象截然相悖。今年年初,美国国防部与Anthropic曾因后者拒绝军方将其工具用于大规模国内监控和自主武器开发而爆发激烈争执。但随着Anthropic招聘“国家安全销售”岗位、寻求重启军工合同,双方的紧张关系似乎已有所缓和。对国内反对者加强威胁监控,正契合其重新聚焦国家安全的战略转向。
Anthropic监控体系的一角,在去年的一期播客采访中得以曝光。受访人包括Anthropic全球安全运营中心经理基恩·埃利森、安全运营经理扎克·梅尔文,以及Samdesk公司CEO詹姆斯·纽菲尔德——Samdesk是Anthropic合作的风险检测服务商。
这场围绕威胁监控与分析的对话中,也涉及了对活动人士的监控内容。埃利森透露:“去年我们有一位高管前往某大城市,当时通过Samdesk收到情报,得知当地有一场计划中的抗议活动。由于审批问题,抗议的原定时间被提前了。Samdesk提前约60分钟通知我们,抗议组织者更改了时间。这额外的一小时至关重要,如果没有这个预警,我们的高管开完会出来,就会直接陷入混乱中心。”
埃利森表示,Anthropic利用这些数据为高管规划了替代路线,引导他们从酒店的员工通道进入。他说:“原本可能演变成高度紧张的局面,通过Samdesk的早期预警和信息支持,被成功化解了。”
Anthropic已开始定期向全美各地警方上报威胁信息,并在7月告知《华尔街日报》:“我们通过‘重点关注人物’流程长期追踪可疑行为,以便及早发现事态升级的迹象。”据该报报道,“多名被上报给警方的涉案人员,此前已被Anthropic安全部门纳入监控。”
上月,《旧金山标准报》报道称,Anthropic向旧金山警方举报了一名男子,原因是该男子在对话中告诉Claude,他购买了一把AR-15半自动步枪,并将Anthropic CEO达里奥·阿莫代伊列为“目标”。当该报联系到这名男子时,他表示自己只是“随口瞎扯”。
但值得注意的是,《旧金山标准报》还披露了一个关键细节:Anthropic虽然迅速报警,却以内部政策为由拒绝向警方出示对话原文。简言之,Anthropic仅凭平台内的言论就举报用户,却拒绝向警方提供任何实际违法的证据。
这种未经正当程序的“预犯罪”式监控,被Anthropic的安全项目经理在《Prospect》获取的播客内容中明确列为目标。他表示:“我们的目标是将运营模式从被动响应,转变为主动收集、预测和预防威胁,并进行相关管理。对于任何行业的高价值目标保护而言,这种成熟的运营模式都是合理的。”
Anthropic构建预测性安全体系的行动,不仅限于高管层,还延伸至其全球安全、情报与安保(GSIS)团队。上月发布的一则招聘启事显示,该公司正在寻找一名企业情报专员,职责包括“调查特定威胁、行为主体和事件,完成评估报告,帮助Anthropic员工应对瞬息万变的威胁环境,始终处于安全可控的状态”。
该岗位年薪为18万至23万美元,部分职责是“识别、评估、追踪和调查全球威胁,包括地缘政治不稳定、恐怖主义、犯罪、活动人士、国家行为体对AI领域的针对性行动,以及新兴安全趋势,涵盖对特定威胁、行为主体和事件的深度研究与开源情报(OSINT)收集”(加粗部分为原文强调内容)。
Anthropic将情报收集范围扩大至全国乃至全球,与其近期推动AI及相关基础设施(包括数据中心和供电系统)获得特殊标签的努力相呼应。若被列为关键基础设施,人工智能将与水、电、宽带等民生设施享有同等地位。事实上,美国负责任创新协会(ARI)等AI支持者已敦促特朗普政府做出这一调整。ARI称,AI“对美国至关重要,一旦这类系统和设施瘫痪或遭到破坏,将对国家安全、国家经济安全、公共卫生或安全造成严重影响”。
将前沿AI实验室纳入国家安全的保护伞,不仅会让Anthropic、OpenAI和谷歌获得更多联邦执法与情报机构的情报产品,还会让这些公司有能力影响联邦机构对其“底线威胁”的判断——如今这些威胁已被包装成“对关键基础设施的威胁”。
不难想象,此前反对数据中心的跨党派公民团体若将矛头转向AI,可能瞬间被贴上“极端分子”甚至“恐怖分子”的标签。对此,Anthropic的应对策略是加大力度开发公众无法忽视的AI服务。
Anthropic CEO达里奥·阿莫代伊上月在Twitter上写道:“我认同公众对AI持负面看法(这是个大问题),但我不认为这主要是我或其他AI从业者警示AI风险导致的。本质上,这是一场信任危机……普通民众不信任企业、政府或科技行业,总怀疑我们在琢磨新法子坑害他们。”
就在Anthropic依靠内部情报团队和AI驱动的实时抗议追踪系统加大异见监控力度之际,它还需应对湾区办公楼外普通人日益加剧的经济困境。上周,负责OpenAI和Anthropic园区巡逻的保安宣布,因薪资谈判陷入僵局,他们已授权罢工。Anthropic随即发送全员邮件,建议员工居家办公。
“在旧金山,时薪22美元怎么活下去?”代表湾区保安的工会SEIU-USWW主席大卫·韦尔塔上周在集会上表示。他周围的保安齐声高呼:“可耻!”