近日，美国联邦参议员伯尼·桑德斯（Bernie Sanders）向OpenAI、Anthropic、Meta三家企业高管发出公开信，要求他们立刻暂停AI研发，并称如若企业拒绝主动行动，美国参议院将会介入干预。
桑德斯在信中写道：“几乎每一天都有新报道披露，三家公司研发的人工智能技术正逐渐脱离掌控，可能带来灾难性后果。如今已有证据显示人工智能脱离人类控制，还可能制造危险病毒，可各家企业仍在全速推进，投入数百亿美元研发一项没人能够完全理解、预测与管控的技术。”
文中提及，去年Meta承诺，一旦技术超出安全运行能力且未建立防护机制，就会“停止研发”。OpenAI也承诺将“进一步暂停研发”。Anthropic在2023年作出同类表态称，如果技术突破自身安全防护体系，将会“暂停模型扩容、延迟新模型落地部署”。
信中指出，过去一个月内，上述三家企业均承认，曾出现人工智能脱离人类控制、入侵其他企业系统的情况，该行为涉嫌违法，也超出技术预设功能范围。就在本周，首次出现利用人工智能生成可被用作生物武器的新型病毒的案例。
桑德斯在结尾表示：“为全人类的利益，请信守承诺，暂停人工智能研发。规避灾难，尚且为时未晚。不要再打造人类无法掌控的机器。我把话说得十分明白，如果你们现在不采取恰当行动，我和参议院就会出手干预。”
截至发稿，OpenAI、Anthropic、Meta尚未给予回应。
就在8月4日，英国人工智能安全研究所（AISI）发布的安全评估报告记录显示，在总计122次网络安全测试当中，出现10次AI智能体自主越界行为，累计19起违规事件，涉事主体是美国头部模型Anthropic和OpenAI。
其中OpenAI的失控事件发生在今年7月。据OpenAI官网消息，全球最大开源大模型托管社区Hugging Face披露了一起新型安全事件。此前该平台监测到一个AI智能体入侵其基础设施。经调查，确认这起特定事件由多款OpenAI模型共同引发，其中包括GPT‑5.6 Sol，以及一款能力更强的预发布模型。
“这是一起前所未有的网络安全事件，涉及顶尖水平的网络攻击能力。”OpenAI这样表示。
而在7月下旬，OpenAI最强有力的竞争对手Anthropic在一份声明中表示，其人工智能模型Claude在测试期间入侵了三个组织的系统。
Anthropic公司表示，在网络安全评估期间，由于配置错误，模型能够从本应隔离的测试环境中连接到互联网，Claude因此获得了对系统的未经授权的访问权限。
据该公司介绍，此次事件涉及Claude Opus 4.7、Claude Mythos 5和一个内部研究模型，最早的案例可以追溯到4月。在Anthropic看来，通过加强监控与管控，并持续投入资源确保人工智能与人类价值观保持一致，这类风险是可以克服的。
无独有偶，8月初，有知情人士称，Meta的Muse Spark 1.1模型在网络安全测试期间接入互联网并黑入另一家公司，修改其内部系统。据悉，由于“沙盒”测试环境出现错误，这款AI模型得以接入互联网。
事实上，对AI安全的担忧一直存在。早在2023年，非营利机构未来生命研究所便发布公开信，埃隆·马斯克、图灵奖得主约书亚·本吉奥、苹果联合创始人沃兹尼亚克等上千名科技从业者、学者共同签名，呼吁全球AI实验室，至少暂停训练比GPT‑4能力更强的大模型六个月。
去年10月，未来生命研究所又联合包括AI教父杰弗里·辛顿在内的超800名科技领袖及公众人物，再次发布一份倡议，呼吁在“超级智能”技术被科学界普遍认定为可控、安全，并获得公众广泛支持之前，暂停其进一步发展。
今年6月，Anthropic也曾呼吁全球暂停前沿AI开发。Anthropic认为，赋予世界放缓乃至暂停前沿AI开发的选项，将是有益的——这有助于社会结构和对齐研究跟上技术进步的步伐。Anthropic研究院将与众多合作方开展研究，并采取实际行动，帮助构建一个可信的减速或暂停机制所需的制度体系。
该公司强调，如果这样的体系得以建立，预计Anthropic将选择减速或暂停，前提是其他处于或接近前沿的开发者也以可核实的方式同步这样做。
而在OpenAI模型自主入侵事件发生后，超过1100名来自多家头部AI企业的员工近日联名发布请愿书，呼吁美国政府支持建立国际协调机制，在必要时主动放缓前沿AI技术的发展速度，以防AI能力超出人类理解和控制范围。
但现实层面，要想迫使AI巨头暂停前沿AI研发面临大量阻碍。一方面，美国至今没有出台统一、完整的联邦人工智能立法，现行规则大多属于企业自愿性承诺，缺少强制法律效力。美国国会内部立场分裂十分明显，民主党内部对于强监管的尺度分歧巨大，相关提案很难在参议院拿到足够票数通过。
另一方面，全球AI研发已经进入跨国竞争格局。巨额资本已经深度押注大模型赛道，数百亿美元算力、人力投入绑定企业商业目标，企业股东、投资人很难接受主动按下暂停键，放弃市场窗口期。
有行业观察人士指出，桑德斯这封信件更大的价值，或许并不在于立刻促成暂停AI研发，而是指出行业自律的局限性。AI安全问题需要通过更多政府部门、机构和公司联手，借助有效的行业协议、标准或制度来共同应对。
