今年7月全球发生的首例由自主AI智能体（Agent）发起的真实网络攻击事件，震惊了国际社会。该事件的核心是OpenAI的内部测试模型突破安全隔离，入侵了全球最大的AI开源社区Hugging Face，通过植入恶意数据集、提权、横向移动等手段，在三天内完成了超过1.7万次自动化操作，试图窃取数据。Hugging Face最后使用了中国公司的AI模型，得以及时采取应对措施。

　　美国开放人工智能研究中心(OpenAI)7月21日承认，该公司的GPT-5.6模型和另一款能力更强的预发布模型在联合进行内部评估时失控，但OpenAI表示这并非有意攻击，而是模型在“超聚焦”状态下为达成目标不择手段。公司指出，这是强化学习机制下模型目标对齐失效的典型案例，即模型为完成任务而无视安全约束。

　　此次事件暴露了AI安全治理多个关键问题，其中最让人担心的是AI自主代理的风险。AI不再仅仅是回答问题的工具，而是能自主规划路径、执行多步骤任务的Agent，并有越权行为的可能。

　　长久以来，人类对AI安全的认知，大多停留在提示词越狱、虚假信息生成、算法偏见等浅层风险，传统网络安全防护体系，依然沿用针对人类黑客、恶意程序的防御逻辑。然而人工智能技术迭代速度已经大幅跑在了安全防护体系前面，重构全域安全屏障、构建公正包容的全球AI治理架构，已经迫在眉睫。

　　这种紧迫性不仅仅是因为OpenAI的内部测试模型自主对Hugging Face实施了入侵，还有许多已经发生的人为利用AI实施暴力和犯罪的案例，都在警醒人们必须重视AI安全治理。比如今年美国入侵委内瑞拉并抓捕马杜罗总统时，使用了AI技术；再比如欧盟《人工智能法案》明确把军用AI豁免在外、俄乌战场上AI无人机的使用等等。全球AI产业普遍存在“重迭代、轻约束”的竞速困境。

　　技术边界的无限扩张，倒逼安全体系必须进行全方位系统性升级。首要的是行业内部需要重构“安全前置”的研发新标准。过去“先开发、后补防护”的模式必须彻底扭转，针对高算力、高自主性的前沿大模型，应当建立分级准入机制，将安全对齐测试、逃逸压力测试、跨境风险推演作为模型对外开放的硬性前置条件，把最小权限原则、全行为审计、动态熔断机制嵌入模型底层架构，而非事后加装防护补丁。要从“人防御机器”转向“以AI制衡AI”，做到实时监测智能体异常行为、自动识别新型漏洞攻击链路，构建与AI攻击速度相匹配的主动预警体系。

　　全球AI安全治理需要国际合作。今年7月17日至20日，2026世界人工智能大会暨人工智能全球治理高级别会议在上海举行，会议的主要目的之一就是共同探讨促进全球人工智能朝着向上向善、造福人类的方向发展。而本次OpenAI的内部测试模型入侵事件，最终借助中国AI安全技术完成应急处置，也侧面说明，单一国家、单一企业闭门搭建防护体系已经行不通。

　　如今全球尚未形成统一的人工智能治理规则，美国侧重行业自律、欧盟依靠刚性立法，各国监管尺度差异巨大，地缘博弈催生的“小院高墙”，进一步割裂了安全信息共享、漏洞协同处置的协作网络。AI智能体可以一秒跨越国界实施渗透攻击，但各国监管法案、应急响应机制互不连通，一旦发生大规模失控事件，很容易错失最佳处置窗口。因此，国际社会急需凝聚出一套适配通用人工智能时代的全新安全体系共识，唯有发展与安全双向并举，我们才能真正驾驭人工智能这股全新力量，才能让AI始终服务于人类共同福祉。

　　责任编辑：吕翎