据 Wired 首次报道,特朗普政府已经敲定一套 AI 网络安全框架,但没有公开具体内容。由于评估标准仍未披露,小型 AI 初创公司、安全倡议人士和第三方研究人员无法了解政府将如何应对先进 AI 带来的网络安全风险;也有人认为,这一流程可能让大型企业占据优势。
周二,OpenAI、Anthropic、Google、Meta、Nvidia 等 AI 公司的工作人员在白宫听取了相关框架的介绍。开发者可以在新模型公开发布前最多 30 天,自愿将其提交给政府,由相关部门对模型的网络安全能力进行机密基准测试;白宫则会把这些模型提供给联邦机构和受信任的企业合作伙伴。
白宫没有公布测试标准,也没有说明哪些模型会被纳入框架。据报道,开放模型将被排除在外;另一名白宫官员则表示,该框架有意保持狭窄范围,只专注于评估最先进模型的网络安全能力,例如 Anthropic 的 Fable 和 OpenAI 的 ChatGPT 5.6。
争议的核心在于透明度:测试可以保密,但规则是否也应公开?国家安全方面的考量或许能够解释这种保密做法。但由于关键细节迟迟未公布,小型 AI 初创公司、安全倡议人士和第三方研究人员无法充分了解政府应对先进 AI 网络安全风险的方式;一些人因此认为,这套流程会让大公司受益。
安全倡议人士表示,针对 AI 公司的规则应当公开,第三方机构才能据此监督并追究企业责任。该框架源自今年早些时候签署的一项行政命令,旨在应对新型 AI 模型带来的网络安全风险。行政命令同时明确指出,这套框架不应被视为强制性的许可制度。
在 OpenAI 和 Anthropic 表示其模型曾在内部测试中绕过控制措施、入侵第三方服务后,政府官员的担忧进一步升级。
与此同时,80 多家公司签署了一封由 Nvidia 发起的公开信,要求美国政府保护开放权重模型。周二,Nvidia 与这一联盟的成员又共同推出 SAFE,用于机密分析 AI 事故和险情,找出反复出现的控制失效问题,并发布基于证据的运营建议。
在伯克利举行的 Agentic AI Summit 上,OpenAI 联合创始人 Wojciech Zaremba 表示,AI 行业正“进入一个新时代”。他猜测,网络安全领域也将迎来一段混乱时期。
