据 Businessinsider 首先报道,前 OpenAI 安全系统负责人 David Robinson 表示,OpenAI 一边警告外界模型的能力,一边仍继续训练和部署模型。他的讲述将 OpenAI 公开发出的警告、呼吁放慢 AI 发展步伐的声音,与他所描述的那段时期公司内部持续训练、部署和紧张忙碌的景象并置呈现。
上周离开 OpenAI 后,Robinson 首次接受采访,与 The New York Times 的《The Ezra Klein Show》主持人 Ezra Klein 对谈。他告诉 Klein,OpenAI 曾多次警告新模型的能力,也表达过放慢 AI 发展的意愿,但在幕后,公司仍一如既往地加速推进。Robinson 将这种落差称为认知失调。
7 月,数百名 OpenAI 员工签署了一封题为《放慢前沿发展步伐》的公开信,敦促政府出台法规,减缓 AI 发展。9 月,首席执行官 Sam Altman 表示,他认同 Anthropic 首席执行官 Dario Amodei 的观点;后者在一篇文章中主张 AI 公司应协调行动、放慢发展步伐。Altman 还表示,近期 OpenAI 内部讨论的首要议题之一就是放慢前沿发展步伐。
公开呼吁放慢 AI 发展,与 Robinson 所述的公司内部持续运转形成对照。他形容 OpenAI 办公室里忙得不可开交,称不同职能团队的人不断聚到一起,人人都靠肾上腺素硬撑,已经精疲力竭。
9 月,OpenAI 首席科学家 Jakub Pachocki 在一篇关于递归式自我改进(RSI)的博客文章中呼吁保持极度谨慎。递归式自我改进指的是 AI 构建自身的过程。
此前,Robinson 在《The Atlantic》发表文章后,OpenAI 发言人表示,随着模型能力增强,公司正在加强安全与安保措施。发言人称,这些措施旨在应对当前风险,并通过安全论证预判未来进展带来的风险,同时确保模型的能力不会超出 OpenAI 能够安全管理和保障的范围。发言人还表示,必要时 OpenAI 会暂停训练或暂缓发布模型,以放慢进度。
