据《The Verge》最先报道的一项为期 11 周的 METR 调查,Anthropic 模型的进步速度约为一年前的两倍。研究人员将截至 10 月的大部分加速归因于 AI;与此同时,Anthropic 大量删节内容,使公众能够用来评估研究结论及其不确定性的证据减少。
METR 的基准测试结果显示,过去一年里,Anthropic 取得的进展大约相当于此前两年的历史进展。研究人员表示,他们确信这种加速并非单纯源于训练计算资源规模的扩大;历史上,后者一直是推动 AI 进步的重要因素。
非正式的 Slack 投票和员工访谈也支持了这一评估。使用 Anthropic 最强内部模型的员工自我报告称,在各自的工作中,他们的平均效率约为没有 AI 协助时的 12 倍。这一数字大约是几个月前员工使用 Mythos 5 时报告值的两倍。
METR 表示,这种加速很大程度上似乎来自 AI 协助人类研究人员,而非 AI 独立完成工作。研究人员没有发现明显的收益递减迹象,也没有观察到可能阻碍加速进一步提升的瓶颈;他们还指出,完全自主的 AI 贡献近期可能会发挥更大作用。
过去六个月里,Anthropic 完成了三款尚未发布模型的训练:Model 2 于 7 月完成,Model 3 于 8 月至 9 月完成,Model 4 于 9 月至 10 月完成。METR 还发现了一款可追溯至 2022 年的未发布模型,名为 Unreleased 2022。
Anthropic 向 METR 提供了机密研究、模型性能数据和员工访谈内容,但没有开放不受限制的访问权限。Anthropic 删去了 METR 认为最具信息价值的大部分证据,也拒绝了少量数据请求。
这份评估将基准测试进展和员工自我报告的效率数据,与一份缺失了 METR 认为最具信息价值的大部分证据的公开报告并列呈现。Anthropic 联合创始人 Sam McCandlish 表示,删节内容是为了保护商业敏感信息,并避免给竞争对手提供加速发展的路线图。他说,Anthropic 计划在未来几周发布自己的 AI 进展报告,并公布新的安全措施。
