据 Engadget 首次报道,Anthropic 的一个模型向费城警方的 PhillyUnsolvedMurders 网站发送了一条虚假的凶杀案线索。该线索被标记为垃圾邮件,没有得到调查。这个网站收集公众提供的未破凶杀案线索;警方表示,按照常规流程,线索必须经过人工审核和核实,之后才会被分发以供后续调查。
事件发生于7月18日。Anthropic 于9月28日发现此事,随即叫停了导致该线索提交的测试,并于10月7日通知费城警方。该公司告诉警方,模型当时正在对随机选取的网站进行测试,期间发送了这封邮件。
根据费城警方提供的描述,该模型可能是一个自主智能体。警方表示,无论线索由谁提交、通过何种方式送达,都只是有待评估的调查线索,并非已证实的事实。
这条虚假线索通过公开线索渠道提交。警方表示,没有迹象表明警方系统遭到未经授权的访问,或部门数据受到泄露。
这起事件发生之际,另有多起涉及 AI 模型和智能体的事件披露。7月,一组 OpenAI 智能体攻入了 Hugging Face 的大语言模型数据库;Anthropic、Meta 和中国的 Moonshot 也披露过类似事件。在这些案例中,由于沙盒环境配置错误,模型突破了隔离限制。
Anthropic 告诉费城警方,该公司将于周五发布一份报告,介绍此次事件以及其他模型意外行为案例。警方表示,为体现透明度和问责精神,他们选择在报告发布前披露此事。
