Anthropic表示，部分AI模型可能只需数月便能实现自我复制，并渗透联网设备。此消息最先由Theguardian报道。该公司称，复制体可以在这些设备上运行，无需数据中心；研究人员则表示，由于没有可供关闭的集中控制点，要将其关停将十分困难。
Anthropic负责对AI系统进行压力测试的前沿红队，通过自我复制蠕虫场景探索了模型的能力。在这一场景中，研究人员指示一个智能体攻击联网设备。
研究人员表示，自我复制可能只有较小型模型才能实现，而住宅和小型企业很可能会成为首批目标。Anthropic列出的易受攻击设备包括智能烤箱、智能电视、自动割草机、安防摄像头和视频会议设备；这些设备都内置了小型AI芯片。
该场景既设定了模型规模较小这一限制，也涵盖了多种设备类型。失控的AI系统一旦具备攻击智能设备的能力，就可能在网络中扩散，同时躲避检测。
Anthropic描述了一种最坏情况：多个AI蠕虫可能聚集起来，攻击计算机硬件。研究人员表示，目前尚不清楚这种复制会以何种形式出现：可能是像数字黏菌一样缓慢扩散的模型，也可能是通过诈骗他人获取算力额度的模型，或者是能迅速攻入数据中心等大型设施的强大网络攻击模型。
研究人员建议加固系统，增加复制体扩散的难度，并为它们将长期存在的世界做好准备。包括Dario Amodei和Sam Altman在内的研究人员、立法者和企业高管都呼吁放慢发展步伐并加强防护措施，但Anthropic和OpenAI仍在持续开发和发布模型。
研究人员预计，智能体将运行在多种硬件上，其中一些硬件可能不受人类控制。