据 The Verge 首先报道,八个州分别提起诉讼,指控 OpenAI 将利润置于安全之上,并在 ChatGPT 问题上误导消费者。诉讼指称 OpenAI 违反消费者保护法,质疑其对年轻用户的保护措施,并列举了数起案例,其中亲属称 ChatGPT 对其至亲的死亡事件起到了作用。
爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起诉讼。诉状指称,OpenAI 在开发 ChatGPT 时违法地将利润置于安全之上;公司未向消费者警示聊天机器人的危险,因此违反了当地的消费者保护法。
诉状称,OpenAI 将 ChatGPT 描述为安全且适合年轻人使用的工具,但指称它会危害脆弱用户,包括削弱批判性思维、助长偏执和妄想、提供危险的医疗建议,以及促成不健康的行为和关系。诉状还指控 OpenAI 收集未成年人数据,且未采取足够措施阻止未成年人使用聊天机器人。
诉状还援引近期发生的失控 AI 黑客攻击事件,作为其所称 OpenAI 行事鲁莽的证据。总体而言,这些指控涉及 ChatGPT 据称对用户造成的影响,以及 OpenAI 对未成年人数据和使用权限的处理方式。
OpenAI 发言人 Drew Pusateri 在一份电子邮件声明中表示,公司已在 ChatGPT 中加入针对不同年龄段的保护措施,包括家长控制、休息提醒和适龄模型保护机制。他说,任何系统都不可能做到完美,OpenAI 将继续与专家合作完善额外的保护措施,并与各州合作制定适用于整个行业的 AI 政策。
这些州请求法院对 OpenAI 处以民事罚款,并阻止其在 ChatGPT 安全问题上误导公众;部分州还要求删除他们称系违法收集的个人数据。
