Ocho estados han presentado demandas por separado en las que acusan a OpenAI de anteponer las ganancias a la seguridad y de engañar a sus clientes sobre ChatGPT, según informó primero The Verge. Las demandas alegan infracciones de las leyes de protección al consumidor, cuestionan las salvaguardas para usuarios jóvenes y citan varios casos en los que familiares sostienen que ChatGPT tuvo un papel en la muerte de sus seres queridos.
Presentadas por separado por Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana, las demandas alegan que OpenAI antepuso ilegalmente las ganancias a la seguridad al desarrollar ChatGPT. Sostienen que la empresa infringió las leyes locales de protección al consumidor al no advertir a sus clientes sobre los peligros del chatbot.
Las demandas afirman que OpenAI presentó ChatGPT como una herramienta segura y adecuada para jóvenes, pero alegan que supone un peligro para los usuarios vulnerables, entre otras cosas, porque menoscaba el pensamiento crítico, fomenta la paranoia y los delirios, ofrece consejos médicos peligrosos y promueve comportamientos y relaciones poco saludables. También acusan a OpenAI de recopilar datos de menores y de no hacer lo suficiente para impedir que los menores de edad utilicen el chatbot.
Las demandas también citan incidentes recientes de ciberataques perpetrados por IA descontroladas como prueba de lo que califican de imprudencia por parte de OpenAI. En conjunto, las acusaciones abarcan los supuestos efectos de ChatGPT en los usuarios y la forma en que OpenAI gestiona los datos y el acceso de los menores.
El portavoz de OpenAI Drew Pusateri dijo en un comunicado enviado por correo electrónico que la empresa ha incorporado protecciones específicas según la edad en ChatGPT, como controles parentales, avisos para hacer pausas y protecciones del modelo adecuadas para cada edad. Añadió que ningún sistema puede ser perfecto y que OpenAI seguirá trabajando con expertos en nuevas salvaguardas y con los estados en políticas de IA aplicables a todo el sector.
Los estados piden a los tribunales que impongan sanciones civiles y ordenen a OpenAI que deje de engañar al público sobre la seguridad de ChatGPT; algunos también solicitan la eliminación de datos personales que, según sostienen, se recopilaron ilegalmente.