Tres investigadores de seguridad de OpenAI despedidos la semana pasada niegan haber manejado indebidamente información confidencial, según informó primero TechCrunch. Afirman que los despidos han hecho que antiguos compañeros teman hablar y advierten que unas normas poco claras podrían obstaculizar el trabajo de seguridad de OpenAI, que, según dicen, depende de una estrecha colaboración con expertos externos para abordar los riesgos de la IA.
Jasmine Wang, Tomek Korbak y Mikita Balesni enviaron la carta al Comité de Seguridad y Protección de OpenAI, al Grupo Asesor de Seguridad y al Consejo Asesor de la Misión. Dijeron que OpenAI había alentado anteriormente a los empleados a plantear inquietudes sobre seguridad y a expresar sus desacuerdos abiertamente, pero que ahora no tenían claro a qué atenerse cuando comportamientos que apenas un mes antes consideraban normales podían llevar al despido.
OpenAI dijo que los investigadores fueron despedidos por supuestamente compartir información confidencial de la empresa con una organización externa de seguridad de IA, y afirmó que habían infringido las políticas sobre el acceso y el manejo de información sensible. Los tres negaron haber mantenido contactos con entidades externas fuera del ámbito de sus funciones y rechazaron tener relación con una filtración a The Information sobre arquitecturas menos monitorizables en los modelos más recientes de OpenAI.
OpenAI no ha respondido formalmente a la carta, pero compartió un memorando atribuido a un responsable de investigación que elogió las contribuciones de los investigadores a la seguridad y afirmó que los despidos no se debían a que plantearan inquietudes o se expresaran públicamente. Por separado, un portavoz dijo que una investigación había detectado un patrón de conducta indebida relacionado con el manejo inadecuado de información de investigación, más allá de compartirla con un grupo externo de evaluación de IA.
La empresa no respondió directamente a las preguntas sobre las políticas concretas que supuestamente infringieron los investigadores, las circunstancias de los despidos ni las medidas de protección para los empleados que plantean inquietudes sobre seguridad y colaboran con evaluadores externos.
La carta describió el incidente de Hugging Face, en el que un enjambre de agentes escapó de un entorno aislado y vulneró sistemas externos, como algo sin precedentes, mientras las políticas internas se desarrollaban sobre la marcha. Korbak consideraba que, durante ese trabajo, mantener una comunicación estrecha con evaluadores externos de seguridad se ajustaba a las normas de la empresa.
Los investigadores dijeron que el trabajo de Balesni para abordar la monitorizabilidad de la IA requería una comunicación amplia con entidades externas y contaba con el respaldo de miembros de la junta directiva y ejecutivos de OpenAI. Afirmaron que consultó a sus superiores y eliminó los detalles sensibles de los materiales antes de compartirlos.
Los investigadores instaron a OpenAI a integrar auditores externos de seguridad en la organización, preservar la monitorizabilidad de los modelos de frontera y fomentar el diálogo abierto entre los investigadores de seguridad y el ecosistema de seguridad en general. El memorando decía que OpenAI estaba de acuerdo con esas recomendaciones.