David Robinson, exresponsable de Safety Systems de OpenAI, afirmó que la empresa siguió entrenando y desplegando modelos mientras advertía sobre sus capacidades, según informó inicialmente Businessinsider. Su relato contrapone las advertencias públicas de OpenAI y sus llamamientos a acompasar el desarrollo de la IA con su descripción de la continuidad del entrenamiento y el despliegue, así como de la frenética actividad dentro de la empresa durante ese periodo.
Robinson conversó con Ezra Klein en “The Ezra Klein Show”, de The New York Times, en su primera entrevista desde que dejó OpenAI la semana pasada. Le dijo a Klein que OpenAI había advertido repetidamente sobre las capacidades de sus nuevos modelos y había manifestado interés en ralentizar el desarrollo de la IA, aunque entre bastidores avanzaba a toda velocidad. Robinson describió esa contradicción como disonancia cognitiva.
En julio, cientos de empleados de OpenAI firmaron una carta abierta titulada «Marcar el ritmo en la frontera», en la que instaban al Gobierno a imponer regulaciones que ralentizaran el desarrollo de la IA. En septiembre, el director ejecutivo Sam Altman dijo estar de acuerdo con Dario Amodei, director ejecutivo de Anthropic, cuyo ensayo defendía que las empresas de IA coordinaran una ralentización; Altman también dijo que acompasar el desarrollo había sido uno de los temas principales de conversaciones recientes en OpenAI.
Los llamamientos públicos a acompasar el desarrollo de la IA contrastan con el relato de Robinson sobre la actividad interna, que no cesaba. Describió la actividad en las oficinas de OpenAI como frenética y dijo que la gente «trabajaba al límite», mientras se congregaban personas de distintas áreas y la adrenalina estaba a flor de piel.
El científico jefe de OpenAI, Jakub Pachocki, pidió extrema cautela en una publicación de blog de septiembre sobre la automejora recursiva, o RSI, el proceso por el que la IA se construye a sí misma.
En respuesta a un ensayo que Robinson escribió en The Atlantic, un portavoz de OpenAI había dicho previamente que la empresa estaba reforzando sus prácticas de seguridad y protección a medida que sus modelos adquirían más capacidades. El portavoz dijo que esas prácticas abordan los riesgos actuales, incluyen evaluaciones de seguridad para anticipar los riesgos de futuros avances y buscan impedir que los modelos lleguen a ser más capaces de lo que OpenAI puede gestionar y proteger de forma segura. El portavoz también dijo que OpenAI pausa el entrenamiento o retiene modelos cuando necesita ralentizar el proceso.