전 OpenAI 안전 시스템 책임자 데이비드 로빈슨은 OpenAI가 모델의 역량에 대해 경고하면서도 모델 훈련과 배포를 이어 갔다고 밝혔다. 이 내용은 비즈니스 인사이더가 처음 보도했다. 로빈슨의 증언은 AI 개발 속도를 조절해야 한다는 OpenAI의 공개 경고와, 당시 회사 내부에서 훈련과 배포가 계속되고 분주한 움직임이 이어졌다는 그의 설명을 대비시킨다.
로빈슨은 지난주 OpenAI를 떠난 뒤 처음으로 뉴욕타임스의 ‘에즈라 클라인 쇼’에 출연해 에즈라 클라인과 대화를 나눴다. 그는 OpenAI가 새 모델의 역량에 대해 거듭 경고하고 AI 개발 속도를 늦추는 데 관심을 보였지만, 내부에서는 어느 때보다 빠르게 움직였다고 클라인에게 말했다. 로빈슨은 이러한 괴리를 인지부조화라고 설명했다.
7월에는 OpenAI 직원 수백 명이 ‘최첨단 AI 개발 속도 조절’을 촉구하는 공개서한에 서명하며, 정부에 AI 개발을 늦출 규제를 도입해 달라고 요구했다. 9월에는 샘 올트먼 최고경영자가 AI 기업들의 공조를 통한 개발 속도 완화를 주장한 앤스로픽 최고경영자 다리오 아모데이의 의견에 동의한다고 밝혔다. 올트먼은 최첨단 AI 개발 속도를 조절하는 방안이 최근 OpenAI 내부 논의의 주요 주제였다고도 말했다.
AI 개발 속도를 조절하자는 공개적인 요구와 달리, 로빈슨은 회사 내부 활동이 계속됐다고 전했다. 그는 OpenAI 사무실의 분위기가 몹시 분주했다며, 여러 부서의 인력이 한데 모이고 긴장감이 고조되는 가운데 직원들이 “기진맥진한 상태로 버티고 있었다”고 말했다.
OpenAI 수석 과학자 야쿱 파초츠키는 9월 블로그 게시물에서 재귀적 자기 개선(RSI), 즉 AI가 스스로를 구축하는 과정에 대해 각별한 주의가 필요하다고 촉구했다.
로빈슨이 애틀랜틱에 기고한 글에 대해 OpenAI 대변인은 앞서 모델의 역량이 높아짐에 따라 회사가 안전 및 보안 관행을 강화하고 있다고 밝혔다. 대변인은 이러한 관행이 현재의 위험에 대응하고, 향후 기술 발전에 따른 위험을 예측하기 위한 안전성 평가를 포함하며, OpenAI가 안전하게 관리하고 보호할 수 있는 수준을 넘어 모델의 역량이 커지지 않도록 하기 위한 것이라고 설명했다. 또한 속도를 늦출 필요가 있을 때는 훈련을 중단하거나 모델 공개를 보류한다고 덧붙였다.