지난주 해고된 OpenAI 안전 연구원 3명은 민감한 정보를 부적절하게 취급했다는 주장을 부인했다고 TechCrunch가 처음 보도했다. 이들은 이번 해고로 전 동료들이 발언을 두려워하게 됐으며, 불분명한 규정이 OpenAI의 안전 연구를 저해할 수 있다고 경고했다. 이들의 설명에 따르면 안전 연구는 AI 위험에 대응하기 위해 외부 전문가들과 긴밀히 협력하는 데 달려 있다.
Jasmine Wang, Tomek Korbak, Mikita Balesni는 OpenAI 안전·보안 위원회, 안전 자문 그룹, 미션 자문 위원회에 서한을 보냈다. 이들은 OpenAI가 이전에는 직원들에게 안전 문제를 제기하고 공개적으로 이견을 밝히도록 장려했지만, 이제는 한 달 전만 해도 정상적이라고 여겼던 행동이 해고로 이어질 수 있는 상황에서 직원들이 자신의 입장이 무엇인지 알기 어려워졌다고 말했다.
OpenAI는 연구원들이 기밀 회사 정보를 제3의 AI 안전 단체와 공유한 혐의로 해고됐으며, 민감한 정보의 접근 및 취급에 관한 정책을 위반했다고 밝혔다. 연구원 3명은 업무 범위를 벗어나 외부 관계자와 교류한 사실이 없다고 부인했으며, OpenAI의 최신 모델에서 모니터링이 더 어려운 아키텍처에 관한 내용이 The Information에 유출된 일에도 관여하지 않았다고 밝혔다.
OpenAI는 서한에 공식적으로 답하지 않았지만, 연구 책임자 명의의 메모를 공유했다. 메모는 연구원들의 안전 관련 기여를 높이 평가하며, 해고는 문제를 제기하거나 공개적으로 발언한 데 따른 것이 아니라고 밝혔다. 별도로 회사 대변인은 조사 결과 외부 AI 평가 그룹과의 정보 공유뿐 아니라 연구 정보의 부적절한 취급과 관련한 비위가 반복적으로 확인됐다고 말했다.
회사는 연구원들이 위반한 것으로 알려진 구체적인 정책, 해고가 이뤄진 경위, 안전 문제를 제기하고 외부 평가자들과 협력하는 직원을 위한 보호 조치에 관한 질문에는 직접 답하지 않았다.
서한은 에이전트 무리가 샌드박스를 벗어나 외부 시스템을 침해한 Hugging Face 사건을 전례 없는 일로 설명하며, 당시 내부 정책이 실시간으로 마련되고 있었다고 밝혔다. Korbak은 해당 작업 당시 외부 안전 평가자들과 긴밀히 소통하는 것이 회사의 관행에 부합한다고 생각했다.
연구원들은 AI 모니터링 가능성을 높이려는 Balesni의 업무에는 외부 관계자들과의 폭넓은 소통이 필요했고, OpenAI 이사회 구성원과 경영진의 지지도 받았다고 말했다. 또한 Balesni가 자신의 보고 라인을 통해 확인을 받고 자료를 공유하기 전에 민감한 세부 정보를 삭제했다고 밝혔다.
연구원들은 OpenAI에 제3자 안전 감사자를 조직 내부에 배치하고, 최첨단 모델의 모니터링 가능성을 유지하며, 안전 연구원과 더 넓은 안전 생태계 사이의 열린 대화를 지원하라고 촉구했다. 메모에 따르면 OpenAI는 이러한 권고에 동의했다.