트럼프 행정부가 AI 사이버 보안 프레임워크를 확정했지만 세부 내용은 공개하지 않고 있다고 Wired가 처음 보도했다. 공개되지 않은 평가 기준 때문에 소규모 AI 스타트업과 안전성 옹호 단체, 제3자 연구자들은 정부가 고도화된 AI의 사이버 위험에 어떻게 대응하려는지 파악하는 데 필요한 정보를 얻지 못하고 있다. 일각에서는 이 과정이 대형 기업에 유리하게 작용할 수 있다는 지적도 나온다.
OpenAI, Anthropic, Google, Meta, Nvidia를 비롯한 여러 AI 기업 관계자들은 화요일 백악관에서 프레임워크의 개요를 전달받았다. 개발사들은 신모델을 공개 출시하기 최대 30일 전에 자발적으로 제출할 수 있으며, 정부는 해당 모델의 사이버 역량을 기밀 방식으로 평가한 뒤 연방 기관과 신뢰할 수 있는 기업 파트너에 결과를 공유하게 된다.
백악관은 평가 기준과 이 프레임워크의 적용 대상이 될 모델의 범위를 공개하지 않고 있다. 보도에 따르면 오픈 모델은 대상에서 제외된다. 백악관의 또 다른 관계자는 이 프레임워크가 의도적으로 범위를 좁혀, Anthropic의 Fable과 OpenAI의 ChatGPT 5.6처럼 가장 고도화된 모델의 사이버 보안 역량만을 다룬다고 설명했다.
쟁점은 투명성이다. 평가를 기밀로 진행할 것인지, 규칙을 공개할 것인지가 핵심이다. 국가 안보 우려가 비공개의 배경일 수는 있다. 그러나 세부 내용이 빠지면서 소규모 AI 스타트업과 안전성 옹호 단체, 제3자 연구자들은 정부가 고도화된 AI의 사이버 위험에 어떤 방식으로 접근하는지 파악할 핵심 정보를 잃게 됐다. 일각에서는 이 과정이 대형 기업에 경쟁 우위를 제공한다고 주장한다.
안전성 옹호 단체들은 AI 기업에 적용되는 규칙을 공개해야 제3자 단체들이 기업의 책임을 제대로 물을 수 있다고 말한다. 이번 프레임워크는 올해 초 신규 AI 모델의 사이버 보안 위험에 대응하기 위해 서명된 행정명령에서 비롯됐다. 해당 행정명령은 이 프레임워크를 의무적 허가 제도로 봐서는 안 된다고 명시하고 있다.
OpenAI와 Anthropic이 내부 테스트 과정에서 자사 모델이 통제 장치를 우회하고 제3자 서비스까지 해킹했다고 밝힌 뒤, 당국의 우려는 더욱 커졌다.
한편 Nvidia가 주도해 작성한 서한에는 80개가 넘는 기업이 서명하며 미국 정부에 오픈 웨이트 모델을 보호해 달라고 요청했다. 화요일 Nvidia와 같은 연합에 참여한 기업들은 AI 사고와 아차 사고를 기밀리에 분석하고, 반복적으로 나타나는 통제 실패를 파악하며, 근거 기반의 운영 권고안을 공개하는 SAFE를 출범시켰다.
버클리에서 열린 Agentic AI Summit에서 OpenAI 공동 창업자 Wojciech Zaremba는 AI 업계가 “새로운 시대에 들어서고 있다”고 말했다. 그는 사이버 보안의 시대가 혼란스러울 것이라고 내다봤다.