OpenAI는 Dots 작업을 서로 다른 기반 AI 모델에 자동으로 배정하는 시스템을 도입한다고 발표했다. 이 소식은 Fortune이 처음 보도했다. 이 라우터는 Dots의 컴퓨팅 부담을 줄이기 위한 것이다. 더 강력하고 상시 작동하는 에이전트가 더 많은 컴퓨팅 자원을 소비하는 가운데, 언제든 이용할 수 있도록 설계된 비서형 서비스에는 컴퓨팅 자원이 핵심 제약으로 작용한다.
뉴욕에서 기자들과 만찬을 한 자리에서 ChatGPT 소비자 사업 책임자 Adam Fry는 Dots의 컴퓨팅 집약도가 높다고 설명했다. 각 Dot에는 접근 권한을 부여받은 계정과 서비스를 이용해 작업을 수행하는 자체 클라우드 컴퓨터가 있다.
이 비서들은 이메일을 읽고 답장하거나 행사 티켓을 찾아 예매하도록 돕는다. Dots는 월 $100인 Pro 구독자만 이용할 수 있다.
OpenAI에 따르면 새 작업 라우터는 GPT-6.1 Terra를 포함해 작업별로 서로 다른 기반 모델을 배정한다. Terra는 모든 Dots 작업을 처음 처리했던 더 큰 모델인 GPT-6 Astra보다 작고, 컴퓨팅 자원도 덜 사용한다.
Musk는 이번 주 Grok Bot 운영 비용이 “수익에 비해 지속 불가능할 정도로 높다”고 말했다. 컴퓨팅 자원 배정이 축소돼 사용자들이 더 빨리 사용 한도에 도달하고 있다고 시사했다.
Fry는 컴퓨팅 효율이 획기적으로 개선되면 모델 성능이 향상되는 동시에 비용도 빠르게 낮아질 것으로 예상한다. 하지만 효율 개선에 맞서는 요인도 있다. 더 강력하고 상시 작동하는 개인용 에이전트는 더 많은 컴퓨팅 자원을 소비한다.
OpenAI는 이번 주 데이터 센터를 컴퓨팅 캠퍼스로 새롭게 부르려는 작업에도 착수했다. 이는 전국적으로 초당파적인 반발이 거세지는 가운데 나온 움직임이다. 일자리 창출과 환경 보호를 비롯한 지역사회 혜택이 충분히 명확하지 않으면 주민들의 반발로 인허가가 늦어지거나 시설 건설이 무산될 수 있다. OpenAI는 지역 전력망의 부담을 줄이고, 지역 주민 가정에 공급되는 제한된 전력을 가져가지 않겠다고 약속했다.