Microsoft 사장 Brad Smith가 전 세계적인 AI 안전 규정 마련을 촉구했습니다. 이 기술에는 우유나 세탁기보다도 적은 요건이 적용된다고 주장했으며, Bbc가 처음 보도했습니다. 제안에는 사고 보고 의무화, 통제 불능 AI 에이전트가 시스템을 침해했을 때 피해자에게 알리는 절차, 제품 출시 전 외부 평가자의 승인이 필요한 경우를 정하는 규칙 등이 포함됩니다.
Smith는 기업들이 흔히 킬 스위치라고 부르는 비상 정지 장치를 마련해 AI가 통제 불능 상태에 빠질 경우 작동을 일시 중지하거나 속도를 늦출 수 있어야 한다고 말했습니다. 그는 AI를 도구이자 무기로 묘사했습니다.
제안은 시스템 통제, 기업의 보고 의무, 외부 평가를 아우릅니다. Smith는 정부와 독립된 평가자가 새로운 AI 기술을 심사하고, 제품 출시 전 외부 평가자의 승인이 필요한 경우를 규정하는 방안도 제시했습니다.
Smith는 세탁기에 AI보다 더 엄격한 안전 규정이 적용되며, 식료품점에서 판매되는 우유는 모든 제품이 안전 규정과 검사를 거친다고 말했습니다.
Smith는 영국이 전 세계 규정을 주도하기에 가장 적합한 국가라고 말하며, Rishi Sunak 전 총리 재임 시절 AI Safety Institute로 출범한 AI Security Institute를 근거로 들었습니다. 그는 미국이 EU의 규정보다 영국 주도의 규정을 더 수용할 것이라고 내다봤습니다. 워싱턴 사람들은 런던을 브뤼셀과 같은 시각으로 보지 않는다는 설명입니다.
이 입장은 미국 기업이 중국 경쟁사에 뒤처지지 않도록 AI 업계가 자율 규제해야 한다는 Donald Trump 대통령의 견해와 다릅니다. 지난달 말 Trump는 OpenAI, Anthropic, Nvidia, SpaceX, Meta, Google의 지도자들을 백악관으로 초청했습니다. 기업 경영진은 도덕적 구속력이 있다고 설명된 문서에 서명했습니다.
기업들은 독립 감사기관과 협력해 AI 시스템이 의도한 대로 작동하는지 평가하고, 시스템이 해킹되거나 의도치 않은 방식으로 기술 시스템에 접근하지 않도록 하기로 합의했습니다. Smith는 이 성명을 환영하고 Microsoft도 기꺼이 서명한다고 밝혔지만, 이제는 그것만으로 충분하지 않다고 덧붙였습니다.
그는 자율 규제의 문제는 책임감 있는 기업은 기대되는 일을 하겠지만, 우려해야 할 대상은 책임감이 덜한 기업이라는 점이라고 말했습니다.