체화형 에이전트로 구성된 팀은 규모와 다양성, 임무 수행 기간이 커질수록 조정이 점점 어려워진다. 각 에이전트는 서로 다른 능력과 실행 역량, 관측 정보를 제공하지만, 동시에 업무 배분과 통신, 타이밍, 자원 활용에 관한 의사결정도 추가로 요구한다. 규모가 작고 구성이 동질적인 팀이라면 관리자 한 명이 모든 에이전트에게 직접 업무를 배정할 수 있다. 그러나 규모가 크고 이질적인 팀에서는 관리자가 다수 작업자의 상태를 동시에 추적하고, 각자의 역량을 고려하며, 시간적 의존 관계를 유지하고, 환경이나 정보가 바뀔 때마다 배정을 수정해야 한다.
체화형 인공 집단을 조직하는 일의 과제
더욱이 이러한 요구는 팀 규모만으로 설명되지 않는다. 업무의 구조 역시 그에 못지않게 중요하다. 어떤 과제는 자연스럽게 분할된다. 여러 대의 드론이 서로 다른 지역을 수색하거나, 여러 소방관이 각기 다른 장애물을 동시에 제거할 수 있다. 반면 선행 조건이 있는 과제도 있다. 소방대가 이동하려면 먼저 화재 위치를 파악해야 하고, 헬리콥터는 추가 임무를 맡기 전에 이전 수송을 마치고 적재 공간을 비워야 하며, 지상 부대를 안전하게 투입하려면 먼저 진입 경로를 확인해야 한다.
복잡한 임무는 흔히 이 두 가지 형태를 모두 포함한다. 예기치 않은 환경 변화, 에이전트나 통신의 손실, 새로운 정보의 점진적 유입과 같은 동적 변화가 발생하기도 한다. 따라서 인공 조직은 각 단계 안에서 병렬 작업을 조정하는 동시에 단계 사이의 의존 관계를 유지하고 전체적인 조정을 상황에 맞게 바꿀 수 있어야 한다.
그러므로 핵심 과제는 더 나은 계획을 세우는 데 그치지 않는다. 임무와 인력, 그리고 필요한 활동 사이의 관계에 맞는 조직 구조를 결정하는 일이기도 하다. 이를 위해서는 어떤 에이전트끼리 묶어야 하는지, 어떤 관리자가 이들을 감독해야 하는지, 관리 계층을 몇 단계로 구성해야 하는지, 각 집단을 어떤 방식으로 조정해야 하는지를 판단해야 한다.
조직 지능을 위한 테스트베드
우리는 언어 모델 기반 에이전트의 대규모 체화 협업을 평가하기 위해 처음 개발된 체화 환경 CREW-Wildfire를 확장해 인공 조직을 연구했다. 기존 환경은 절차적으로 생성되는 산불 환경과 함께 나무 제거, 정찰, 수송, 민간인 구조, 화재 진압, 종합 산불 대응 등을 포함한 12개 과제 수준을 제공했으며, 소규모와 대규모 변형을 합쳐 16개의 벤치마크 구성을 이루었다.
우리는 이 벤치마크를 25개 임무로 확장해 더 다양한 조직적 요구를 포괄하도록 했다. 여기에는 더 큰 팀, 이질적인 인력 구성, 더 긴 계획 수립 기간, 다단계 목표, 실행 중 발생하는 예기치 않은 변화가 포함된다.
CREW-Wildfire는 재현성을 위한 시드 제어 기능을 갖춘 절차적 생성 지형에서 작동한다. 고도와 수분, 바람을 나타내는 연속 필드가 숲, 관목지, 평지, 수역과 같은 이산적 지형 및 토지 피복 유형과 함께 생성된다. 정착지와 기타 임무 관련 요소는 시나리오 시드에 따라 배치된다. 이러한 변수는 위험과 자원의 공간적 분포를 바꾸고 화재의 진행에도 영향을 미치므로, 동일한 상위 수준의 목표라도 서로 다른 수색·수송·개입 전략이 필요할 수 있다.
산불은 셀룰러 오토마타 과정에 따라 동적으로 확산되며, 각 지역에서의 확산은 지형 경사와 식생, 수분, 바람 등의 환경 조건에 좌우된다. 따라서 임무가 진행되는 동안 화재는 서로 다른 방향으로, 서로 다른 속도로 번질 수 있다.
이 연구에서 다루는 조직 문제에서는 이러한 동적 특성이 결정적인 의미를 갖는다. 에피소드 초기에 수집한 관측 정보가 곧 낡은 정보가 될 수 있고, 진입 경로가 위험해질 수 있으며, 정찰과 수송, 구조, 포위, 직접 진압의 상대적 긴급성이 시간에 따라 달라질 수 있다. 따라서 팀은 공간적으로뿐 아니라 변화하는 물리적 과정에 걸쳐서도 협력해야 한다.
CREW-Wildfire에는 서로 보완적인 능력을 지닌 네 가지 작업자 유형이 포함된다.
- 소방관은 식생 제거, 민간인 구조, 물 보충, 직접적인 화재 진압이 가능한 다목적 지상 에이전트다.
- 불도저는 식생을 효율적으로 제거할 수 있지만 민간인을 구조하거나 화재를 진압할 수는 없다.
- 드론은 넓은 지역을 신속하게 정찰할 수 있지만 물리적으로 개입할 능력은 없다.
- 헬리콥터는 장거리 이동을 지원하고 소방관을 수송하며 물을 이용한 작전을 수행할 수 있다.
이러한 확장은 조직을 연구하기에 특히 적합하도록 벤치마크를 설계한 것이다. 예를 들어 드문드문 나무를 제거하는 임무는 주로 독립적인 에이전트 사이에서 작업을 분할할 수 있는지를 시험한다. 헬리콥터와 소방관의 수송 임무는 상호 보완적인 역할과 동기화된 인계가 필요하다. 수색·구조 임무에서는 정찰을 통해 얻은 정보가 이후 행동의 전제가 된다. 화재 포위에는 서로 다른 개입 능력을 가진 지상 작업자들의 협력이 요구된다.
가장 복잡한 진압 임무에서는 정찰, 자원 확보, 구조, 수송, 배치, 방화선 구축, 직접 진압을 시간의 흐름에 따라 조정해야 한다. 따라서 25개 과제는 통상적인 난이도뿐 아니라 요구하는 조정 구조에서도 서로 다르다.
과제별 조직 계층
과제 설명, 조직 시스템에 제공되는 임무 요구 사항, 배정 가능한 작업자 집합, 배정 대상이 되는 체화형 에이전트, 그리고 각자의 능력, 각 작업자가 수행할 수 있는 행동과 역할이 주어지면 ORCH는 트리로 표현되는 루트형 조직 계층을 구성한다.
트리의 말단 노드는 사용 가능한 체화형 작업자에 해당하고, 나머지 노드는 관리자에 해당한다. 계층은 인간 전문가가 설계할 수도 있고 언어 모델이 생성할 수도 있다.
각 계층적 팀 조직은 특정 과제에 맞춰 설계된다. 작업자 수가 적고 단순한 임무라면 관리자 한 명이 모든 작업자를 감독하는 얕은 구조로 충분하다. 규모가 큰 임무에서는 루트 관리자가 여러 중간 관리자를 감독하고, 각 중간 관리자가 일관된 하위 팀이나 하위 목표를 담당하는 팀들의 팀 구조가 만들어질 수 있다.
생성 과정에서는 조직을 가능한 한 단순하게 유지하되, 한 명의 관리자가 지나치게 많은 독립 작업자를 조정해야 하거나 임무에 서로 구별되는 상호 의존적 하위 목표가 포함될 때 추가적인 분해를 도입하도록 유도한다.
조직 구조가 만들어진 뒤에도 실행을 위한 뼈대 역할은 유지된다. 과제가 진행되는 동안 이 구조를 동적으로 바꾸는 방법도 탐구할 수 있을 것이다. 하지만 이번 연구는 인간 조직 이론을 도입하는 첫 단계에 해당하므로, 그러한 탐구는 향후 과제로 남겨 두었다.
구조 자체는 생성 시점에 주어진 과제에 맞게 유지되지만, 임무가 진행되는 동안 현재 계획과 단계, 배정 내용은 바뀔 수 있다. 따라서 실행 중 적응은 조직을 오가는 정보와 의사결정, 그 결과를 통해 계속 이루어진다.
계층적 통신을 통한 폐루프 실행
환경과 임무 상태가 변하는 동안 팀들의 팀이 같은 방향으로 움직이도록 하기 위해 ORCH는 로컬 진행 상황을 지속적으로 상위 계층에 전달하고, 갱신된 결정을 계층 아래로 내려보낸다. 각 환경 단계에서 상향식 상태 보고 단계와 하향식 계획 수립 단계를 번갈아 수행한다.
하향식 단계에서는 결정이 루트에서 말단 노드 방향으로 전파된다. 수평형 관리자는 자식 노드 사이에 동시 작업을 직접 배분한다. 수직형 관리자는 먼저 현재 단계와 이후 단계의 순서를 검토한 다음, 현재 단계에 필요한 작업을 배정한다.
계획을 최종 확정하기 전에 하위 노드들은 할당된 역할이 실행 가능한지, 자신들의 능력과 일치하는지 평가한다. 실행 가능한 이의가 있으면 관리자에게 전달할 수 있으며, 관리자는 더 이상의 충돌이 확인되지 않을 때까지 계획을 수정한다. 이후 작업자들은 승인된 배정 내용과 현재 관측 정보를 환경에서 수행할 행동으로 변환하고, 그 행동은 동시에 실행된다.
이 양방향 프로토콜은 각 관리자에게 자신의 책임과 관련된 상태를 압축해 보여 준다. 작업자는 집단 전체의 통신 기록을 모두 추론할 필요가 없고, 루트 관리자 역시 모든 물리적 행동을 직접 통제할 필요가 없다.
따라서 계층은 의사결정 노동을 분담하는 구조인 동시에 정보를 처리하는 구조로 기능한다. ORCH는 각 작업자 에이전트와 하위 팀의 자율성을 유지하면서도, 복잡한 과제를 수행하는 대규모 팀의 계층적 계획과 조정을 가능하게 한다.
조직 원리가 집단 성과를 향상하다
이는 중요한 결과다. 여섯 가지 지표가 서로 다른 트레이드오프를 드러내기 때문이다. 어떤 시스템은 더 많은 모델 질의를 보내거나 더 긴 메시지를 생성하거나 비효율적인 탐색을 수행함으로써 최종 성과를 높일 수도 있다.
그러나 ORCH에서는 이러한 트레이드오프가 나타나지 않았다. ORCH는 계산 및 통신 효율성에서 최선의 방법을 앞서거나 그 수준에 근접하는 동시에, 임무 성과와 실행 속도도 향상했다. 즉 조직 원리는 팀이 무엇을 달성했는지만이 아니라 집단적 의사결정이 얼마나 효율적으로 만들어졌는지도 개선했다.
인간과 인공 조직의 설계
이 결과는 두 가지 중요한 사실을 보여 준다. 첫째, 계층적 팀 설계에 조직 이론을 도입한다는 ORCH의 핵심 아이디어는 분명한 이점을 제공한다. ORCH의 모든 팀에서 성능 향상이 관찰되었기 때문이다.
둘째, 자동화된 조직 설계는 유망하지만 아직 해결해야 할 과제가 남아 있다. 비평기는 실행 가능성과 단순성을 강제함으로써 생성된 계층을 개선할 수 있다. 그러나 언어 모델이 생성한 조직과 전문가가 설계한 조직 사이에는 여전히 격차가 존재한다. 이 격차는 인공 집단 지능 연구가 앞으로 개척해야 할 구체적인 영역을 보여 준다.
통신 기록과 실패 양상 분석
ORCH의 세 가지 변형은 계층 설계가 실패 양상을 결정하는 데 핵심적이라는 점을 한층 분명히 보여 준다. 작업 배정 실패율은 인간 전문가가 설계한 계층에서 8.4%였지만, 언어 모델이 생성한 계층에서는 21.0%로, 비평기가 없는 경우에는 29.6%로 급증했다.
적응 실패율은 각각 13.6%에서 17.6%, 18.8%로 증가했다. 이러한 일관된 성능 저하는 ORCH가 계층의 품질에 크게 의존한다는 사실을 보여 준다. 더 잘 설계된 계층일수록 다중 에이전트 실행 과정에서 과제를 안정적으로 분해하고 배정하며 변화에 적응할 수 있다.
논의
우리의 결과는 인간 조직 이론에서 도출한 원리가 체화형 인공 에이전트의 집단 지능을 향상할 수 있음을 보여 준다. 25개 임무, 8개 언어 모델, 반복된 시드, 4개 비교 시스템을 대상으로 한 실험에서, 병렬 의존성과 순차 의존성을 바탕으로 조직된 팀은 더 나은 성과를 냈고, 더 효율적으로 진척을 쌓았으며, 더 효과적으로 탐색했고, 계산 자원도 경쟁력 있는 수준으로 사용했다.
이러한 이점은 언어 모델과 과제 변형 전반에서 유지되었으며, 대규모의 이질적인 팀이 병렬 작업과 순차 작업을 함께 조정해야 하는 복잡한 임무에서 특히 뚜렷하게 나타났다.
이 연구 결과는 대규모 언어 모델 기반 다중 에이전트 체화 시스템에서 분석 단위가 무엇이어야 하는지에 관해서도 중요한 점을 보여 준다. 집단의 성과는 흔히 구성원의 지능, 개별 정책의 품질, 또는 이용 가능한 통신량에 의해 설명된다.
그러나 ORCH는 권한과 정보, 책임을 어떻게 배치하는지도 중요한 변수임을 보여 준다. 동일한 작업자와 동일한 기반 언어 모델이라도 서로 다른 조직 원리 아래 배치하면 집단의 결과가 달라질 수 있다.
조직 이론에 초점을 맞춘다는 것은 인간 조직을 이끄는 원리가 다중 에이전트 AI 팀을 강화하는 데 큰 가능성을 제공할 수 있다는 중요한 통찰이다. 우리는 병렬 의존성과 순차 의존성을 실행 가능한 조정 메커니즘으로 전환했다.
병렬 작업은 관리자가 동시에 수행되는 기여를 배분하는 방식으로 표현되고, 순차 작업은 관리자가 정해진 단계와 완료 조건을 유지하는 방식으로 표현된다. 두 방식을 결합하면 조직 구조가 체화형 임무의 복합적인 의존 관계를 그대로 반영할 수 있다.
지배 원리는 구체적이지만, 계층 구조와 ‘팀들의 팀’ 구조는 대규모의 이질적인 팀을 재귀적이고 복잡한 방식으로 구성해 난도가 높은 임무까지 확장할 수 있게 한다.
우리는 개인의 능력과 집단의 능력 사이에서 흥미로운 관계를 발견했다. 기반 언어 모델은 성능에 유의미한 영향을 미쳤지만, 모델의 규모가 집단의 품질을 단조롭게 예측하지는 않았다. 동일한 조건에서 조직적 지도를 받는 집단으로 활용할 경우, 중간 규모 모델이 더 큰 모델보다 뛰어난 성과를 낼 수도 있었다.
이는 언어 모델을 고립된 추론자로 평가하는 것만으로는 조직화된 체화 시스템에 참여하는 능력을 충분히 파악하기 어려울 수 있음을 시사한다. 집단의 성과는 역할 준수, 간결한 보고, 계획 수정, 물리적 의존 관계에 대한 조정과 같은 특성에 좌우된다.
앞으로의 과제가 남아 있기는 하지만, 우리 결과의 규모와 일관성은 분명한 방향을 뒷받침한다. 인공 집단 지능의 발전을 위해서는 개별 에이전트를 더 유능하게 만드는 일뿐 아니라, 그러한 에이전트를 어떻게 조직해야 하는지를 발견하는 일도 함께 진전되어야 한다.
우리 연구는 인간 조직이 유용한 통찰을 제공할 수 있음을 보여 준다. 체화 시스템이 소규모의 동질적 집단에서 전문화된 에이전트로 구성된 대규모 팀으로 확장됨에 따라, 조직 설계는 모델 아키텍처나 계획 알고리즘만큼이나 중요해질 수 있다. 인간 조직을 이해하기 위해 발전해 온 원리는 인공 조직이라는 새로운 계산 과학의 출발점이 될 수 있다.
감사의 글
유익한 논의와 제안을 해 준 Duke University General Robotics Lab의 구성원들에게 감사드린다.
연구비: 이 연구는 W911NF2320182, W911NF2220113, W911NF242021 과제로 수행된 ARL STRONG 프로그램, HR00112490419 과제로 수행된 DARPA TIAMAT 프로그램, 그리고 W911NF2410405 과제로 수행된 ARO의 지원을 받았다.
저자 기여: B.C., Z.J., J.H.가 연구를 구상하고 설계했다. Z.J.와 J.H.가 시뮬레이션을 설계하고 실험을 수행했다. Z.J., J.H., B.C.가 데이터를 분석했다. Z.J.와 B.C.가 원고를 작성했다. 모든 저자가 의견을 제시했다.
이해 상충: 저자들은 이해 상충이 없음을 밝힌다.
데이터, 코드 및 자료 이용: 전체 코드와 데이터는 저자들의 프로젝트 저장소에서 이용할 수 있다.
보충 자료: 방법론 그림 S1–S24, 표 S1–S3, 보충 텍스트, 보충 동영상 S1.
자주 묻는 질문
ORCH란 무엇인가? ORCH는 체화형 인공 에이전트를 조정하기 위해 과제별 조직 계층을 구성하는 시스템이다.
ORCH를 평가하는 데 어떤 환경이 사용되었나? ORCH는 대규모 체화 협업을 위한 절차적 생성 환경인 CREW-Wildfire의 확장 버전에서 평가되었다.
CREW-Wildfire에는 어떤 체화형 작업자 유형이 포함되나? 이 환경에는 서로 보완적인 능력을 지닌 소방관, 불도저, 드론, 헬리콥터가 포함된다.
ORCH는 실행 중 에이전트를 어떻게 조정하나? ORCH는 상향식 상태 보고와 하향식 계획 수립을 번갈아 수행한다. 결정은 계층을 따라 이동하고 작업자들은 동시에 행동한다.