ETH Zurich 연구진이 하나의 공유된 정식화로 네 가지 손재주 조작 기술, 즉 물체 잡기, 위치 이동, 손안 회전, 손안 평행이동을 익히는 단일 AI 정책 UniCross를 개발했다. 이 통합 시스템은 전문 정책에 버금가는 성능을 유지하면서 외란에 강하고, 학습하지 않은 물체에도 적응하며, 장시간 조작 작업을 위해 여러 기술을 처음부터 끝까지 연쇄적으로 수행한다. 이는 로봇 핸드가 서로 다른 좁은 기술 모음 대신 하나의 범용 두뇌로 작동하는 방향을 보여준다.
목차
연구진이 만든 것
UniCross 연구팀은 얼핏 단순해 보이는 질문에서 출발했다. 물체 잡기, 위치 이동, 손안 회전, 손안 평행이동은 서로 다른 네 가지 문제일까, 아니면 하나의 문제를 네 가지 방식으로 바라본 것일까? 연구팀의 답은 후자다. 이 시스템은 모든 기술을 손과 물체의 관계, 즉 무엇이 고정되고 무엇이 움직이며 어떤 기준 좌표계에서 움직이는지로 다시 정의한다. 그 결과 네 가지 기술이 하나의 정식화로 통합된다는 점을 보였다.
모든 기술이 동일한 관측 공간, 행동 공간, 보상 구조를 공유하므로, 기술별 전문가 정책 10개를 vanilla DAgger 모방학습으로 하나의 통합 정책에 증류할 수 있다. 이렇게 만들어진 단일 정책은 가능한 10가지 (물체, 기술) 조합을 모두 처리하며, 하나의 네트워크가 모든 기술에 사용된다.
이 프레임워크는 특정 핸드 설계에 종속되지 않는다. 서로 다른 로봇 핸드에도 같은 정식화를 적용할 수 있어, 제어 구조를 처음부터 다시 설계하지 않고도 핸드 형태가 달라진 시스템으로 전이된다. 또한 정책이 기술 간 호환성을 유지하므로 잡기, 위치 이동, 회전, 평행이동을 중단 없이 순서대로 연결할 수 있다. 연구진은 이를 플러그 삽입, 나사 조이기, 칼 작업과 같은 장시간 작업의 토대로 제시한다. 이 연구는 애니메이션, AR/VR, 로보틱스를 모두 겨냥한다.
주요 결과
가장 핵심적인 결과는 기술 간 증류가 개별 기술의 성능을 희생시키지 않는다는 점이다. 통합 정책은 네 가지 기술과 모든 학습 물체에서 각 기술별로 강력한 성능을 보였으며, 자신이 증류된 10개의 기술별 전문가 정책에 필적했다. 동시에 전문가 정책에는 없던 능력, 예를 들어 재초기화 없이 기술 간에 전환하는 능력도 얻었다.
외란에 대한 강인성도 확인됐다. 통합 정책은 전문 정책을 불안정하게 만들 수 있는 외부 교란이 가해져도 물체를 안정적으로 유지했다. 일반화 측면에서는 학습하지 않은 물체 형상에 대해 외운 궤적을 그대로 재현하는 대신 적응적인 동작을 생성했다. 이는 단순히 정해진 움직임을 암기한 것이 아니라 조작의 관계적 구조를 학습했다는 증거다.
형태 간 전이는 서로 다른 핸드 설계에서도 동일한 학습 프레임워크가 작동한다는 뜻으로, 엔드 이펙터를 교체하는 플랫폼에 특히 중요한 특성이다. 가장 중요한 성과는 기술 간 연속성이다. 정책은 잡기 → 위치 이동 → 회전 → 평행이동을 모드 전환에 따른 추가 비용 없이 장시간 순서로 연결한다. 연구진은 이를 손재주 조작 기술이 서로 분리된 역량이 아니라 하나의 공유된 해법 공간에서 구현된 사례라는 증거로 해석한다. 하나의 정책으로 여러 기술을 수행하는 것이다.
작동 원리
UniCross는 조작 기술이 실제로 무엇인지 다시 정의하는 방식으로 작동한다. 각 기술은 손과 물체의 관계, 즉 어떤 요소가 고정되고 어떤 요소가 움직이며 어떤 기준 좌표계가 움직임을 정의하는지로 특징지어진다. 네 가지 기술은 하나의 표에서 다음 네 행으로 정리된다.
| 기술 | 고정 요소 | 이동 요소 | 기준 좌표계 |
|---|---|---|---|
| 잡기 | 물체 위치 | 손 | 루트(월드) |
| 위치 이동 | 손을 기준으로 한 물체 위치 | 손목 | 루트(월드) |
| 회전 | 손목, 손안에서의 물체 위치 | 지정 축을 기준으로 한 물체 방향 | 손 |
| 평행이동 | 손목, 손안에서의 물체 방향 | 지정 축을 따른 물체 위치 | 손 |
이렇게 하면 모든 기술이 동일한 관측 공간, 행동 공간, 네트워크 구조를 갖게 된다. 예를 들어 회전과 평행이동의 차이는 본질적으로 서로 다른 학습 문제라는 데 있지 않다. 손 좌표계 안에서 물체의 방향이 움직이는지, 아니면 위치가 움직이는지의 차이일 뿐이다.
학습은 두 단계로 진행된다. 먼저 동일한 관계적 정식화를 사용해 가능한 각 (물체, 기술) 조합에 해당하는 10개의 기술별 전문가 정책을 학습한다. 다음으로 vanilla DAgger를 사용해 이 전문가들로부터 하나의 기술 통합 정책을 증류한다. 증류 정책을 실행해 상태를 수집하고, 방문한 각 상태에서 해당 전문가에게 올바른 행동을 질의한 뒤, 평균제곱오차 모방 손실을 사용해 누적된 상태-행동 쌍으로 통합 정책을 학습한다. 학습 환경은 가능한 모든 (물체, 기술) 조합에서 균등하게 샘플링한다. 덕분에 정책이 가장 쉽게 익힐 수 있는 특정 기술 쪽으로 치우치는 것을 막는다.
모든 기술이 하나의 네트워크 안에 존재하므로 정책은 재초기화 없이 기술 간에 전환된다. 연구진은 이 특성을 기술 간 호환성과 연속성이라고 부른다.
로보틱스에서 중요한 이유
손안 조작은 “로봇이 물체를 집을 수 있다”와 “로봇이 유용한 일을 할 수 있다” 사이의 병목이다. 플러그 삽입, 나사 조이기, 칼 작업과 같은 조립 작업은 안정적으로 물체를 잡은 채 손안에서 위치를 다시 조정해야 한다. 바로 UniCross가 통합한 기술들이다.
Robot Overflow에서 휴머노이드 로봇을 둘러보는 팀에게 기술 간 형태 전이 결과는 재학습 없이 서로 다른 핸드 설계에 적용할 수 있는 제어 시스템의 가능성을 보여준다. 산업 현장에서는 잡기, 위치 이동, 회전, 평행이동을 하나의 외란 강건 정책으로 처리하면 기술 설계 부담이 줄어든다. 작업별 전문 정책 모음보다 학습하고 시험하며 유지보수해야 할 정책 수가 적기 때문이다.
장시간 기술 연결 결과는 실제 자동화에서 특히 중요하다. 생산 작업은 대개 하나의 기술로 끝나지 않는다. 잡고, 방향을 맞추고, 삽입하고, 놓는 과정이 이어진다. UniCross는 하나의 정책이 이 전체 순서를 끊김 없이 수행할 수 있음을 보여준다. 이는 손이 스크립트로 짜인 엔드 이펙터가 아니라 실제 손처럼 움직이는 손재주 산업용 로봇을 향한 한 걸음이다.
한계와 남은 질문
이 논문은 학습 환경에서 UniCross를 검증했으며 실제 로봇 하드웨어에 배치한 결과는 보고하지 않았다. 따라서 시뮬레이션에서 현실로의 전이는 여전히 미해결 과제다. 또한 이 접근법은 증류 전에 10개의 전문가 정책을 학습해야 하므로 계산 비용이 크며, 통합 정책의 성능은 증류 대상 전문가의 성능을 넘어설 수 없다.
학습하지 않은 형상에 대한 일반화는 입증됐지만, 제공된 자료만으로는 이러한 미지 물체 분포의 경계가 정량화되지 않았다. 마지막으로 네 가지 기술은 한 손과 하나의 물체를 다루는 조작에 한정된다. 관계적 정식화를 양손 작업, 도구 사용, 변형 가능한 물체로 확장하는 일은 아직 이 프레임워크가 다루지 못한 연구 방향이다.
자주 묻는 질문
UniCross란 정확히 무엇인가? UniCross는 기술마다 하나의 정책을 따로 두는 대신 하나의 공유된 정식화로 네 가지 손재주 조작 기술, 즉 잡기, 위치 이동, 손안 회전, 손안 평행이동을 수행하는 단일 AI 정책이다.
하나의 정책이 어떻게 네 가지 서로 다른 기술을 처리하나? 각 기술을 손과 물체의 관계로 다시 정의한다. 기술마다 달라지는 것은 어떤 요소가 움직이는지, 그리고 어떤 기준 좌표계에서 움직이는지뿐이다. 모든 기술이 동일한 관측 공간과 행동 공간을 공유하므로, 기술별 전문가 10개를 모방학습으로 하나의 통합 정책에 증류할 수 있다.
통합 정책은 전문가 정책보다 성능이 떨어지지 않나? 그렇지 않다. 증류된 정책은 기술별 전문가에 필적하는 개별 기술 성능을 보이면서도 외란에 대한 강인성, 학습하지 않은 물체에 대한 일반화, 원활한 기술 연결과 같은 기술 간 능력을 새롭게 얻었다.
UniCross가 실제 로봇 핸드에서도 작동할까? 이 프레임워크는 핸드 형태가 달라져도 전이할 수 있으므로 특정 설계에 묶여 있지 않다. 다만 실제 하드웨어에 배치한 결과는 아직 제시되지 않았으며, 현실 세계 검증이 분명한 다음 단계다.
결론
UniCross는 서로 달라 보이는 네 가지 손재주 조작 기술이 사실 하나의 손-물체 관계를 변형한 것에 불과하며, 하나의 증류 정책이 이들을 모두 익힐 수 있음을 보여준다. 이는 애니메이션, AR/VR, 로보틱스에서 범용 조작으로 나아가는 구체적인 진전이다. 기술 간 호환성, 강인성, 장시간 기술 연결이 서로 다른 전문 정책을 쌓아 올린 결과가 아니라 하나의 모델에서 나온다는 점에서 의미가 크다.