INTACT라는 새로운 접근법은 로봇이 모든 가능한 움직임을 시도하지 않고도 자신의 행동 결과를 예측할 수 있게 한다. 고수준 의도가 물리적 결과에 직접 매핑되는 방식을 학습함으로써, 현대 계획 시스템의 속도를 늦추는 계산 비용이 큰 탐색 단계를 제거한다.
목차
연구진이 구축한 것
INTACT(Isomorphic Intent-to-Action) 팀은 '의도 좌표'——로봇이 달성하려는 목표의 간결한 표현——와 환경에서의 실제 상태 전환 사이의 직접적이고 거리 보존 매핑을 학습하는 세계 모델을 개발했다. 전통적인 세계 모델이 행동을 계획하기 위해 빔 탐색, 몬테카를로 트리 탐색 또는 완전 롤아웃에 의존하는 반면, INTACT는 단일 순방향 패스를 사용하여 주어진 의도의 결과를 예측한다.
핵심 혁신은 조건부 행동 연산자의 이중 적용이다: 한 번은 실제 물리적 전환(실제로 발생한 일)에, 다른 한 번은 행동 전에 사용 가능한 의도 조건에 적용한다. 두 사용 모두 파라미터를 공유하지만 기울기 흐름이 달라, 모델이 일관된 내부 기하학을 학습하도록 강제한다. 다중 작업 설정에서 INTACT는 공유 비전 인코더와 잠재 공간을 유지하지만, 각 작업은 자체적인 작은 순방향 예측 헤드, 행동 임베딩 및 의도 디코딩을 갖는다. 보상 신호나 작업별 의미 레이블이 필요 없으며, 원시 시각적 관찰과 의도에서 결과로의 매핑만 있으면 된다.
주요 결과
INTACT는 PushT, Cube, TwoRoom, Reacher의 네 가지 표준 로봇 제어 작업에서 테스트되었다. 공식 벤치마크 프로토콜에서 이 방법은 Reacher에서 97.67%, PushT에서 85.67–86.67%(재인코딩 간격에 따라 다름)의 성공률을 달성했으며, Cube와 TwoRoom에서 높은 성능을 유지했다. 자동 성공 트리거와 알려진 구현 격차를 제거한 엄격한 "Moderate" 프로토콜로 평가했을 때, PushT, Cube, TwoRoom은 견고했지만 Reacher는 97.67%에서 49.56%로 떨어져 원래 지표가 얼마나 부풀려졌는지 드러냈다.
연구는 INTACT를 순방향 전용, 역방향 전용 및 의도 전용 기준선과 비교했다. 전체 INTACT 변형은 모든 절제 버전보다 일관되게 우수한 성능을 보였다. 예를 들어, 공동 목표-의도 기울기를 사용한 경우 78.78%의 성공률을 달성한 반면, 의도 분기를 분리하면 79.67%로 감소——두 경로가 모두 필요함을 보여준다. 다중 작업 확장도 성공적이었다: 공유 시각적 백본이 단일 전역 행동 공간 없이 여러 작업별 차트를 지원할 수 있었다.
| 지표 / 프로토콜 | INTACT 전체 | 순방향 전용 | 역방향 전용 | 의도 전용 |
|---|---|---|---|---|
| PushT 직접 SR (E1–E5, 재인코딩 1) | 85.67% | 낮음 | 낮음 | 낮음 |
| Reacher 공식 SR | 97.67% | N/A | N/A | N/A |
| Reacher Moderate SR | 49.56% | N/A | N/A | N/A |
| 공동 목표-의도 (PushT) | 78.78% | – | – | – |
| 분리된 의도 (PushT) | 79.67% | – | – | – |
작동 방식
INTACT는 순방향 공동 임베딩 예측 아키텍처(JEPA) 위에 구축된다. 로봇은 현재 관찰을 받아 잠재 공간으로 인코딩한 다음, '순방향 예측기'가 행동 후의 다음 잠재 상태가 무엇일지 추정한다. 여기서 행동은 원시 모터 명령이 아니라 학습된 의도 좌표——물리적 세계의 원하는 결과에 직접 대응하는 벡터——이다.
훈련 목표는 동일한 조건부 연산자의 두 사용을 비교한다: 하나는 실현된 전환(상태, 행동, 다음 상태)을 취하고, 다른 하나는 의도된 조건(상태, 의도, 예측된 다음 상태)을 취한다. 두 경로는 파라미터를 공유하지만 다른 기울기를 생성하도록 강제되어, 의도 표현이 예측 가능하면서도 물리적으로 근거를 갖추도록 한다. SIGReg라는 정규화 항은 잠재 공간이 저차원 블롭으로 붕괴하는 것을 방지한다.
다중 작업 학습을 위해 INTACT는 단일 ViT-Tiny/14 인코더와 모든 작업에 공유되는 192차원 잠재 공간을 사용한다. 각 작업은 자체적인 작은 순방향 예측기, 행동 임베딩 및 INTACT 헤드를 갖는다. 작업 ID는 사용할 헤드를 선택하기만 하면 되며, 보상이나 추가 레이블이 필요 없다. 전체 모델은 배치 크기 256으로 단 5 에포크만 훈련되며, 결정론적 스케일드 닷-프로덕트 어텐션을 사용한다.
결과는 주어진 의도 좌표에 대해 탐색 없이 결과 상태를 직접 예측할 수 있는 세계 모델이다. 로컬 검증이 가벼운 경계 수정 단계로 추가되지만, 주요 계산은 단일 순방향 패스에서 수행된다.
로봇공학에 중요한 이유
조작, 탐색 및 정교한 작업을 위한 최첨단 계획 시스템은 종종 계산 예산의 대부분을 탐색——수백 또는 수천 개의 행동 시퀀스를 평가하여 최적의 것을 선택——에 사용한다. INTACT는 이러한 탐색 중 많은 부분이 불필요할 수 있음을 보여준다. 로봇이 의도하는 것과 물리적으로 발생하는 것 사이의 동형 매핑을 학습함으로써, 계획은 세계 모델에서 직접 읽어오는 방식이 된다.
창고 로봇, 자동화된 피킹 암 및 휴머노이드 로봇의 경우, 이는 실시간 계획에 필요한 온보드 컴퓨팅이 적어지므로 더 빠른 반응 시간과 낮은 하드웨어 비용을 의미할 수 있다. 다중 작업 확장은 특히 실용적이다: 단일 시각 백본이 밀기, 잡기, 탐색 등 여러 다른 작업을 지원할 수 있으며, 별도의 모델이나 수동 행동 공간이 필요 없다. 이는 즉석에서 작업을 전환해야 하는 산업용 협동 로봇의 추세와 일치한다.
이 방법은 명시적 보상 신호 없이도 작동하므로, 보상이 드물거나 정의하기 어려운 환경에 적합하다. 이는 시연이 풍부하지만 보상 엔지니어링 비용이 많이 드는 창고 및 물류 환경에 유사한 모델을 배포할 수 있는 가능성을 열어준다.
한계와 미해결 질문
INTACT는 "Moderate" 프로토콜에서만 검증되었다——저자는 더 강력한 물리적 완료 주장을 가진 "Strict" 프로토콜이 실행되지 않았다고 명시한다. 다중 작업 연구는 단 3개의 무작위 시드만 사용했으며, 이는 훈련 변동성에 대한 대략적인 추정치를 제공한다. Reacher 성능이 Moderate 프로토콜에서 97.67%에서 49.56%로 떨어진 것은 원래의 높은 점수 중 일부가 쉬운 평가 설정의 인공물임을 시사하며, INTACT가 진정으로 새로운 작업이나 시각적 방해 요소가 있는 상황에서 어떻게 작동할지는 불분명하다.
또한 이 방법은 의도 좌표가 외부에서 제공된다고 가정한다——아직 원시 관찰에서 자체 목표를 생성하지 않는다. 마지막으로, 로컬 검증 단계는 여전히 소량의 탐색이 필요하므로 "탐색 없는" 주장은 주요 계획 루프에만 적용된다.
자주 묻는 질문
INTACT는 무엇의 약자인가? Isomorphic Intent-to-Action——로봇이 하려는 것과 실제로 발생하는 것 사이의 직접적이고 거리 보존 매핑을 학습한다는 의미이다.
INTACT는 표준 세계 모델과 어떻게 다른가? 전통적인 세계 모델은 좋은 행동을 찾기 위해 탐색이나 롤아웃을 자주 사용하는 반면, INTACT는 단일 순방향 패스로 의도의 결과를 예측하여 계획을 훨씬 빠르게 만든다.
INTACT에 보상 신호나 작업 레이블이 필요한가? 아니요. 시각적 관찰과 의도된 상태 전환과 실현된 상태 전환 간의 대응 관계로부터만 학습하며, 보상이나 의미 레이블이 필요 없다.
INTACT는 어떤 작업에서 테스트되었는가? PushT, Cube, TwoRoom 및 Reacher——로봇공학 벤치마크에서 흔히 사용되는 조작 및 탐색 작업의 혼합이다.
결론
INTACT는 의도와 물리적 결과 사이의 동형 매핑을 학습함으로써 로봇 계획에서 탐색을 제거하는 원칙적인 방법을 제공한다. 다중 작업 설계와 빠른 단일 패스 추론은 실제 배포에 매력적이지만, 엄격한 프로토콜과 더 다양한 작업에 대한 추가 검증이 견고성을 확인하는 데 필요하다.