비전-언어-행동(Vision-Language-Action, VLA) 모델은 추론 중에 움직이는 동적 객체를 다루는 데 어려움을 겪습니다. AHEAD는 흐름 매칭 동역학(flow-matching dynamics)에 운동학적 조건(kinematic conditioning) 및 적응형 수평선 정지(adaptive horizon halting)를 결합한 잠재공간 예측 월드 모델을 도입하여, VLA 기반 조작에서 움직이는 객체의 실시간 차단을 가능하게 합니다.
서론
동적 환경에서의 로봇 조작은 정책 실행 중 객체 움직임에 대한 추론을 필요로 합니다. 비전-언어-행동 모델은 정적 장면에서 뛰어난 능력을 보여주었지만, 추론 중 움직이는 객체에 대한 시간적 추론 능력이 부족합니다. AHEAD는 VLA 잠재공간에서 미래 장면 상태를 예측하고, 토큰별 운동학적 추정값을 조건으로 하며, 예측 불확실성에 따라 롤아웃을 적응적으로 중단함으로써 이 문제를 해결합니다.
운동학적 조건을 갖춘 흐름 매칭 월드 모델
월드 모델이 데이터로부터 완전한 물리 법칙을 학습하도록 요구하지 않기 위해, AHEAD는 속도 조건을 등가속도 운동학 하에서 롤아웃 단계에 걸쳐 해석적으로 전파합니다.
적응형 수평선 정지
계산 자원을 시간적으로 배분하기 위해, AHEAD는 예측 불확실성이 임계값을 초과할 때 각 롤아웃을 중단합니다. 각 단계에서 추출된 궤적 샘플은 토큰당 분산의 평균으로 단계별 장면 수준 불확실성 추정값을 제공합니다.
실험
우리는 여러 동적 객체 조작 시나리오의 시뮬레이션과 실제 UFactory xArm 7 로봇을 사용한 5가지 동적 과제에서 AHEAD를 평가합니다. 각 구성 요소의 기여도를 분리하기 위해 절제 연구를 수행합니다.
한계 및 향후 연구
논문이 채택되면 최종 카메라 레디 버전에는 감사의 말이 포함됩니다. 모든 감사의 말은 논문 끝에 위치하며, 유용한 의견을 준 리뷰어, 아이디어에 기여한 동료, 재정적 지원을 제공한 연구 기관 및 기업 후원자에 대한 감사를 포함합니다.
아키텍처 세부사항
256차원 은닉 상태를 가진 4층 트랜스포머가 선택된 움직임 강화 토큰을 압축하여 컴팩트한 잠재 표현을 생성합니다. 각 선택된 토큰은 패치 위치로 인덱싱된 학습 가능한 2D 위치 임베딩을 받아, 공간 위치가 고정된 VLA 표현과 일치하도록 합니다. 여기서 움직임 강화 토큰이 인덱싱되고 잠재 차원이 지정됩니다.
고려된 대체 아키텍처
월드 모델은 고품질 예측을 생성하고 단계별 지연 예산 내에서 완료되어야 합니다. 우리는 세 가지 후보 아키텍처를 고려했습니다.
확산 기반 월드 모델은 고품질 샘플을 생성하지만 100회 이상의 잡음 제거 단계가 필요하므로 각 롤아웃이 예산을 초과합니다.
조건부 흐름 매칭은 잡음에서 예측된 미래 상태 분포로의 연속 정규화 흐름을 학습하며, 고품질 샘플을 위해 5번의 통합 단계가 필요합니다. 여러 샘플은 평균 예측값과 궤적 샘플 분산으로부터의 자연스러운 불확실성 추정치를 추가 오버헤드 없이 제공합니다.
AHEAD는 이러한 근거로 조건부 흐름 매칭을 동역학 모델로 채택합니다.
언어 및 움직임 중요도 세부사항
1-토큰 형태학적 팽창이 중요도 맵을 확장하여 객체 경계를 포착합니다. 절제 연구는 언어 및 움직임 중요도 신호와 균일 마스킹 간의 계산-정확도 절충을 특성화합니다.
움직임 추정 세부사항
월드 모델이 시각적 특징만으로 움직임을 추론하도록 요구하지 않고 토큰별 운동학적 상태를 조건으로 제공하기 위해, AHEAD는 RAFT와 유한 차분법을 사용하여 세 개의 연속 관측치로부터 속도와 가속도를 모두 추정합니다.
평균 풀링으로 충분한 이유는 작업 관련 객체가 여러 패치에 걸쳐 있기 때문입니다. 내부 패치는 깨끗한 속도 신호를 받고, 혼합 신호를 가진 2~4개의 경계 패치는 예측 오류에 거의 기여하지 않습니다.
운동학적 업데이트 유도
움직임 추정 불확실성을 포착하기 위해, AHEAD는 샘플별로 속도 조건에 작은 가우시안 잡음을 독립적으로 주입하여, 예측이 정확한 속도 값에 민감할 때 궤적이 발산하고 강건할 때 수렴하도록 합니다.
특징 정렬 레이어
MSE 재구성은 모든 특징 차원을 동등하게 취급하지만, VLA 행동 디코더는 파지를 위한 공간 관계와 같은 일부 차원에 민감하고 배경 질감과 같은 다른 차원에는 둔감합니다. 이 체계적 왜곡을 교정하기 위해, AHEAD는 디코딩된 특징을 행동 디코더가 선호하는 다양체에 매핑하는 토큰별 특징 정렬 레이어를 추가합니다.
우리는 정렬 레이어를 동역학 모델과 별도로, 실제 특징과 디코딩된 특징의 쌍 데이터에서 행동 오류를 직접 최적화하여 훈련합니다.
훈련 프로토콜
로봇 궤적을 수집하는 것은 비용이 많이 들어 로봇 특화 월드 모델의 훈련 데이터 규모를 제한합니다. 월드 모델은 VLA 특징 공간에서 작동하며, 고정된 인코더는 이미 다양한 인터넷 규모 데이터로 사전 훈련되었습니다. 따라서 조작 관련 맥락에서 객체 움직임을 포함하는 모든 비디오는 로봇이 장면에 등장하는지 여부와 관계없이 유용한 훈련 신호를 제공합니다. 이는 전개 분포와 거리가 먼 야외 활동 및 전신 움직임이 지배적인 광범위한 자기중심적 비디오 데이터셋보다는 탁상 상호작용 및 손-객체 동역학에 초점을 맞춘 큐레이션된 사전 훈련 코퍼스를 동기부여합니다.
시뮬레이션 환경
네 가지 시나리오는 선형 독립 운동을 테스트합니다.
컨베이어 + 컵. 컨베이어 벨트가 무작위 속도로 작업 공간을 가로질러 빨간 컵을 운반합니다. 로봇은 컵이 작업 공간을 벗어나기 전에 집어야 합니다. 벨트 속도, 컵 생성 위치, 벨트 높이는 에피소드마다 무작위화됩니다.
빔 + 컵. 빨간 컵이 무작위 속도로 수평 빔을 따라 미끄러집니다. 로봇은 위에서 컵을 잡아야 합니다. 빔 방향과 시작 위치는 무작위화됩니다.
막대 밀기 + 컵. 막대가 컵을 작업 공간 가로질러 무작위 속도로 측면으로 밀어냅니다. 로봇은 컵을 차단해야 합니다. 밀기 방향과 시작 오프셋은 무작위화됩니다.
구르는 공. 공이 일정한 수평 속도로 테이블 위를 굴러갑니다. 로봇은 공을 멈춰야 합니다.
실제 로봇 설정
UFactory xArm 7 (7-DOF) 평행 죠 그리퍼(parallel-jaw gripper). 로봇은 베이스 앞 중앙에 약 0.5m의 안전 경계 상자 내에서 작동하며, 관절이 제조사 한계 또는 작업 공간 경계에 가까워지면 움직임을 중단하는 관절 한계 가드가 있습니다.
기준 구현 세부사항
OpenVLA는 초기 관측치에서 한 번 쿼리되며, 예측된 행동 시퀀스는 완료될 때까지 개방 루프로 실행됩니다. 더 이상의 관측치는 소비되지 않습니다.
성공 기준
각 시나리오에는 시뮬레이션에서는 자동으로, 실제 로봇에서는 수동으로 평가되는 시나리오별 합격/불합격 기준이 있습니다.
성공하려면 그리퍼가 목표 객체에 닫히고 모든 손가락이 접촉한 상태에서 객체를 최소 5cm 들어 올려 2초 동안 떨어뜨리지 않고 유지해야 합니다. 다중 객체 또는 언어 및 움직임 시나리오에서 잘못된 객체를 잡는 경우 그립 자체가 성공하더라도 실패로 간주됩니다.
자주 묻는 질문
AHEAD는 어떤 문제를 해결하나요? AHEAD는 VLA 모델이 잠재공간에서 미래 장면 상태를 예측하여 움직이는 객체를 차단할 수 있게 하며, 현재 VLA 아키텍처의 정적 장면 한계를 극복합니다.
월드 모델이 실시간 성능을 어떻게 달성하나요? 단 5번의 통합 단계를 가진 조건부 흐름 매칭을 사용하고 예측 불확실성에 따라 롤아웃을 적응적으로 중단하여 단계별 지연을 예산 내로 유지합니다.
월드 모델 훈련에 어떤 데이터가 사용되나요? 모델은 탁상 상호작용 및 손-객체 동역학에 대한 큐레이션된 인터넷 비디오로 훈련되며, 로봇 특화 데이터 없이 VLA 인코더의 사전 훈련된 시각적 특징을 활용합니다.
운동학적 조건화는 어떻게 작동하나요? AHEAD는 RAFT와 유한 차분법을 사용하여 연속 관측치로부터 토큰별 속도와 가속도를 추정한 후, 등가속도 운동학 하에서 롤아웃 단계에 걸쳐 이를 해석적으로 전파합니다.