런타임 모니터로서의 진행도 프로브와 VLM 비교
경량 진행도 프로브가 범용 VLM을 런타임 모니터로 사용할 때와 어떻게 비교되는지 연구합니다.
진행도 헤드를 보정하기 위해 진행도 프로브 학습에 사용한 것과 동일한 학습 궤적에서 Robometer를 실행하고, 각 작업에 대해 예측된 진행도 곡선을 집계합니다. 성공 궤적에 대한 Robometer 자체 예측을 기준으로 삼아 정상 진행도를 정의합니다. 두 가지 변형을 평가합니다. 제로샷 방식인 Robometer-ZS와, SAFE 학습에 사용한 성공 및 실패 데이터셋으로 미세 조정한 Robometer-FT입니다.
실패 탐지에 따른 판별력
진행도 프로브가 실제 환경의 VLA 정책 모니터링에도 적용될 수 있는지 살펴보고, 실제 로봇에 배포했을 때 성공 실행과 실패 실행을 얼마나 잘 구분하는지 평가합니다.
방법. 하드웨어 평가 데이터셋에서 각 기준 방법을 평가하고, 모니터가 (a) 최댓값 집계를 통해 에피소드 전체가 성공 또는 실패 실행인지, (b) 궤적이 주어졌을 때 현재 시점이 성공 상태인지 실패 상태인지 판별하도록 합니다.
결론 및 한계
VLA의 내부 활성화에서 과제 진행도를 선형적으로 디코딩하는 경량 런타임 모니터링 접근법인 진행도 프로브를 소개했습니다. 시뮬레이션과 하드웨어 실험 전반에서 진행도 프로브는 기존 VLM 기반 모니터보다 계산 효율이 훨씬 높으면서도 경쟁력 있는 실패 모니터링 성능을 달성합니다. 이러한 결과는 VLA 활성화에 인코딩된 과제 진행도가 런타임 실패 모니터링을 위한 간단하면서도 효과적인 신호임을 시사합니다.
자주 묻는 질문
진행도 프로브는 무엇을 모니터링하나요? VLA의 내부 활성화에서 과제 진행도를 디코딩해 런타임 실패 모니터링을 지원합니다.
평가에서 Robometer는 어떻게 사용되나요? 성공 궤적에 대한 Robometer의 예측 진행도 곡선을 정상 진행도의 기준으로 삼습니다. 이 연구에서는 제로샷 방식과 미세 조정된 Robometer 변형을 평가합니다.
실제 로봇에서 어떤 실패 탐지 설정을 평가하나요? 모니터는 최댓값 집계를 사용해 에피소드 전체를 분류하고, 현재 시점을 성공 상태 또는 실패 상태로 분류합니다.
계산 효율 측면에서 진행도 프로브는 VLM 기반 모니터와 어떻게 비교되나요? 기존 VLM 기반 모니터보다 계산 효율이 훨씬 높으면서도 경쟁력 있는 실패 모니터링 성능을 달성합니다.