Caltech 연구진은 PAC-MAN이라는 인식 기반 안전 프레임워크를 개발하여 Unitree G1 휴머노이드가 온보드 뎁스 카메라와 관절 센서만으로 던져진 공을 피하도록 훈련시켰습니다. 핵심 발견: 가장 강력한 안전 보장은 로봇의 인식 성능이 이를 뒷받침할 때만 효과가 있으므로, 실제 하드웨어에서는 더 가벼운 안전 구조가 더 나은 결과를 냅니다.
목차
연구진이 만든 것
PAC-MAN은 제어 배리어 함수(CBF)와 강화 학습을 결합한 훈련 프레임워크로, 휴머노이드가 전신을 사용해 다가오는 공을 피할 수 있게 합니다. 공이 로봇을 향해 발사되면, 손가락이나 발목을 포함한 어떤 신체 부위도 공에 닿지 않고 균형을 유지해야 시도가 성공한 것으로 간주합니다. 참조 동작 없이 로봇은 센서 신호만으로 회피 동작을 스스로 생성합니다.
프레임워크는 두 가지 수준의 안전 구조를 테스트합니다. Link-CBF는 훈련 중에 사용되는 가벼운 링크별 페널티로, 정책이 신체 어느 부위와도 접촉하지 않도록 유도합니다. Joint-CBF는 안전 집합을 전신 관절 공간에 투영하는 더 강력한 구조로, 훈련을 안내하거나 정확한 공 상태가 주어졌을 때 런타임 안전 필터로 사용할 수 있습니다.
배포 시 로봇은 온보드 센싱으로 얻는 정보만 사용합니다: 고유 수용감각과 볼만 분할된 뎁스 이미지. 적대적 모션 사전(AMP)은 경직된 자세 대신 웅크리기, 기울이기, 옆으로 이동, 점프 등의 회피 동작을 형성합니다. 두 가지 배포 조건을 연구했습니다: 단일 보정 투척과 로봇이 스테이션으로 걸어 돌아가 회복하는 연속 루프.
주요 결과
PAC-MAN의 핵심 발견은 안전 구조와 인식의 결합입니다: 더 강력한 배리어 구조는 관측이 이를 뒷받침할 때만 효과가 있습니다.
상태 오라클이 정확한 공 위치를 제공할 때는 런타임 필터를 포함한 전체 Joint-CBF가 가장 강력한 구성이었습니다. 그러나 실제 온보드 고정 카메라에서는 훈련 중 정책에 내재화되어 런타임 필터가 필요 없는 더 가벼운 Link-CBF가 가장 좋은 배포 옵션이었습니다. 시뮬레이션의 오라클 조준 짐벌은 그 사이에 위치하여 위협을 더 오래 시야에 유지하면 더 많은 안전 구조가 발휘된다는 것을 보여주었습니다.
팀은 온보드 뎁스와 고유 수용감각만 사용하는 고정 카메라 Link-CBF 정책을 Unitree G1 휴머노이드에 제로샷 배포했습니다. 로봇은 실제 투척을 성공적으로 회피했으며, RGB에서 공이 의미론적으로 분할되므로 동일한 정책이 재훈련 없이 다른 공도 처리할 수 있습니다.
벤치마크는 또한 엄격한 모든 링크 접촉 기준을 사용합니다. 결과에 따르면 많은 명백한 회피가 팔다리의 스침으로 실패하므로, 골반 거리만으로 점수를 매기면 안전이 과대평가됩니다 — 이는 전신 로봇 평가에 대한 경고입니다.
작동 방식
제어 배리어 함수는 안전 상태 집합을 인코딩하고 시스템을 위험으로 밀어 넣을 명령을 자동으로 수정합니다 — 하지만 관련 상태를 사용할 수 있을 때만 가능합니다. 온보드 인식은 이 가정을 깨뜨립니다: 공은 잠깐만 보이거나, 시야를 벗어나거나, 노이즈가 많은 뎁스 픽셀 몇 개로 인식될 수 있습니다. PAC-MAN은 위협 표현과 배리어 설계를 독립적인 모듈이 아닌 하나의 결합된 안전 문제로 취급합니다.
훈련 중 CBF 구조는 두 가지 방식으로 정책에 들어갑니다. Link-CBF는 보상에 링크별 페널티를 추가하여 어떤 신체 부위도 맞을 수 있음을 가르칩니다. Joint-CBF는 안전 집합을 전신 관절 공간에 투영하여 더 강력한 신호를 제공하며, 정확한 공 상태가 있을 때 테스트 시 특권 런타임 필터로 강제될 수 있습니다.
배포 관측은 의도적으로 희소합니다: 고유 수용감각과 볼만 보이는 컴팩트한 뎁스 이미지 (RGB에서 볼을 분할하고 뎁스 채널을 게이트하여 생성). 고정 카메라는 공을 짧은 시간 동안만 볼 수 있어 정책이 내재화할 수 있는 배리어 구조가 제한됩니다. 적대적 모션 사전(AMP)은 모션을 정규화하여 웅크리기, 기울이기, 옆으로 이동, 점프 등의 회피 동작이 나타나게 합니다.
실패는 엄격하게 평가됩니다. 어떤 링크 접촉이라도 히트로 간주되며, 몸통 방향, 베이스 높이, 지속적인 웅크림이 임계값을 넘으면 낙상으로 선언됩니다. 벤치마크는 고정된 동상에 대한 정확한 투척을 보정하고 재설정 성공과 배포 루프를 모두 보고합니다.
로보틱스에 미치는 영향
창고, 공장, 공공장소로 진출하는 휴머노이드 로봇은 미리 계산된 경로로는 피할 수 없는 일시적 위험에 직면합니다: 선반에서 떨어지는 상자, 지게차에서 흔들리는 팔레트, 로봇 경로로 들어서는 동료 작업자. PAC-MAN은 온보드 센싱만으로 작동하는 전신 반사 신경을 시연합니다 — 외부 모션 캡처, 인프라, 원격 조작이 필요 없습니다.
더 깊은 교훈은 모든 안전 필수 로봇에 적용됩니다: 안전 필터는 그를 공급하는 인식만큼만 좋습니다. 강력한 배리어를 설계하고 깨끗한 상태를 가정하면 현장에서 실패합니다. 센서가 실제로 제공할 수 있는 것에 배리어를 맞추는 것이 중요한 엔지니어링입니다. 이것이 Robot Overflow에서 휴머노이드 로봇을 둘러보고 창고 로봇이 점점 더 교과서적인 안전 계층 대신 인식 기반 제어 스택을 필요로 하는 이유입니다.
구매자에게 이는 안전 동작이 실제 센서 데이터로 엔드 투 엔드 학습되고 단순한 거리 임계값이 아닌 접촉 기반 전신 메트릭으로 검증된 휴머노이드를 선택하도록 안내합니다.
한계 및 향후 과제
Joint-CBF의 유용성을 회복시킨 능동 짐벌은 시뮬레이션에서 오라클로 조준되었습니다. 배포 가능한 추적기 조준 버전은 추가 하드웨어가 필요하며 향후 과제로 남아 있습니다. 물리적 검증은 고정 카메라로만 실행되었고, 볼 추적 파이프라인은 RGB 분할에 의존하므로 저조도나 시각적으로 복잡한 환경에서는 어렵습니다. 벤치마크는 시험당 단일 볼을 대상으로 하지만 실제 작업장에는 여러 개의 동시적 동적 위협이 있습니다. 그리고 제로샷 배포가 성공했지만, 시뮬레이션-실제 격차는 여전히 존재합니다. 벤치마크와 훈련 파이프라인을 공개하면 커뮤니티가 이러한 격차를 정량화하고 새로운 볼 유형, 속도, 로봇 플랫폼에서 프레임워크를 테스트할 수 있을 것입니다.
자주 묻는 질문
제어 배리어 함수(CBF)를 쉽게 설명하면 무엇인가요? CBF는 로봇의 상태 공간에서 안전 영역을 정의하고 로봇을 그 영역 밖으로 밀어낼 명령을 자동으로 수정합니다. 상태를 알 수 있다면 로봇이 안전 집합 내에 머무르도록 수학적으로 보장합니다.
왜 실제 로봇에서 더 간단한 Link-CBF가 더 강력한 Joint-CBF보다 나았나요? Joint-CBF는 런타임에 전신 투영을 강제하기 위해 정확한 볼 상태가 필요한데, 고정 온보드 카메라가 이를 안정적으로 제공할 수 없습니다. Link-CBF는 훈련 중 안전을 정책에 내장하므로 로봇이 실제로 가진 희소한 관측으로 작동합니다.
이것은 피구에서만 작동하나요? 아니요. 피구는 일시적 전신 충돌 회피를 위한 의도적으로 어려운 테스트베드입니다. 동일한 인식 기반 안전 구조는 예상치 못한 움직이는 물체(떨어지는 물건, 흔들리는 짐, 너무 가까이 다가오는 사람)에 반응해야 하는 모든 로봇에 적용됩니다.
실제 배포에서 로봇이 모션 캡처나 외부 추적을 사용했나요? 아니요. 하드웨어에서 정책은 온보드 뎁스와 고유 수용감각만 사용했으며, 공은 RGB에서 의미론적으로 분할되었습니다. 외부 인프라는 전혀 사용되지 않았습니다.
결론
PAC-MAN은 휴머노이드의 전신 충돌 회피가 제어 문제만큼이나 인식 문제임을 보여줍니다. 안전 배리어를 온보드 센서가 실제로 제공할 수 있는 것에 맞춤으로써, 프레임워크는 실제 투척을 제로샷으로 회피하는 로봇을 만들어냅니다. 이 결과는 인간 환경에 진입하는 휴머노이드를 위한 실용적인 반응형 안전 설계도입니다.