조작 정책은 대부분 이진 작업 성공 여부로 평가됩니다. 성공 여부는 인지, 파지, 실행, 전략을 단 하나의 점수로 합산하므로, 정책마다 실패 원인이 달라도 같은 점수를 받을 수 있습니다. 또한 이 점수는 오해를 불러일으킬 수 있습니다. 명령된 동작이 잘못되었는데도 정책이 합격점을 받을 수 있기 때문입니다. 예를 들어, 문을 대상으로 학습한 행동 모방 정책은 테스트 시 처음 접하는 서랍의 절반이 넘는 에피소드에서 문을 열 때 흔히 쓰는 호를 그리는 동작으로 서랍을 엽니다. 하지만 서랍의 관절은 이런 회전을 허용하지 않는데도 각 에피소드는 성공으로 평가됩니다. 좋은 평가 방식은 명령된 동작을 대상의 운동학적 특성과 대조해 측정해야 합니다.
서론
조작 정책은 대부분 이진 작업 성공 여부로 평가됩니다. 성공 여부는 인지, 파지, 실행, 전략을 하나의 점수로 합산하므로, 두 정책이 서로 다른 이유로 실패해도 같은 점수를 받을 수 있습니다. 또한 명령된 동작이 잘못되었는데도 겉보기에는 양호한 점수를 기록해 오해를 불러일으킬 수 있습니다.
예를 들어, 문을 대상으로 학습한 행동 모방 정책은 테스트 시 처음 접하는 서랍의 절반이 넘는 에피소드에서 문을 열 때 흔히 쓰는 호를 그리는 동작으로 서랍을 엽니다. 이 회전은 서랍의 관절이 허용하지 않지만, 성공 여부 평가에서는 각 에피소드가 합격으로 처리됩니다. 좋은 평가 방식은 명령된 동작을 대상의 운동학적 특성과 대조해 측정해야 합니다.
제약 참조 전략
제약 참조 전략(CRS)은 반사실적 질문을 평가해 다른 요인의 영향을 분리합니다. 손잡이가 이미 유효한 자세로 파지되어 있다고 가정할 때, 정책이 명령한 동작은 물체의 제약 조건과 운동학적으로 일치하는가?
CRS는 교사 강제 방식의 탐색을 통해 이 질문에 답합니다. 오라클 역할을 하는 스크립트 기반 컨트롤러가 열기 동작 순서에 따라 로봇을 기준 상태에 배치하고, 각 상태에서 정책이 명령한 말단 효과기의 트위스트를 기록합니다. 기준 상태는 정책을 평가할 위치를 정하고, 관절의 기하구조는 어떤 명령이 유효한지를 결정합니다.
자주 묻는 질문
이진 작업 성공 여부로는 무엇을 파악하기 어렵나요? 인지, 파지, 실행, 전략을 하나의 점수로 합산하므로 서로 다른 실패가 같은 결과로 평가될 수 있습니다.
성공 점수는 어떻게 오해를 불러일으킬 수 있나요? 정책이 합격점을 받더라도 명령된 동작이 물체의 관절 제약과 일치하지 않을 수 있습니다.
CRS는 무엇을 평가하나요? 유효한 파지를 가정하고, 정책이 명령한 동작이 물체의 제약 조건과 운동학적으로 일치하는지를 평가합니다.
CRS는 정책을 어떻게 탐색하나요? 오라클이 열기 동작 순서에 따라 로봇을 기준 상태에 배치하고, 각 상태에서 정책이 명령한 말단 효과기의 트위스트를 기록합니다.