다중 스펙트럼 손끝 센서, 0.04mm 오차로 3D 형상과 힘 복원

다중 스펙트럼 손끝 센서, 0.04mm 오차로 3D 형상과 힘 복원

Xiaofan Lu, Kaiji Huang, Jiahui Chen, Yuankai Lin, Hua Yang +1개 더

5 분 읽기•2026년 8월 2일

FasTac은 가시광선과 근적외선 영상을 단일 카메라에 결합하여 접촉 형상과 3축 힘을 고속으로 복원하는 곡면 손끝 센서입니다. FPGA 기반 처리 파이프라인은 0.0415mm의 깊이 정확도를 제공하며 전체 인식 주기를 단 1.09밀리초에 완료하여, 정교한 로봇 손에 실시간 촉각 피드백을 실용적으로 만듭니다.

목차

연구진이 만든 것은?

FasTac은 정교한 조작을 위해 설계된 곡면의 손끝 크기 촉각 센서입니다. 빛을 안내하는 골격(내부에 소형 카메라 내장), 빨강·초록·파랑·근적외선 광원을 갖춘 유연한 LED 회로, 그리고 부드러운 실리콘 감지 피부의 세 가지 모듈로 구성됩니다. 카메라는 OmniVision OV2736 RGB-IR 센서를 사용하며, 4x4 컬러 필터 배열로 가시광선과 근적외선을 단일 노출로 포착합니다. 두 스펙트럼이 하나의 광학 중심을 공유하기 때문에 이미지는 픽셀 수준에서 정렬되며, 다중 카메라 시스템의 추가 부피나 등록 비용이 없습니다.

FasTac 센서 구성 요소: 빛 안내 골격, RGB-NIR 카메라, LED 회로, 실리콘 피부

감지 피부는 높은 유연성을 위해 연화제를 1:1:3 비율로 혼합한 백금 촉매 실리콘 엘라스토머입니다. 은분 반사 코팅은 외부 빛을 차단하고 대비를 높이며, 레이저로 각인된 검은 마커 점은 피부의 측면 움직임을 추적합니다. 연구진은 또한 깊이 기반 법선 변위와 마커 기반 접선 변위를 위치 인식 동적 컨볼루션으로 융합하는 힘 추정 모델인 HyperForce를 구축했습니다. 마지막으로 이미지 캡처, 3D 재구성, 힘 추정을 포함한 전체 파이프라인을 FPGA 엣지 프로세서에 구현하여 센서에서 원시 이미지를 스트리밍할 필요를 없앴습니다.

주요 결과는?

CAD 정합 기준 실제 형상과 비교한 벤치마크 테스트에서 FasTac은 RGB-NIR 조명과 경계 깊이 사전 정보를 사용하여 평균 절대 깊이 오차 0.0415mm를 달성했습니다. 이는 RGB 전용 조명(0.0618mm)보다 33% 개선된 수치입니다. 깊이 사전 정보가 없으면 두 구성 모두 약 0.27mm 오차로 악화되어, 경계 제약이 곡면 재구성 안정성에 핵심임을 확인했습니다.

HyperForce는 수직력에서 정규화 평균 절대 오차 2.74%, 전단력에서 2.39%를 기록했습니다. 전체 FPGA 파이프라인은 프레임당 1.09ms로 실행되어 약 900Hz의 실용적인 촉각 피드백을 제공합니다.

3D 재구성 깊이 오차RGB-NIR + 깊이 사전RGB 전용
깊이 사전 있음 (MAE)0.0415mm0.0618mm
깊이 사전 없음 (MAE)~0.27mm~0.27mm
힘 추정 (HyperForce)NMAE
수직력2.74%
전단력2.39%
파이프라인 성능값
이미지→힘 전체 지연 시간1.09ms/프레임
등가 업데이트 속도~900Hz
딸기 표면의 RGB-NIR 재구성이 RGB 전용보다 미세한 움푹한 부분을 더 잘 보여줌

딸기 표면, 지문, 소형 LED 배열 등 실제 물체에 대한 검증에서 RGB-NIR 재구성이 RGB 전용보다 미세한 표면 요철, 융선-골 연속성, 소형 부품 디테일을 더 완전하게 보존하는 것으로 나타났습니다.

FasTac은 어떻게 작동하나?

비전 기반 촉각 센서는 변형 가능한 피부의 반사 표면이 하중에 따라 어떻게 변하는지 추론합니다. FasTac은 포토메트릭 스테레오(photometric stereo)로 피부의 3D 형상을 복원합니다. 카메라는 여러 알려진 조명 방향에서 칠해진 엘라스토머 표면이 반사하는 빛을 관찰하고, 강도 변화로 각 픽셀의 표면 법선을 드러냅니다.

곡면 손끝은 평평한 표면에서 세 방향의 알려진 조명이 있다는 표준 포토메트릭 스테레오 가정을 깨뜨립니다. FasTac은 근적외선을 네 번째 독립 광원 채널로 추가하여 이 문제를 해결합니다. RGB-NIR 센서는 네 가지 색상을 한 번의 노출로 캡처하며, 광원은 반투명 골격 뒤에 있어 부드러운 확산광으로 산란되어 정반사 하이라이트를 줄이고 조명 균일성을 개선합니다.

FasTac 파이프라인: 다중 스펙트럼 이미징에서 3D 재구성, 3축 힘 추정까지

그런 다음 파이프라인은 두 가지 변위 신호를 융합합니다. 포토메트릭 재구성의 깊이 맵은 법선 변위(피부가 얼마나 눌렸는지)를 제공하고, 레이저 마커 점은 접선 변위(피부가 옆으로 얼마나 늘어났는지)를 제공합니다. HyperForce의 위치 인식 동적 컨볼루션은 곡면 엘라스토머가 영역에 따라 강성이 다르다는 사실을 명시적으로 모델링하여 동일한 변형이 위치에 따라 다른 힘으로 매핑되도록 합니다. FPGA는 센서 자체에서 전체 체인을 처리하여 호스트 컴퓨터로 원시 이미지를 전송하지 않고 힘 추정을 생성합니다.

로봇공학에 왜 중요한가?

빠르고 정확한 촉각 피드백은 정교한 조작에서 빠진 부분 중 하나입니다. FasTac은 약 900Hz의 유효 처리량으로 미끄러짐 감지, 파지력 조절, 진동 기반 질감 인식에 충분한 촉각 신호를 제공합니다. 그리고 인간형 손 구조에 맞는 손끝 크기의 곡면 패키지에 모두 담겨 있습니다.

엣지 처리는 지연 시간 이상의 이점이 있습니다. 이미지 데이터를 센서에 유지하면 케이블 대역폭, 전력 소모, 호스트 컴퓨터 부하를 줄여 다중 센서 손 통합을 단순화합니다. 정밀도, 속도, 폼 팩터의 결합은 정밀 조립, 취약 물체 취급, 창고 피킹 및 배치 작업 같은 실용적 응용을 가리킵니다. 기존 로봇 팔에 촉각 업그레이드를 평가하는 팀은 FasTac급 센서를 지원 플랫폼과 비교할 수 있습니다. 인간형 로봇 탐색에서 창고 로봇까지.

한계와 해결 과제는?

FasTac의 정확도는 경계 깊이 사전 정보에 의존합니다. 이것이 없으면 재구성 오차가 약 6.5배 증가합니다. 즉, 센서는 변형되지 않은 피부의 정확한 기하학적 모델이 필요하며, 이는 비정형 접촉 형상이나 심하게 변형된 피부에 대한 일반화를 제한합니다. 부드러운 엘라스토머와 은반사 코팅은 시간이 지나면 마모될 것이며, 수백만 회의 접촉 사이클에 걸친 장기 내구성은 아직 입증되지 않았습니다. FPGA 구현은 또한 전문 하드웨어 엔지니어링을 요구하며, 이 센서는 한 손끝만을 다룹니다. 손 전체의 촉각 피드백을 위해서는 이러한 센서의 조정된 배열이 필요합니다. 힘 오차 값은 논문의 테스트 조건에서 측정되었으므로, 실제 파지 범위 전체에서의 성능은 여전히 미해결 문제입니다.

자주 묻는 질문

FasTac의 3D 형상 재구성 정확도는 얼마나 되나요? 이 센서는 RGB-NIR 조명과 깊이 사전 정보를 사용하여 CAD 정합 기준 실제 형상 대비 평균 절대 깊이 오차 0.0415mm를 달성합니다. 이는 RGB 전용 조명보다 약 1/3 더 우수한 수치입니다.

전체 촉각 인식 파이프라인의 속도는? 전체 FPGA 파이프라인(이미지 캡처, 3D 재구성, 힘 추정)은 프레임당 1.09ms로 실행됩니다. 이는 약 900Hz의 폐루프 촉각 피드백을 의미합니다.

왜 RGB 빛 대신 근적외선을 사용하나요? NIR 채널은 곡면에서 두 번째 카메라 없이 포토메트릭 스테레오를 위한 네 번째 독립 조명 방향을 제공합니다. RGB-IR 센서가 동일한 광학 중심에서 두 스펙트럼을 모두 캡처하므로 채널이 픽셀 수준에서 정렬됩니다.

FasTac은 어떤 힘 정보를 제공하나요? HyperForce는 3축 접촉 힘을 추정하며, 수직력의 정규화 평균 절대 오차 2.74%, 전단력 2.39%를 달성합니다. 깊이 기반 법선 변위와 마커 기반 접선 변위를 융합하여 곡면 피부의 위치 의존적 강성을 고려합니다.

결론

FasTac은 비전 기반 촉각 센서가 실시간 정교한 조작의 정밀도와 속도 요구를 충족할 수 있음을 보여줍니다. 다중 스펙트럼 단일 센서 설계와 FPGA 엣지 파이프라인은 고충실도 터치를 사후 측정이 아닌 로봇 제어를 위한 실용적인 입력으로 만듭니다.