시맨틱 통신으로 로봇이 원시 데이터가 아닌 의미를 주고받는다

시맨틱 통신으로 로봇이 원시 데이터가 아닌 의미를 주고받는다

Peizheng Li, Xinyi Lin, Sajida Gufran, Adnan Aijaz

6 분 읽기•2026년 8월 19일

연구팀이 로봇의 카메라 영상을 간결한 시맨틱 토큰으로 압축해 프라이빗 5G 네트워크로 전송하고, 엣지 서버에서 이를 충분히 정확하게 복원해 환경을 매핑하고 객체를 탐지하는 로봇-엣지 통합 테스트베드를 구축했다. 이 플랫폼은 임무 중심의 시맨틱 통신이 시각 데이터 전송량을 크게 줄이면서도 운영자가 주변 상황을 파악하고 임무를 완전히 제어할 수 있음을 보여준다.

목차

연구팀이 구축한 것

이 시연 시스템은 세 가지 핵심 기능을 중심으로 구성된 엔드투엔드 로봇-엣지 플랫폼이다. 로봇에서는 VQ-VAE 신경망이 실시간 RGB 카메라 스트림을 간결한 시맨틱 토큰으로 압축한다. 이렇게 만들어진 토큰은 깊이 정보, LiDAR, 오도메트리, 변환 데이터와 함께 프라이빗 5G/Open RAN 네트워크를 거쳐 엣지 노드로 전송된다. 엣지에서는 토큰을 이미지로 다시 디코딩하고, 그래프 SLAM 시스템인 RTAB-Map이 다른 센서 스트림과 융합해 3D 지도와 로봇의 이동 궤적을 생성한다. 이후 미세 조정된 YOLO 객체 검출기가 복원된 이미지에서 작동하고, 탐지된 객체는 지도에 검색 가능한 시맨틱 랜드마크로 투영된다.

세 번째 기능은 실시간 카메라 영상, LiDAR 스캔, 2D 내비게이션 화면, 3D 지도, 복원된 시맨틱 카메라 영상, 압축 상태를 한데 보여주는 운영자 대시보드다. 운영자는 주행을 시작·중지·일시 정지·재개하거나 클릭 한 번으로 목적지까지 이동시킬 수 있다. 다만 모든 목표 지점 요청은 미션 API를 거치며, API가 지도와 내비게이션 스택을 기준으로 목적지를 검증한 뒤에야 로봇으로 속도 명령이 전달된다. 향후 배포를 염두에 둔 환경은 로봇이 사용자 장비로, 엣지가 다중 액세스 엣지 컴퓨팅 엔드포인트로 작동하는 프라이빗 5G Open RAN 구성이다. 따라서 이 플랫폼은 앞으로 임무 인지형 네트워크 제어를 연구하는 데 활용될 수 있다. 연구팀은 이 시스템이 벤치마크가 아니라 현재 개발 중인 통합 테스트베드임을 분명히 밝혔다.

엣지 시맨틱 매핑에 사용된 원본 카메라 프레임과 복원 프레임을 비교한 VQ-VAE 복원 결과

주요 결과

이 논문은 시연 논문이므로 가장 중요한 성과는 구조적이다. 로봇에서 압축 토큰을 생성하는 단계부터 엣지에서 로보틱스 작업에 활용하는 단계까지, 실제로 작동하는 정보 전달 경로를 구현했다. 연구팀은 VQ-VAE로 인코딩한 RGB 관측값을 작은 토큰 스트림으로 만들어 프라이빗 5G/Open RAN을 통해 전송하고, 엣지에서 이를 복원한 뒤 객체 수준의 의미를 포함한 3D 지도로 처리할 수 있음을 입증했다.

두 번째 핵심 결과는 복원 후에도 객체 검출이 유지된다는 점이다. 디코딩된 이미지에서 객체 후보를 추출하고 깊이 및 자세 정보와 연결한 뒤 지도 좌표계로 투영한다. 즉, 복원된 장면은 대략적인 환경 이해와 운영자 감독에 충분한 정보를 계속 제공한다. 대시보드를 사용하면 같은 시간대에 원본 및 복원 이미지, 지도 갱신, 내비게이션 동작을 비교할 수 있어 압축 품질을 단순한 픽셀 오차가 아니라 임무 지원 능력의 관점에서 확인할 수 있다. 이는 복원 품질이 PSNR을 넘어서는 의미를 갖기 때문에 중요하다. 실제로 중요한 질문은 복원된 장면이 엣지 인지와 사람의 감독에 필요한 정보를 여전히 담고 있는가이다. 아직 무선 지연 시간, 압축률, 에너지 사용량 같은 정량적 벤치마크는 보고되지 않았으며, 연구팀은 이를 후속 연구 과제로 남겨두었다.

작동 방식

시스템은 네 단계로 이어지는 연속 파이프라인으로 작동한다. 첫 단계는 로봇 측 압축이다. VQ-VAE 인코더가 각 RGB 프레임을 소수의 이산 토큰으로 변환한다. 이 토큰은 깊이, LiDAR, 오도메트리, 변환(TF) 메시지와 함께 프라이빗 5G/Open RAN 링크로 전송된다. 이때 로봇은 사용자 장비로, 엣지 노드는 다중 액세스 엣지 컴퓨팅 엔드포인트로 작동한다.

두 번째 단계는 엣지 복원과 매핑이다. 토큰을 이미지로 디코딩한 뒤 RTAB-Map이 복원된 RGB-D 데이터와 LiDAR, 오도메트리, TF를 융합해 3D 지도와 이동 궤적을 구축한다. 세 번째는 시맨틱 정보 보강이다. 미세 조정된 YOLO 검출기가 복원된 이미지에서 작동하고, 각 검출 결과를 해당 깊이 및 자세 정보와 연결해 지도 좌표계의 검색 가능한 시맨틱 객체로 투영한다. 이를 통해 시맨틱 검색, 시맨틱 지도 확인, 향후 객체로 이동하는 기능 등을 구현할 수 있다.

네 번째 단계는 임무 통합이다. 대시보드는 운영자에게 지도와 복원된 카메라 화면을 제공하고, 임무 명령은 실행 전에 미션 API를 통해 검증된다. 시스템 내부에서는 시맨틱 토큰 스트림을 임무와 직접 관련된 별도 데이터 흐름으로 취급한다. 따라서 임무 인지형 네트워크 제어를 적용할 구체적인 접점이 생긴다. 예를 들어 장애물이 많은 구역을 주행할 때는 배경 매핑보다 더 짧은 지연 시간의 시맨틱 업데이트가 필요할 수 있다.

실시간 카메라, LiDAR, 2D 내비게이션, 3D 지도, 복원된 시맨틱 카메라 화면을 보여주는 운영자 대시보드

로보틱스에서 중요한 이유

로봇은 카메라, 깊이 센서, LiDAR, 오도메트리, 상태 정보 등 막대한 양의 인지 데이터를 생성한다. 하지만 특정 작업에 실제로 필요한 정보는 그중 일부에 불과하다. 시맨틱 통신은 바로 이 낭비를 줄인다. 모든 픽셀을 전송하는 대신 로봇이 임무에 필요한 의미만 보내는 것이다. 로봇 fleet 운영자에게 이는 필요한 대역폭을 크게 낮추고 공유 무선 링크에 더 많은 여유를 제공한다는 뜻이다. 특히 간섭이 많고 통신이 혼잡한 환경에서 작동하는 창고 로봇에는 더욱 중요한 장점이다.

이 테스트베드는 네트워크 효용을 패킷 수준의 지표가 아니라 애플리케이션 결과로 평가하는 6G의 임무 중심 비전에 로보틱스 네트워킹을 한 걸음 더 가깝게 만든다. 프라이빗 5G/Open RAN은 이미 공장과 물류 시설에 도입되기 시작했으며, 이 플랫폼은 시맨틱 정보와 임무 피드백이 이러한 네트워크의 자원 할당 및 스케줄링에 어떤 영향을 줄 수 있는지 보여준다. 또한 안전 측면에서도 분명한 가치가 있다. 복원된 영상과 검증된 임무 명령을 통해 운영자가 계속 상황을 감독할 수 있으므로, 모든 기계에서 고해상도 영상 링크를 유지하지 않고도 중고 산업용 로봇과 자동화 fleet을 관리할 수 있다.

한계와 남은 과제

이 플랫폼은 아직 개발 중이며, 연구팀은 측정되지 않은 항목을 명확히 밝히고 있다. 5G/Open RAN 경로의 무선 지연 시간은 아직 분석되지 않았고, 에너지 소비도 평가되지 않았다. 또한 현재 시스템은 단일 로봇으로만 시연됐다. 토큰 전송률, 복원 품질, 후속 객체 검출 정확도 사이의 상충 관계도 아직 연구되지 않았다. 현재 시연은 객체 검출 벤치마킹보다 시스템 통합 경로에 초점을 맞추고 있다.

남은 질문으로는 로봇 상태가 변할 때 네트워크 스케줄러가 시맨틱 스트림의 우선순위를 어떻게 정해야 하는지, 여러 로봇이 하나의 시맨틱 지도를 공유할 수 있는지, 장애물이 많은 환경에서 임무 성공을 보장하려면 실제로 어느 정도의 토큰 예산이 필요한지 등이 있다.

자주 묻는 질문

시맨틱 통신이란 무엇인가? 시맨틱 통신은 데이터 자체가 아니라 작업에 필요한 의미를 전송하는 기술이다. 통신 양쪽에서 학습 모델을 사용해 정보를 압축하고 복원한다.

기존 동영상 압축과는 어떻게 다른가? 동영상 코덱은 비트레이트에 비해 픽셀의 충실도를 높이는 데 최적화된다. 반면 시맨틱 통신은 엣지 서버가 여전히 객체를 검출하고 지도를 갱신할 수 있는지처럼 후속 작업의 성공을 최적화한다.

반드시 5G 네트워크가 필요한가? 아니다. 토큰 스트림은 어떤 통신 링크로도 전송할 수 있다. 다만 프라이빗 5G/Open RAN을 사용하면 네트워크가 시맨틱 스트림을 별도 흐름으로 취급하고 임무 우선순위에 맞춰 스케줄링을 조정할 수 있다.

이 시스템은 상용 환경에 투입할 준비가 되었나? 아니다. 현재는 연구용 테스트베드다. 실제 배포 시나리오를 평가하려면 지연 시간, 에너지, 다중 로봇 검증이 먼저 이루어져야 한다.

결론

이 테스트베드는 로봇이 실제 5G/Open RAN 링크를 통해 간결한 시맨틱 토큰을 전송하면서도 엣지 서버가 주변 환경을 매핑하고 객체를 탐지하는 데 필요한 정보를 충분히 제공할 수 있음을 입증했다. 이는 통신을 처리량이 아니라 임무 결과로 평가하는 협업 로보틱스용 임무 중심 6G 네트워킹을 향한 초기이지만 구체적인 단계다.