안전은 여러 계층에 걸쳐 존재하는 특성으로, 추상화 수준에 따라 표현 방식은 달라지지만 근본적인 목표는 변하지 않는다. 통합 프레임워크는 위험 정보를 반영한 도시 안전 영역을 활용해 체계적인 위험 분석과 런타임 강제를 연결한다. 도시 안전 영역은 자율 로봇이나 차량이 환경과 안전하게 상호작용할 수 있는 운용 조건의 범위를 나타낸다.
서론
로봇 기술의 도시 이동 분야 도입은 통제된 산업 환경에서 공공장소로 확장되고 있다. 로봇은 도시의 거리로 진출해 사람과 상품, 서비스의 이동 방식을 바꾸고 있으며, 이에 따라 세 가지 대표적 활용 사례가 등장했다.
- 보도 자율 배송 로봇: 카메라, GPS, LiDAR를 탑재한 소형 전기 로봇으로, 크기는 아이스박스 정도이며 보행자 속도로 보도를 이동해 식료품과 포장 음식을 배송한다.
- 자율주행차와 로보택시: 승객을 태우는 차량이 시범 운영 단계를 넘어 본격적인 규모 확장과 상시 운행으로 전환되고 있다.
- 자율 도로 유지보수 로봇: 로봇이 야간에 도시 도로를 순찰하며 아스팔트 균열을 탐지하고 즉시 봉합할 수 있다.
이처럼 서로 다른 로봇 시스템을 인간과 같은 공간에 배치하면 안전, 운영, 규제 측면에서 심각한 과제가 발생한다. 각 분야는 도시의 서로 다른 구역을 사용하며, 신체적 피해를 방지하고 충돌을 최소화하기 위해 고유한 안전 패러다임을 적용한다.
보도 로봇은 보행자 통로에서 운용된다. 초저속 주행으로 운동에너지를 제한하고, ‘모두에게 양보’하는 행동 트리를 적용해 안전을 확보한다.
로보택시는 승객을 태우는 차량이므로 카메라, LiDAR, 레이더를 포함한 엄격한 다층 하드웨어·센서 이중화와 결정론적 안전 영역 알고리즘이 필요하다. 또한 시스템은 엄격한 행동 기준을 준수해야 한다.
도로 유지보수 로봇은 위험하고 비정형적인 공사 구역에서 작동한다. 다가오는 차량이나 인근 작업자와의 충돌을 방지하려면 실시간 지오펜싱, V2X 통신, 능동형 센서 청소 메커니즘에 의존해야 한다.
그러나 안전은 하나의 소프트웨어 구성요소에 고정된 속성이 아니다. 안전은 시스템 수준의 기능이며, 시스템 설계의 여러 계층을 따라 정보와 의사결정이 전달되면서 함께 변화한다.
예를 들어 보행자는 기호 계층에서는 취약 도로 이용자로, 궤적 계획 단계에서는 동적 장애물로, 제어 계층에서는 위치와 속도를 지닌 이동 물체로 표현된다. 표현은 서로 다르지만, 모두 보행자와의 유해한 상호작용을 방지한다는 동일한 안전 목표를 담고 있다.
도시 안전 영역
안전한 도시 이동을 위해서는 위험한 상황이 발생하기 전에 충분한 안전 여유를 유지하는, 폭넓고 보편적인 프레임워크가 필요하다.
도시 안전 영역은 위험 정보 기반 파이프라인을 통해 학습된다. 정상적인 주행 데이터만 수집하는 대신, 안전에 중대한 영향을 미치는 상황을 중심으로 합성 학습 시나리오를 생성한다. 각 시나리오는 명시적으로 정의된 자산, 노출 양상, 위험 시나리오에서 도출되므로, 생성 데이터는 안전 여유가 줄어드는 조건에 집중한다.
예를 들어 도시 교차로에는 보행자, 자전거 이용자, 시야를 가리는 주차 차량, 악천후, 다양한 교통 밀도가 존재할 수 있다. 이러한 요인을 체계적으로 변화시키면 시뮬레이션은 완전히 안전한 상황부터 안전 한계에 가까워지는 조건까지 폭넓은 시나리오를 생성한다. 이를 통해 머신러닝 모델은 드문 충돌 사건만 학습하는 대신 정상 운용에서 위험 상황으로 서서히 전환되는 과정을 관찰할 수 있다.
이렇게 만들어진 모델은 현재 주행 상황이 사전에 정의된 안전 제약을 위반하기까지 얼마나 가까운지를 지속적으로 추정한다. 추정된 안전 여유가 지나치게 작아지면 자율 시스템은 다음과 같이 선제적으로 대응할 수 있다.
- 속도 낮추기
- 앞차와의 거리 늘리기
- 대체 궤적 선택하기
- 더 높은 수준의 안전 제어기로 제어권 이전하기
위험한 상황이 이미 발생한 뒤 대응하는 기존 위험 감지 방식과 달리, 이 접근법은 예측적 안전 평가를 가능하게 한다. 목표는 단순히 위험을 인식하는 것이 아니라 차량이 안전 운용의 경계에 접근하는 시점을 식별하는 데 있다.
이 접근법의 또 다른 장점은 해석 가능성이다. 모든 시나리오가 안전 공학 프로세스에서 명시적으로 정의된 위험에서 출발하므로, 모델이 학습한 행동을 위험 분석 과정에서 식별한 특정 자산, 취약성, 위험 시나리오까지 추적할 수 있다. 이는 투명성을 높이고 안전성 검증과 인증을 위한 더욱 강력한 공학적 근거를 제공한다.
계층적 세계 모델 전반의 안전
자율 도시 이동은 여러 추상화 수준에 걸친 추론을 필요로 한다. 전략적 의사결정, 궤적 계획, 실시간 차량 제어를 동시에 지원하기에 충분한 단일 환경 표현은 존재하지 않는다. 대신 자율 시스템은 계층적 세계 모델을 사용한다. 각 계층은 자신의 기능에 필요한 정보만 담은 특화된 환경 표현을 유지한다.
안전의 관점에서 보면 각 계층은 저마다 안전 운용에 대한 정의를 갖는다. 따라서 도시 안전은 하나의 모델로 표현될 수 없으며, 제어 계층 전반에서 여러 안전 추상화가 일관되게 상호작용하는 과정에서 나타난다.
기호 안전 계층
가장 높은 계층은 기호적 개체, 관계, 운용 규칙을 사용해 환경을 표현한다. 이 수준에서 시스템은 물리적 기하보다 임무 목표, 교통 규정, 법적 제약, 윤리적 요구사항을 중심으로 추론한다.
안전은 보행자 우선권 준수, 교통 신호 준수, 제한 구역 회피, 운용 정책 준수와 같은 기호 제약으로 표현된다. 따라서 환경은 물리적 공간이 아니라 허용되는 행동과 금지되는 행동이 구조화된 네트워크로 간주된다.
이 표현에서 보행자는 취약 도로 이용자로 취급되며, 그 존재는 자율 시스템에 행동 제약을 부과한다.
안전 규칙은 개체 사이의 양보와 정지 같은 방향성 관계로 시각화할 수 있다.
공간 안전 계층
중간 계층은 기호적 목표를 기하학적 이동 계획으로 변환한다. 환경은 자유 공간, 장애물, 통행 가능성 비용, 주변 교통 참여자의 예측 이동을 담은 공간 지도로 표현된다.
안전은 충돌 확률, 최소 이격 거리, 가시성 제약, 안전 궤적 생성과 같은 공간적 관계로 표현된다. 동적 객체는 의미적 정체성이 아니라 예측 점유 영역으로 나타난다.
따라서 보행자는 더 이상 법적 주체가 아니라, 안전한 경로 선택에 영향을 주는 미래 움직임을 지닌 동적 장애물로 취급된다.
연속적인 환경은 안전한 기하학적 경로를 계산하기 위해 격자로 이산화된다.
동적 안전 계층
가장 낮은 계층은 차량과 환경 사이의 물리적 상호작용을 관장한다. 이 계층에서 세계는 연속 동역학, 액추에이터 한계, 물리적 제약으로 표현된다.
안전은 조향, 제동, 가속, 타이어와 노면 사이의 마찰, 액추에이터 성능 한계를 지키면서 안정적인 행동을 유지하는 것으로 정의된다. 제어기는 교통 규정이나 내비게이션 목표가 아니라, 명령된 궤적이 물리적으로 실현 가능한지를 보장하는 데 집중한다.
이 표현에서 보행자는 위치, 속도, 상대 운동으로 특징지어지는 이동 물체로 추상화되며, 제어기는 이를 바탕으로 실시간 안전 제어 행동을 계산한다.
계층 간 안전 변환
앞서 설명한 세 가지 세계 모델은 동일한 물리적 환경을 서로 다른 추상화 수준에서 표현한다. 정보가 계층을 따라 아래로 전달되면서 안전은 상위 수준의 기호적 목표에서 하위 수준의 물리적 명령으로 점차 구체화된다. 반대로 실제 세계의 피드백은 위로 전달되어 각 계층의 표현을 갱신하고 폐루프 적응을 가능하게 한다.
이 양방향 흐름 덕분에 도시 안전 영역은 어느 한 계층에 국한되지 않고, 기호적·공간적·동적 안전 제약이 일관되게 교차하는 지점에서 형성된다.
순방향 변환: 규칙에서 행동으로
기호 계층에서 안전은 임무 목표, 교통 규정, 윤리 원칙, 운용 정책의 집합으로 인코딩된다. 횡단보도에서 보행자에게 양보하기, 제한 속도 준수하기, 제한 구역 피하기 등이 그 예다. 이러한 규칙은 허용되는 상위 수준의 행동을 정의하지만, 이를 기하학적·물리적으로 어떻게 실행할지는 명시하지 않는다.
공간 계층은 이러한 기호적 제약을 기하학적 안전 여유와 충돌 없는 궤적으로 변환한다. 이 계층은 점유 영역, 이격 거리, 다른 주체의 예측 이동을 기준으로 환경을 추론한다.
예를 들어 ‘보행자에게 양보하라’는 규칙은 최소 0.5미터의 측면 거리를 유지하고, 보행자가 2초 이내에 도착할 위치에 있다면 횡단보도 앞에서 정지해야 한다는 요구사항으로 변환된다. 계획기는 효율성과 승차감을 최적화하면서 이러한 공간적 여유를 만족하는 경로를 계산한다.
이후 동적 계층은 계획된 궤적을 조향, 제동, 가속과 같은 물리적으로 실현 가능한 제어 명령으로 변환한다. 이 단계에서 안전은 안정성을 유지하고 규정된 범위 내에서 기준 궤적을 추종하는 것으로 표현된다.
피드백 변환: 실행에서 인식으로
센서 측정값은 실제 차량의 거동, 환경 교란, 예상하지 못한 장애물에 관한 정보로 동적 모델을 갱신한다. 이렇게 갱신된 물리 모델은 예상 경로에서 벗어난 정도와 주변 장면의 변화를 공간 계획기에 전달한다.
예를 들어 갑자기 제동하는 차량 때문에 기존 궤적이 더 이상 충돌을 피할 수 없다고 계획기가 판단하면, 계획기는 그에 맞춰 기하학적 계획을 수정한다. 이어 지속적이거나 중대한 편차가 발생하면 기호적 의사결정의 수정이 촉발될 수 있다. 예를 들어 차선 변경을 중단하고 안전한 정차 지점으로 이동하는 기동으로 되돌아갈 수 있다.
이 폐루프 피드백은 변화하는 현실 상황에 맞춰 안전이 계속 대응하도록 한다.
도시 안전 영역의 출현
따라서 도시 안전 영역은 세 계층을 통해 전달되는 제약의 교집합이다. 어떤 상태가 안전하려면 기호 규칙, 공간적 충돌 회피 기준, 동적 실현 가능성 범위를 동시에 만족해야 한다.
위험 정보 기반 합성 시나리오에서 이 영역을 학습하면 자율 시스템은 안전 운용의 경계에 접근하는 시점을 예측할 수 있다. 학습 데이터가 알려진 위험 유형을 중심으로 체계적으로 생성되므로, 학습된 모델은 안전 여유가 점진적으로 감소하는 과정을 포착하고 위반이 발생하기 전에 선제적으로 개입할 수 있다.
보도 배송 로봇이 보행자와 함께 교차로에 접근하는 상황을 생각해 보자. 기호적으로 로봇은 건너는 보행자에게 언제나 양보해야 한다. 공간적으로 계획기는 사각지대 모퉁이 앞에서 정지하고 완충 구역을 유지하는 경로를 계산한다. 동적으로 제어기는 모터의 토크 한계 안에서 부드럽게 감속한다.
보행자가 예상보다 갑자기 가까운 곳에 나타나면 센서 피드백이 동적 상태를 갱신하고, 공간 계획기는 더 짧은 정지 궤적을 다시 계산하며, 제어기는 그에 맞춰 제동력을 조절한다. 이러한 지속적인 상호작용은 계층 간 안전 변환을 잘 보여준다.
요컨대 이 계층 구조는 각 계층이 자신의 계산 역할에 가장 적합한 추상화를 사용해 추론하도록 하며, 안전 정보가 일관되게 전달되도록 해 전체 시스템이 항상 안전한 상태를 유지하게 한다.
Physical AI Harness를 통한 런타임 안전 강제
앞서 살펴본 내용은 안전이 여러 추상화 계층에서 어떻게 표현되고 점진적으로 변환되는지를 설명한다. 그러나 실행 중에도 안전의 의미를 보존하려면 정확한 인지, 계획, 제어만으로는 충분하지 않다. 머신러닝 모델이 실시간으로 의사결정을 생성하기 시작하면, 그 출력이 시스템 설계 단계에서 수립한 안전 제약과 일치하도록 보장하는 추가 메커니즘이 필요하다.
Physical AI Harness는 로봇 시스템 안에서 AI 모델의 실행을 관리하는 런타임 소프트웨어 계층이다. 주로 소프트웨어 구성요소 간 통신을 조정하는 기존 로봇 미들웨어와 달리, Physical AI Harness는 AI가 생성한 의사결정을 지속적으로 감독해 로봇의 물리적 능력과 환경의 운용 요구사항에 부합하도록 한다.
이 하네스는 Projection, Isolation, Transfer, 즉 PIT라는 세 가지 상호보완적 메커니즘을 기반으로 한다. 각각은 런타임 안전의 서로 다른 측면을 다룬다.
Projection
Projection은 머신러닝 모델이 생성한 출력을 로봇 시스템이 실행하기 전에 제한한다. 하네스는 임의의 행동을 허용하는 대신, 예측된 명령을 허용 가능한 행동 영역으로 사상한다.
제안된 도시 안전 프레임워크에서 이 허용 영역은 도시 안전 영역과 자연스럽게 대응한다. 조향 명령, 차량 속도, 차선 변경, 궤적 수정은 위험 분석과 안전 영역 학습에서 도출된 안전 여유 안에 있을 때만 허용된다.
이러한 제약을 위반하는 명령은 제어기에 전달되기 전에 수정되거나 거부된다.
따라서 Projection은 학습 기반 의사결정과 물리적 실행 사이에서 수행되는 최종 검증 단계다.
Isolation
현대의 자율주행차는 인지, 측위, 계획, 통신, 제어를 비롯한 수많은 소프트웨어 구성요소를 동시에 실행한다. 머신러닝 모델은 이러한 구성요소와 계산 자원을 두고 경쟁하는 경우가 많으며, 그 결과 안전에 중요한 기능의 성능이 저하될 수 있다.
Isolation은 전용 계산 자원을 할당하고 실행 예산을 강제함으로써 AI 작업 부하가 차량의 핵심 기능을 방해하지 못하게 한다. 이러한 분리는 결정론적 동작을 보존한다.
자주 묻는 질문
도시 안전 영역이란 무엇인가?
자율 로봇이나 차량이 환경과 안전하게 상호작용할 수 있는 운용 조건의 범위를 나타낸다.
안전 영역을 왜 합성 위험 시나리오에서 학습하는가?
위험 정보 기반 시나리오는 안전에 중대한 상황에 학습을 집중시키고, 위반이나 충돌이 발생하기 전에 안전 여유가 점진적으로 감소하는 과정을 모델에 보여준다.
세 가지 세계 모델 계층에서 안전은 어떻게 다른가?
기호 계층은 규칙과 법적 제약을, 공간 계층은 기하와 충돌 없는 경로를, 동적 계층은 물리적 실현 가능성과 제어 한계를 다룬다.
Physical AI Harness의 역할은 무엇인가?
실행 중 AI가 생성한 의사결정을 감독해 로봇의 물리적 능력과 환경의 안전 요구사항에 부합하도록 한다.