Tesla Optimus Humanoid Robot은 사람들과 함께 공장을 걷습니다. 예측 가능한 로봇 동작에는 우선 순위 기반 제어 및 법적 프레임 워크가 필요합니다. 크레딧 : 테슬라
로봇은 더 똑똑하고 예측 가능해지고 있습니다. Tesla Optimus는 공장에서 상자를 들어 올리고 그림 01은 커피를 붓고 Waymo는 운전자없이 승객을 운반합니다. 이러한 기술은 더 이상 시연이 아닙니다. 그들은 점점 현실 세계에 들어가고 있습니다.
그러나 이것이 중심적인 질문이 있습니다. 로봇이 복잡한 상황에서 올바른 결정을 내릴 수 있도록 어떻게해야합니까? 다른 사람들로부터 동시에 두 개의 상충되는 명령을 받으면 어떻게됩니까? 그리고 소유자의 요청에 따라 기본 안전 규칙을 위반하지 않을 것이라고 어떻게 확신 할 수 있습니까?
기존 시스템이 실패하는 이유는 무엇입니까? 대부분의 최신 로봇은 사전 정의 된 스크립트 (일련의 명령 및 일련의 반응에서 작동합니다. 엔지니어링 측면에서, 이들은 행동 나무, 유한 상태 기계 또는 때로는 기계 학습입니다. 이러한 접근법은 통제 된 조건에서 잘 작동하지만 실제 세계의 명령은 서로 모순 될 수 있습니다.
또한 환경은 로봇이 적응할 수있는 것보다 빠르게 변할 수 있으며 여기와 현재 중요한 것에 대한 명확한 “우선 순위 맵”은 없습니다. 결과적으로 시스템은 주저하거나 잘못된 시나리오를 선택할 수 있습니다. An의 경우 자율 주차 또는 a 휴머노이드 로봇, 그러한 예측 가능한 망설임은 더 이상 오류가 아닙니다. 안전 위험.
반응성에서 우선 순위 기반 제어로
오늘날 대부분의 자율 시스템은 반응성입니다. 그들은 외부 사건과 명령에 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 마치 반응합니다. 로봇은 신호를 받고 메모리에서 일치하는 시나리오를 검색하고 더 큰 목표에 어떻게 적합한 지 고려하지 않고 실행합니다.
결과적으로 예측 가능한 명령 및 이벤트는 동일한 수준의 우선 순위에서 경쟁합니다. 장기적인 작업은 즉각적인 자극으로 쉽게 방해받을 수 있으며 복잡한 환경에서 로봇은 모든 입력 신호를 만족 시키려고 노력할 수 있습니다.
일상적인 운영에서 이러한 문제를 제외하고는 항상 기술적 실패의 위험이 있습니다. 예를 들어, 첫 번째 동안 세계 휴머노이드 로봇 게임 이번 달 베이징에서 H1 로봇 Unitree 최적의 경로에서 벗어나 인간 참가자를 땅에 두드렸다.
비슷한 사례가 중국에서 발생했습니다. 유지 보수 작업 중에 로봇이 갑자기 팔을 혼란스럽게 휘두르기 시작하여 전력에서 분리 될 때까지 엔지니어가 눈에 띄게 시작되었습니다.
두 사건 모두 현대 자율 시스템이 종종 결과를 분석하지 않고 반응한다는 것을 분명히 보여줍니다. 상황에 대한 우선 순위가 없으면 사소한 기술적 결함조차도 위험한 상황으로 확대 될 수 있습니다.
안전 우선 순위를위한 논리가 내장되지 않은 아키텍처 및 인간, 로봇 및 물체와 같은 피사체와의 상호 작용은 그러한 시나리오에 대한 보호를 제공하지 않습니다.
우리 팀은 행동을 “자극-응답”모드에서 고의적으로 선택하기위한 아키텍처를 설계했습니다. 모든 이벤트는 먼저 미션과 주제 필터를 통과하고 환경과 결과의 맥락에서 평가 된 다음 실행으로 진행됩니다. 이를 통해 로봇은 역동적이고 예측할 수없는 조건에서도 예측 가능하고 일관되게, 안전하게 행동 할 수 있습니다.
두 가지 계층 : 행동의 우선 순위
우리는 예측 가능한 로봇 공학과 반응성을 직접 다루는 제어 아키텍처를 설계했습니다. 핵심에는 두 개의 상호 연결된 계층이 있습니다.
1. 미션 계층 – 구조화 된 목표 우선 순위 시스템 :
- 전략적 임무 – 기본적이고 변할 수없는 :“인간에게 해를 끼치 지 말아라”,“인간을 돕는다”,“규칙을 준수하십시오”.
- 사용자 임무 – 소유자 또는 운영자가 설정 한 작업
- 현재 임무 – 더 중요한 임무를 위해 중단 될 수있는 2 차 임무
2. 상호 작용 대상의 계층 – 출처에 따라 명령 및 상호 작용의 우선 순위 :
- 최고 우선 순위 – 소유자, 관리자, 운영자
- 보조 – 가족, 직원 또는 지정된 로봇과 같은 공인 사용자
- 외부 당사자 – 상황 분석에서 고려되지만 시스템을 제어 할 수없는 다른 사람, 동물 또는 로봇
예측 가능한 제어가 실제로 어떻게 작동 하는가
사례 1. 휴머노이드 로봇 – 로봇은 조립 라인에 부품을 운반하고 있습니다. 방문 투어 그룹의 어린이는 무거운 도구를 넘겨달라고 요청합니다. 요청은 외부 당사자에게서 나옵니다. 임무는 잠재적으로 안전하지 않으며 현재 작업의 일부가 아닙니다.
- 결정 : 명령을 무시하고 계속 일하십시오.
- 결과 : 아동과 생산 과정은 모두 안전합니다.
사례 2. 자율 자동차 – 승객은 늦는 것을 피하기 위해 속도를 높이라고 요청합니다. 센서는 도로에서 얼음을 감지합니다. 요청은 우선 순위가 높은 주제에서 비롯됩니다. 그러나 전략적 사명“안전 보장”은 편의성을 능가합니다.
- 결정 : 자동차는 속도를 높이고 경로를 다시 계산하지 않습니다.
- 결과 : 사용자에게 불편하더라도 안전은 절대 우선 순위입니다.
예측 가능한 의사 결정의 세 가지 필터
모든 명령은 세 가지 수준의 검증을 통과합니다.
- 문맥 – 환경, 로봇 상태, 이벤트 이력
- 중요성 – 행동이 얼마나 위험 할 것인가
- 결과 – 명령이 실행되거나 거부되면 변경 사항
필터가 알람을 올리면 결정이 재고됩니다. 기술적으로 아키텍처는 아래 블록 다이어그램에 따라 구현됩니다.
로봇 반응성을 해결하기위한 제어 아키텍처. (확대하려면 여기를 클릭하십시오.) 출처 : Zhengis Tileubay
법적 측면 : 중립적 자율 상태
우리는 기술 아키텍처를 넘어서 새로운 법률 모델을 제안했습니다. 정확한 이해를 위해서는 공식적인 법적 언어로 설명해야합니다. “중립-자율 상태”의 일체 포함 그리고 AI 구동 자율 시스템은 그러한 시스템이 도구와 같은 전통적인 법적 책임의 대상이나 자연 또는 법적 사람과 같은 법의 주제로 간주되지 않는 법적으로 인정 된 범주입니다.
이 상태는 AI 규제의 불확실성을 제거하고 법적 특성을 정의하는 데있어 극심한 접근법을 피하는 새로운 법적 범주를 도입합니다. 현대 법률 시스템은 두 가지 주요 범주로 작동합니다.
- 법의 주제 – 권리와 의무가있는 자연 및 법적 인
- 법의 대상 – 주제에 의해 통제되는 물건, 도구, 재산 및 무형 자산
AI 및 자율 시스템은 어느 범주에서도 맞지 않습니다. 객체를 고려한 경우 모든 책임은 전적으로 개발자와 소유자에게 해당되어 과도한 법적 위험에 노출됩니다. 피험자를 고려한 경우, 기본적인 문제에 직면합니다 : 법적 능력 부족, 의도 및 의무를 가정 할 수있는 능력.
따라서, 책임과 책임에 대한 균형 잡힌 프레임 워크, 즉 중립적 자율적 지위를 확립하려면 세 번째 범주가 필요합니다.
중립적 자율 상태의 법적 메커니즘
핵심 원칙은 각 AI 또는 자율 시스템이 목적, 자율성의 범위 및 법적 책임 틀을 설정하는 명확하게 정의 된 임무를 할당해야한다는 것입니다. 임무는 AI의 행동을 제한하고 책임 분포를 결정하는 법적 경계 역할을합니다.
법원과 규제 당국은 할당 된 임무를 기반으로 자율 시스템의 행동을 평가하여 구조화 된 책임을 보장해야합니다. 개발자와 소유자는 지정된 임무 내에서만 책임이 있습니다. 시스템이 외부에서 작용하는 경우, 책임은 특정 편차 상황에 의해 결정됩니다.
지정된 작업을 넘어 시스템을 의도적으로 이용한 사용자는 책임 증가에 직면 할 수 있습니다.
예기치 않은 행동의 경우, 행동이 할당 된 임무 내에 남아있을 때, 완화 된 책임 메커니즘이 적용됩니다. 시스템이 정의 된 매개 변수 및 임무 내에서 작동하는 경우 개발자와 소유자는 완전한 책임으로부터 보호됩니다. 사용자는 선의로 시스템을 사용하고 이상에 기여하지 않으면 완화 된 책임을 혜택을받습니다.
가상의 예
자율 주행 차는 갑자기 횡단 보도 외부의 고속도로로 달리는 보행자를 때립니다. 시스템의 임무 :“교통법에 따른 승객의 안전한 전달을 보장하고”안전한 제동에 충분한 거리를 감지하여“트래픽 법률에 따라 승객을 안전하게 배달하고 시스템의 기술 기능 내 충돌을 피하십시오”.
부상당한 당사자는 자율 주행 자동차 제조업체로부터 천만 달러를 요구합니다.
시나리오 1 : 임무 준수. 보행자는 11m (80km/h 또는 50mph에서 0.5 초) – 약 40m (131.2 피트)의 안전한 제동 거리에 나타났습니다. 차는 제동을 시작했지만 제 시간에 멈출 수 없었습니다. 법원은 자동차 제조업체 미션 준수 내에 있었으므로 보행자에게 부분 결함이 할당되어 50 만 달러로 책임을 줄였습니다. 저금: 950 만 달러.
시나리오 2 : 미션 교정 오류. 밤에는 카메라 교정 오류로 인해 자동차는 보행자를 정적 물체로 잘못 분류하여 제동을 0.3 초 씩 지연 시켰습니다. 이번에는 자동차 제조업체는 상태 정의 덕분에 오해 (5 백만 달러이지만 1 천만 달러는 아님)에 대해 책임을집니다.
시나리오 3 : 사용자 별 미션 위반. 소유자는 자동차를 금지 된 건축 구역으로 지휘하여 경고를 무시했습니다. 1 천만 달러의 전체 책임은 소유자에게 떨어집니다. 자율 주 차량 회사는 임무가 위반 되었기 때문에 보호됩니다.
이 예제는 중립적 인 상태 상태가 상황에 따라 개발자와 사용자를 보호하는 방법을 보여줍니다.
중립-자율 상태는 비즈니스, 규제 혜택을 제공합니다
중립적 자율 상태를 구현하면 법적 위험이 줄어 듭니다. 개발자는 시스템 행동과 관련된 정당하지 않은 소송으로부터 보호되며 사용자는 예측 가능한 책임 프레임 워크에 의존 할 수 있습니다.
규제 당국은 체계적인 법적 기초를 얻어 판결의 불일치를 줄일 것입니다. AI와 관련된 법적 분쟁은 임의의 선례에서 통합 프레임 워크로 전환됩니다. AI 자율 수준 및 미션 복잡성을위한 새로운 분류 시스템이 나타날 수 있습니다.
중립 지위를 조기에 채택하는 회사는 법적 위험을 낮추고 AI 시스템을보다 효과적으로 관리 할 수 있습니다. 개발자는 법적으로 인정 된 매개 변수 내에서 시스템을 테스트하고 배포 할 수있는 자유를 얻을 수 있습니다. 기업은 윤리적 리더로 자리 매김하여 명성과 경쟁력을 향상시킬 수 있습니다.
또한 정부는 균형 잡힌 규제 도구를 얻어 사회를 보호하면서 혁신을 유지할 것입니다.
예측 가능한 로봇 동작이 중요한 이유
우리는 휴머노이드 로봇과 자율 주행 차량의 대량 배치의 임계 값에 있습니다. 오늘, 오늘, 내일 강력한 기술 및 법적 재단을 확립하지 못하면 위험이 혜택을 능가 할 수 있으며 로봇 공학에 대한 대중의 신뢰가 손상 될 수 있습니다.
미션과 주제 계층을 기반으로 한 건축물은 중립적 자율적 지위와 결합하여 예측 가능한 로봇 공학의 다음 단계를 안전하게 개발할 수있는 기초입니다.
이 아키텍처는 이미 특허 출원에 설명되어 있습니다. 우리는 휴머노이드 로봇, 자율 주행 차량 및 기타 자율 시스템 제조업체와의 조종사 협력을 준비하고 있습니다.
편집자 주 : Robobusiness 캘리포니아 주 산타 클라라에서 10 월 15 일과 16 일에있을 2025 년에는 물리 AI에 대한 세션 트랙이 있으며 기술, 휴머노이드, 필드 로봇, 디자인 및 개발 및 비즈니스 모범 사례를 가능하게합니다. 등록이 시작되었습니다.
저자에 대해
Zhengis Tileubay는 Kazakhstan 공화국의 독립 연구원입니다. 인간, 자율 시스템 및 인공 지능 간의 징계. 그의 작업은 로봇 행동 제어를위한 안전한 아키텍처 개발과 자율 기술 상태에 대한 새로운 법적 접근법을 제안하는 데 중점을 둡니다.
그의 연구 과정에서 Tileubay는 임무의 계층과 상호 작용 과목을 기반으로 행동 제어 아키텍처를 개발했습니다. 그는 또한“중립적 자율 상태”의 개념을 제안했다.
Tileubay는 카자흐스탄 공화국의 특허청과 함께“임무 및 상호 작용 주제의 계층 구조를 기반으로 한 자율 로봇 행동 제어 시스템”이라는 제목의 특허 출원을 제출했습니다.
게시물 우선 순위 기반 아키텍처와 새로운 법률 모델로 로봇을 예측할 수있는 방법 먼저 나타났습니다 로봇 보고서.