민간 부문에서 개발 된 오픈 소스 기술은 군사 응용 분야에서도 사용하거나 간단히 오용 할 수있는 능력을 가지고 있습니다. 이것을 탐색합니다 이중 사용 혁신이 두 가지 방식으로 진행되면서 엔지니어링 분야에서 잠재력이 더욱 중요 해지고 있습니다. 오픈 소스 기술의“개방성”은 혁신을 이끌어 내고 모든 사람이 접근 할 수있는 것의 일부이지만, 불행히도 군사 및 범죄자를 포함한 다른 사람들이 쉽게 접근 할 수 있음을 의미합니다.
불량 국가, 비 국가 민병대 또는 학교 사수가 엔지니어가하는 오픈 소스 기술로 동일한 창의성과 혁신을 보여 주면 어떻게됩니까? 이것이 우리가 여기서 논의하고있는 질문입니다. 접근 가능한 기술과 함께 발생하는 고유 한 위험을 완화하면서 진보를 이끌어 내기 위해 공개 연구와 혁신의 원칙을 어떻게지지 할 수 있습니까?
단순한 개방형 위험 이상의 개방형 소스 기술과 이중 사용 가능성이 로봇 공학에 대한 특정 과제에 대해 논의합시다. 이러한 과제를 이해하면 엔지니어가 자신의 분야에서 무엇을 찾아야하는지 배우는 데 도움이 될 수 있습니다.
개방성의 힘과 위험
오픈 액세스 간행물, 소프트웨어 및 교육 콘텐츠는 로봇 공학을 발전시키는 데 기본이됩니다. 그들은 지식에 대한 접근을 민주화하고 재현성을 가능하게하며 활기차고 협력적인 국제 과학자들을 키웠다. Arxiv 및 Github와 같은 플랫폼 및 로봇 운영 체제 그리고 개방형 로봇 이니셔티브 로봇 연구 및 혁신을 가속화하는 데 중추적 인 것이 었으며, 공개적으로 접근 할 수 있어야한다는 것은 의심의 여지가 없습니다. 이러한 자원에 대한 접근을 잃는 것은 로봇 공학 분야에 치명적일 것입니다.
그러나 로봇 공학은 대부분의 로봇 공학 기술이 용도를 변경할 수 있으므로 고유 한 이중 사용 위험을 수반합니다. 군사 용도 또는 유해한 목적. 현재 갈등에서 맞춤형 드론의 최근 예 중 하나는 특히 통찰력이 있습니다. 우크라이나 병사들이 전시하고 때로는 민간인 드론 기술 보강 전 세계적으로, 종종 감탄하는 뉴스 보도. 상업용 드론, 예비 부품, 3D 프린터 및 오픈 소스 소프트웨어 및 하드웨어의 가용성을 통해 창의성이 가능해졌습니다. 이를 통해 기술적 배경과 돈이 거의없는 사람들은 군용 응용 프로그램을 위해 로봇을 쉽게 만들고 통제하고 용도 할 수 있습니다. 우크라이나 사람들이 자국을 방어하는 데 힘을 실어주는 영향을 미쳤다고 주장 할 수있다. 그러나 이러한 동일한 조건은 또한 광범위한 잠재적 인 나쁜 행위자들에게 기회를 제시합니다.
공개적으로 이용 가능한 지식, 디자인 및 소프트웨어는 비전 기반과 같은 기능을 갖춘 기존 무기 시스템을 향상시키기 위해 오용 할 수 있습니다. 내비게이션, 자율 타겟팅 또는 떼. 또한 적절한 보안 조치를 취하지 않는 한 오픈 소스 코드의 공공 특성으로 인해 사이버 공격에 취약해질수록 악의적 인 행위자가 로봇 시스템을 제어하고 오작동하거나 사용될 수 있습니다. 악의적 인 목적. 많은 ROS 사용자는 이미 자신이 충분히 투자하지 않는다는 것을 알고 있습니다. 사이버 보안 그들의 신청을 위해.
지침이 필요합니다
연구 및 혁신의 개방성에서 비롯된 이중 사용 위험은 많은 엔지니어링 분야의 관심사입니다. 엔지니어링이 원래 군사 전용 활동이라는 것을 알고 있습니까? “엔지니어”라는 단어는 중세에“요새와 무기의 설계자이자 생성자”를 설명하기 위해 만들어졌습니다. 일부 엔지니어링 전문화, 특히 대량 살상 무기 개발 (화학, 생물학적, 방사선 및 핵) 개발을 포함한 전문화는 명확한 지침을 개발했으며, 경우에 따라 연구 및 혁신이 수행되고 전파 될 수있는 방법에 대한 규정을 개발했습니다. 또한 지식 확산과 관련된 이중 사용 위험을 완화하기위한 커뮤니티 중심의 프로세스가 있습니다. 예를 들어, 생물학 및 건강 과학을위한 사전 인쇄 서버 인 Biorxiv 및 Medrxiv – 출판하기 전에 생물 보안 또는 건강 위험을 초래하는 자료에 대한 스크린 제출물.
로봇 공학 분야는 로봇 공학 자들이 개방성과 관련된 위험을 어떻게 생각하고 해결 해야하는지에 대한 구체적인 규제와 거의 지침을 제공하지 않습니다. 이중 사용 위험은 대부분의 대학에서는 가르치지 않습니다. 학생들은 자신의 작업이 적용되는지 평가할 때와 같이 학생들이 경력에 직면 할 가능성이 있음에도 불구하고 이중 사용 항목에 대한 제어 규정 수출.
결과적으로 로봇 주의자들은 업무와 관련된 이중 사용 위험을 평가하고 완화하기 위해 인센티브가 있거나 장비를 느끼지 않을 수 있습니다. 개방형 로봇 연구 및 혁신의 오용과 관련된 피해의 가능성이 핵 및 생물학적 연구의 오용과 관련된 피해의 가능성은 훨씬 더 많은 자원을 필요로하기 때문에 이것은 큰 문제를 나타냅니다. 오픈 소스 디자인 및 소프트웨어를 사용하여 “Do-it-Yourself”로봇 무기 시스템을 생산하는 것은 실제로 비교적 쉽고 접근하기 쉬운 상용 구성 요소입니다. 이를 염두에두고, 우리는 로봇 공동체 커뮤니티가 연구자와 회사가 자신의 작업의 공개 확산과 관련된 이중 사용 위험을 가장 잘 탐색 할 수있는 방법에 대한 자체 부문 별 지침을 위해 노력할 때가 많다고 생각합니다.
책임있는 로봇 공학을위한 로드맵
보안과 개방성 사이의 균형을 잡는 것은 복잡한 도전이지만 로봇 공동체가 수용 해야하는 도전입니다. 우리는 혁신을 방해 할 여유가 없으며 피해의 잠재력을 무시할 수 없습니다. 이 이중 사용 딜레마를 탐색하려면 사전 예방 적 다중 접근 방식이 필요합니다. 다른 엔지니어링 분야에서 수업을 그리기 위해 우리는 교육, 인센티브, 중재 및 빨간색 라인의 네 가지 주요 영역에 중점을 둔 로드맵을 제안합니다.
교육
책임있는 연구와 혁신을 모든 수준에서 로봇 교육에 통합하는 것이 가장 중요합니다. 여기에는 전용 코스뿐만 아니라 체계적인 포함 핵심 내 이중 사용 및 사이버 보안 고려 사항 로봇 공학 커리큘럼. 우리는 책임있는 혁신의 문화를 장려하여 로봇 주의자들이 정보에 입각 한 결정을 내리고 잠재적 위험을 사전에 처리 할 수 있도록 힘을 실어 주어야합니다.
교육 이니셔티브는 다음과 같습니다.
- 로봇 공학 교사, 연구원 및 무장 해제 업무를위한 유엔 사무소 (필요) 및 책임있는 AI 센터 뉴욕 대학교에서.
- 로봇 컨퍼런스 및 대학에서 이중 사용 및 윤리적 고려에 관한 워크샵 및 세미나를 조직합니다.
- 대학이 전용 과정이나 모듈을 제공하도록 장려합니다 로봇 공학의 책임있는 연구 및 혁신.
인센티브
모든 사람은 업무를 완전히 또는 부분적으로 개방 한 잠재적 인 부정적인 결과를 평가하도록 장려해야합니다. 자금 조달 기관은 프로젝트 자금 조달 조건으로 위험 평가를 의무화하여 중요성을 나타낼 수 있습니다. 같은 전문 조직 IEEE Robotics and Automation Society (RAS), 채택하고 홍보 할 수 있습니다 모범 사례연구원이 위험을 식별, 평가 및 완화 할 수있는 도구 및 프레임 워크를 제공합니다. 이러한 도구에는 개별 연구원을위한 자체 평가 점검 목록과 교수진과 실험실이 윤리적 검토위원회를 설정할 수있는 방법에 대한 지침이 포함될 수 있습니다. 학술 저널 및 컨퍼런스는 동료 검토 위험 평가를 특히 고위험 응용 프로그램의 경우 출판 프로세스의 필수 부분으로 만들 수 있습니다.
또한, 상 및 인정 프로그램과 같은 인센티브는 위험 평가 및 완화에 대한 모범적 인 기여를 강조하여 지역 사회 내에서 책임 문화를 촉진 할 수 있습니다. 위험 평가는 또한보다 비공식적 인 방식으로 인센티브와 보상을받을 수 있습니다. PhD 감독자 및 실험실 책임자와 같은 리더십 직책에있는 사람들은 학생과 연구원이 가능한 위험을 논의 할 수있는 임시 기회를 구축 할 수 있습니다. 그들은 주제에 대한 세미나를 개최하고 NGO의 사회 과학자 및 전문가와 같은 외부 전문가 및 이해 관계자에게 소개를 제공 할 수 있습니다.
절도
로봇 공동체는 구현할 수 있습니다 자체 조절 메커니즘 고위험 재료의 확산을 조정하기 위해. 여기에는 다음이 포함될 수 있습니다.
- 심각한 위험을 초래하는 콘텐츠의 보급을 방지하기 위해 출판 전에 심사 작업.
- 오픈 소스 리포지토리의 특정 소스 코드 또는 데이터에 졸업 된 액세스 컨트롤 ( “게이팅”)을 구현하여 사용자가 자신을 식별하고 의도 한 용도를 지정해야합니다.
- 투명성을 보장하고 이러한 조정 메커니즘의 오용을 방지하기 위해 명확한 지침 및 지역 사회 감독을 설정합니다. 예를 들어, RAS와 같은 조직은 로봇 연구 및 응용 프로그램에 대한 위험 수준 범주를 설계하고 모니터링위원회를 만들어 로봇 연구 오용의 실제 사례를 추적하고 문서화하여 위험의 규모를 이해하고 시각화하고 더 나은 완화 전략을 수립 할 수 있습니다.
빨간 선
로봇 공동체는 또한 로봇 공학 기술의 개발 및 배치를 위해 빨간색 라인을 정의하고 시행해야합니다. 빨간 선을 정의하려는 노력은 이미 그 방향으로, 특히 자율 및 지능형 시스템의 윤리에 관한 IEEE 글로벌 이니셔티브. 회사를 포함한 회사 보스턴 역학,,, Unitree,,, 민첩성 로봇 공학,,, 클리어 포트 로봇 공학,,, anybotics그리고 오픈 로봇 공학 에 대한 규정을 요구하는 공개 서한을 썼습니다 일반 목적 로봇의 무기화. 불행히도, 그들의 노력은 범위가 매우 좁았으며, 로봇 공학의 추가 맵핑에 많은 가치가 있습니다.
윤리적으로 허용되거나 문제가되는 것으로 간주되는 것은 매우 주관적이기 때문에 커뮤니티가 표준 빨간 선에 동의하는 것은 절대적으로 어려울 것입니다. 프로세스를 지원하기 위해 개인과 회사는 자신의 업무를 용납 할 수없는 것으로 간주하는 것을 반영 할 수 있습니다. 이로 인해 공개 연구 및 오픈 소스 디자인 소프트웨어의 수혜자가 공식적으로 동의 해야하는 정책 및 사용 약관이 발생할 수 있습니다 (예 : 특정 사용 오픈 소스 라이센스와 같은). 이는 액세스를 취소하고 소프트웨어 업데이트를 거부하며 기술을 오용하는 사람들을 고소하거나 블랙리스트하는 기초를 제공합니다. Boston Dynamics를 포함한 일부 회사는 이미 이러한 조치를 어느 정도 구현했습니다. 공개 연구를 수행하는 사람이나 회사는이 예를 복제 할 수 있습니다.
개방성은 로봇 공학을 포함한 많은 엔지니어링 분야의 혁신과 민주화의 열쇠이지만 오용의 가능성을 증폭시킵니다. 엔지니어링 커뮤니티는 이중 사용 딜레마를 사전에 처리 할 책임이 있습니다. 교육 및 위험 평가에서 중재 및 적색 라인에 이르기까지 책임있는 관행을 수용함으로써 개방성과 보안이 공존하는 생태계를 육성 할 수 있습니다. 도전은 중요하지만 말뚝은 너무 높아서 무시할 수 없습니다. 연구와 혁신이 전 세계적으로 사회에 혜택을주고 세계에서 불안정성의 원동력이되지 않도록하는 것이 중요합니다. 우리는이 목표는 IEEE의 사명과 일치한다고 믿는다. 엔지니어링 커뮤니티, 특히 로봇 학자들은 사회의 반발을 방지하고 잠재적으로 비생산적인 조치 또는 공개 과학에 해를 끼칠 수있는 국제 규정을 선점하기 위해 이러한 문제에 대해 사전에 적극적이어야합니다.