로드니 브룩스 이다 MIT의 로봇공학과 파나소닉 교수(명예)그는 AI 연구소 소장이었고 그 후 CSAIL그는 공동 창립자였습니다. 아이 로봇, 로봇공학을 재고하다그리고 강력한 AI, 현재 그는 CTO로 일하고 있습니다. 이 기사는 허가를 받아 공유합니다. 그의 블로그에서.
로봇공학 분야에서 거의 50년 동안 일하면서 제가 로봇공학에 대해 배운 몇 가지 사항을 소개합니다. 어린 시절 제가 좋아했던 공상과학 작가 두 명인 아이작 아시모프와 아서 C. 클라크를 기리기 위해, 저는 그들을 로봇공학의 세 가지 법칙이라고 부릅니다.
- 로봇의 시각적 모습은 그것이 무엇을 할 수 있고 얼마나 똑똑한지에 대한 약속을 합니다. 그 약속을 이행하거나 약간 더 이행해야 하며 그렇지 않으면 받아들여지지 않을 것입니다.
- 로봇과 사람이 같은 공간에 공존할 때, 로봇이 사람의 주체성을 침해해서는 안 됩니다. 특히 로봇이 고장을 일으킬 때는 더욱 그렇습니다. 로봇이 고장을 일으킬 때가 종종 있기 때문입니다.
- 로봇 기술은 저비용으로 성숙하고 99.9%의 시간을 제공할 수 있을 만큼 한계를 충분히 특성화하려면 대상 작업의 실험실 데모를 넘어 10년 이상 꾸준히 개선되어야 합니다. 10년마다 신뢰성에서 9가 더 추가됩니다.
아래에서 저는 이러한 법률 각각을 더 자세히 설명합니다. 하지만 관련 게시물에는 제 인공지능의 3가지 법칙.
이러한 법률은 사람들이 비용을 지불하고 투자 수익을 원하는 현실 세계에서 로봇을 작동시키는 관점에서 작성되었다는 점에 유의하세요. 이는 실험실에서 로봇이나 로봇 기술을 시연하는 것과는 매우 다릅니다.
연구실에는 열심히 연구한 최신 아이디어를 시연하고 그 타당성을 보여주고 싶어하는 대학원생들이 대거 있습니다. 그들의 관심사는 자신이 개발한 기술이나 기법이 타당하고 유망하다는 것을 보여주는 것입니다. 그들은 그 요점을 설명하기 위해 로봇을 시연하는 데 전력을 다할 것이고, 자신이 개발한 것과 다음에 나올 수 있는 것에 대한 모든 것을 열렬히 설명할 것입니다.
현실 세계에서는 고객, 또는 고객의 직원 또는 친척만 있습니다. 로봇은 설계 및 제작한 사람의 외부 개입 없이 작동해야 합니다. 주변 사람들에게 좋은 경험이 되어야 하며 그렇지 않으면 해당 고객, 그리고 아마도 다른 고객에게 더 많은 판매가 이루어지지 않을 것입니다.
따라서 이러한 법률은 무엇을 할 수 있는지, 또는 할 수 있는지에 대한 것이 아닙니다. 실제 세계에 배치된 실제 로봇에 대한 것입니다. 법률은 연구 시연에 대한 것이 아닙니다. 일상 생활 속의 로봇에 대한 것입니다.
외모로 주어진 약속
제 다양한 회사에서는 온갖 종류의 로봇을 생산하여 대량으로 판매했습니다. 로봇을 설계할 때 시각적 외관에 많은 생각이 들어가는데, 이는 구매자나 사용자에게 로봇에서 무엇을 기대할지 알려주기 때문입니다.
iRobot의 룸바는 평평한 디스크처럼 생겼습니다. 바닥을 청소합니다. 디스크 모양은 이미 부딪히지 않은 곳에 부딪히지 않고 제자리에서 회전할 수 있도록 만들어졌습니다. 디스크의 낮은 프로필은 주방에서 발로 차는 것을 통과하고 주방 캐비닛으로 약간 튀어나온 바닥을 청소할 수 있도록 만들어졌습니다. 계단을 오르내리거나 집에서 한 단계 위아래로 올라갈 수 있는 것처럼 보이지 않으며 그럴 수 없습니다. 손잡이가 있어서 사람이 들어올릴 수 있는 것처럼 보이고 실제로 들어올릴 수 있습니다. 가상의 로지 로봇과 달리 창문을 청소할 수 있는 것처럼 보이지 않으며 그럴 수 없습니다. 바닥을 청소할 뿐이며 그게 전부입니다.
iRobot의 원격 조종 군용 로봇인 Packbot은 정말 다르게 생겼습니다. 미니어처 탱크처럼 바퀴가 추적되고, 그 모습은 그것을 보는 모든 사람에게 험난한 지형을 통과할 수 있고, 계단이나 바위 또는 지형의 낙하로 인해 멈추지 않을 것이라고 약속합니다. 2011년 후쿠시마 재해가 발생했을 때, Packbot은 쓰나미로 인해 파괴되고 파괴된 원자로 건물에서 작동하고, 원격 제어로 문 손잡이를 열고, 잔해로 덮인 계단을 운전하고, 아날로그 압력 및 온도 게이지에 카메라를 겨누어 원자력 발전소를 안전하게 보호하려는 작업자들이 발전소의 고방사능 지역에서 무슨 일이 일어나고 있는지에 대한 데이터를 얻을 수 있었습니다.
로봇공학의 첫 번째 법칙의 요점은 로봇을 실제보다 더 많이 보이게 만드는 것에 대해 경고하는 것입니다. 아마도 그렇게 하면 회사에 자금이 지원되어 투자자들이 시간이 지나면 로봇이 물리적 외관에서 암시하는 모든 것을 할 수 있을 것이라고 믿게 될 것입니다. 하지만 그 물리적 외관을 가진 것이 할 수 있는 종류의 일을 할 수 없을 때 고객을 실망시킬 것입니다. 로봇을 화려하게 꾸미면 로봇이 실제로 제품으로서 할 수 있는 일을 과장해서 약속할 위험이 있습니다. 그러면 고객을 실망시킬 위험이 있습니다. 그리고 실망한 고객은 귀하의 제품/로봇을 옹호하지 않을 것이고, 재구매자가 되지도 않을 것입니다.
사람들의 대리권 보존
사람들이 직장에서 로봇이 할 수 있는 일을 받아들이는 데 있어서 가장 나쁜 점은, 그들이 해야 할 일을 하지 못하게 함으로써 그들의 일이나 삶을 더 어렵게 만드는 것입니다.
병원에서 환자 침대에서 더러운 시트나 접시를 세척 장소로 옮기는 로봇은 간호사의 삶을 더 편리하게 만들어주기 위한 것입니다. 하지만 종종 정반대의 일을 합니다. 로봇이 무슨 일이 일어나고 있는지 알지 못하고 응급 상황이 발생했을 때 길을 비우지 않는다면 간호사의 생명을 구하는 일을 방해하게 될 것입니다. 예를 들어, 중증 환자가 탄 들것을 즉각적인 치료를 위해 필요한 곳으로 밀어넣는 일 말입니다. 이런 로봇은 병원 직원들에게 호감을 사지 못합니다. 병원 직원들이 자랑스러워하는 주요 업무 기능을 방해하는 것이고, 이런 일을 하도록 동기를 부여하는 것입니다.
병원에서 로봇의 덜하지만 여전히 용납할 수 없는 행동은 엘리베이터 문 앞, 중앙, 사람들을 막는 것입니다. 사람들이 그 환경에서 항상 해야 하는 일, 즉 엘리베이터에 타고 내리는 일을 하는 것을 더 어렵게 만듭니다.
샌프란시스코나 텍사스 오스틴에 사는 우리는 지난 몇 년 동안 로봇이 매일 사람들을 괴롭히는 것을 직접 보았습니다. 문제의 로봇은 자율 주행차로, 인간 탑승자가 없는 도시를 돌아다닙니다. 저는 걸어서든 차로든 집을 나설 때마다 이 로봇을 봅니다.
일부 차량은 교차로를 막는 것으로 악명이 높았고, 다른 운전자, 보행자 또는 경찰이 할 수 있는 일은 전혀 없었습니다. 우리는 그들을 배치한 회사 깊숙이 숨겨진 원격 운영자가 갇힌 차량에 주의를 기울이고 사람들의 길에서 벗어나게 할 때까지 기다려야 했습니다. 더 나쁜 것은, 그들이 소방차와 소방관, 그리고 실제 건물이 불타는 화재 현장으로 들어가 혼란스러워서 그냥 멈추고, 때로는 소방 호스 위에 멈췄다는 것입니다.
소방관들이 차량을 움직이거나, 차량과 소통할 방법이 없었습니다. 이는 인간 운전자가 운전하는 자동차와는 대조적입니다. 소방관은 정상적인 사회적 상호작용을 통해 운전자와 소통하고, 사회에서 일선 대응자로서 특권적인 위치를 활용하여 인간 운전자에게 협조하도록 사회적 압력을 가할 수 있습니다. 자율 주행차는 그렇지 않습니다.
자율 주행차는 거리에서 일상 생활을 하는 사람들의 행위 능력을 빼앗았지만, 더 나쁜 것은 다른 인간을 보호하는 역할을 하는 소방관의 행위 능력을 빼앗았습니다. 사람과 그들이 해야 할 일을 존중하지 않는 배치된 로봇은 사람들로부터 존중을 받지 못하고 로봇은 결국 배치되지 않을 것입니다.
항상 작동하는 강력한 로봇
현실 세계에서 안정적으로 작동하는 로봇을 만드는 것은 어렵습니다. 사실, 현실 세계에서 물리적으로 작동하고 신뢰할 수 있는 것을 만드는 것은 매우 어렵습니다.
고객이 로봇에 만족하려면 매번 작업을 시도할 때마다 제대로 작동하는 것처럼 보여야 합니다. 그렇지 않으면 사용자는 이 로봇이 자신의 삶을 더 좋게 만들었는지, 아니면 지금 당장 도움이 되는지 의문을 품게 되어 좌절하게 됩니다.
하지만 무엇이 나타나다 여기서 무슨 뜻인가요? 이는 사용자가 세상에서 무슨 일이 일어날지에 대한 기본 이해로서 작동할 것이라는 가정을 가질 수 있다는 것을 의미합니다.
까다로운 점은 로봇이 현실 세계와 상호 작용한다는 것입니다.
소프트웨어 프로그램은 잘 이해된 추상화된 기계와 상호 작용하므로, 실행 중인 하드웨어에서 일관된 방식으로 명령어가 실행되지 않는 방식으로 실패하는 경향이 없습니다. 동일한 프로그램이 인간, 네트워크 연결 또는 마우스와 같은 입력 장치와 같은 물리적 세계와 상호 작용할 수도 있습니다. 그러면 프로그램이 실패할 수 있는데, 그 이유는 명령어가 충족되지 않는 실제 세계의 가정에 기반하기 때문입니다.
로봇은 현실 세계의 힘에 따라 움직이고, 로봇과 관련된 물체의 정확한 위치에 따라 움직이며, 행동이 매우 다양한 인간과 상호 작용합니다. 이전에 여러 번 성공했던 동일한 작업을 8,354번 시도하여 로봇이 성공하도록 만들고 싶어하는 대학원생이나 주니어 엔지니어 팀은 없습니다. 그 특정한 경우와 그 특정한 순간의 불확실한 세상의 변화에 적절히 적응하는 소프트웨어를 얻는 것이 로봇 공학에서 진짜 도전이 되는 곳입니다.
멋진 영상은 항상 고객을 위해 일하는 것과는 다릅니다. 로봇에 대한 뉴스에서 보는 대부분의 내용은 실험실 시연입니다. 솔루션이 얼마나 일반적인지, 그리고 표시된 영상을 얻기 위해 몇 번이나 촬영했는지에 대한 데이터가 없습니다. 더 나쁜 것은 때때로 영상이 원격으로 조작되거나 여러 번 빠르게 재생된다는 것입니다.
실험실 데모에서 10년도 채 안 된 신기술이 실제 로봇에 적용된 것을 본 적이 거의 없습니다. 이 방법이 얼마나 잘 작동하는지 확인하고 실제 세계에서 스스로 작동하는 실제 로봇에서 실패할 가능성이 낮을 정도로 충분히 특성화하는 데는 시간이 걸립니다. 그때도 실패가 있을 것이고, 문제 영역을 흔들어 내고 방어적인 방식으로 로봇 제품에 구축하는 데 몇 년이 더 걸려서 실패가 다시 일어나지 않습니다.
대부분의 로봇은 사람이 끄도록 킬 버튼이나 에스탑이 필요합니다. 고객이 그 버튼을 누를 필요성을 느낀다면 로봇을 만들고 판매한 사람들은 실패한 것입니다. 로봇이 제대로 작동하지 않도록 충분히 잘 만들지 않았기 때문에 상황이 그렇게 잘못될 수 없습니다.