AI를 도입하는 것은 위험할 수 있습니다. 시스템은 치우친또는 앵무새 거짓또는 심지어 되다 중독성이 있다그리고 AI가 새로운 생물학적 또는 화학적 무기를 만드는 데 사용될 수 있거나, 심지어 언젠가는 우리의 통제를 벗어나게 될 가능성을 고려하기 전의 이야기입니다.
이러한 잠재적 위험을 관리하려면 먼저 위험이 무엇인지 알아야 합니다. MIT의 CSAIL에 있는 FutureTech 그룹이 공동 연구자 팀과 함께 편집하여 오늘 온라인에 게시한 새로운 데이터베이스가 도움이 될 수 있습니다. AI 위험 저장소 고급 AI 시스템이 초래할 수 있는 잠재적 위험 700개 이상을 문서화합니다. 이는 이러한 모델의 생성 및 배포에서 발생할 수 있는 이전에 식별된 문제에 대한 가장 포괄적인 정보 소스입니다.
이 팀은 AI 위험을 자세히 설명하는 심사평가를 거친 저널 기사와 사전 인쇄 데이터베이스를 꼼꼼히 살폈습니다. 가장 흔한 위험은 AI 시스템 안전 및 견고성(76%), 불공정한 편견 및 차별(63%), 개인정보 침해(61%)에 집중되어 있었습니다. 덜 흔한 위험은 고통을 느끼거나 “죽음”과 유사한 것을 경험할 수 있는 능력을 가진 AI를 만드는 위험과 같이 보다 난해한 경향이 있습니다.
데이터베이스는 또한 AI로 인한 위험의 대부분이 모델이 대중에게 공개된 후에야 식별된다는 것을 보여줍니다. 연구된 위험의 10%만이 배포 전에 발견되었습니다.
이러한 결과는 현재 출시 전에 모델이 안전한지 확인하는 데 중점을 두고 있기 때문에 AI를 평가하는 방법에 영향을 미칠 수 있습니다. MIT FutureTech의 책임자이자 데이터베이스 제작자 중 한 명인 닐 톰슨은 “저희 데이터베이스가 말하는 것은 위험 범위가 상당하며, 모든 위험을 미리 확인할 수는 없다는 것입니다.”라고 말합니다. 따라서 감사원, 정책 입안자 및 연구실 과학자는 배포 후에 모델이 나타내는 위험을 정기적으로 검토하여 출시 후에 모델을 모니터링하고 싶을 수 있습니다.
톰슨에 따르면, 과거에도 이와 같은 목록을 작성하려는 시도가 많이 있었지만, 그러한 시도는 주로 AI로 인해 발생할 수 있는 좁은 범위의 잠재적 피해에만 국한되었으며, 단편적인 접근 방식으로 인해 AI와 관련된 위험에 대한 포괄적인 관점을 얻는 것이 어려웠다고 한다.
이 새로운 데이터베이스가 있어도 어떤 AI 위험을 가장 우려해야 하는지 아는 것은 어렵습니다. 이는 우리가 더욱 복잡하게 만드는 작업입니다. 완전히 이해하지 못함 최첨단 AI 시스템이 어떻게 작동하는지 알아보세요.
데이터베이스 제작자들은 그 질문을 회피하여 위험을 위험 수준에 따라 순위를 매기지 않기로 선택했습니다.
“우리가 정말로 원했던 것은 중립적이고 포괄적인 데이터베이스를 만드는 것이었고, 중립적이라는 말은 모든 것을 제시된 대로 받아들이고 그것에 대해 매우 투명하게 하는 것을 의미합니다.” MIT FutureTech의 박사후 연구원이자 데이터베이스의 수석 저자인 피터 슬래터리는 말합니다.
하지만 스탠포드 대학의 컴퓨터 과학 박사과정 학생이자 AI 안전 센터 회원인 안카 로이엘은 이 전략이 데이터베이스의 유용성을 제한할 수 있다고 말합니다. 그녀는 이 프로젝트에 참여하지 않았습니다. 그녀는 AI와 관련된 위험을 단순히 수집하는 것만으로는 곧 충분하지 않을 것이라고 말합니다. 그녀는 “그들은 매우 철저했고, 이는 향후 연구 노력을 위한 좋은 출발점이지만, 저는 사람들에게 모든 위험을 알리는 것이 더 이상 주요 문제가 아닌 지점에 도달하고 있다고 생각합니다.”라고 말합니다. “저는 그 위험을 번역하는 것이 중요하다고 생각합니다. 우리는 실제로 무엇을 해야 할까요? [them]?”
이 데이터베이스는 미래 연구를 위한 문을 열어줍니다. 이 데이터베이스의 작성자는 어느 위험이 충분히 연구되지 않았거나 해결되지 않았는지와 같은 자신의 질문을 파헤치기 위해 목록을 만들었습니다. 톰슨은 “우리가 가장 걱정하는 것은 격차가 있는가입니다.”라고 말합니다.
“우리는 이것을 살아있는 데이터베이스, 무언가의 시작으로 만들고자 합니다. 우리는 매우 열망합니다. 피드백을 받다 “이것에 대해” 슬래터리는 말한다. “우리는 ‘우리는 정말 알아냈고, 우리가 한 모든 것이 완벽할 거야’라고 말하면서 이것을 내놓은 게 아니야.”