AI 모델이 인간의 행동을 모방하는 능력이 향상되면서 실제 인터넷 사용자와 그들을 모방하는 정교한 시스템을 구별하는 것이 점점 더 어려워지고 있습니다.
이러한 시스템이 잘못된 정보를 퍼뜨리거나 사기를 저지르는 등 불법적인 목적으로 사용될 때 이는 실제적인 문제가 되며, 온라인에서 접하는 정보를 신뢰하기 훨씬 어렵게 만듭니다.
OpenAI, Microsoft, MIT, Harvard를 포함한 기관의 32명의 연구자 그룹은 잠재적인 솔루션인 “인격 자격 증명”이라는 검증 개념을 개발했습니다. 이 자격 증명은 그 사람의 신원에 대한 추가 정보를 공개하지 않고도 그 사람이 실제 사람임을 증명합니다. 이 팀은 동료 검토를 거치지 않은 논문에서 이 아이디어를 탐구했습니다. 아르시브 이번 달 초에 사전 인쇄 서버에 게시되었습니다.
인격 자격 증명은 AI 시스템이 여전히 최첨단 암호화 시스템을 우회하거나 오프라인 현실 세계에서 사람으로 통할 수 없다는 사실에 의존합니다.
이러한 자격 증명을 요청하려면 사람들은 정부나 다른 종류의 신뢰할 수 있는 조직과 같은 여러 발급 기관 중 하나에 직접 가야 합니다. 여권이나 생체 인식 데이터와 같이 실제 사람임을 증명하는 증거를 제공하라는 요청을 받게 됩니다. 승인되면 현재 스마트폰 지갑 앱에서 신용 카드와 직불 카드를 저장하는 것과 같은 방식으로 장치에 저장할 수 있는 단일 자격 증명을 받게 됩니다.
이러한 자격 증명을 온라인에서 사용하려면 사용자는 이를 제3자 디지털 서비스 제공자에게 제시할 수 있으며, 그러면 제로 지식 증명이라는 암호화 프로토콜을 사용하여 이를 검증할 수 있습니다. 이를 통해 보유자가 불필요한 추가 정보를 공개하지 않고도 인격 자격 증명을 소유하고 있음을 확인할 수 있습니다.
플랫폼에서 검증된 인간 외의 사람을 걸러낼 수 있는 기능은 여러 면에서 유용할 수 있습니다. 예를 들어, 사람들은 인격적 자격 증명이 없는 Tinder 매치를 거부하거나, 사람이 확실히 게시하지 않은 소셜 미디어의 어떤 것도 보지 않기로 선택할 수 있습니다.
저자들은 AI의 속임수가 우리의 통제를 벗어나 확산되는 것을 막기 위해 앞으로 정부, 기업, 표준 기관이 이러한 시스템을 도입하는 것을 고려해 보라고 촉구하고자 합니다.
“AI는 어디에나 있습니다. 많은 이슈, 많은 문제, 많은 해결책이 있을 것입니다.” 이 프로젝트에 참여한 MIT 박사과정생 토빈 사우스의 말입니다. “저희의 목표는 이것을 세상에 처방하는 것이 아니라, 왜 이것이 필요한지, 어떻게 할 수 있는지에 대한 대화를 시작하는 것입니다.”
가능한 기술적 옵션은 이미 존재합니다. 예를 들어, Idena라는 네트워크는 최초의 블록체인 개인 증명 시스템이라고 주장합니다. 이 시스템은 짧은 시간 내에 봇이 풀기 어려운 퍼즐을 인간이 풀도록 함으로써 작동합니다. 논란의 여지가 있는 월드코인 사용자의 생체 인식 데이터를 수집하는 프로그램은 자신을 세계 최대의 개인 정보 보호 인간 신원 및 금융 네트워크라고 주장합니다. 최근 말레이시아 정부와 협력하여 사용자의 홍채를 스캔하여 코드를 생성하여 온라인에서 인간성을 증명했습니다. 인격 자격 증명의 개념과 마찬가지로 각 코드는 암호화를 사용하여 보호됩니다.
그러나 이 프로젝트는 사기성 마케팅 관행을 사용하고, 인정된 것보다 더 많은 개인 데이터를 수집하고, 사용자로부터 의미 있는 동의를 얻지 못했다는 비판을 받았습니다. 홍콩과 스페인의 규제 기관은 올해 초 Worldcoin의 운영을 금지했고, 브라질, 케냐, 인도를 포함한 국가에서는 운영이 중단되었습니다.
그래서 여전히 새로운 개념이 필요합니다. 접근 가능한 AI 도구의 급속한 증가는 인터넷 사용자가 온라인에서 무엇이 사실이고 무엇이 아닌지에 대해 지나치게 의심하는 위험한 시기를 가져왔다고, AI와 딥페이크 전문가이자 Meta와 영국 정부의 고문인 헨리 아즈더는 말합니다. 그리고 인격을 검증하는 아이디어는 꽤 오랫동안 있었지만, 이러한 자격 증명은 침범하는 회의주의에 맞서는 방법에 대한 가장 본질적인 아이디어 중 하나로 느껴진다고 그는 말합니다.
하지만 자격 증명이 직면하게 될 가장 큰 과제는 충분한 플랫폼, 디지털 서비스, 정부가 이를 채택하도록 하는 것입니다. 통제할 수 없는 표준에 따르는 것이 불편할 수 있기 때문입니다. “이것이 효과적으로 작동하려면 보편적으로 채택되는 것이어야 합니다.”라고 그는 말합니다. “원칙적으로 이 기술은 매우 매력적이지만 실제로는 인간과 기관의 지저분한 세상에서는 상당한 저항이 있을 것으로 생각합니다.”
AI 생성 기술을 개발하는 스타트업 Synthesia의 보안 책임자인 Martin Tschammer 하이퍼리얼리즘 딥페이크그는 인격 자격 증명을 주도하는 원칙, 즉 온라인에서 인간을 검증해야 할 필요성에 동의한다고 말합니다. 그러나 그는 그것이 올바른 해결책인지 또는 구현하기에 실용적인지 확신하지 못합니다. 그는 또한 그러한 계획을 누가 실행할지에 대해 회의적이라고 표현합니다.
“우리는 디지털 라이프에 더 많은 권력을 집중시키고 의사 결정을 집중시키는 세상에 결국 도달할 수 있으며, 대규모 인터넷 플랫폼에 누가 어떤 목적으로 온라인에 존재할 수 있는지에 대한 소유권을 더 많이 줄 수 있습니다.”라고 그는 말합니다. “그리고 일부 정부가 디지털 서비스를 도입하는 데 있어 부진한 성과를 보이고 독재적 경향이 증가하고 있는 상황에서 이 유형의 기술이 이 10년 안에 대량으로 책임감 있게 도입될 것이라고 기대하는 것이 실용적이거나 현실적일까요?”
산업 간 협업을 기다리기보다는 Synthesia는 현재 다른 인격 증명 메커니즘을 제품에 통합하는 방법을 평가하고 있습니다. 그는 이미 여러 가지 조치를 시행하고 있다고 말합니다. 예를 들어, 기업이 합법적인 등록 회사임을 증명하도록 요구하고, 규칙을 위반한 것으로 밝혀진 고객에게는 환불을 금지하고 거부할 것입니다.
남부 캘리포니아 대학교의 컴퓨터 과학 교수인 에밀리오 페라라는 “한 가지는 분명합니다. 우리는 인간과 봇을 구별할 방법이 시급히 필요하며, 기술 및 정책 분야의 이해 관계자 간의 논의를 장려하는 것은 올바른 방향으로 나아가는 한 걸음입니다.”라고 말했습니다. 그녀는 이 프로젝트에 참여하지 않았습니다.
“우리는 앞으로 멀지 않은 미래에, 만약 상황이 통제되지 않는다면, 우리는 본질적으로 다른 인간이나 어떤 종류의 봇과 온라인에서 하는 상호작용을 구별할 수 없게 될 것입니다. 무언가 해야 합니다.” 그는 말합니다. “우리는 이전 세대가 기술에 대해 그랬던 것처럼 순진할 수 없습니다.”