인터넷 덕분에 음모론을 접하고 퍼뜨리는 것이 그 어느 때보다 쉬워졌습니다. 그리고 어떤 음모론은 무해하지만, 어떤 음모론은 깊은 피해를 줄 수 있으며, 불화를 일으키고 심지어 불필요한 사망자.
이제 연구자들은 거짓 음모론에 맞서기 위한 새로운 도구인 AI 챗봇을 발견했다고 믿습니다. MIT Sloan과 Cornell University의 연구자들은 대규모 언어 모델(LLM)로 음모론에 대해 채팅하면 사람들의 믿음이 약 20% 감소한다는 것을 발견했습니다. 심지어 자신의 믿음이 정체성에 중요하다고 주장한 참가자들 사이에서도 마찬가지였습니다. 이 연구는 오늘 저널에 게재되었습니다. 과학.
기술 심리학 연구소에 소속되어 AI가 사회에 미치는 영향을 연구하는 박사후 연구원인 윤하오(제리) 장은 이번 연구 결과가 그런 근거 없는 이론을 주장하는 사람들을 교육하고 그들과 소통하는 방식에 있어 중요한 진전을 나타낼 수 있다고 말한다.
“그들은 대규모 언어 모델의 도움으로 우리가 – 해결한다고는 말할 수 없지만, 적어도 이 문제를 완화할 수 있다는 것을 보여줍니다.”라고 그는 말합니다. “그것은 사회를 더 좋게 만드는 방법을 보여줍니다.”
MIT Sloan의 연구원이자 이 연구의 주저자인 토마스 코스텔로는 음모론자들의 생각을 바꾸는 데 효과가 있는 개입은 거의 없다고 말합니다. 이를 어렵게 만드는 요인 중 하나는 사람마다 이론의 다른 부분에 집착하는 경향이 있다는 것입니다. 즉, 특정 사실적 증거를 제시하는 것이 한 신자에게는 효과가 있을 수 있지만 다른 신자에게는 효과가 있을 것이라는 보장이 없습니다.
AI 모델이 등장하는 곳이 바로 여기라고 그는 말한다. “그들은 다양한 주제에 대한 엄청난 양의 정보에 접근할 수 있고, 인터넷에서 훈련을 받았습니다. 그 덕분에 그들은 사람들이 믿는 특정 음모 이론에 대한 사실적 반론을 조정할 수 있는 능력을 가지고 있습니다.”
연구팀은 2,190명의 크라우드소싱 근로자들에게 OpenAI의 최신 대규모 언어 모델인 GPT-4 Turbo를 이용한 텍스트 대화에 참여하도록 하여 해당 방법을 테스트했습니다.
참가자들은 신뢰할 수 있다고 생각하는 음모 이론에 대한 세부 정보, 왜 그것이 설득력이 있다고 생각하는지, 그리고 그것을 뒷받침한다고 생각하는 증거를 공유하도록 요청받았습니다. 이러한 답변은 연구자들이 가능한 한 설득력 있게 만들도록 유도한 챗봇의 응답을 조정하는 데 사용되었습니다.
참가자들은 또한 자신의 음모 이론이 사실이라는 확신도를 0(확실히 거짓)에서 100(확실히 사실)까지의 척도로 표시하고, 그 이론이 세상에 대한 이해에 얼마나 중요한지 평가하도록 요청받았습니다. 그 후, 그들은 AI 봇과 세 차례 대화를 나누었습니다. 연구원들은 충분한 실질적인 대화를 수집할 수 있는지 확인하기 위해 세 차례를 선택했습니다.
각 대화 후 참가자들에게 동일한 평가 질문을 했습니다. 연구자들은 실험 후 10일 후에 모든 참가자를 추적 조사했고, 그다음 2개월 후에 AI 봇과의 대화 후 그들의 견해가 바뀌었는지 평가했습니다. 참가자들은 평균적으로 자신이 선택한 음모론에 대한 믿음이 20% 감소했다고 보고했는데, 이는 봇과 대화한 것이 일부 사람들의 생각을 근본적으로 바꾸었다는 것을 시사합니다.
“실험실 환경에서도 20%는 사람들의 믿음을 바꾸는 데 큰 효과가 있습니다.” 장이 말했습니다. “실제 세계에서는 약할 수 있지만 10%나 5%라도 여전히 매우 상당할 것입니다.”
저자는 AI 모델이 정보를 조작하는 경향(이를 ‘조작’이라고 함)을 방지하고자 했습니다. 환각—AI가 한 128개 주장의 정확성을 평가하기 위해 전문적인 사실 확인자를 고용했습니다. 이 중 99.2%는 사실로 밝혀졌고, 0.8%는 오해의 소지가 있는 것으로 간주되었습니다. 완전히 거짓인 것은 하나도 발견되지 않았습니다.
MIT Sloan의 교수이자 이 프로젝트에 참여한 데이비드 G. 랜드는 이렇게 높은 정확도를 보이는 한 가지 이유는 인터넷에서 음모론에 대한 글이 많이 쓰여져 모델의 훈련 데이터에 잘 표현되어 있기 때문이라고 말합니다. 그는 GPT-4 Turbo의 적응성 덕분에 향후 사용자가 상호 작용할 수 있도록 다양한 플랫폼에 쉽게 연결할 수 있다고 덧붙였습니다.
“음모론 포럼에 가서 사람들에게 챗봇에 대해 토론하면서 스스로 조사하도록 초대하는 것을 상상해 보세요.”라고 그는 말합니다. “마찬가지로 소셜 미디어를 LLM에 연결하여 음모론을 공유하는 사람들에게 시정 응답을 게시하거나 ‘딥 스테이트’와 같은 음모론 관련 검색어에 대한 Google 검색 광고를 구매할 수 있습니다.”
코넬 대학교의 준교수이자 이 프로젝트에 참여한 고든 페니쿡은 이 연구는 사람들이 확실한 증거에 얼마나 수용적인지에 대한 저자들의 선입견을 뒤집어 놓았으며, 음모론뿐만 아니라 양질의 정보에 근거하지 않은 다른 믿음까지도 반박했다고 말했습니다.
“사람들은 증거에 놀라울 정도로 반응했습니다. 그리고 그것이 정말 중요합니다.” 그는 말합니다. “증거는 중요합니다.”
