이 스토리는 원래 AI에 대한 주간 뉴스레터인 The Algorithm에 실렸습니다. 이와 같은 스토리를 먼저 받은 편지함에서 받으려면, 여기서 가입하세요.
우리를 구해줄 사람은 바로 세상의 테일러 스위프트입니다. 1월에, 테일러 스위프트의 누드 딥페이크 영상이 화제가 되다 X에 대한, 대중의 분노를 불러일으킨 사건. 합의되지 않은 노골적인 딥페이크는 AI가 초래하는 가장 흔하고 심각한 피해 유형 중 하나입니다. 지난 몇 년 동안의 생성적 AI 붐은 문제를 더욱 악화시켰고, 우리는 다음과 같은 유명한 사례를 보았습니다. 어린이들 그리고 여성 정치인들 이런 기술로 인해 남용되는 경우가 있습니다.
끔찍하기는 하지만, 스위프트의 딥페이크 영상은 다른 어떤 것보다도 위험에 대한 인식을 높이는 데 큰 역할을 했으며, 기술 기업과 입법자들이 무언가를 하도록 자극한 것으로 보인다.
“나사가 돌아갔습니다.” 10년 가까이 딥페이크를 연구한 생성 AI 전문가 헨리 아제르의 말입니다. 그는 “우리는 입법자들의 압력과 소비자들의 인식이 너무 커서 기술 회사들이 더 이상 문제를 무시할 수 없는 전환점에 있습니다.”라고 말합니다.
먼저, 좋은 소식부터 말씀드리겠습니다. 지난주에 Google에서 그렇다고 말했습니다. 노골적인 딥페이크를 막기 위한 조치 취하기 검색 결과에 나타나지 않도록 합니다. 이 기술 거대 기업은 피해자가 동의하지 않은 가짜 노골적인 이미지를 제거하도록 요청하기 쉽게 만들고 있습니다. 또한 유사한 검색에서 모든 노골적인 결과를 필터링하고 중복된 이미지를 제거합니다. 이렇게 하면 이미지가 앞으로 다시 나타나지 않습니다. Google은 또한 노골적인 가짜 콘텐츠로 이어지는 검색 결과를 순위를 낮추고 있습니다. 누군가가 딥페이크를 검색하고 검색에 누군가의 이름을 포함하면 Google은 관련 뉴스 기사와 같은 고품질의 노골적이지 않은 콘텐츠를 표면화하는 것을 목표로 합니다.
Ajder는 이것은 긍정적인 움직임이라고 말합니다. Google의 변경 사항은 동의하지 않은 포르노 딥페이크 콘텐츠에 대한 가시성을 엄청나게 제거합니다. “즉, 사람들이 액세스하려면 훨씬 더 열심히 노력해야 한다는 뜻입니다.”라고 그는 말합니다.
1월에 나는 ~에 대해 썼습니다. 비합의적 노골적 딥페이크에 맞서 싸울 수 있는 세 가지 방법. 여기에는 규제, AI가 생성했는지 감지하는 데 도움이 되는 워터마크, 공격자가 이미지를 사용하기 어렵게 만드는 보호 실드가 포함되었습니다.
8개월이 지난 지금도 워터마크와 보호막은 여전히 실험적이고 신뢰할 수 없지만, 다행히도 규제가 다소 개선되었습니다. 예를 들어, 영국은 합의되지 않은 노골적인 딥페이크의 제작과 배포를 모두 금지했습니다. 이 결정으로 인해 이런 종류의 콘텐츠를 배포하는 인기 사이트인 Mr DeepFakes가 영국 사용자의 접근을 차단했다고 Ajder는 말합니다.
EU의 AI 법이 이제 공식적으로 발효되어 투명성에 대한 몇 가지 중요한 변화를 가져올 수 있습니다. 이 법은 딥페이크 제작자가 해당 자료가 AI에 의해 만들어졌다는 것을 명확히 공개하도록 요구합니다. 그리고 7월 말, 미국 상원은 피해자가 성적으로 노골적인 딥페이크에 대한 민사상 구제책을 구할 수 있는 방법을 제공하는 Defiance Act를 통과시켰습니다. (이 법안은 아직 하원에서 많은 장애물을 통과해야 법이 됩니다.)
하지만 해야 할 일이 아직 많습니다. Google은 어떤 웹사이트가 트래픽을 얻고 있는지 명확히 파악하고 검색 결과 상단에서 딥페이크 사이트를 제거하려고 하지만, 더 나아갈 수도 있습니다. “왜 이걸 아동 포르노 웹사이트처럼 취급하지 않고 가능한 한 검색에서 완전히 제거하지 않는 걸까요?” Ajder가 말합니다. 그는 또한 Google의 발표에서 딥페이크 비디오가 언급되지 않고 이미지만 언급된 것이 이상하다고 생각했습니다.
딥페이크에 맞서는 것에 대한 제 이야기를 회고해보면, 회사에서 할 수 있는 일을 더 많이 포함했어야 했다는 것을 알 수 있습니다. Google의 검색 변경은 중요한 첫 단계입니다. 하지만 앱 스토어는 여전히 사용자가 누드 딥페이크를 만들 수 있는 앱으로 가득 차 있으며, 결제 중개업체와 제공자는 여전히 사람들이 이러한 앱을 사용할 수 있는 인프라를 제공합니다.
아이데르는 우리에게 동의 없는 딥페이크에 대한 생각 방식을 근본적으로 바꾸고, 기업에 그런 콘텐츠를 만들거나 접근하기 어렵게 만드는 변화를 요구할 것을 촉구합니다.
“이런 것들은 온라인에서 우리가 아동 포르노에 대해 생각하는 것과 같은 방식으로 보아야 하고 다루어야 합니다. 반사적으로 역겹고, 끔찍하고, 터무니없는 일입니다.”라고 그는 말합니다. “그러려면 모든 플랫폼이 … 조치를 취해야 합니다.”
이제 알고리즘의 나머지 부분을 읽어보세요.
더 깊은 학습
임종 결정은 어렵고 괴로운 일입니다. AI가 도움이 될 수 있을까요?
몇 달 전, 50대 중반의 여성(소피라고 하죠)이 출혈성 뇌졸중을 겪었고, 이로 인해 심각한 뇌 손상을 입었습니다. 그녀의 치료는 그 후 어디로 가야 할까요? 이런 상황에서 보통 그렇듯이, 이 어려운 질문이 소피의 가족들에게 맡겨졌지만, 그들은 동의할 수 없었습니다. 이 상황은 소피의 의사를 포함한 모든 관련자들에게 괴로운 일이었습니다.
AI 입력: 미국 국립보건원의 생명윤리학자 데이비드 웬들러는 임종 결정은 다른 사람을 대신하여 전화를 걸어야 하는 대리모에게 극도로 불안한 일이 될 수 있다고 말합니다. 웬들러와 그의 동료들은 일을 더 쉽게 만들어 줄 수 있는 무언가를 연구하고 있습니다. 대리모가 환자 자신이 원하는 것이 무엇인지 예측하는 데 도움이 되는 인공 지능 기반 도구입니다. 여기에서 Jessica Hamzelou의 더 많은 내용을 읽어보세요..
비트와 바이트
OpenAI에서 대화가 가능한 새로운 ChatGPT 봇을 출시했습니다.
새로운 챗봇은 Siri와 Alexa와 같은 맥락에서 AI 기반 음성 비서의 새로운 세대를 향한 OpenAI의 노력을 보여주지만, 더 자연스럽고 유창한 대화를 가능하게 하는 기능이 훨씬 더 강화되었습니다.MIT 기술 리뷰)
메타는 사용자들에게 별로 호평을 받지 못한 유명인 AI 챗봇을 폐기했습니다.
파리스 힐튼과 같은 유명인을 기반으로 한 AI 챗봇을 출시한다고 발표한 지 1년도 채 되지 않아, 이 회사는 이 기능을 폐기합니다. 결국 아무도 무작위 AI 유명인과 채팅하고 싶어하지 않았습니다! 대신 Meta는 AI Studio라는 새로운 기능을 출시합니다. 이 기능을 사용하면 크리에이터가 팬과 채팅할 수 있는 AI 아바타를 만들 수 있습니다. (정보)
OpenAI는 ChatGPT를 사용하여 부정행위를 하는 학생을 잡아내는 워터마킹 도구를 보유하고 있지만 이를 공개하지 않을 것입니다.
이 도구는 인공지능이 작성한 텍스트를 99.9%의 확률로 감지할 수 있지만, 회사는 사람들이 자사의 AI 제품 사용에 꺼릴까봐 두려워서 출시하지 않았습니다.월스트리트 저널)
AI법이 시행되었습니다
마침내! 이제 기업들은 최악의 피해를 억제하는 것을 목표로 하는 세계 최초의 광범위한 AI 법률 중 하나를 준수해야 합니다. 이는 유럽 연합과 그 너머에서 AI가 구축되고 사용되는 방식에 절실히 필요한 변화를 가져올 것입니다. 저는 다음에 대해 썼습니다. 이 새로운 법률로 무엇이 바뀔까요?그리고 3월에는 일어나지 않을 일들. (유럽 위원회)
TikTok 봇과 AI가 영국 극우 폭력의 재등장을 촉진한 방식
영국에서 세 소녀가 비극적으로 칼에 찔려 사망한 사건 이후, 이 나라는 극우 폭동과 파괴 행위의 급증을 목격했습니다. 폭도들은 증오를 부추기고 해로운 고정관념을 퍼뜨리는 AI 생성 이미지를 만들었습니다. 극우 단체는 또한 AI 음악 생성기를 사용하여 외국인 혐오 콘텐츠가 있는 노래를 만들었습니다. 이러한 노래는 강력한 추천 알고리즘 덕분에 온라인에서 들불처럼 퍼졌습니다. (수호자)
