이 게스트 기사는 저자의 기사에서 발췌한 것입니다. 새로운 책 비관주의에서 약속으로: 포괄적 기술 설계에 대한 글로벌 사우스의 교훈MIT 출판사에서 출판.
남아프리카 공화국의 AI 기반 코뿔소 목걸이, 펀잡 농장의 컴퓨터 비전 해충 탐지 드론, 말라위 농촌의 웨어러블 건강 기기는 무엇이 공통점일까요?
이러한 이니셔티브는 모두 다음의 일부입니다. 좋은 AI AI 기술을 유엔의 지속 가능한 개발 목표에 맞춰 조정하여 빈곤, 건강, 교육, 환경적 지속 가능성과 같은 세계적 과제에 대한 해결책을 찾는 운동입니다.
AI 기반 솔루션에 대한 갈증은 이해할 만합니다. 2023년에 남아프리카에서 밀렵꾼에 의해 499마리의 코뿔소가 죽었습니다. 10% 이상 증가 2022년부터. 펀잡의 여러 농부들 면화 수확량의 약 90%를 잃었습니다. 분홍색 볼웜에 대해서; 만약 해충이 제때 발견되었다면, 그들은 농작물을 살릴 수 있었을 것입니다. 의료에 관해서는, 농촌 지역에서 의료 종사자의 수를 늘리기 위한 수십 년의 노력에도 불구하고, 그들은 계속해서 도시로 이주하고 있습니다.
하지만 AI를 “좋은” 것으로 만드는 것은 무엇일까요? 왜 우리는 글로벌 사우스에서 AI 응용 프로그램을 도덕성과 자선으로 시작해야 할까요? 그리고 고귀한 의도가 AI 도구를 세계 대부분에서 작동하도록 만드는 것으로 이어질까요?
변화된 현실
사실, 수십 년 전의 남반구는 존재하지 않았습니다.
오늘날 남반구 국가들은 더욱 자신감이 생기고, 더욱 진취적이며, 개척자로서의 리더십을 발휘하고 있습니다. 지역적으로 적합한 AI 도구 사람들을 위해 일하는 것. 스타트업은 새로운 기술의 성공이 의미 있는 채택과 확장을 위해 지역 지식을 활용하는 데 달려 있다는 것을 알고 있습니다.
“서구에서 혁신하고 나머지에 전파하라”는 오래된 공식은 이 새로운 현실과 맞지 않습니다. 서구가 오래된 선교 열정을 고수하는 동안, 남남 협력 계속 성장하고 있으며, 새로운 기술을 공유하고 AI 거버넌스를 구축하고 있습니다. 게다가 일부 기술 이타주의 이니셔티브는 데이터 추출 활동을 은폐하여 자선보다는 거래에 더 가까워지면서 비판을 받고 있습니다.
기술 이타주의 시장
8월 유럽연합은 AI에 관한 법적 틀을 마련했다. AI법, 발효되다. 그 조치는 시민과 이해관계자가 위험을 완화하는 동시에 이러한 도구를 최적화하도록 돕기 위한 것입니다. 그들의 문서에는 AI에 대한 언급이 거의 없습니다. 그것은 단순히 기본입니다. 그러나 우리가 글로벌 북에서 남으로 이동함에 따라 도덕성이 작용합니다.
기술 이타주의는 이러한 변화를 강조합니다. AI for Good 이니셔티브 중 다수는 기술 자선가들의 자금 지원 글로벌 지원 기관과 협력합니다. 선행을 하는 것은 글로벌 사우스를 라이브 실험실로 삼아 기술 솔루션을 시범적으로 개발하는 데서 나타납니다. 개발 종사자들 사이에서 흔히 하는 농담은 그들의 분야가 결코 확장되지 않는 시범 프로젝트의 급성 증후군인 “pilotitis”에 시달린다는 것입니다. 글로벌 사우스는 일반적으로 기술 솔루션주의의 수혜자, 시장, 수혜자로 여겨집니다.
코뿔소를 위한 AI 칼라를 가져가세요. 보존 칼라 이니셔티브 예를 들어 남아프리카에서는 비정상적인 행동을 감지하고 이러한 신호는 위험 가능성을 계산하는 AI 시스템으로 전송됩니다. 동물이 긴급한 위험에 처해 있다고 판단하면 레인저는 이론적으로 밀렵을 중단하기 위해 즉시 조치를 취할 수 있습니다. 하지만 제 팀이 조사했을 때 지상 현실우리는 레인저들이 비포장 도로, 오래된 차량, 장거리를 포함하여 빠른 행동에 수많은 장애물에 직면한다는 것을 발견했습니다. 많은 레인저들이 몇 달 동안 급여를 받지 못했고, 그들의 동기는 낮았습니다. 그리고 이 모든 것에 더하여, 그들은 수십억 달러 규모의 코뿔소 무역 사업을 보호하는 무장 민병대에 직면했습니다.
펀잡에서는 컴퓨터 비전이 있는 드론이 농부들이 작물을 파괴하기 전에 해충을 감지하도록 안내할 수 있습니다. 기후 스마트 농업을 위한 글로벌 연합 농부들이 기후 위기의 변덕에 직면함에 따라 이러한 AI 기반 기술을 많이 포함하는 프로젝트에 자금을 지원합니다. 그러나 탐지는 더 큰 문제의 일부에 불과합니다. 농부들은 품질이 좋지 않고 감당할 수 없는 살충제, 고리대금업자, 단일 작물 재배로 인한 취약성, 물 부족으로 어려움을 겪습니다. 농업 혁신가들은 도구가 아무리 좋더라도 기술을 일찍 도입하는 사람이 거의 없다고 불평합니다. 결국, 남반구의 젊은이들은 점점 더 농업에 미래가 없다고 생각한다.
그 사이에 우리는 다음과 같은 자선 활동을 보았습니다. 빌 & 멜린다 게이츠 재단 AI를 위한 대규모 도전을 시작하여 아프리카 의료 시스템의 부담을 덜어줍니다. 그 결과 다음과 같은 수상자가 탄생했습니다. 인텔서브 말라위에서는 지능형 질병 감시 데이터 피드백 시스템 스마트 웨어러블 기기의 데이터를 계산합니다. 그러나 이러한 기기에 대한 수백 개의 특허가 매년 등록되고 있음에도 불구하고 아직은 지속적으로 고품질 데이터 수집말라위와 같은 지역에서는 이러한 장치가 의료 AI의 단일 교육 데이터 소스가 되어 의료 시스템의 오류를 증폭시킬 수 있습니다.
사실, 우리는 사회 개혁을 수반하지 않고는 AI로 문제를 해결할 수 없습니다. 적절한 도로를 건설하거나 레인저에게 제때 급여를 지불하는 것은 혁신이 아니라 상식입니다. 마찬가지로, 의료 분야든 농업 분야든 사람들은 이러한 기술을 도입하기 위해 사회적 인센티브가 필요합니다. 그렇지 않으면 이러한 AI 도구는 야생에 남아 있을 것이고, 길들여지지 않을 것입니다.
데이터는 화폐입니다
AI 기업들이 이제 심각한 문제에 직면함에 따라 기술적 이타주의가 점점 더 의심스러워지고 있습니다. 데이터 부족. 그들은 글로벌 사우스에서 데이터를 얻기 위해 노력하고 있습니다. 대부분의 기술 사용자 라이브. 예를 들어, 월드코인의 경우OpenAI CEO가 공동 창립 샘 알트만. “모든 사람에게 소유권을 부여하는 세계 최대의 개인 정보 보호 인간 신원 및 금융 네트워크”가 되는 것을 계획하고 있습니다. Worldcoin은 2019년에 비영리 단체로 시작하여 주로 글로벌 사우스 국가에서 “orb” 장치를 통해 생체 인식 데이터를 수집하고 암호화폐와 교환했습니다. 오늘날 이 단체는 영리 단체이며 많은 국가에서 의심스러운 데이터 수집 방법으로 조사를 받고 있습니다.
독일 비영리 단체 하인리히 뵐 재단 최근 공격적인 성장에 대해 보고되었습니다. 아프리카 전역의 디지털 농업 플랫폼 농부들에게 AI 기반 앱을 통해 정밀 농업과 수확량 증가를 약속하는 앱입니다. 그러나 이러한 앱은 종종 기업이 농장에서 사용되는 종자, 토양, 작물, 비료 및 날씨에 대한 데이터에 무료로 액세스할 수 있도록 합니다. 기업은 AI 분석을 사용하여 이 정보를 무기화하여 차별적인 농업 보험 정책이나 종자 및 비료에 대한 마이크로 타겟팅 광고를 만들 수 있습니다. 마찬가지로 의료 분야에서 디지털 건강 센터 브라운 대학에서 보고했습니다. 개인 건강 데이터 판매 사용자의 동의 없이 제3자 광고주에게 제공됨.
문제는 법을 따라야 하는 사기업과 달리 이타적 이니셔티브는 “자선적” 의도로 인해 규제를 우회하는 데 종종 성공한다는 것입니다. 거의 10년 전, Facebook은 무료 기본 사항넷 중립성 원칙을 위반하여 글로벌 사우스에서 제한된 인터넷 서비스에 대한 액세스를 제공했습니다. 인도가 2015년에 Free Basics를 차단했을 때, 마크 주커버그는 충격을 받은 듯하며 “누가 이에 반대할 수 있을까?”라고 말했습니다.
오늘은 누가 이 배에 탑승할 수 있을지 물어보겠습니다.
가부장주의에서 파트너십으로
한 추정에 따르면 2024년 현재 남반구는 세계 경제 성장률 80%. 가까이에 세계 젊은 인구의 90% 이 지역에 거주하고 있으며 혁신을 위한 중요한 공간이 되었습니다. 2018년 중국은 세계 혁신 지수 순위에 가장 가장 혁신적인 상위 20개 세계의 여러 국가. 인도 정부는 “기술 스택세계에서 가장 큰 오픈 소스, 상호 운용 가능한 공개 디지털 인프라입니다. 이 스택은 기업가가 제품과 서비스를 애플과 구글의 독점 이는 경쟁과 선택을 제한합니다.
남반구가 혁신적 역량을 보여주었음에도 불구하고 모방자라는 딱지는 여전히 끈적끈적하다. 이러한 인식은 종종 서구 조직이 남반구 국가를 수혜자로 취급하고, 글로벌 혁신의 파트너이자 리더로 취급하지 않는 것으로 이어진다.
이제 글로벌 사우스를 과소평가하는 것을 그만둬야 할 때입니다. 대신 서구 조직은 다양한 소비자가 세계 대다수의 기회, 보호 장치, 디지털 미래를 재고하는 데 어떻게 도움이 될 수 있는지 살펴보는 데 에너지를 집중해야 합니다. 포용은 이타적인 행위가 아닙니다. 오늘날 인류가 직면한 사악한 문제에 대한 해결책을 만드는 데 필수적인 요소입니다.
새로운 기술을 설계할 때, 우리는 선행에 대한 웅장한 비전을 가진 도덕성 중심의 디자인에서 벗어나야 합니다. 대신, 우리는 사람, 맥락, 정책 간의 관계에 초점을 맞춘 디자인을 위해 노력해야 합니다.
디자이너, 프로그래머, 자금 제공자는 글로벌 사우스의 사용자와 기업가가 AI가 자신의 삶에 개입하는 것에 대해 말하는 내용을 듣는 데서 이익을 얻을 수 있습니다. 그리고 정책 입안자는 “AI for Good”라는 용어를 묻어버려야 합니다.
미디어는 기술만으로 세계의 문제를 해결할 수 있는지에 대한 논쟁을 멈춰야 합니다. 우리에게 필요한 진짜 맥락적 지능은 AI가 아니라 인간에게서 나올 것입니다.