이 스토리는 원래 AI에 대한 주간 뉴스레터인 The Algorithm에 실렸습니다. 이와 같은 스토리를 먼저 받은 편지함에서 받으려면, 여기서 가입하세요.
어제 7월 21일, 조 바이든 대통령은 미국 대선에서 도널드 트럼프와의 경쟁에서 물러나겠다고 발표했습니다.
하지만 AI 덕후들은 정확히 1년 전인 2023년 7월 21일에 바이든이 백악관에서 7명의 최고 기술 임원과 포즈를 취했던 것을 기억할 것입니다. 그는 그 당시 AI 부문을 겨냥한 가장 규범적인 규칙 8개에 합의한 거래를 막 협상했습니다. 1년 안에 많은 것이 바뀔 수 있습니다!
자발적인 약속은 강력한 기술을 거의 보장하지 않고 구축하고 있던 AI 부문에 매우 필요한 지침으로 환영받았습니다. 그 이후로 8개 회사가 더 약속에 서명했으며 백악관은 행정 명령 예를 들어, 테스트 결과 해당 기술이 국가 안보에 위험을 초래할 수 있다는 것이 확인되면 개발자는 새로운 AI 모델에 대한 안전 테스트 결과를 미국 정부와 공유해야 한다는 요구 사항이 포함됩니다.
미국의 정치는 극도로 양극화되어 있으며, 이 나라는 조만간 AI 규제를 통과시킬 가능성이 낮습니다. 따라서 이러한 공약은 반독점법과 소비자 보호 규칙과 같은 일부 기존 법률과 함께 사람들을 AI 피해로부터 보호하는 측면에서 미국이 가진 최선의 방법입니다. 자발적 공약 1주년을 기념하기 위해 저는 그 이후로 무슨 일이 일어났는지 살펴보기로 했습니다. 저는 자발적 공약에 서명한 원래 7개 회사에 공약을 준수하기 위해 무엇을 했는지 가능한 한 많이 공유해 달라고 요청했고, 소수의 외부 전문가와 응답을 교차 확인했으며, 얼마나 많은 진전이 있었는지 최선을 다해 알려주려고 노력했습니다. 내 이야기는 여기서 읽을 수 있습니다.
실리콘 밸리는 규제를 싫어하며, 그것이 혁신을 방해한다고 주장합니다. 지금 현재 미국은 소비자를 해로부터 보호하기 위해 기술 부문의 선의에 의존하고 있지만, 이러한 회사는 언제든지 자신에게 맞는 정책을 변경하기로 결정할 수 있으며 실질적인 결과에 직면하지 않습니다. 그리고 그것이 비구속적 약속의 문제입니다. 서명하기 쉽고 잊기도 쉽습니다.
하지만 그렇다고 해서 가치가 없다는 것은 아닙니다. 이러한 도구는 AI 개발에 대한 규범을 만들고 회사에 더 나은 성과를 내도록 대중의 압력을 가하는 데 유용할 수 있습니다. 단 1년 만에 기술 회사는 AI 레드팀, 워터마킹, AI 시스템을 안전하게 만드는 방법에 대한 연구 투자와 같은 몇 가지 긍정적인 변화를 구현했습니다. 그러나 이러한 종류의 약속은 옵트인에 한하며, 이는 회사가 언제든지 다시 옵트아웃할 수 있음을 의미합니다. 여기서 이 분야의 다음 큰 질문이 생깁니다. 바이든의 후임자는 미국의 AI 정책을 어디로 가져갈까요?
도널드 트럼프가 11월 대선에서 승리하더라도 AI 규제에 대한 논쟁은 사라지지 않을 것으로 보인다. UC 버클리의 CITRIS 정책 연구실 소장인 브랜디 노네케의 말입니다.
“때때로 각 정당은 AI 사용에 대해 서로 다른 우려를 갖습니다. 한 정당은 노동력 효과에 대해 더 우려하고, 다른 정당은 편견과 차별에 대해 더 우려할 수 있습니다.”라고 Nonnecke는 말합니다. “미국에서 AI 개발에 대한 몇 가지 보호책과 감독이 필요하다는 것은 양당의 문제라는 것은 분명합니다.”라고 그녀는 덧붙입니다.
트럼프는 AI에 대해 생소한 사람이 아니다. 그는 재임 중에 다음 사항에 서명했습니다. 행정 명령 AI 연구에 대한 더 많은 투자를 요구하고 연방 정부에 새로운 국가 AI 이니셔티브 사무소에서 조정하는 더 많은 AI를 사용하도록 요청했습니다. 그는 또한 조기에 책임 있는 AI에 대한 지침. 그가 집권에 복귀하면 바이든의 행정명령을 폐기하고 자신의 행정명령을 시행할 계획이라고 한다. AI 행정명령 AI 규제를 줄이고 군사 AI를 강화하기 위한 “맨해튼 프로젝트”를 수립하는 한편, 바이든은 의회가 구속력 있는 AI 규제를 통과시키도록 계속 요구하고 있습니다. 그러니 실리콘 밸리의 억만장자들이 트럼프를 지지한 것은 놀라운 일이 아닙니다.
이제 알고리즘의 나머지 부분을 읽어보세요.
더 깊은 학습
구글의 새로운 날씨 예측 모델은 AI와 기존 물리학을 결합합니다.
Google DeepMind 연구원들은 NeuralGCN이라는 새로운 날씨 예측 모델을 구축했습니다. 이 모델은 머신 러닝과 보다 전통적인 기술을 결합하여 현재 비용의 일부만으로 정확한 예측을 제공하고 지난 수년 동안 날씨 예측 전문가들 사이에서 커진 전통적인 물리학과 AI 간의 격차를 메울 수 있습니다.
뭐 대단한 일이야? 수년간의 과거 데이터에서 학습하여 날씨를 예측하는 새로운 머신 러닝 기술은 매우 빠르고 효율적이지만 장기 예측에는 어려움을 겪을 수 있습니다. 반면 지난 50년 동안 날씨 예측을 지배해 온 일반 순환 모델은 복잡한 방정식을 사용하여 대기의 변화를 모델링합니다. 정확한 예측을 제공하지만 실행 속도가 매우 느리고 비쌉니다. 전문가들은 앞으로 어떤 도구가 가장 신뢰할 수 있을지에 대해 의견이 엇갈리고 있지만 Google의 새로운 모델은 두 가지를 결합하려고 시도합니다. 그 결과 컴퓨팅 파워를 덜 사용하면서도 더 빠르게 양질의 예측을 생성할 수 있는 모델이 탄생했습니다. James O’Donnell의 다른 글을 여기에서 읽어보세요.
비트와 바이트
AI의 작동 방식을 공개하기 위해 탈옥이 곧 합법화될 수도 있습니다.
정부가 현재 고려 중인 미국 저작권법에 대한 면제 덕분에 AI 시스템의 기술적 보호 조치를 위반하여 편향 및 유해한 콘텐츠를 조사하고 학습에 사용된 데이터에 대한 정보를 알아내는 것이 곧 더 쉬워질 것입니다.404 미디어)
AI를 구동하는 데이터가 빠르게 사라지고 있습니다
작년에 뉴스 사이트와 같은 AI 훈련 데이터의 가장 중요한 온라인 웹 소스 중 다수가 회사가 콘텐츠를 스크래핑하는 것을 차단했습니다. MIT 연구에 따르면 모든 데이터의 5%, 최고 품질의 소스에서 나온 데이터의 25%가 제한되었습니다. (뉴욕 타임즈)
OpenAI, Broadcom과 새로운 AI 칩 개발을 위한 협의 중
OpenAI CEO 샘 알트먼은 AI 칩에 대한 독점권을 가진 엔비디아에 대한 OpenAI의 의존도를 줄일 새로운 칩 벤처를 개발하는 데 바쁘다. 이 회사는 Broadcom을 포함한 많은 칩 설계자들과 이야기를 나누었지만, 여전히 실현되기까지는 몇 년이 걸릴 수 있는 먼 이야기다. 실현된다면 OpenAI가 더 강력한 모델을 구축하는 데 사용할 수 있는 컴퓨팅 파워를 크게 높일 수 있다. (정보)
