유럽연합 집행위원회는 최근 행동 강령 이는 AI 회사의 운영 방식을 바꿀 수 있습니다. 이는 단지 또 다른 지침 세트가 아니라 가장 큰 기업조차도 무시할 수 없는 AI 감독에 대한 완전한 점검입니다.
이것이 무엇이 다른가? 처음으로 우리는 OpenAI 및 Google과 같은 회사가 외부 테스트를 위해 모델을 공개하도록 강제할 수 있는 구체적인 규칙을 확인하고 있습니다. 이는 유럽에서 AI 시스템을 개발하고 배포하는 방법에 대한 근본적인 변화입니다.
AI 감독의 새로운 파워 플레이어
유럽연합 집행위원회는 “시스템적 위험”이 있는 AI 시스템을 구체적으로 목표로 삼는 프레임워크를 만들었습니다. 우리는 10^25 FLOP 이상의 계산 능력으로 훈련된 모델에 대해 이야기하고 있습니다. 이는 GPT-4가 이미 넘어선 임계값입니다.
기업은 AI 훈련 계획을 시작하기 2주 전에 보고해야 합니다.
이 새로운 시스템의 중심에는 안전 및 보안 프레임워크(SSF)와 안전 및 보안 보고서(SSR)라는 두 가지 핵심 문서가 있습니다. SSF는 초기 위험 식별부터 지속적인 보안 조치까지 모든 것을 다루는 AI 위험 관리를 위한 포괄적인 로드맵입니다. 한편 SSR은 각 개별 모델에 대한 자세한 문서화 도구 역할을 합니다.
고위험 AI 모델에 대한 외부 테스트
위원회는 고위험 AI 모델에 대한 외부 테스트를 요구하고 있습니다. 이는 표준 내부 품질 검사가 아닙니다. 독립적인 전문가와 EU의 AI Office가 이러한 시스템의 내부에 들어가고 있습니다.
그 의미는 크다. OpenAI나 Google이라면 갑자기 외부 전문가가 시스템을 검사하도록 해야 합니다. 초안에는 기업이 “배포 전에 충분한 독립적인 전문가 테스트를 보장해야 한다”고 명시되어 있습니다. 이는 현재의 자율 규제 접근 방식과는 큰 변화입니다.
질문이 생깁니다. 이렇게 엄청나게 복잡한 시스템을 테스트할 자격이 있는 사람은 누구입니까? EU의 AI 사무국은 이전에 한 번도 차트에 표시되지 않은 영역으로 진출하고 있습니다. 새로운 AI 기술을 이해하고 평가하는 동시에 자신이 발견한 내용에 대해 엄격한 기밀을 유지할 수 있는 전문가가 필요합니다.
이 외부 테스트 요구 사항은 위원회 시행법을 통해 EU 전역에서 의무화될 수 있습니다. 기업은 “적절한 대체 수단”을 통해 규정 준수를 입증하려고 노력할 수 있지만 이것이 실제로 무엇을 의미하는지 확신하는 사람은 아무도 없습니다.
저작권 보호가 심각해집니다
EU도 저작권에 대해 심각하게 생각하고 있습니다. 그들은 AI 제공업체가 지적 재산을 처리하는 방법에 대한 명확한 정책을 만들도록 강요하고 있습니다.
위원회는 웹 크롤러에게 갈 수 있는 곳과 갈 수 없는 곳을 알려주는 간단한 파일인 robots.txt 표준을 뒷받침하고 있습니다. 웹사이트가 robots.txt를 통해 “아니요”라고 말하면 AI 회사는 이를 무시하고 해당 콘텐츠를 교육할 수 없습니다. 검색 엔진은 이러한 제외 항목을 사용한 사이트에 불이익을 줄 수 없습니다. 이는 콘텐츠 제작자를 다시 운전석에 앉히는 강력한 움직임입니다.
또한 AI 회사는 훈련 데이터를 수집할 때 불법 복제 웹사이트를 적극적으로 피해야 합니다. EU는 심지어 “위조품 및 불법 복제 감시 목록”을 출발점으로 지적하고 있습니다.
이것이 미래에 의미하는 바
EU는 AI 개발을 위한 완전히 새로운 경쟁의 장을 만들고 있습니다. 이러한 요구 사항은 기업이 AI 프로젝트를 계획하는 방법부터 훈련 데이터를 수집하는 방법까지 모든 것에 영향을 미칠 것입니다.
이제 모든 주요 AI 회사는 선택의 기로에 섰습니다. 다음 중 하나를 수행해야 합니다.
- 외부 테스트를 위해 모델 공개
- 규정 준수를 위한 신비한 “대체 수단”이 무엇인지 알아보세요.
- 또는 잠재적으로 EU 시장에서의 운영을 제한합니다.
여기서 타임라인도 중요합니다. 이는 먼 미래의 규제가 아닙니다. 위원회는 빠르게 움직이고 있습니다. 그들은 약 1,000명의 이해관계자를 4개의 작업 그룹으로 나누어 이것이 어떻게 작동할지에 대한 세부 사항을 모두 정리했습니다.
AI 시스템을 구축하는 기업의 경우 “빠르게 움직이고 나중에 규칙을 파악하는” 시대가 끝날 수 있습니다. 이러한 요구 사항이 의무화되는 시점이 아니라 지금부터 생각해야 합니다. 이는 다음을 의미합니다.
- 개발 일정에 따른 외부 감사 계획
- 강력한 저작권 준수 시스템 설정
- EU의 요구 사항에 맞는 문서화 프레임워크 구축
이러한 규정의 실제 영향은 앞으로 몇 달에 걸쳐 전개될 것입니다. 일부 회사에서는 해결 방법을 모색할 수 있지만 다른 회사에서는 이러한 요구 사항을 개발 프로세스에 통합합니다. EU의 프레임워크는 특히 다른 지역에서 유사한 감독 조치를 따르는 경우 AI 개발이 전 세계적으로 발생하는 방식에 영향을 미칠 수 있습니다. 이러한 규칙이 초안에서 구현으로 이동함에 따라 AI 산업은 사상 최대 규모의 규제 변화에 직면해 있습니다.
게시물 영향 규제로 설정된 EU의 새로운 AI 행동 강령 처음 등장한 Unite.AI.