Microsoft가 유명인과 다른 사람들의 유해한 이미지를 만드는 AI 해커를 쓰러 뜨리는 방법

(() => {
$ iframe, $ closeBtn;
const $ player = document.getElementById ( ‘player-681CD566E66FC’);
const $ playerPlayBtn = document.getElementById ( ‘player-btn-681cd566e66fc’);
const $ playerPlayTitleBtn = document.getElementById ( ‘Player-Title-BTN-681CD566E66FC’);
const $ playerText = document.getElementById ( ‘player-text-681cd566e66fc’);
기능 onkeydown (e) {
if (document.ActiveElement! == $ CloseBtn) {
$ iframe.focus ();
}
}
함수 initiframe (e) {
$ iframe = document.createElement ( ‘iframe’);
$ iframe.style.top = 0;
$ iframe.style.left = 0;
$ iframe.style.position = ‘절대’;
$ iframe.style.width = ‘100%’;
$ iframe.style.height = ‘100%’;
$ iframe.setAttribute ( ‘Frameborder’, 0);
$ iframe.setattribute ( ‘tabindex’, 1);
$ iframe.setAttribute ( ‘allow’, ‘autoplay; fullscreen’);
$ iframe.setAttribute ( ‘title’, ‘Microsoft가 유명인과 다른 사람들의 유해한 이미지를 만드는 AI 해커를 쓰러 뜨리는 방법’);
$ iframe.setAttRibute ( ‘src’, ‘https://www.youtube-nocookie.com/embed/?autoplay=1&autohide=1&fs=1&modestbranding=1&showinfo=0&controls=2&autoplay=1&temem=0&temememem=0/relimemem=10/Thememe=
$ closeBtn = $ player.querySelector ( ”[data-close-player]’);
$ player.insertbefore ($ iframe, $ closeBtn);
$ player.removeEventListener ( ‘Click’, initiframe);
$ playerText.style.display = ‘none’;
$ player.style.display = ‘블록’;
document.addeventListener ( ‘keyup’, onkeydown);
settimeout (() => {
$ iframe.focus ();
$ iframe.click ();
settimeout (() => {
$ iframe.focus ();
$ iframe.click ();
$ CloseBtn.setAttribute ( ‘tabindex’, 1);
}, 1000);
}, 1000);
함수 ClosePlayer () {
$ CloseBtn.removeEventListener ( ‘Click’, ClosePlayer);
$ player.removeChild ($ iframe);
$ player.style.display = ‘none’;
$ closeBtn.style.display = ‘none’;
$ playerText.style.removeProperty ( ‘display’);
$ closeBtn.setAttribute ( ‘tabindex’, -1);
document.removeeventListener ( ‘keyup’, onkeydown);
$ playerPlayBtn.focus (); // 비디오를 시작한 버튼으로 다시 집중하십시오.
}
$ closeBtn.addeventListener ( ‘Click’, ClosePlayer);
$ closeBtn.style.display = ‘block’;
}
$ playerPlayBtn && $ playerPlayBtn.addeventListener ( ‘click’, initiframe);
$ playerPlayTitleBtn && $ playerPlayTitleBtn.addeventListener ( ‘Click’, initiframe);
}) ();

7 월 금요일 오후 7 월에 겉보기에 고립 된 문제가 Microsoft의 AI 사건 탐지 및 응답 팀의 책임자 인 Phillip Misner의 레이더에 나타났습니다. 누군가 AI 이미지 생성기에 대한 고객의 고유 한 액세스 코드를 도난 당했고 유명인의 성적인 이미지를 만들기 위해 보호 조치를 취하고있었습니다.

Misner와 그의 동료들은 코드를 취소했지만 곧 도난당한 고객 자격 증명 또는 API 키가 증오 자료를 퍼뜨리는 것으로 알려진 익명 게시판에 팝업을 보았습니다. 그들은이 문제를 현재 사람들이 유해한 AI 컨텐츠를 만들지 못하게하는 Microsoft의 첫 번째 법적 사례가 된 회사 전체의 보안 대응으로 확대했습니다.

Misner는“우리는 AI의 오용을 매우 진지하게 받아들이고 희생자들에게 학대적인 이미지의 피해를 인식합니다.

법원 문서는 Microsoft의 모습을 자세히 설명합니다 글로벌 네트워크 해체 유명인, 여성 및 색채의 수천 개의 학대 AI 이미지를 만들어 낸 것으로 추정됩니다. 많은 이미지는 성적으로 명시 적, 잘못 주의적, 폭력적이거나 증오적이었습니다.

이 회사는 Storm-2139라고 불리는 네트워크에는 Azure Openai 서비스에 침입 할 수있는 도구 및 기타 회사의 AI 플랫폼에“해킹 된 서비스 제도”를 구축 한 6 명의 사람들이 포함되어 있다고 말합니다. 이란, 영국, 홍콩 및 베트남에 위치한 4 명의 사람들은 버지니아 동부 지역에 미국 지방 법원에 제기 된 마이크로 소프트의 민사 불만에서 피고로 지명되었습니다. 이 불만은 또 다른 10 명이 도구를 사용하여 AI 보호 조치를 우회하고 Microsoft의 이용 약관을 위반하여 이미지를 만들었다 고 주장합니다.

“이 사례는 우리가 AI 기술의 남용을 용납하지 않는다는 분명한 메시지를 보냅니다. 디지털 범죄 단위(DCU). “우리는 그들의 운영을 중단하고 누군가가 우리의 도구를 남용하면 당신을 따라갈 것입니다.”

사람들을 온라인으로 안전하게 유지합니다

이 소송은 회사의 오랜 작업의 일부입니다. 디지털 안전사이버 폐색 및 범죄자 방해에서 건물에 이르기까지 안전하고 안전한 AI 시스템 . 노력에는 의원, 옹호자 및 피해자와의 일이 포함됩니다. 명백한 이미지로부터 사람들을 보호하십시오이미지가 실제인지 또는 AI로 제작되었는지 여부에 관계없이 동의없이 공유됩니다.

Microsoft의 부사장 겸 최고 디지털 안전 책임자 인 Courtney Gregoire는“이런 종류의 이미지 남용은 여성과 소녀들을 불균형 적으로 목표로 삼고 AI의 시대는 근본적으로 일어날 수있는 규모를 변화 시켰습니다. “디지털 안전에 대한 우리의 접근 방식의 핵심은 기술에 의해 부정적인 영향을받은 사람들의 말을 듣고 피해를 완화하기 위해 다층 접근 방식을 취하는 것입니다.”

DCU가 12 월에 초기 불만을 제기 한 직후, 웹 사이트를 압수하고 활동을 차단했으며 그 사건을 계속 구축했습니다. 이 소송은 네트워크 회원들이 서로를 켜고, 사례 변호사의 이메일을 공유하고, 익명의 팁을 주조하는 비난을 보냈습니다. 이를 통해 수사관은 다른 AI 학대자를 막기 위해 공개 전략에서 법정에서 피고인을 지명하는 데 도움이되었습니다. 2 월에 수정 된 불만으로 인해 팀의 지속적인 조사에 대한 더 많은 네트워크 채터와 증거가 생겼습니다.

DCU의 주요 수사관 인 Maurice Mason은“이 그룹에서 압력이 가열되어 서로에 대한 정보를 포기하기 시작했습니다.

수천 개의 악의적 인 AI 프롬프트

수사관들은 피고인들이 이미지 생성 모델에 불법적으로 액세스하기위한 소프트웨어 제품군과 활동을 숨기고 버지니아의 컴퓨터에 이미지를 저장하는 역 프록시 서비스를 구축하고 홍보했다고 말합니다. 액세스를 인증하는 데 사용되는 도난당한 자격 증명은 공개 플랫폼에 노출 된 Azure 고객의 소유였습니다.

도구를 사용하는 사람들은 Microsoft의 컨텐츠 안전 필터를 우회하기 위해 벗어났습니다. 그들은 차단 된 프롬프트를 반복하고, 우회 기술을 공유했으며, AI 모델을 보호하여 원하는 것을 얻기 위해 AI 모델을 조작하도록 설계된 수천 개의 악의적 인 프롬프트를 입력했다고 조사관은 말했다.

콘텐츠 필터가 유명인 이미지 (심해에 대한 보호)에 대한 프롬프트를 거부하면 사용자는 유명인에 대한 물리적 설명을 대체했습니다. 필터가 유해한 콘텐츠에 대한 프롬프트를 금지하면 사용자는 문자와 단어를 AI 모델을 속이기 위해 구독과 같은 기술 표기법으로 대체했습니다. Microsoft는 이러한 우회 방법을 해결했으며 사건에 대한 응답으로 AI 보호 수단을 향상 시켰습니다.

DCU의 선임 데이터 분석가 인 마이클 맥도날드 (Michael McDonald)는“프롬프트와 이미지를 분석 할 때 발견 된 테이크 아웃 중 하나는 가드 레일을 치마를 치우고 금지 된 이미지를 제작하는 것이 분명하다는 것이 분명하다는 것입니다.

학대를 방해하고 억제합니다

이 회사는 또한 영향을받는 고객이 보안을 향상시키는 데 도움을주었습니다. AI 위험 및 유해한 콘텐츠에 대한 보호 및 보안에 대한 지속적인 투자의 일환. 컨텐츠 자격 증명이라는 하나의 보호 조치 인 출처 메타 데이터는 조사관이 발견 된 많은 이미지의 기원을 설정하는 데 도움이되었습니다. Microsoft는 정보 투명성을 제공하기 위해 AI로 만든 이미지에 메타 데이터를 첨부하고 딥 파이크와 싸우십시오 . 이 회사는 또한 오랜 리더입니다 업계 그룹 컨텐츠 자격 증명을 만들었습니다.

Microsoft의 책임있는 AI의 최고 제품 책임자 인 Sarah Bird는“AI의 오용은 실제로 지속적인 영향을 미칩니다. “우리는 강력한 가드 레일을 구축하고 AI 기술이 안전하고 안전하며 신뢰할 수 있도록 보안 조치를 구현하기 위해 지속적으로 혁신하고 있습니다.”

마이크로 소프트 주장 피고는 컴퓨터 사기 및 학대법, Digital Millenium Copyright Act 및 기타 미국 법률을 위반했습니다. 수사관은 미국 및 기타 국가의 다른 사람들을 형사 고발로 법 집행 기관에 언급하고 있습니다. 이 팀은 알려진 피해자와 이미지 및 법적 사례에 대한 정보를 공유했습니다.

Boscovich는“우리는이 네트워크를 계속 모니터링하고 학대를 막기 위해 필요에 따라 추가 피고인을 식별 할 것입니다.