AI 뉴스허브

기업이 AI를 더욱 쉽게 구축하고 출시할 수 있도록 함으로써 사람들이 신뢰할 수 있습니다.

기업이 AI를 더욱 쉽게 구축하고 출시할 수 있도록 함으로써 사람들이 신뢰할 수 있습니다.

기업이 AI를 더욱 쉽게 구축하고 출시할 수 있도록 함으로써 사람들이 신뢰할 수 있습니다.

기업이 AI를 더욱 쉽게 구축하고 출시할 수 있도록 함으로써 사람들이 신뢰할 수 있습니다.

바네사 호

(() => {
$iframe, $closeBtn을 허용합니다.
const $player = document.getElementById(‘player-6791242a39ec4’) ;
const $playerPlayBtn = document.getElementById(‘player-btn-6791242a39ec4’) ;
const $playerPlayTitleBtn = document.getElementById(‘player-title-btn-6791242a39ec4’) ;
const $playerText = document.getElementById(‘player-text-6791242a39ec4’) ;
함수 onKeyDown(e) {
if (document.activeElement !== $closeBtn) {
$iframe.focus() ;
}
}
함수 initIframe(e) {
$iframe = document.createElement(‘iframe’) ;
$iframe.style.top = 0 ;
$iframe.style.left = 0;
$iframe.style.position = ‘절대’ ;
$iframe.style.width = ‘100%’ ;
$iframe.style.height = ‘100%’ ;
$iframe.setAttribute(‘frameborder’, 0 ) ;
$iframe.setAttribute(‘tabindex’, 1 ) ;
$iframe.setAttribute(‘allow’, ‘autoplay; 전체 화면’ ) ;
$iframe.setAttribute(‘title’, ‘기업이 더 쉽게 AI를 구축하고 출시할 수 있도록 지원합니다. ‘ ) ;
$iframe.setAttribute(‘src’, ‘https://www.youtube-nocookie.com/embed/?autoplay=1&autohide=1&fs=1&modestbranding=1&showinfo=0&controls=2&autoplay=1&rel=0&theme=light&vq=hd720’) ;
$closeBtn = $player.querySelector(‘[data-close-player]’) ;
$player.insertBefore($iframe, $closeBtn) ;
$player.removeEventListener(‘click’, initIframe) ;
$playerText.style.display = ‘없음’ ;
$player.style.display = ‘차단’ ;
document.addEventListener(‘keyup’, onKeyDown) ;
setTimeout(()=>{
$iframe.focus() ;
$iframe.click() ;
setTimeout(()=>{
$iframe.focus() ;
$iframe.click() ;
$closeBtn.setAttribute(‘tabindex’, 1) ;
}, 1000);
}, 1000);
함수 closePlayer() {
$closeBtn.removeEventListener(‘click’, closePlayer) ;
$player.removeChild($iframe) ;
$player.style.display = ‘없음’ ;
$closeBtn.style.display = ‘없음’ ;
$playerText.style.removeProperty(‘display’) ;
$closeBtn.setAttribute(‘tabindex’, -1) ;
document.removeEventListener(‘keyup’, onKeyDown) ;
$playerPlayBtn.focus();// 비디오를 시작한 버튼에 다시 포커스를 둡니다.
}
$closeBtn.addEventListener(‘click’, closePlayer) ;
$closeBtn.style.display = ‘차단’ ;
}
$playerPlayBtn && $playerPlayBtn.addEventListener(‘click’, initIframe) ;
$playerPlayTitleBtn && $playerPlayTitleBtn.addEventListener(‘click’, initIframe) ;
})();

생성적 AI는 많은 산업을 변화시키고 있지만 기업은 기술이 발전함에 따라 안전한 AI 도구를 만들고 배포하는 방법에 어려움을 겪는 경우가 많습니다. 리더들은 AI가 부정확하거나 유해한 정보를 생성하거나, 민감한 데이터를 유출하거나, 공격자에 의해 도용되거나, 개인 정보 보호법을 위반할 위험에 대해 걱정하고 있으며 때로는 위험을 처리할 준비가 부족합니다.

“조직은 AI 애플리케이션의 품질 및 성능과 함께 안전과 보안에 관심을 갖습니다.”라고 최고 제품 책임자인 Sarah Bird는 말합니다. 책임감 있는 AI 마이크로소프트에서. “그러나 그들 중 다수는 AI를 신뢰할 수 있게 만들기 위해 무엇을 해야 하는지 이해하지 못하거나 이를 수행할 도구가 없습니다.”

격차를 해소하기 위해 Microsoft는 개발자가 신뢰할 수 있는 AI 시스템, 즉 보안, 안전 및 개인 정보 보호를 염두에 두고 구축된 AI를 구축하고 출시하는 데 도움이 되는 도구와 서비스를 제공합니다. 이 도구는 환자 의료 기록을 요약하는 AI 보조자부터 고객에게 세금 안내를 제공하는 AI 챗봇에 이르기까지 복잡하고 규제가 심한 환경에서 많은 조직이 기술을 출시하는 데 도움이 되었습니다.

Microsoft의 책임 있는 AI 수석 제품 관리자인 Mehrnoosh Sameki는 이 접근 방식이 개발자의 작업 효율성을 높이는 데도 도움이 된다고 말합니다.

이 게시물은 Microsoft의 일부입니다.책임감 있게 AI 구축 AI 배포와 관련된 주요 관심사와 회사가 책임감 있는 AI 관행 및 도구를 통해 이러한 문제를 해결하는 방법을 살펴보는 시리즈입니다.

“생성 AI 애플리케이션의 첫 번째 버전을 얻는 것은 매우 쉽지만, 사람들은 위험에 노출될까 봐 두려워하거나 규정을 준수하고 있는지 알 수 없기 때문에 실행되기 전에 속도를 크게 늦춥니다. 그리고 요구사항도요.”라고 그녀는 말합니다. “이러한 도구는 배포를 가속화하고 애플리케이션을 테스트하고 보호하는 과정에서 마음의 평화를 제공합니다.”

이 도구는 Microsoft가 자체 제품의 위험을 식별, 측정, 관리 및 모니터링하고 각 단계가 완료되었는지 확인하는 전문 지식을 바탕으로 책임감 있게 AI를 구축하기 위해 제공하는 전체적인 방법의 일부입니다. 생성적 AI가 처음 등장했을 때 회사는 보안, 안전, 공정성 및 기타 분야의 전문가를 모아 근본적인 위험을 식별하고 문서를 공유했으며, 이는 기술이 변화함에 따라 오늘날에도 여전히 수행되고 있습니다. 그런 다음 위험을 완화하기 위한 철저한 접근 방식과 이를 실행하기 위한 도구를 개발했습니다.

접근 방식은 다음의 작업을 반영합니다. AI 레드팀 다음과 같은 새로운 위험을 식별합니다. 환각 그리고 즉각적인 공격연구하는 연구자 딥페이크, 측정 전문가 AI 평가 시스템을 개발한 엔지니어, 안전 가드레일을 구축하고 개선하는 엔지니어. 도구에는 오픈 소스 프레임워크가 포함됩니다. 당신은 시도 레드팀이 위험을 식별할 수 있도록 Azure AI Foundry의 자동화된 평가 지속적으로 위험을 측정하고 모니터링하기 위해 Azure AI 콘텐츠 안전 유해한 입출력을 탐지하고 차단합니다.

또한 Microsoft는 강력한 AI 안전 시스템 구축의 일환으로 애플리케이션에 적합한 모델 선택, 시스템 메시지 작성 및 사용자 경험 설계에 대한 모범 사례를 게시합니다.

Bird는 “우리는 다양한 유형의 위험으로부터 보호하는 여러 계층이 포함된 심층 방어 접근 방식을 사용하며 사람들에게 이 작업을 직접 수행할 수 있는 모든 부분을 제공하고 있습니다.”라고 말합니다.

안내 챗봇을 구축한 세무 회사의 경우 AI 환각을 수정하는 기능은 정확한 정보를 제공하는 데 특히 중요하다고 Sameki는 말합니다. 또한 회사는 즉각적인 공격, 유해한 콘텐츠 및 개인 식별 정보를 차단하는 필터를 사용하여 챗봇을 더욱 안전하고 비공개적으로 만들었습니다.

그녀는 요약 도우미를 만든 의료 기관이 특히 정확성을 높이고 요약에서 핵심 정보가 누락되지 않도록 사용자 정의 필터를 만드는 도구에 관심이 있었다고 말했습니다.

Sameki는 “우리 도구 중 상당수는 디버깅 도구로 도움이 되므로 애플리케이션을 개선하는 방법을 이해할 수 있습니다.”라고 말합니다. “두 회사 모두 훨씬 더 자신감을 갖고 더 빠르게 배포할 수 있었습니다.”

또한 Microsoft는 조직이 애플리케이션이나 모델의 개발, 배포 및 운영에 대한 중요한 세부 정보를 추적하고 공유하는 시스템인 AI 거버넌스를 개선하도록 돕고 있습니다. Azure AI Foundry에서 비공개 미리 보기로 제공됩니다. AI 보고서 조직은 점점 늘어나는 AI 규정을 준수하고 평가 통찰력, 잠재적 위험 및 완화를 문서화하고 협업할 수 있는 통합 플랫폼을 제공할 것입니다.

Bird는 “올바른 거버넌스가 없으면 모든 부분이 제대로 작동하는지 알기가 어렵습니다.”라고 말합니다. “우리는 Microsoft의 AI 시스템이 규정을 준수하는지 확인하고 고객의 규정 준수 여정에 도움이 되는 모범 사례, 도구 및 기술을 공유하고 있습니다.”

이 작업은 사람들이 AI를 통해 더 많은 작업을 수행할 수 있도록 돕고 모든 사람이 작업을 더 쉽게 수행할 수 있도록 학습 내용을 공유하려는 Microsoft 목표의 일부입니다.

Bird는 “신뢰할 수 있는 자체 AI 시스템을 만드는 것은 우리가 하는 일의 기본이며 고객도 그렇게 할 수 있도록 지원하고 싶습니다.”라고 말합니다.

자세히 알아보기Microsoft의 책임 있는 AI 작업.

Makeshift Studios/Rocio Galarza의 리드 일러스트레이션. 2025년 1월 22일에 게시된 기사

Exit mobile version