에이전트 공장 : 안전하고 안전한 AI 에이전트를위한 청사진 만들기

ceprodblogsupp

6시간 ago

이 블로그 게시물은 6 부로 부는 블로그 시리즈 중 6 번째입니다. 에이전트 공장 에이전트 AI 채택 및 구축을 안내하는 모범 사례, 디자인 패턴 및 도구를 공유합니다.

다음 국경으로 신뢰하십시오

신뢰는 Enterprise AI의 결정적인 도전이 빠르게되고 있습니다. 관찰 가능성이 보는 것이라면 보안은 조향에 관한 것입니다. 에이전트가 영리한 프로토 타입에서 핵심 비즈니스 시스템으로 이동함에 따라 기업은 더 어려운 질문을하고 있습니다. 에이전트가 어떻게 안전하고 안전하며, 규모가 규모가 규모가 높아 지는가?

대답은 포인트 수정의 패치 워크가 아닙니다. 청사진입니다. 정체성, 가드 레일, 평가, 적대적 테스트, 데이터 보호, 모니터링 및 거버넌스를 결합하여 신뢰하는 계층화 된 접근 방식.

Azure AI Foundry로 신뢰 구축에 대해 자세히 알아보십시오

기업이 지금 청사진을 만들어야하는 이유

산업 전반에 걸쳐, 우리는 같은 우려를 듣습니다.

CISO는 에이전트 스프롤과 소유권에 대해 걱정합니다.
보안 팀은 기존 워크 플로에 연결하는 Guardrails가 필요합니다.
개발자는 첫날부터 추가되지 않으며 마지막에는 추가되지 않기를 원합니다.

이 압력은 왼쪽 현상. 보안, 안전 및 거버넌스 책임은 개발자 워크 플로로 일찍 이동하고 있습니다. 팀은 에이전트를 보호하기 위해 배치까지 기다릴 수 없습니다. 처음부터 내장 보호, 평가 및 정책 통합이 필요합니다.

데이터 누출, 신속한 주입 및 규제 불확실성은 AI 채택의 최고 차단제로 남아 있습니다. 기업의 경우, 신뢰는 이제 에이전트가 파일럿에서 생산으로 이동하는지 여부의 중요한 요소입니다.

안전하고 안전한 에이전트가 어떻게 생겼는지

엔터프라이즈 채택에서 5 가지 자질이 두드러집니다.

독특한 정체성 : 모든 에이전트는 수명주기에 걸쳐 알려지고 추적됩니다.
설계 별 데이터 보호 : 민감한 정보는 오버 공유를 줄이기 위해 분류되고 적용됩니다.
내장 컨트롤 : 피해 및 위험 필터, 위협 완화 및 접지 점검은 안전하지 않은 결과를 줄입니다.
위협에 대한 평가 : 에이전트는 배포 전 및 생산 전반에 걸쳐 자동화 된 안전 평가 및 적대적 프롬프트로 테스트됩니다.
지속적인 감독 : 원격 측정은 조사 및 대응을위한 엔터프라이즈 보안 및 규정 준수 도구에 연결됩니다.

이러한 특성은 절대 안전을 보장하지는 않지만 기업 표준을 충족하는 신뢰할 수있는 에이전트를 구축하는 데 필수적입니다. 이 제품들을 우리 제품에 베이킹하는 것은 신뢰할 수있는 AI에 대한 Microsoft의 접근 방식을 반영합니다. 보호는 모델, 시스템, 정책 및 사용자 경험 수준에 걸쳐 계층화되며 에이전트가 진화함에 따라 지속적으로 개선됩니다.

Azure AI Foundry 가이 청사진을 지원하는 방법

Azure AI Foundry 계층화 된 프로세스 기업에서 보안, 안전 및 거버넌스 기능을 함께 제공하여 에이전트에 대한 신뢰를 구축 할 수 있습니다.

엔트라 에이전트 ID
곧 Foundry에서 생성 된 모든 에이전트가 고유 한 Entra 에이전트 ID가 배정되어 조직에 세입자의 모든 활성 에이전트에 대한 가시성을 제공하고 그림자 에이전트를 줄이는 데 도움이됩니다.
에이전트 제어
파운드리는 먼저 업계를 제공합니다 에이전트 제어 그것은 포괄적이고 내장되어 있습니다. 신속한 문서뿐만 아니라 도구 응답, 이메일 트리거 및 기타 신뢰할 수없는 소스를 스캔하여 악의적 인 지침을 플래그, 차단 및 중화하기 위해 교차 프롬프트 주입 분류기가있는 유일한 AI 플랫폼입니다. Foundry는 또한 잘못 정렬 된 도구 통화, 고위험 조치 및 민감한 데이터 손실을 피 및 위험 필터, 접지 검사 및 보호 된 재료 탐지와 함께 방지하는 컨트롤을 제공합니다.

위험 및 안전 평가
평가는 수명주기 전체의 피드백 루프를 제공합니다. 팀은 배치 전과 생산에서 피해 및 위험 점검, 근거 점수 및 보호 된 재료 스캔을 실행할 수 있습니다. Azure AI Red Teaming Agent와 Pyrit Toolkit은 사고가 생산에 도달하기 전에 행동, 표면 취약점 및 탄력성을 강화하기 위해 규모로 적대적인 프롬프트를 시뮬레이션합니다.
자신의 자원으로 데이터 제어
표준 에이전트 설정 Azure AI Foundry 에이전트 서비스 기업이 자체 Azure 자원을 가져올 수 있습니다. 여기에는 파일 저장, 검색 및 대화 내역 저장이 포함됩니다. 이 설정을 통해 파운드리 에이전트가 처리 한 데이터는 조직의 보안, 규정 준수 및 거버넌스 제어에 따라 세입자의 경계 내에 남아 있습니다.
네트워크 격리
Foundry Agent Service는 사용자 정의 가상 네트워크 및 서브넷 대표단으로 개인 네트워크 격리를 지원합니다. 이 구성을 통해 에이전트는 엄격하게 범위를 둔 네트워크 경계 내에서 작동하고 엔터프라이즈 용어에 따라 민감한 고객 데이터와 안전하게 상호 작용할 수 있습니다.
Microsoft Purview
Microsoft Purview 데이터 보안 및 AI 워크로드에 대한 규정 준수를 확장하는 데 도움이됩니다. Foundry의 에이전트는 Purview Sensitivity Labels 및 DLP 정책을 존중할 수 있으므로 데이터에 적용되는 보호는 에이전트 출력에 적용됩니다. 규정 준수 팀은 Purview Compliance Manager 및 관련 도구를 사용하여 EU AIC 및 NIST AI RMF와 같은 프레임 워크와의 정렬을 평가하고 용어에 따라 민감한 고객 데이터와 안전하게 상호 작용할 수 있습니다.
마이크로 소프트 수비수
Foundry Surfaces의 경고 및 권장 사항 마이크로 소프트 수비수 에이전트 환경에서 직접 개발자와 관리자에게 신속한 주입 시도, 위험한 도구 통화 또는 비정상적인 행동과 같은 문제에 대한 가시성을 제공합니다. 이 동일한 원격 측정법은 또한 보안 운영 센터 팀이 확립 된 워크 플로우를 사용하여 다른 엔터프라이즈 경보와 함께 사건을 조사 할 수있는 Microsoft Defender XDR로 스트리밍됩니다.
거버넌스 공동 작업자
Foundry는 Credo AI 및 Saidot과 같은 거버넌스 공동 작업자와 연결됩니다. 이러한 통합을 통해 조직은 EU AI ACT 및 NIST AI 위험 관리 프레임 워크를 포함한 프레임 워크에 평가 결과를 매핑 할 수 있으므로 책임있는 AI 관행 및 규제 조정을보다 쉽게 입증 할 수 있습니다.

청사진이 작동합니다

기업 채택에서 이러한 관행은 다음과 같습니다.

정체성으로 시작하십시오. 가시성을 설정하고 스프롤을 방지하기 위해 Entra 에이전트 ID를 할당하십시오.
내장 컨트롤. 프롬프트 방패, 피해 및 위험 필터, 접지 검사 및 보호 된 재료 탐지를 사용하십시오.
지속적으로 평가합니다. 배치 전 및 생산 전반에 걸쳐 Red Taming Agent 및 Pyrit과의 실행 및 위험 점검, 지상 점수, 보호 된 재료 스캔 및 적대적 테스트.
민감한 데이터를 보호하십시오. 에이전트 출력에서 보호가 영예를 얻으려면 Purview 레이블 및 DLP를 적용하십시오.
엔터프라이즈 도구로 모니터링하십시오. 원격 측정을 수비수 XDR로 스트리밍하고 파운드리 관찰 가능성을 사용하여 감독.
지배 구조를 규제에 연결하십시오. 거버넌스 공동 작업자를 사용하여 EU AIC 및 NIST AI RMF와 같은 프레임 워크에 평가 데이터를 매핑합니다.

고객의 증거 포인트

기업은 이미 Azure AI Foundry와 함께 보안 청사진을 생성하고 있습니다.

Ey Azure AI Foundry의 리더 보드 및 평가를 사용하여 품질, 비용 및 안전으로 모델을 비교하여 더 큰 확신을 갖는 솔루션을 돕습니다.
Accenture Microsoft AI Red Taming Agent를 테스트하여 적대적 프롬프트를 규모로 시뮬레이션하고 있습니다. 이를 통해 팀은 개별 응답뿐만 아니라 공격 조건에서 생중계 조건에서 완전한 다중 에이전트 워크 플로우를 검증 할 수 있습니다.

자세히 알아보십시오

함께 만들어 Azure AI Foundry.
우리와 함께하십시오 9 월 30 일에 Microsoft Secure 최신 기능과 Azure AI Foundry가 Microsoft Security와 통합하여 Vasu Jakkal, Sarah Bird 및 Herain Oberoi를 포함한 스피커와 함께 안전하고 안전한 에이전트를 구축하는 데 도움이되는 방법에 대해 알아보십시오.
구현 a 책임있는 생성 AI Azure AI Foundry의 해결책.

에이전트 팩토리 시리즈 에서이 게시물을 놓쳤습니까?

게시물 에이전트 공장 : 안전하고 안전한 AI 에이전트를위한 청사진 만들기 먼저 나타났습니다 Microsoft AI 블로그.