이 블로그 게시물은 6 부로 부는 블로그 시리즈 중 6 번째입니다. 에이전트 공장 에이전트 AI 채택 및 구축을 안내하는 모범 사례, 디자인 패턴 및 도구를 공유합니다.
다음 국경으로 신뢰하십시오
신뢰는 Enterprise AI의 결정적인 도전이 빠르게되고 있습니다. 관찰 가능성이 보는 것이라면 보안은 조향에 관한 것입니다. 에이전트가 영리한 프로토 타입에서 핵심 비즈니스 시스템으로 이동함에 따라 기업은 더 어려운 질문을하고 있습니다. 에이전트가 어떻게 안전하고 안전하며, 규모가 규모가 규모가 높아 지는가?
대답은 포인트 수정의 패치 워크가 아닙니다. 청사진입니다. 정체성, 가드 레일, 평가, 적대적 테스트, 데이터 보호, 모니터링 및 거버넌스를 결합하여 신뢰하는 계층화 된 접근 방식.
기업이 지금 청사진을 만들어야하는 이유
산업 전반에 걸쳐, 우리는 같은 우려를 듣습니다.
- CISO는 에이전트 스프롤과 소유권에 대해 걱정합니다.
- 보안 팀은 기존 워크 플로에 연결하는 Guardrails가 필요합니다.
- 개발자는 첫날부터 추가되지 않으며 마지막에는 추가되지 않기를 원합니다.
이 압력은 왼쪽 현상. 보안, 안전 및 거버넌스 책임은 개발자 워크 플로로 일찍 이동하고 있습니다. 팀은 에이전트를 보호하기 위해 배치까지 기다릴 수 없습니다. 처음부터 내장 보호, 평가 및 정책 통합이 필요합니다.
데이터 누출, 신속한 주입 및 규제 불확실성은 AI 채택의 최고 차단제로 남아 있습니다. 기업의 경우, 신뢰는 이제 에이전트가 파일럿에서 생산으로 이동하는지 여부의 중요한 요소입니다.
안전하고 안전한 에이전트가 어떻게 생겼는지
엔터프라이즈 채택에서 5 가지 자질이 두드러집니다.
- 독특한 정체성 : 모든 에이전트는 수명주기에 걸쳐 알려지고 추적됩니다.
- 설계 별 데이터 보호 : 민감한 정보는 오버 공유를 줄이기 위해 분류되고 적용됩니다.
- 내장 컨트롤 : 피해 및 위험 필터, 위협 완화 및 접지 점검은 안전하지 않은 결과를 줄입니다.
- 위협에 대한 평가 : 에이전트는 배포 전 및 생산 전반에 걸쳐 자동화 된 안전 평가 및 적대적 프롬프트로 테스트됩니다.
- 지속적인 감독 : 원격 측정은 조사 및 대응을위한 엔터프라이즈 보안 및 규정 준수 도구에 연결됩니다.
이러한 특성은 절대 안전을 보장하지는 않지만 기업 표준을 충족하는 신뢰할 수있는 에이전트를 구축하는 데 필수적입니다. 이 제품들을 우리 제품에 베이킹하는 것은 신뢰할 수있는 AI에 대한 Microsoft의 접근 방식을 반영합니다. 보호는 모델, 시스템, 정책 및 사용자 경험 수준에 걸쳐 계층화되며 에이전트가 진화함에 따라 지속적으로 개선됩니다.
Azure AI Foundry 가이 청사진을 지원하는 방법
Azure AI Foundry 계층화 된 프로세스 기업에서 보안, 안전 및 거버넌스 기능을 함께 제공하여 에이전트에 대한 신뢰를 구축 할 수 있습니다.
- 엔트라 에이전트 ID
곧 Foundry에서 생성 된 모든 에이전트가 고유 한 Entra 에이전트 ID가 배정되어 조직에 세입자의 모든 활성 에이전트에 대한 가시성을 제공하고 그림자 에이전트를 줄이는 데 도움이됩니다. - 에이전트 제어
파운드리는 먼저 업계를 제공합니다 에이전트 제어 그것은 포괄적이고 내장되어 있습니다. 신속한 문서뿐만 아니라 도구 응답, 이메일 트리거 및 기타 신뢰할 수없는 소스를 스캔하여 악의적 인 지침을 플래그, 차단 및 중화하기 위해 교차 프롬프트 주입 분류기가있는 유일한 AI 플랫폼입니다. Foundry는 또한 잘못 정렬 된 도구 통화, 고위험 조치 및 민감한 데이터 손실을 피 및 위험 필터, 접지 검사 및 보호 된 재료 탐지와 함께 방지하는 컨트롤을 제공합니다.
- 위험 및 안전 평가
평가는 수명주기 전체의 피드백 루프를 제공합니다. 팀은 배치 전과 생산에서 피해 및 위험 점검, 근거 점수 및 보호 된 재료 스캔을 실행할 수 있습니다. Azure AI Red Teaming Agent와 Pyrit Toolkit은 사고가 생산에 도달하기 전에 행동, 표면 취약점 및 탄력성을 강화하기 위해 규모로 적대적인 프롬프트를 시뮬레이션합니다. - 자신의 자원으로 데이터 제어
표준 에이전트 설정 Azure AI Foundry 에이전트 서비스 기업이 자체 Azure 자원을 가져올 수 있습니다. 여기에는 파일 저장, 검색 및 대화 내역 저장이 포함됩니다. 이 설정을 통해 파운드리 에이전트가 처리 한 데이터는 조직의 보안, 규정 준수 및 거버넌스 제어에 따라 세입자의 경계 내에 남아 있습니다. - 네트워크 격리
Foundry Agent Service는 사용자 정의 가상 네트워크 및 서브넷 대표단으로 개인 네트워크 격리를 지원합니다. 이 구성을 통해 에이전트는 엄격하게 범위를 둔 네트워크 경계 내에서 작동하고 엔터프라이즈 용어에 따라 민감한 고객 데이터와 안전하게 상호 작용할 수 있습니다. - Microsoft Purview
Microsoft Purview 데이터 보안 및 AI 워크로드에 대한 규정 준수를 확장하는 데 도움이됩니다. Foundry의 에이전트는 Purview Sensitivity Labels 및 DLP 정책을 존중할 수 있으므로 데이터에 적용되는 보호는 에이전트 출력에 적용됩니다. 규정 준수 팀은 Purview Compliance Manager 및 관련 도구를 사용하여 EU AIC 및 NIST AI RMF와 같은 프레임 워크와의 정렬을 평가하고 용어에 따라 민감한 고객 데이터와 안전하게 상호 작용할 수 있습니다. - 마이크로 소프트 수비수
Foundry Surfaces의 경고 및 권장 사항 마이크로 소프트 수비수 에이전트 환경에서 직접 개발자와 관리자에게 신속한 주입 시도, 위험한 도구 통화 또는 비정상적인 행동과 같은 문제에 대한 가시성을 제공합니다. 이 동일한 원격 측정법은 또한 보안 운영 센터 팀이 확립 된 워크 플로우를 사용하여 다른 엔터프라이즈 경보와 함께 사건을 조사 할 수있는 Microsoft Defender XDR로 스트리밍됩니다. - 거버넌스 공동 작업자
Foundry는 Credo AI 및 Saidot과 같은 거버넌스 공동 작업자와 연결됩니다. 이러한 통합을 통해 조직은 EU AI ACT 및 NIST AI 위험 관리 프레임 워크를 포함한 프레임 워크에 평가 결과를 매핑 할 수 있으므로 책임있는 AI 관행 및 규제 조정을보다 쉽게 입증 할 수 있습니다.
청사진이 작동합니다
기업 채택에서 이러한 관행은 다음과 같습니다.
- 정체성으로 시작하십시오. 가시성을 설정하고 스프롤을 방지하기 위해 Entra 에이전트 ID를 할당하십시오.
- 내장 컨트롤. 프롬프트 방패, 피해 및 위험 필터, 접지 검사 및 보호 된 재료 탐지를 사용하십시오.
- 지속적으로 평가합니다. 배치 전 및 생산 전반에 걸쳐 Red Taming Agent 및 Pyrit과의 실행 및 위험 점검, 지상 점수, 보호 된 재료 스캔 및 적대적 테스트.
- 민감한 데이터를 보호하십시오. 에이전트 출력에서 보호가 영예를 얻으려면 Purview 레이블 및 DLP를 적용하십시오.
- 엔터프라이즈 도구로 모니터링하십시오. 원격 측정을 수비수 XDR로 스트리밍하고 파운드리 관찰 가능성을 사용하여 감독.
- 지배 구조를 규제에 연결하십시오. 거버넌스 공동 작업자를 사용하여 EU AIC 및 NIST AI RMF와 같은 프레임 워크에 평가 데이터를 매핑합니다.
고객의 증거 포인트
기업은 이미 Azure AI Foundry와 함께 보안 청사진을 생성하고 있습니다.
- Ey Azure AI Foundry의 리더 보드 및 평가를 사용하여 품질, 비용 및 안전으로 모델을 비교하여 더 큰 확신을 갖는 솔루션을 돕습니다.
- Accenture Microsoft AI Red Taming Agent를 테스트하여 적대적 프롬프트를 규모로 시뮬레이션하고 있습니다. 이를 통해 팀은 개별 응답뿐만 아니라 공격 조건에서 생중계 조건에서 완전한 다중 에이전트 워크 플로우를 검증 할 수 있습니다.
자세히 알아보십시오
- 함께 만들어 Azure AI Foundry.
- 우리와 함께하십시오 9 월 30 일에 Microsoft Secure 최신 기능과 Azure AI Foundry가 Microsoft Security와 통합하여 Vasu Jakkal, Sarah Bird 및 Herain Oberoi를 포함한 스피커와 함께 안전하고 안전한 에이전트를 구축하는 데 도움이되는 방법에 대해 알아보십시오.
- 구현 a 책임있는 생성 AI Azure AI Foundry의 해결책.
에이전트 팩토리 시리즈 에서이 게시물을 놓쳤습니까?
- 에이전트 AI의 새로운 시대 – 공통 사용 사례 및 설계 패턴
- 실제 결과를 제공하는 도구로 첫 AI 에이전트 구축
- 신뢰할 수있는 AI에 대한 상위 5 에이전트 관찰 가능성 모범 사례
- 프로토 타입에서 생산 – 개발자 도구 및 빠른 에이전트 개발
- MCP 및 A2A와 같은 새로운 개방형 표준을 가진 에이전트, 앱 및 데이터 연결
게시물 에이전트 공장 : 안전하고 안전한 AI 에이전트를위한 청사진 만들기 먼저 나타났습니다 Microsoft AI 블로그.