Azure AI Foundry : AI 앱 및 에이전트 공장

0
1
azure-ai-foundry-:-ai-앱-및-에이전트-공장
Azure AI Foundry : AI 앱 및 에이전트 공장

소프트웨어 개발은 ​​변화를 겪고 있습니다. 구세계에서는 건물 소프트웨어가 긴 릴레이였습니다. 계획을 세우고 몇 달 동안 건축 할 수 있는데, 출시 분기가 시작되었습니다. 신세계에서 AI 기반 도구는 아이디어를 몇 시간 동안 프로토 타입으로 바꾸고 며칠 안에 생산 솔루션으로 바꿉니다. 이를 위해 개발자는 코드, 협업 및 클라우드를 원활하게 연결하는 엔드 투 엔드 플랫폼이 필요합니다. Microsoft는 세 가지 모두가 함께 모이는 유일한 회사입니다. Visual Studio Code, Github 및 Azure가 설계된 통합 된 Ai-Native Development 경험을 형성합니다. 모든 개발자가 AI로 미래를 형성 할 수 있도록 권한을 부여하십시오. 우리는 보안 및 신뢰가 내장 된 풀 스택 AI 플랫폼을 제공하고 있습니다. 클라우드에서 가장자리까지 AI 기반 앱 및 에이전트를 구축하고 실행하는 데 필요한 모든 것을 제공합니다.

불과 2 년 만에 우리는 초기 기초 모델에서 복잡한 워크 플로우가 가능한 AI 에이전트로 갔다. Microsoft Azure AI Foundry는 이미 70,000 명 이상의 고객을 지원하기 위해 성장하여 지난 분기에 100 조의 토큰을 처리하며 20 억 개의 일일 엔터프라이즈 검색 쿼리에 전원을 공급했습니다. 응용 프로그램 계층으로 시작한 것은 이제 실제 비즈니스 가치를 제공하는 지능형 에이전트를 구축하는 풀 스택 플랫폼이되었습니다.

이러한 AI 에이전트가 더욱 강력 해지고보다 복잡한 작업을 처리 할 수 ​​있도록 최첨단 모델, 통합 도구 및 내장 거버넌스가 필요합니다. 오늘 Microsoft Build 2025에서 우리는 공개하고 있습니다 Azure AI Foundry의 10 주요 혁신 이것을 가능하게합니다.

1. 새로운 모델

우리는 최첨단 모델로 카탈로그를 확장하여 개발자에게 더 많은 선택을 제공합니다. 여기에는 포함됩니다 그로크 3 Xai에서 오늘 사용 가능 플럭스 프로 1.1 Black Forest Labs에서 곧 출시 될 예정입니다 소라가 곧 올 것입니다 미리보기에서 ~을 통해 파운드리 모델의 Azure Openai. 우리는 이제 끝났습니다 포옹 페이스에서 10,000 개의 오픈 소스 모델 파운드리 모델로 제공됩니다. 우리는 지원합니다 완전한 미세 조정 (LORA/QLORA 및 DPO 포함) 따라서 미세 조정 가능한 모델을 필요에 맞게 조정할 수 있습니다. 또한, 우리는 롤아웃하고 있습니다 미세 조정을위한 새로운 개발자 계층-호스팅 수수료가 없습니다오버 헤드없이 미세 조정 방법을 실험하고 평가하는 간단한 방법.

2. 더 똑똑한 모델 시스템

이제 각 작업에 적합한 모델을 선택하는 것이 더 쉬워집니다. 우리의 새로운 모델 라우터 프롬프트에 대한 최적의 Azure Openai 모델을 자동으로 선택합니다. 다음 달부터 우리는 확장하고 있습니다 예약 용량 Azure Openai 및 선택 파운드리 모델 (Black Forest Labs, DeepSeek, Mistral, Meta 및 XAI)의 모델과 같은 선택된 Foundry 모델을 선택하므로 하중에서도 일관된 성능을 얻을 수 있습니다. 이러한 모든 모델은 Azure AI Foundry 모델을위한 통합 API 및 MCP (Model Context Protocol) 서버를 통해 액세스 할 수 있으므로 프로토 타입에서 프로덕션으로 이동할 수 있습니다.

Azure AI Foundry의 모델 라우터.

3. Azure AI Foundry 에이전트 서비스

Azure AI Foundry Agent Service입니다 이제 일반적으로 사용할 수 있습니다생산 등급 AI 에이전트를 쉽게 설계, 배포 및 규모로 만들 수 있습니다. 이상 10,000 개의 조직– 리더를 포함하여 하이네켄,,, 카바나그리고 후지츠– 이미 Azure AI Foundry를 사용하여 자체 데이터와 지식으로 복잡한 비즈니스 프로세스를 자동화했습니다. 이 완전 관리 서비스 인프라 및 오케스트레이션을 관리하며 즉시 사용 가능한 템플릿, 작업 및 커넥터가 제공됩니다. 1,400 개의 엔터프라이즈 데이터 소스 (SharePoint, Microsoft Fabric 및 Third-Party Systems와 같은), 컨텍스트 인식 에이전트의 개발 속도를 높입니다. 몇 번의 클릭으로 에이전트를 Microsoft 365 (Microsoft 팀 및 사무실 앱) 또는 Slack 및 Twilio와 같은 다른 플랫폼에 배치 할 수 있습니다.직원들이 매일 사용하는 도구에 에이전트를 직접 가져옵니다..

4. 다중 에이전트 오케스트레이션

실제 워크 플로우에는 종종 필요합니다 여러 에이전트 함께 일합니다. Azure AI Foundry는 이제 그렇게 쉽게 만듭니다. 클라우드를 가로 질러. 에이전트는 서로를 도구로 부를 수 있습니다 (커넥 티드 에이전트)복잡한 문제를 공동으로 해결하기 위해 전문 에이전트 간의 작업을 전달합니다. 새로운 다중 에이전트 워크 플로 컨텍스트를 관리하고 오류를 처리하며 장기 실행 프로세스 (재무 승인 또는 공급망 운영과 같은 시나리오에 대한 장기 프로세스를 유지하기위한 상태의 계층을 제공하십시오. 우리는 또한 구현했습니다 개방 상호 운용성 표준-와 같은 에이전트 대 에이전트 (A2A) 커뮤니케이션다른 에이전트가 정보를 교환하고 작업을 조정할 수 있도록 모델 컨텍스트 프로토콜 (MCP) 에이전트가 상황에 맞는 데이터를 일관되게 공유하고 해석 할 수 있도록합니다. 이러한 표준은 에이전트가 할 수 있도록합니다 Azure, AWS, Google Cloud 및 온 프레미스 환경에서 완벽하게 협력. 후드 아래, 우리는입니다 시맨틱 커널과 Autogen 프레임 워크를 통일합니다 이 완벽한 에이전트 오케스트레이션을 지원합니다.

그리고 왜냐하면 Azure ai 파운드리 힘 Microsoft Copilot Studio모델 선택 및 미세 조정에서 미리 작성된 에이전트 배포에 이르기까지 지속적인 루프를 유지합니다. 예를 들어, 스탠포드 의학 Azure AI Foundry에서 이미 Microsoft Copilot Studio와 함께 의료 에이전트 오케스트레이터를 사용하여 맞춤형 임상 워크 플로우와의 종양 보드 회의를 간소화하고 있습니다.

5. 에이전트 검색

우리는 이러한 고급 에이전트를 지원하기 위해 정보 검색을 더 똑똑하게 만들고 있습니다. 에이전트 검색 ~에 Azure AI 검색 복잡한 질문을 위해 설계된 새로운 다중 회전 쿼리 엔진입니다. 대화 컨텍스트와 임베디드 LLM을 사용하여 사용자 쿼리를 하위 쿼리로 분류하고 여러 검색을 병렬로 실행 한 다음 인용으로 포괄적 인 답변을 컴파일합니다. 초기 테스트에서는이 접근법이 있습니다 최대 ~ 40%까지 답변 관련성을 향상시킵니다. 복잡한 다단계 질문에. 이제 공개 미리보기에서 에이전트 검색으로 인해 에이전트가 가능합니다 엔터프라이즈 데이터에보다 효과적으로 연결하십시오 정확하고 접지 된 답변을 위해 고급 검색 사용.

6. 항상 관찰 가능성

에이전트가 생산에 책임을 지으려면 성과에 대한 가시성이 필요합니다. 우리는 새로운 미리보기를 미리보고 있습니다 파운드리 관찰 가능성 엔드 투 엔드 모니터링 및 진단을 제공하는 기능. 대기 시간, 처리량, 사용 및 품질에 대한 내장 메트릭을 얻을 수 있습니다. 상세한 추적 로그 각 에이전트의 추론 단계 및 도구 통화 중. 개발 중에 우리의 에이전트 놀이터는 이제 프롬프트와 논리를 개선하는 데 도움이되는 평가 벤치 마크와 흔적을 보여줍니다. CI/CD로 이동하면 GitHub 및 Azure DevOps와의 통합을 제공하여 테스트 및 가드 레일을 통합합니다. 제작에서 통합 대시 보드 (Azure Monitor와 통합)는 모델 및 에이전트에 대한 실시간 통찰력과 경고를 제공합니다.

7. 에이전트의 엔터프라이즈 급 정체성

Microsoft Entra 에이전트 ID 조직의 에이전트 ID를 관리하는 첫 번째 단계이며 AI 에이전트가 할 수있는 일에 대한 완전한 가시성과 제어를 제공합니다. Microsoft Entra 에이전트 ID는 Azure AI Foundry 또는 Microsoft Copilot Studio로 구축 한 모든 에이전트에 고유 한 일류 신원을 할당합니다.. 이는 AI 에이전트가 Microsoft Entra 디렉토리에 적용되는 사람과 동일한 신분 관리를받는 것을 의미하므로 각 에이전트에 대한 액세스 컨트롤 및 권한을 설정할 수 있습니다. 곧 보안 관리자는 조건부 액세스 정책, 다중 요소 인증 및 최소 소외 역할을 대리인에게 적용하고 로그인 활동을 모니터링 할 수 있습니다. 에이전트가 리소스에 액세스하지 않아야하는 경우 일반 사용자와 마찬가지로 차단됩니다.

8. 신뢰할 수있는 AI 내장

책임있는 AI는 우리와 고객에게 협상 할 수 없습니다. 새로운 기능을 추가했습니다 AI 시스템을 발견, 보호 및 관리하십시오 처음부터. 에이전트 평가자 이제 에이전트가 사용자 의도를 따르고 도구를 올바르게 사용하여 개발자를위한 문제를 표시하는지 자동으로 확인하십시오. an AI RED 팀링 에이전트 취약점이나 편견에 대해 에이전트를 지속적으로 조사하므로 배포 전에 약점을 수정할 수 있습니다. 우리의 콘텐츠 필터링은 더 똑똑해졌습니다 “스포트라이트”– 향상 프롬프트 방패 저것 악의적 인 프롬프트 주입을 더 잘 감지하고 완화합니다 (사용자 또는 들어오는 데이터에 관계없이). 우리는 또한 향상을 활성화했습니다 가드 레일 에이전트가 민감한 정보를 공개하지 못하도록하기 위해 (PII) 또는 승인 된 작업을 계속합니다. 에 보안 측면, Azure AI Foundry가 통합됩니다 클라우드 용 Microsoft Defender 위협이 발생할 때 경고를 높이기 위해. 그리고 규정 준수를 돕기 위해 우리는 제공합니다 거버넌스 도구와의 박스 외 통합 좋다 나는 믿습니다,,, 상기그리고 Microsoft Purview 모델 성능, 공정성 및 규제 요구 사항을 추적합니다. 첫날부터 Azure AI Foundry는 안전, 보안 및 거버넌스 AI (및 사용자)를 구축하는 도구가 신뢰할 수 있습니다.

9. Foundry Local

모든 AI가 클라우드에서 실행 해야하는 것은 아닙니다. 때로는 최상의 솔루션이 가장자리에 있습니다. 파운드리 로컬 Windows 및 Mac의 새로운 런타임입니다 AI 모델 및 에이전트. Foundry Local을 사용하면 오프라인으로 작동하는 크로스 플랫폼 AI 앱을 구축하고 민감한 데이터를 로컬로 유지하며 대역폭 비용을 줄일 수 있습니다. 이것은 인터넷이있는 공장 바닥에서의 제조와 같은 시나리오 또는 원격 지역에서 AI가 필요한 현장 서비스 앱을 제공합니다. 우리는 또한 Foundry를 Azure Arc와 통합하고 있습니다. 다가오는 Azure Arc 및 Foundry 통합을 사용하면 중앙에 위치한 AI 배포를 관리하고 업데이트 할 수 있습니다. 요컨대, Foundry는 AI 공장이됩니다-데이터가 클라우드에 있든 온-프레미스에 관계없이 데이터가있는 생성 AI를 전달합니다.

10. Foundry Labs의 미래 혁신

우리는 Microsoft Research와 함께 다음 프론티어를 탐색하고 있습니다. 파운드리 연구소. 흥미 진진한 발명은 프로젝트 Amelie단일 프롬프트에서 완전한 머신 러닝 파이프 라인을 구축 할 수있는 자율 에이전트 인 Microsoft Research의 RD 에이전트가 구동됩니다. “데이터 세트에서 고객 이탈 예측”과 같은 작업을 제공하면 Amelie는 AI 개발 실험 인 데이터를 수집하고 모델링하고 배포 가능한 솔루션을 생성합니다.

흰색 표면의 그래프

우리는 또한 AI 에이전트가 사람들과 서로의 상호 작용 방식을 다시 생각하고 있습니다. gagentic-ui (이제 오픈 소스)는 다중 에이전트 워크 플로와 인간의 루프 상호 작용에 대한 시각적 캔버스를 제공하고 유형 에이전트에게 장기 기억을 가져와 장기간 지식을 유지하고 기억할 수 있습니다. 과학 영역에서 새로운 AI 모델과 같은 새로운 AI 모델 Evodiff (새로운 단백질 생성) 및 Bioemu (을 위한 Azure AI Foundry에서 단백질이 어떻게 변하는 지 예측) 생물학 연구를 가속화합니다. 이 미래 예측 프로젝트는 Azure AI Foundry가 지속적으로 혁신하는 방법을 보여줍니다. 따라서 AI의 최신 혁신에 항상 액세스 할 수 있습니다.

Azure AI Foundry와의 경로

우리와 함께하십시오 Microsoft Build 2025 이러한 새로운 기능을 실제로보고 비즈니스를 변화시킬 수있는 방법을 배우십시오. 우리는이 새로운 AI 시대를 형성하기 위해 개발자 및 고객 커뮤니티 (우리의 개발자 및 고객 커뮤니티)와 함께 일하게되어 기쁩니다. 우리는 함께 AI를보다 접근 가능하고 강력하며 모든 사람에게 신뢰할 수있게 만들고 있습니다. 더 많이 배우고 시작하십시오 Azure AI Foundry.

자원:

게시물 Azure AI Foundry : AI 앱 및 에이전트 공장 먼저 나타났습니다 Microsoft AI 블로그.