AI 뉴스허브

Azure의 새로운 Phi 모델, 간소화된 RAG 및 사용자 지정 생성 AI 모델로 AI를 강화하세요

ceprodblogsupp
Azure의 새로운 Phi 모델, 간소화된 RAG 및 사용자 지정 생성 AI 모델로 AI를 강화하세요

Azure의 새로운 Phi 모델, 간소화된 RAG 및 사용자 지정 생성 AI 모델로 AI를 강화하세요

개발자들이 조직 전반에 걸쳐 AI 애플리케이션을 대규모로 개발하고 배포함에 따라 Azure는 전례 없는 모델 선택권과 현대 기업의 고유하고 복잡하며 다양한 요구 사항을 처리할 수 있는 유연하고 포괄적인 툴체인을 제공하기 위해 최선을 다하고 있습니다. 최신 모델과 최첨단 툴링의 강력한 조합을 통해 개발자는 조직의 데이터를 기반으로 고도로 맞춤화된 솔루션을 만들 수 있습니다. 그래서 개발자가 더 큰 선택권과 유연성을 갖춘 AI 솔루션을 신속하게 만들 수 있도록 돕는 여러 업데이트를 발표하게 되어 기쁩니다.애저 AI 툴체인:

더 많은 언어와 더 높은 처리량을 갖춘 Phi 모델 패밀리를 사용하세요

Phi 패밀리에 새로운 모델인 Phi-3.5-MoE, Mixture of Experts(MoE) 모델을 소개합니다. 이 새로운 모델은 16개의 작은 전문가를 하나로 결합하여 모델 품질을 개선하고 지연 시간을 줄입니다. 이 모델은 42B개의 매개변수이지만 MoE 모델이므로 한 번에 6.6B개의 활성 매개변수만 사용합니다. 훈련 중에 매개변수(전문가)의 하위 집합을 특수화한 다음 런타임에 작업에 관련 전문가를 사용할 수 있기 때문입니다. 이 접근 방식은 고객에게 더 큰 모델의 도메인 지식과 더 높은 품질의 출력을 갖춘 작은 모델의 속도와 계산 효율성의 이점을 제공합니다. Mixture of Experts 아키텍처를 사용하여 개선한 방법에 대해 자세히 알아보세요. Azure AI 번역 성능 및 품질.

또한 새로운 미니 모델인 Phi-3.5-mini를 발표합니다. 새로운 MoE 모델과 미니 모델은 모두 다국어로 지원됩니다. 20개 이상의 언어 추가 언어를 사용하면 사람들이 가장 편안하게 사용할 수 있는 언어로 모델과 상호 작용할 수 있습니다.

새로운 언어가 추가되더라도 새로운 미니 모델인 Phi-3.5-mini는 여전히 3.8B 매개변수에 불과합니다.

대화형 인텔리전스 분야의 선두주자인 CallMiner와 같은 회사는 속도, 정확성, 보안성을 고려하여 Phi 모델을 선택하여 사용하고 있습니다.

“CallMiner는 끊임없이 대화 인텔리전스 플랫폼을 혁신하고 발전시키고 있으며, Phi 모델이 GenAI 아키텍처에 가져오는 가치에 대해 기대하고 있습니다. 다양한 모델을 평가하면서 정확성, 속도, 보안을 우선시했습니다... Phi 모델의 작은 크기는 매우 빠르며, 미세 조정을 통해 고객에게 가장 중요한 특정 사용 사례에 맞게 높은 정확도와 여러 언어로 조정할 수 있었습니다. 또한 Phi 모델에 대한 투명한 교육 프로세스를 통해 편견을 제한하고 GenAI를 안전하게 구현할 수 있습니다. 제품군 전체에서 Phi 모델 적용을 확대하기를 기대합니다.“—브루스 맥마흔, CallMiner의 최고제품책임자.

출력을 보다 예측 가능하게 만들고 애플리케이션에 필요한 구조를 정의하기 위해 Phi-3.5-mini 서버리스 엔드포인트에 Guidance를 도입하고 있습니다. Guidance는 검증된 오픈소스 Python 라이브러리(18K 이상의 GitHub 별점) 개발자가 단일 API 호출에서 JSON, Python, HTML, SQL 등 사용 사례에 필요한 구조화된 출력에 대해 모델이 따라야 하는 정확한 프로그래밍 제약 조건을 표현할 수 있도록 합니다. Guidance를 사용하면 비용이 많이 드는 재시도를 제거하고, 예를 들어 모델이 사전 정의된 목록(예: 의료 코드)에서 선택하도록 제한하거나, 제공된 컨텍스트에서 직접 인용문으로 출력을 제한하거나, 모든 정규 표현식을 따르도록 할 수 있습니다. Guidance는 추론 스택에서 토큰별로 모델을 조정하여 더 높은 품질의 출력을 생성하고 고도로 구조화된 시나리오에 사용할 때 비용과 지연 시간을 최대 30-50%까지 줄입니다.

또한 Phi 비전 모델을 다중 프레임 지원으로 업데이트하고 있습니다. 즉, Phi-3.5-vision(4.2B 매개변수)을 사용하면 여러 입력 이미지에 대한 추론이 가능하여 이미지 간 차이점을 식별하는 것과 같은 새로운 시나리오를 열 수 있습니다.

Microsoft는 제품 전략의 핵심으로 안전하고 책임감 있는 AI 개발을 지원하는 데 전념하고 있으며 개발자에게 강력한 도구와 기능을 제공합니다.

Phi 모델을 사용하는 개발자는 내장 및 사용자 정의 메트릭을 사용하여 품질과 안전성을 평가할 수 있습니다. Azure AI 평가 필요한 완화책을 알려줍니다. Azure AI 콘텐츠 안전 신속한 보호막 및 보호된 재료 감지와 같은 내장형 제어 및 보호 레일을 제공합니다. 이러한 기능은 Phi를 포함한 모델 전반에 적용될 수 있습니다. 콘텐츠 필터또는 단일 API를 통해 애플리케이션에 쉽게 통합할 수 있습니다. 프로덕션에 들어가면 개발자는그들의 응용 프로그램을 모니터링합니다품질과 안전, 적대적인 신속한 공격에 대한 대응, 데이터 무결성을 위해 실시간 알림을 통해 시기적절한 개입을 실시합니다.

Azure AI 모델 서비스에서 AI21 Jamba 1.5 Large 및 Jamba 1.5 소개

개발자에게 가장 광범위한 모델 선택에 대한 액세스를 제공한다는 목표를 달성하기 위해 Azure AI 모델 카탈로그에서 사용할 수 있는 두 가지 새로운 개방형 모델인 Jamba 1.5 Large와 Jamba 1.5를 발표하게 되어 기쁩니다. 이러한 모델은 효율적인 롱 컨텍스트 처리를 위해 Jamba 아키텍처, 블렌딩 Mamba 및 Transformer 계층을 사용합니다.

AI21에 따르면 Jamba 1.5 Large와 Jamba 1.5 모델은 Jamba 시리즈에서 가장 발전된 모델입니다. 이 모델은 Mamba 계층을 단거리 종속성에 사용하고 Transformer 계층을 장거리 종속성에 사용하여 속도, 메모리, 품질을 균형 있게 조절하는 Hybrid Mamba-Transformer 아키텍처를 활용합니다. 결과적으로 이 모델 패밀리는 금융 서비스, 의료, 생명 과학, 소매 및 CPG를 포함한 산업에 이상적인 확장된 컨텍스트를 관리하는 데 탁월합니다.

“Microsoft와의 협력을 더욱 강화하여 Jamba Model 제품군의 최첨단 혁신을 Azure AI 사용자에게 제공하게 되어 기쁩니다. 고급 하이브리드 SSM-Transformer(구조화된 상태 공간 모델-변환기) 기반 모델 세트인 Jamba 모델 패밀리는 효율성, 낮은 대기 시간, 고품질 및 긴 컨텍스트 처리에 대한 액세스를 민주화합니다. 이러한 모델은 향상된 성능과 Azure AI 플랫폼과의 원활한 통합을 통해 기업에 힘을 실어줍니다.”— AI21 북미 지역 수석 부사장 겸 총괄 관리자 Pankaj Dugar

생성 AI 애플리케이션을 위한 RAG 간소화

통합된 엔드투엔드 데이터 준비 및 임베딩을 통해 RAG 파이프라인을 간소화하고 있습니다. 조직은 종종 생성 AI 애플리케이션에서 RAG를 사용하여 모델을 다시 학습하지 않고도 개인 조직별 데이터에 대한 지식을 통합합니다. RAG를 사용하면 벡터 및 하이브리드 검색과 같은 전략을 사용하여 데이터를 기반으로 쿼리에 관련성 있고 정보에 입각한 정보를 표면화할 수 있습니다. 그러나 벡터 검색을 수행하려면 상당한 데이터 준비가 필요합니다. 앱은 종종 여러 소스에 있는 다양한 유형의 데이터를 수집, 구문 분석, 보강, 임베딩 및 인덱싱해야 하며, 이를 통해 조종사에서 사용할 수 있습니다.

오늘 Azure AI Search에서 통합 벡터화의 일반 가용성을 발표합니다. 통합 벡터화는 이러한 프로세스를 모두 하나의 흐름으로 자동화하고 간소화합니다. 임베딩 모델에 대한 통합 액세스를 사용하여 자동 벡터 인덱싱 및 쿼리를 통해 애플리케이션은 데이터가 제공하는 모든 잠재력을 최대한 활용합니다.

개발자 생산성을 향상시키는 것 외에도, 통합 벡터화를 통해 조직은 새로운 프로젝트에 대한 솔루션으로 턴키 방식의 RAG 시스템을 제공할 수 있습니다. 이를 통해 팀은 매번 사용자 정의 배포를 빌드하지 않고도 데이터 세트와 요구 사항에 맞는 애플리케이션을 빠르게 빌드할 수 있습니다.

글로벌 브랜드 임팩트 그룹인 SGS & Co와 같은 고객은 통합 벡터화를 통해 워크플로를 간소화하고 있습니다.

“SGS AI Visual Search는 글로벌 프로덕션 팀이 프로젝트와 관련된 소싱 및 연구 정보를 보다 효과적으로 찾을 수 있도록 Azure에 구축된 GenAI 애플리케이션입니다. SGS AI Visual Search가 제공하는 가장 중요한 이점은 RAG를 Azure AI Search를 검색 시스템으로 활용하여 프로젝트 계획 및 프로덕션을 위한 관련 자산을 정확하게 찾고 검색하는 것입니다.”—Laura Portelli, SGS & Co 제품 관리자

Document Intelligence에서 사용자 정의 필드 추출

이제 Document Intelligence 내에서 사용자 정의 생성 모델을 구축하고 학습하여 구조화되지 않은 문서에 대한 사용자 정의 필드를 높은 정확도로 추출할 수 있습니다. 이 새로운 기능은 생성 AI를 사용하여 다양한 시각적 템플릿과 문서 유형의 문서에서 사용자 지정 필드를 추출합니다. 최소 5개의 학습 문서로 시작할 수 있습니다. 사용자 정의 생성 모델을 구축하는 동안 자동 레이블 지정은 수동 주석에 드는 시간과 노력을 절약하고, 해당되는 경우 결과가 근거로 표시되며, 신뢰도 점수를 사용하여 다운스트림 처리를 위해 고품질 추출 데이터를 빠르게 필터링하고 수동 검토 시간을 줄일 수 있습니다.

미리 구축된 아바타와 사용자 정의 아바타로 매력적인 경험을 만드세요

오늘 우리는 다음 사실을 발표하게 되어 기쁩니다. 텍스트 음성 변환(TTS) 아바타 ,의 능력 Azure AI 음성서비스가 이제 일반적으로 제공됩니다. 이 서비스는 다양한 언어와 음성으로 자연스러운 음성과 사실적인 아바타를 생생하게 표현하여 고객 참여와 전반적인 경험을 향상시킵니다. TTS Avatar를 사용하면 개발자는 고객과 직원을 위해 개인화되고 매력적인 경험을 만들 수 있으며 효율성을 개선하고 혁신적인 솔루션을 제공할 수도 있습니다.

TTS 아바타 서비스는 개발자에게 다양한 사전 구축된 아바타를 제공하며, 자연스러운 음성의 다양한 포트폴리오와 Azure Custom Neural Voice를 사용하여 사용자 지정 합성 음성을 만드는 옵션이 제공됩니다. 또한, 사실적인 아바타는 회사 브랜딩과 일치하도록 사용자 지정할 수 있습니다. 예를 들어, 후지필름 ~이다 TTS 아바타를 사용하여 누라세계 최초의 AI 기반 건강 검진 센터입니다.

“NURA에서 Azure TTS 아바타를 24시간 AI 어시스턴트로 채택하는 것은 의료 혁신의 중요한 단계입니다. NURA에서는 AI 기반 어시스턴트가 고객 상호작용, 브랜드 관리 및 의료 제공을 재정의하는 미래를 구상합니다. Microsoft와 협력하여 차세대 디지털 경험을 개척하고, 기업이 고객과 연결하는 방식을 혁신하고 브랜드 경험을 향상시키며, 개인화된 케어와 참여의 새로운 시대를 여는 길을 열게 되어 영광입니다. 더 많은 미소를 가져다 봅시다. es 함께”—Dr. Kasim, Nura AI Health Screening의 전무이사 겸 최고운영책임자

이 기술을 시장에 출시하면서 AI의 책임 있는 사용과 개발을 보장하는 것이 최우선 과제로 남아 있습니다. 사용자 지정 텍스트 음성 변환 아바타는 제한된 접근 서비스여기에는 안전 및 보안 기능이 통합되어 있습니다. 예를 들어, 시스템은 아바타 출력에 보이지 않는 워터마크를 포함합니다. 이러한 워터마크를 통해 승인된 사용자는 Azure AI Speech의 아바타 기능을 사용하여 비디오가 생성되었는지 확인할 수 있습니다. 또한 사용자 상호 작용의 투명성을 촉진하고 잠재적인 편견이나 유해한 합성 콘텐츠를 식별하고 완화하는 방법, 통합 방법을 포함하여 TTS 아바타의 책임 있는 사용에 대한 지침을 제공합니다. Azure AI 콘텐츠 안전 . 이것에서 투명성 노트 TTS Avatar의 기술과 기능, 승인된 사용 사례, 사용 사례 선택 시 고려 사항, 제한 사항, 공정성 고려 사항 및 시스템 성능 개선을 위한 모범 사례를 설명합니다. 또한 모든 개발자와 콘텐츠 제작자에게 다음을 요구합니다. 접근 신청그리고 우리의 규정을 준수합니다 행동강령 미리 만들어진 아바타와 사용자 정의 아바타를 포함한 TTS 아바타 기능을 사용할 때.

VS Code에서 Azure Machine Learning 리소스 사용

Azure Machine Learning용 VS Code 확장 프로그램의 일반 출시를 발표하게 되어 기쁩니다. 이 확장 프로그램을 사용하면 데스크톱이나 웹에서 선호하는 VS Code 설정에서 직접 Azure Machine Learning으로 머신 러닝 모델을 빌드, 학습, 배포, 디버깅 및 관리할 수 있습니다. VNET 지원, IntelliSense 및 Azure Machine Learning CLI와의 통합과 같은 기능을 갖춘 이 확장 프로그램은 이제 프로덕션에서 사용할 준비가 되었습니다. 이 글을 읽어보세요 기술 커뮤니티 블로그확장 프로그램에 대해 자세히 알아보세요.

Fashable과 같은 고객이 이를 생산에 투입했습니다.

“우리는 Azure Machine Learning용 VS Code 확장 프로그램을 프리뷰 릴리스 이후로 사용해 왔고, 워크플로를 상당히 간소화했습니다… 선호하는 VS Code 환경에서 모델을 직접 빌드하는 것부터 배포하는 것까지 모든 것을 관리할 수 있는 기능은 게임 체인저였습니다. 원활한 통합과 대화형 디버깅 및 VNET 지원과 같은 강력한 기능은 생산성과 협업을 강화했습니다. 우리는 이 확장 프로그램의 일반 출시에 매우 기쁘고 AI 프로젝트에서 이 확장 프로그램의 모든 잠재력을 활용할 수 있기를 기대합니다.”—Ornaldo Ribas Fernandes, 공동 창립자 겸 CEO, 패셔블

사용자의 개인 정보를 보호하세요

오늘 Azure AI 언어로 대화형 PII 감지 서비스의 일반 가용성을 발표하게 되어 기쁩니다. 이 서비스는 영어부터 시작하여 대화에서 민감한 정보를 식별하고 편집하는 Azure AI의 기능을 향상시킵니다. 이 서비스는 기업을 위한 생성 AI 앱을 빌드하는 개발자의 데이터 프라이버시와 보안을 개선하는 것을 목표로 합니다. 대화형 PII 편집 서비스는 다음을 확장합니다. 텍스트 PII 편집 서비스 구조화되지 않은 텍스트에서 전화번호와 이메일 주소와 같은 민감한 정보를 식별, 분류, 삭제하려는 고객을 지원합니다. 이 대화형 PII 모델은 대화형 입력, 특히 회의 및 통화의 음성 필사본에서 발견되는 입력에 특화되어 있습니다.

Azure OpenAI 서비스 PTU를 셀프 서비스로 이용하세요

최근 Azure OpenAI 서비스에 대한 업데이트를 발표했는데, 여기에는 계정 팀의 지원에 의존하지 않고도 Azure OpenAI 서비스 할당량 배포를 관리할 수 있는 기능이 포함되어 있어, 보다 유연하고 효율적으로 프로비저닝된 처리량 단위(PTU)를 요청할 수 있습니다. 또한 8/7에 출시된 OpenAI의 최신 모델도 출시했는데, 여기에는 새로운 GPT-4o 및 GPT-4o 미니 모델에 대한 JSON 스키마와 같은 구조화된 출력이 도입되었습니다. 구조화된 출력은 AI 출력을 JSON 스키마와 같은 구조로 검증하고 포맷해야 하는 개발자에게 특히 유용합니다.

우리는 고객에게 최첨단 혁신을 제공하기 위해 Azure AI 스택 전반에 걸쳐 투자를 계속하여 고객이 AI 솔루션을 안전하고 자신 있게 빌드, 배포 및 확장할 수 있도록 합니다. 다음에 무엇을 빌드할지 기대가 큽니다.

Azure AI에 대한 최신 소식을 받아보세요

게시물 Azure의 새로운 Phi 모델, 간소화된 RAG 및 사용자 지정 생성 AI 모델로 AI를 강화하세요처음 등장 Microsoft AI 블로그.

관련된 글:

  1. AI 기반의 Microsoft Designer로 창의성을 발휘하는 새로운 방법
  2. FY24 회고: 인간의 업적을 지원하는 조종사에서 AI 혁신을 선도하는 조종사로
  3. 레드팀은 해커처럼 생각하여 AI를 안전하게 유지합니다.
  4. 혁신의 미래를 여는 Microsoft AI 투어
Exit mobile version