또한 GPT-4o mini에 기본적으로 제공되는 안전 기능, 확장된 데이터 상주 및 서비스 가용성, Microsoft Azure OpenAI 서비스의 성능 업그레이드도 발표합니다.
GPT-4o mini는 고객이 더 저렴한 비용으로 놀라운 애플리케이션을 초고속으로 제공할 수 있도록 합니다. GPT-4o mini는 GPT-3.5 Turbo보다 훨씬 더 똑똑합니다. Measuring Massive Multitask Language Understanding(MMLU)에서 70%에 비해 82%를 기록했으며 60% 이상 저렴합니다.1 이 모델은 확장된 128K 컨텍스트 창을 제공하고 GPT-4o의 개선된 다국어 기능을 통합하여 전 세계 언어의 품질을 더욱 향상시킵니다.
OpenAI가 오늘 발표한 GPT-4o mini는 다음에서 동시에 이용 가능합니다. 애저 AI뛰어난 속도와 이미지, 오디오, 비디오가 나중에 제공되는 텍스트 처리 기능을 지원합니다. 무료로 사용해 보세요. Azure OpenAI Studio 플레이그라운드.
우리는 GPT-4o mini로 향상될 수 있는 새로운 고객 경험, 특히 이 모델의 기능을 활용할 수 있는 어시스턴트, 코드 인터프리터, 검색과 같은 스트리밍 시나리오에 대해 가장 기대하고 있습니다. 예를 들어, 우리는 키 입력 사이의 작은 멈춤에서 코드 완성 제안을 제공하고, 새로운 문자가 입력될 때마다 추천을 빠르게 업데이트하여 지원하는 AI 페어 프로그래머인 GitHub Copilot에서 GPT-4o mini를 테스트하는 동안 놀라운 속도를 관찰했습니다.
또한 업데이트를 발표하고 있습니다. Azure OpenAI 서비스여기에는 GPT-4o mini의 기본 보안 확장, 확장된 데이터 상주, 전 세계적 사용량 기반 결제 제공, 성능 업그레이드 등이 포함됩니다.
Azure AI는 GPT-4o mini에 기본적으로 보안을 제공합니다.
안전은 우리와 고객이 기대하는 생산적인 사용과 신뢰에 여전히 가장 중요합니다.
우리는 우리의 것을 확인하게 되어 기쁩니다 Azure AI 콘텐츠 안전 즉각적인 보호 및 보호된 자료 감지 등의 기능이 이제 Azure OpenAI 서비스에서 GPT-4o mini와 함께 사용할 수 있도록 ‘기본적으로 켜져’ 있습니다.
Azure AI 콘텐츠 안전 기능의 처리량과 속도를 개선하기 위해 투자했습니다. 여기에는 다음이 포함됩니다. 비동기 필터—안전을 해치지 않으면서도 모델 속도의 발전을 극대화할 수 있습니다. Azure AI Content Safety는 이미 게임 개발을 포함하여 산업 전반의 개발자가 생성 AI 애플리케이션을 보호하도록 지원하고 있습니다(단일성), 세금 신고 (에이치앤알블록), 그리고 교육(남호주 교육부).
또한, 우리의 고객 저작권 약속 GPT-4o mini에도 적용되어 Microsoft가 출력 콘텐츠에 대한 제3자의 지적 재산권 청구로부터 고객을 방어한다는 확신을 제공합니다.
Azure AI는 이제 27개 지역 모두에 대한 데이터 상주를 제공합니다.
Azure OpenAI 서비스는 첫날부터 다음과 같은 내용을 다루었습니다. Azure의 데이터 상주 약속.
Azure AI는 고객에게 데이터가 저장되는 위치와 데이터가 처리되는 위치에 대한 유연성과 제어권을 제공하여 고객이 고유한 규정 준수 요구 사항을 충족하는 데 도움이 되는 완전한 데이터 상주 솔루션을 제공합니다. 또한 비즈니스, 애플리케이션 및 규정 준수 요구 사항을 충족하는 호스팅 구조에 대한 선택권을 제공합니다. 지역별 종량제 및 프로비저닝 처리량 단위(PTU)는 데이터 처리와 데이터 저장을 모두 제어합니다.
Azure OpenAI 서비스가 이번 달 초에 유럽의 9번째 지역으로 출범한 스페인을 포함하여 이제 27개 지역에서 사용할 수 있다는 소식을 전해드리게 되어 기쁩니다.
Azure AI, GPT-4o mini에 대한 최고 처리량 한도를 제공하는 글로벌 종량제 발표
GPT-4o mini는 이제 글로벌 결제 방식을 사용하여 사용할 수 있습니다. 전개 입력 토큰 100만 개당 15센트, 출력 토큰 100만 개당 60센트로, 이전 프론티어 모델보다 상당히 저렴합니다.
이번 달부터 글로벌 종량제 배포 옵션이 일반적으로 출시되어 고객이 사용한 리소스에 대한 요금을 지불하고 다양한 작업 부하를 유연하게 처리할 수 있으며, 트래픽을 전 세계적으로 라우팅하여 처리량을 높이고 데이터가 저장된 위치를 제어할 수 있게 되어 기쁩니다.
또한, 우리는 고객이 새로운 모델에서 직면하는 과제 중 하나가 기존 배포와 동일한 지역의 모델 버전 간에 업그레이드할 수 없다는 것을 알고 있습니다. 이제 글로벌 페이어스유고 배포를 통해 고객은 기존 모델에서 최신 모델로 업그레이드할 수 있습니다.
글로벌 페이어스유고(Pay-as-you-go)는 고객에게 가능한 가장 높은 규모를 제공하며, GPT-4o 미니의 경우 분당 15M 토큰(TPM) 처리량과 GPT-4o의 경우 30M TPM 처리량을 제공합니다. Azure OpenAI 서비스는 99.99% 가용성과 파트너 OpenAI와 동일한 업계 최고 속도의 GPT-4o 미니를 제공합니다.
Azure AI는 GPT-4o mini에 최고의 성능과 유연성을 제공합니다.
Azure AI는 Azure OpenAI 서비스 전반에서 AI 워크로드의 효율성을 높이기 위해 지속적으로 투자하고 있습니다.
GPT-4o mini는 이번 달에 Batch 서비스에서 이용 가능하면서 Azure AI에 제공됩니다. Batch는 비수요 시간대 용량을 사용하여 24시간 처리량과 50% 할인율로 높은 처리량 작업을 제공합니다. 이는 Microsoft가 Azure AI에서 실행되기 때문에 고객에게 비수요 시간대 용량을 제공할 수 있기 때문에 가능합니다.
이번 달에는 GPT-4o mini에 대한 미세 조정도 출시하여 고객이 특정 사용 사례와 시나리오에 맞게 모델을 더욱 사용자 지정하여 전례 없는 속도로 뛰어난 가치와 품질을 제공할 수 있습니다. 지난달에 업데이트한 후 교육을 위한 토큰 기반 청구우리는 호스팅 비용을 줄였습니다 최대 43%까지. 추론에 대한 저렴한 가격과 함께, Azure OpenAI Service 미세 조정 배포는 프로덕션 워크로드가 있는 고객에게 가장 비용 효율적인 제안이 됩니다.
53,000명이 넘는 고객이 인상적인 규모로 획기적인 경험을 제공하기 위해 Azure AI를 사용하고 있으므로 다음과 같은 회사의 혁신을 기대하고 있습니다. 보다폰 (고객 에이전트 솔루션) 시드니 대학교 (AI 조수) 및 기가엑스알 (AI 가상 환자). Fortune 500의 50% 이상이 Azure OpenAI Service로 애플리케이션을 구축하고 있습니다.
우리는 고객들이 GPT-4o mini로 무엇을 할지 기대하고 있습니다. 애저 AI!
1GPT-4o mini: 비용 효율적인 인텔리전스 발전 | OpenAI
게시물 OpenAI의 가장 빠른 모델인 GPT-4o mini가 이제 Azure AI에서 사용 가능합니다. 처음 등장 Microsoft AI 블로그.