David Driggers 최고 기술 책임자입니다 Cirrascale 클라우드 서비스딥 러닝 인프라 솔루션의 주요 제공 업체. Cirrascale은 무결성, 민첩성 및 고객 초점의 가치에 따라 혁신적인 클라우드 기반 인프라 (IAAS) 솔루션을 제공합니다. Cirrascale은 Red Hat 및 Wekaio와 같은 AI 생태계 리더와 파트너 관계를 맺고 고급 도구에 대한 완벽한 액세스를 보장하여 고객이 딥 러닝의 발전을 이끌어 내면서 예측 가능한 비용을 유지할 수 있도록합니다.
Cirrascale은 Nvidia, AMD, Cerebras 및 Qualcomm과 같은 주요 반도체 회사와 파트너 관계를 맺는 유일한 GPUAAS 제공 업체입니다. 이 고유 한 포지셔닝은 성능과 확장 성 측면에서 고객에게 어떤 도움이됩니까?
업계가 교육 모델에서 추론이라는 이러한 모델의 배치로 발전함에 따라 모든 크기에 맞는 크기는 없습니다. 모델의 크기 및 대기 시간 요구 사항에 따라 다른 가속기는 중요한 다른 값을 제공합니다. 답변 시간, 토큰 당 비용 또는 와트 당 성과는 모두 비용 및 사용자 경험에 영향을 줄 수 있습니다. 추론은 생산을위한 것이므로 이러한 기능/기능이 중요합니다.
Cirrascale의 AI Innovation Cloud를 AI 및 딥 러닝 워크 플로우를 지원하는 다른 GPUAAS 제공 업체와 차별화하는 것은 무엇입니까?
Cirrascale의 AI Innovation Cloud를 사용하면 사용자가 다른 클라우드에서는 사용할 수없는 안전하고 지원하며 완전히 지원되는 새로운 기술을 시도 할 수 있습니다. 이것은 클라우드 기술 결정뿐만 아니라 잠재적 구매 구매에 도움이 될 수 있습니다.
Cirrascale의 플랫폼은 다양한 AI 가속도 요구를 가진 신생 기업 및 기업을위한 완벽한 통합을 어떻게 보장합니까?
Cirrascale은 클라우드에 대한 솔루션 접근 방식을 취합니다. 이는 신생 기업과 기업 모두에게 Dev-OPS 및 Infra-OPS를 모두 포함하는 턴키 솔루션을 제공한다는 것을 의미합니다. Cirrascale은 공유 또는 가상화되지 않은 것으로 오퍼링을 구별하는 것을 베어 메탈이라고 부르지 않지만 Cirrascale은 서비스를 고객에게 전달하기 전에 서버, 네트워킹, 스토리지, 보안 및 사용자 액세스 요구 사항을 완전히 구성하는 등 제품의 모든 측면을 완전히 구성합니다. . 고객은 모든 것을 직접 구성하지 않고 즉시 서비스 사용을 시작할 수 있습니다.
Enterprise 전체 AI 채택은 데이터 품질, 인프라 제약 및 높은 비용과 같은 장벽에 직면 해 있습니다. Cirrascale은 AI 이니셔티브를 확장하는 비즈니스에 대한 이러한 과제를 어떻게 해결합니까?
Cirrascale은 데이터 품질 유형 서비스를 제공하지 않지만 데이터 문제를 지원할 수있는 회사와 파트너 관계를 맺습니다. 인프라 및 비용에 관한 한 Cirrascale은 고객의 특정 요구에 맞는 솔루션을 조정하여 고객의 요구 사항에 맞는 전반적인 성능 및 관련 비용을 더욱 향상시킬 수 있습니다.
Quantum Computing (Willow) 및 AI 모델 (Gemini 2.0)의 Google의 발전으로 가까운 시일 내에 Enterprise AI의 환경이 어떻게 바뀌는 것을 어떻게 보십니까?
Quantum Computing은 기능을 활용할 수있는 프로그래머가 부족하고 기성품 프로그램이 부족하여 대부분의 사람들에게 여전히 꽤 많은 방법입니다. Gemini 2.0 및 GPT4 및 Claude와 같은 기타 대규모 제품은 확실히 엔터프라이즈 고객으로부터 약간의 흡수를받을 것이지만, 현재 엔터프라이즈 시장의 상당 부분은 타사, 특히 데이터를 신뢰할 준비가되어 있지 않습니다. 상기 데이터를 사용하여 모델을 훈련시킵니다.
AI 솔루션을 스케일링하는 데 전력, 가격 및 성능의 올바른 균형을 찾는 것이 중요합니다. 이 잔액을 탐색하는 회사에 대한 최고의 권장 사항은 무엇입니까?
테스트, 테스트, 테스트. 회사가 다른 플랫폼에서 모델을 테스트하는 것이 중요합니다. 생산은 개발과 다릅니다. 생산에서 비용은 중요합니다. 훈련은 하나일지도 모르지만 추론은 영원합니다. 성능 요구 사항이 저렴한 비용으로 충족 될 수 있다면 이러한 절약은 결론으로 떨어지고 솔루션을 실행 가능하게 만들 수도 있습니다. 대형 모델의 배포는 너무 비싸서 사용하기에 실용적이기도합니다. 최종 사용자는 또한 ML 엔지니어가 종종 모델을 만든 데이터 과학자와 배포에 도움을 줄 수 있으므로이 테스트를 도울 수있는 회사를 찾아야합니다.
Cirrascale은 LLM 및 이미지 생성 모델과 같은 생성 AI 애플리케이션에 대한 수요가 증가하는 수요를 충족시키기 위해 솔루션을 어떻게 조정하고 있습니까?
Cirrascale은 AI 가속기의 가장 광범위한 배열을 제공하며 크기와 범위 (다중 모달 시나리오와 같은), Batch vs. Realime의 LLM 및 Genai 모델의 확산과 함께 실제로 코스 시나리오의 말입니다.
Cirrascale이 비즈니스가 AI 워크 플로에서 대기 시간 및 데이터 전송 병목 현상을 극복하는 데 어떻게 도움이되는지에 대한 예를 제공 할 수 있습니까?
Cirrascale은 여러 지역에 수많은 데이터 센터가 있으며 네트워크 연결을 이익 센터로 보지 않습니다. 이를 통해 사용자는 데이터를 이동하는 데 필요한 연결을 “오른쪽 크기”하고 대기 시간이 중요한 기능인 경우 한 위치를 더 많이 활용할 수 있습니다. 또한 실제 워크로드를 프로파일 링함으로써 Cirrascale은 성능 요구 사항을 충족 한 후 최상의 가치를 제공하기 위해 대기 시간, 성능 및 비용의 균형을 맞출 수 있습니다.
AI 하드웨어 또는 인프라에서 어떤 새로운 트렌드가 가장 흥분되고 있으며 Cirrascale은 어떻게 준비하고 있습니까?
우리는 추론을위한 목적 대 일반 GPU 기반 프로세서를 위해 구축 된 새로운 프로세서에 대해 가장 흥분하지만 운 좋게 훈련에 적합하지만 훈련과 본질적으로 다른 컴퓨팅 요구 사항을 가진 추론 사용 사례에 최적화되지는 않습니다.
훌륭한 인터뷰에 감사드립니다. 더 배우고 싶은 독자들은 방문해야합니다. Cirrascale 클라우드 서비스.
게시물 Cirrascale의 CTO – 인터뷰 시리즈의 David Driggers 먼저 나타났습니다 Unite.ai.
