AI는 데이터 센터의 모든 것을 변경하고 있습니다 : 새로운 AI 특정 작은 조각새로운 냉각 기술그리고 새로운 스토리지 드라이브. 이제 e시간을 유지하는 방법은 발표 회사가 개발 한 Sitime에서 AI 워크로드에 최적화 된 새 클럭.
이 회사는이 개발이 AI 교육 및 추론에 대한 에너지 절약과 비용이 크게 저하 될 것이라고 말했다. Sitime은 사용하여 이러한 비용을 절감 할 수있었습니다 미세 전자 기계 시스템 (MEMS) 전통적인 석영 결정 대신 핵심 시간 키핑 구성 요소로서.
컴퓨터의 거의 모든 부분에는 어떤 종류의 시계가 있습니다. CPU, GPU, 네트워크 인터페이스 카드, 스위치 및 때로는 활성 상호 연결에도 자체 타임 키핑 구성 요소가 포함되어 있습니다. 보다 전통적인 컴퓨팅 워크로드의 경우,이 시계는 일반적으로 여러 GPU (또는 CPU)에서 잘 동기화 된 빠르고 정확하게 시간이 지정된 시계 또는 시계의 두 가지 범주에 속합니다. Ian Cutress무어보다 더 많은 수석 분석가와 Sitime과 함께 일하는 사람.
Cutress는“AI의 문제는 두 가지를 모두 수행하고 있다는 것입니다. “칩이 가능한 빨리 진행되기를 원하지만 100,000 칩에 걸쳐 동기화하고 싶습니다.”
Sitime의 Super-TCXO 클럭 요소 초당 800 기가비트의 대역폭에서 크기의 4 분의 1의 칩에서.
더 나은 타이밍은 에너지 절약으로 이어집니다
AI는 데이터 굶주린 짐승입니다. 그럼에도 시간의 57 % 다음 데이터 배치를 기다리고 있습니다. 데이터를 더 빨리 제공 할 수 있다면 GPU를 더 적은 양으로 사용하여보다 효율적으로 사용할 수 있습니다.
“더 빠른 대역폭이 필요합니다. 더 빠른 대역폭이 필요하기 때문에 더 나은 타이밍이 필요합니다.”라고 말합니다. Piyush SevaliaSitime의 마케팅 담당 부사장.
또한 더 많은 데이터가로드되기를 기다리는 동안 GPU를 수면 모드에 넣을 수 있다면 많은 전력을 절약 할 수 있다고 Cutress는 말합니다. 이는 또한 수면주기가 데이터 스트림을 따라 잡을 수있을 정도로 빠르게 발생할 수 있도록보다 정확한 타이밍이 필요합니다.
AI의 경우 클럭은 더 정확해야 할뿐만 아니라 많은 GPU에서 완벽하게 동기화해야합니다. 큰 AI 모델은 많은 GPU에서 작업을 분리하고 각각은 작은 계산 덩어리를 수행합니다. 그런 다음 결과는 다시 꿰매어집니다. 하나의 GPU가 다른 GPU 뒤에 뒤떨어지면 전체 계산은 해당 노드를 기다려야합니다. 다시 말해, 계산은 가장 약한 링크만큼 빠릅니다. 기다리는 동안 모든 GPU가 켜져 있으므로 이러한 지연은 에너지 손실을 초래합니다.
MEMS 시간의 높은 시간
타이밍은 정확하고 잘 동기화되고 강력해야합니다. 계산을 버리지 않도록 기계적 진동 또는 온도 스윙을 보상해야합니다. Sitime의 Super-TCXO는 세 가지 요구 사항을 단일 장치에서 결합하는 것을 목표로합니다.
Sevalia는 전통적인 석영보다는 MEMS 오실레이터를 사용하면 그 조합이 가능하다고 말합니다. 석영 발진기는 튜닝 포크와 유사한 정확하게 가공 된 석영 결정의 진동을 사용합니다. 대조적으로, MEMS 발진기는 특정 주파수로 공명하기 위해 가공되지 않은 제조되어 제조된다. MEMS 장치는 더 작아서 기계식 균주에 덜 민감하게 만듭니다. 그들은 또한 더 정확할 수 있습니다.
“Compute가 컴퓨팅 이었기 때문에 수정 발진기는 처음부터 시작되었습니다.”라고 말합니다. 데이브 알타 빌라사장 겸 교장 분석가 Hottech 비전 및 분석 Sitime과 함께 일하는 사람도 있습니다. “우리는이 기술이 처음부터 극적으로 개선되었습니다. 그러나 MEMS는 크리스탈이 할 수있는 것 이상의 또 다른 단계를 겪습니다. 이것이 바로이 새로운 기술에 의해 시장에서 대체되고 있다고 생각하는 것입니다.”
Sitime의 MEMS 기반 솔루션은 이미 약간의 성공을 거두고 있습니다-Nvidia의 Spectrum-X Switch Silicon 이미 Sitime 장치가 포함되어 있습니다.
Sevalia는 MEMS 기반 타이밍 장치가 계속 될 필요가 있다고 말했다. 이 회사는 이미 더 높은 대역폭 장치를 계획하고 있으며 혁신으로 인해 더 많은 에너지 절약이 생길 것으로 기대하고 있습니다. Sevalia는“우리는 우리가 얼마나 많은 에너지 효율을 가져올 수 있는지 알아내는 측면에서 표면을 긁고 있습니다.
