데이터 센터 운영자는 오래된 냉각 기술에 수백만 달러를 투자하고 있습니다. 데이터 센터 냉각에 관한 대화는 단지 변화하는 것이 아니라 AI의 경제성에 의해 완전히 재정의되고 있습니다. 위험이 그 어느 때보다 높았던 적이 없습니다.
AI의 급속한 발전은 거의 예측하지 못한 방식으로 데이터 센터 경제를 변화시켰습니다. 단일 AI 서버 랙의 가격이 약 300만 달러(고급 주택 가격)인 경우 위험 계산은 근본적으로 달라집니다. 안드레센 호로비츠(Andreessen Horowitz) 공동 창립자로서 벤 호로비츠 최근 이러한 대규모 하드웨어 투자 자금을 조달하는 데이터 센터가 인프라 전략을 주의 깊게 관리하지 않으면 “매우 빠르게 뒤집힐 수 있다”고 경고했습니다.
이러한 새로운 현실은 냉각 접근 방식에 대한 근본적인 재검토를 요구합니다. PUE 및 운영 비용과 같은 기존 지표는 여전히 중요하지만 수백만 달러에 달하는 하드웨어 투자를 보호하는 데는 부차적인 요소입니다. 데이터 센터 운영자가 물어봐야 할 실제 질문은 다음과 같습니다. AI 인프라 투자를 가장 잘 보호할 수 있는 방법은 무엇입니까?
기존 냉각의 숨겨진 위험
단상 수성 냉각 솔루션에 대한 업계의 역사적 의존은 AI 시대에 점점 더 수용할 수 없는 위험을 초래합니다. 수년 동안 데이터 센터에 잘 서비스를 제공했지만 AI 워크로드의 열 수요로 인해 이 기술은 실제 한계를 넘어섰습니다. 그 이유는 단순한 물리학 때문입니다. 단상 시스템은 오늘날의 열 부하를 관리하기 위해 더 높은 유량이 필요하므로 누출 및 치명적인 오류의 위험이 증가합니다.
이것은 가상의 위험이 아닙니다. 한 번의 누수로 수백만 개의 AI 하드웨어가 즉시 파괴될 수 있습니다. 오늘날 공급이 제한된 시장에서 교체 리드 타임이 수개월에 걸쳐 발생하는 하드웨어인 경우가 많습니다. 단 한 번의 치명적인 오류로 인한 비용도 데이터 센터의 1년 전체 냉각 인프라 예산을 초과할 수 있습니다. 그러나 많은 사업자는 계속해서 이러한 시스템에 의존하여 노후화된 기술에 대한 AI 투자를 효과적으로 도박하고 있습니다.
Data Center World 2024에서 NVIDIA의 데이터센터 기계 엔지니어링 관리자인 Dr. Mohammad Tradat는 물었다“단상냉각은 얼마나 오래 지속되나요? 곧 단계적으로 폐지될 예정이며, 그 이후에는 2단계 냉매 기반 냉각이 필요할 것입니다.” 이는 단순히 늘어나는 의견이 아니라 물리학과 금융 현실을 바탕으로 업계의 합의가 되어가고 있습니다.
투자 보호를 위한 새로운 접근 방식
물 대신 유전체 냉매를 사용하는 2단계 냉각 기술은 이러한 위험 방정식을 근본적으로 바꿉니다. 2단계 냉각 시스템 구현 비용(일반적으로 랙당 약 200,000달러)은 500만 달러의 AI 하드웨어 투자를 보호하기 위한 보험으로 간주되어야 합니다. 이를 관점에서 보면 자산을 보호하기 위한 4% 프리미엄입니다. 이는 다른 수백만 달러 규모의 비즈니스 투자에 대한 보험료보다 상당히 낮은 수준입니다. 계획되지 않은 가동 중지 시간 동안 AI 교육 중단 및 유휴 인프라로 인한 잠재적 비용을 고려하면 비즈니스 사례가 더욱 명확해집니다.
데이터 센터 운영자 및 재무 이해관계자의 경우 2단계 냉각에 대한 투자 결정은 위험 관리 및 투자 보호라는 관점에서 평가되어야 합니다. 관련 지표에는 운영 비용이나 에너지 효율성뿐만 아니라 보호되는 하드웨어의 총 가치, 잠재적 장애 시나리오 비용, 차세대 하드웨어의 미래 보장 가치, 위험 조정 냉각 투자 수익도 포함되어야 합니다.
AI가 데이터 센터 인프라의 밀도와 가치를 지속적으로 높이면서 업계는 냉각 전략에 대한 접근 방식을 발전시켜야 합니다. 문제는 2단계 냉각으로 전환할지 여부가 아니라 기존 운영 및 투자에 대한 위험을 최소화하면서 전환할 시기와 방법입니다.
스마트 운영자는 이미 이러한 전환을 진행하고 있는 반면, 다른 운영자는 값비싼 교훈을 얻을 위험을 감수하고 있습니다. 단일 랙 비용이 많은 데이터 센터의 연간 운영 예산보다 더 많이 드는 시대에 오래된 냉각 기술에 대한 도박은 위험할 뿐만 아니라 잠재적으로 재앙을 초래할 수도 있습니다. 위험이 현실이 되기 전인 지금이 행동해야 할 때입니다.
게시물 AI 투자 보호: 냉각 전략이 그 어느 때보다 중요한 이유 처음 등장한 Unite.AI.
