AI의 전력에 대한 욕구 증가: 데이터 센터가 이를 따라잡을 준비가 되어 있습니까?

Date:

인공 지능(AI)이 발전하면서 에너지 수요가 데이터 센터를 한계점까지 압박하고 있습니다. 다음과 같은 차세대 AI 기술 생성 AI (genAI)는 산업을 변화시킬 뿐만 아니라 에너지 소비가 CPU와 메모리부터 가속기 및 네트워킹에 이르기까지 거의 모든 데이터 서버 구성 요소에 영향을 미치고 있습니다.

Microsoft의 Copilot 및 OpenAI의 ChatGPT를 포함한 GenAI 애플리케이션은 그 어느 때보다 더 많은 에너지를 요구합니다. 2027년에는 이러한 AI 시스템을 훈련하고 유지하는 것만으로도 충분한 비용을 소비할 수 있습니다. 작은 나라에 전력을 공급하는 전기 일년 내내. 그리고 추세는 둔화되지 않고 있습니다. 한 연구에 따르면 지난 10년 동안 CPU, 메모리, 네트워킹과 같은 구성 요소에 대한 전력 수요는 2030년까지 160% 증가할 것으로 추산됩니다. 골드만삭스 보고서.

대규모 언어 모델을 사용하면 에너지도 소비됩니다. 예를 들어 ChatGPT 쿼리는 열번 정도 소모 전통적인 Google 검색. AI의 막대한 전력 요구 사항을 고려할 때 업계의 급속한 발전을 지속 가능하게 관리할 수 있습니까? 아니면 글로벌 에너지 소비에 더욱 기여하게 될까요? 맥킨지의 최근 연구 데이터 센터 시장에서 급증하는 수요의 약 70%가 고급 AI 워크로드를 처리할 수 있는 시설에 맞춰져 있음을 보여줍니다. 이러한 변화는 데이터 센터가 고성능 genAI 작업의 고유한 요구 사항에 적응함에 따라 데이터 센터의 구축 및 운영 방식을 근본적으로 변화시키고 있습니다.

“기존 데이터 센터는 노후화되고 에너지 집약적인 장비와 변동하는 워크로드에 적응하는 데 어려움을 겪는 고정 용량으로 운영되는 경우가 많아 상당한 에너지 낭비를 초래합니다.” 분산 클라우드 컴퓨팅 플랫폼의 최고 전략 책임자이자 공동 창립자인 Mark Rydon 걸릴 것이다나에게 말했다. “중앙 집중식 운영은 리소스 가용성과 소비 요구 사항 사이에 불균형을 초래하는 경우가 많으며, AI 기반 수요가 증가함에 따라 발전이 환경 목표를 훼손할 위험이 있는 중요한 시점으로 업계를 이끌고 있습니다.”

업계 리더들은 이제 데이터 센터를 위한 친환경 설계와 에너지 효율적인 아키텍처에 투자하여 문제를 정면으로 해결하고 있습니다. 재생 가능 에너지원을 채택하는 것부터 genAI 워크로드로 인해 발생하는 막대한 양의 열을 상쇄할 수 있는 보다 효율적인 냉각 시스템을 만드는 것까지 노력의 범위가 다양합니다.

보다 친환경적인 미래를 위한 데이터 센터 혁신

레노버가 최근 출시한 ThinkSystem N1380 해왕성데이터 센터 액체 냉각 기술의 도약입니다. 회사는 혁신을 통해 조직이 이미 데이터 센터에서 최대 40% 적은 전력을 사용하여 훨씬 낮은 에너지 사용으로 genAI 워크로드를 위한 고성능 컴퓨팅을 배포할 수 있도록 지원하고 있다고 주장합니다. N1380 Neptune은 Blackwell 및 GB200 GPU를 포함한 NVIDIA의 최신 하드웨어를 활용하여 컴팩트한 설정에서 1000조 매개변수 AI 모델을 처리할 수 있습니다. 레노버는 전용 에어컨 없이도 100KW 이상의 서버 랙을 운영할 수 있는 데이터 센터의 길을 닦는 것을 목표로 한다고 밝혔습니다.

“우리는 현재 소비자의 중요한 요구 사항을 확인했습니다. 데이터 센터는 오래된 냉각 아키텍처와 기존 구조 프레임워크로 인해 AI 워크로드를 처리할 때 더 많은 전력을 소비하고 있습니다.” Lenovo AI 글로벌 디렉터, Robert Daigle나에게 말했다. “이를 더 잘 이해하기 위해 우리는 고성능 컴퓨팅(HPC) 고객과 협력하여 전력 소비를 분석한 결과 에너지 사용량을 40%까지 줄일 수 있다는 결론에 도달했습니다.” 그는 회사가 Nvidia와 협력하여 새로운 데이터 센터 아키텍처를 개발하기 위해 팬 전력 및 냉각 장치의 전력 소비와 같은 요소를 고려하고 이를 Lenovo의 데이터 센터 평가 서비스를 통해 제공되는 표준 시스템과 비교했다고 덧붙였습니다.

영국 기반 정보 기술 컨설팅 회사 나는 가지고 있었다데이터 센터 압축기, 모터, HVAC 장비, 공조기 등과 관련된 문제를 식별하기 위해 예측 분석을 활용하고 있다고 말했습니다.

“우리는 엄청난 전력을 소비하는 것이 생성 AI의 사전 훈련임을 발견했습니다.” AVEVA의 AI 및 고급 분석 책임자 Jim Chappell나에게 말했다. “우리는 예측 가능한 AI 기반 시스템을 통해 SCADA 또는 제어 시스템보다 훨씬 먼저 문제를 찾아 데이터 센터 운영자가 장비 문제가 큰 문제가 되기 전에 해결할 수 있도록 하는 것을 목표로 합니다. 또한 우리 제어 시스템과 기본적으로 통합되어 열화상 카메라와 함께 사용할 때 온도 핫스팟을 포함하여 다른 유형의 이상 현상을 찾는 데 도움이 되는 Vision AI Assistant가 있습니다.”

한편, 클라우드를 통한 GPU를 통한 AI 훈련 및 개발을 위한 분산 컴퓨팅이 대안으로 떠오르고 있습니다. 애티르의 라이돈 더 광범위하고 적응성이 뛰어난 네트워크에 컴퓨팅 작업을 분산함으로써 리소스 수요를 가용성에 맞춰 에너지 사용을 최적화할 수 있으며, 이는 처음부터 낭비를 크게 줄일 수 있다고 설명했습니다.

“대규모 중앙 집중식 데이터 센터에 의존하는 대신 당사의 ‘엣지’ 인프라는 컴퓨팅 작업을 데이터 소스에 더 가까운 노드로 분산시켜 데이터 전송을 위한 에너지 부하를 대폭 줄이고 대기 시간을 단축합니다.” 라이돈이 말했다. “Aethir Edge 네트워크는 워크로드가 단일 위치에 집중되지 않고 다양한 환경에 분산되므로 지속적인 고전력 냉각의 필요성을 최소화하여 중앙 데이터 센터에서 일반적으로 발생하는 에너지 집약적인 냉각 시스템을 피하는 데 도움이 됩니다.”

마찬가지로, 다음을 포함한 기업들은 아마존과 구글 데이터 센터에서 증가하는 전력 수요를 관리하기 위해 재생 가능 에너지원을 실험하고 있습니다. 예를 들어 Microsoft는 데이터 센터의 에너지 소비를 줄이기 위해 재생 가능 에너지원과 효율성 향상 기술에 막대한 투자를 하고 있습니다. Google은 또한 무탄소 에너지로 전환하고 데이터 센터의 전력 사용을 최소화하는 냉각 시스템을 탐색하기 위한 조치를 취했습니다. “원자력은 탄소 없는 데이터 센터로 가는 가장 빠른 길일 가능성이 높습니다. Microsoft, Amazon, Google과 같은 주요 데이터 센터 제공업체는 현재 투자를 많이 하다 미래를 위한 이러한 유형의 발전에. 소형 모듈식 원자로(SMR)를 사용하면 유연성과 생산 시간이 Net Zero를 달성하기 위한 훨씬 더 실행 가능한 옵션이 됩니다.” 추가됨 HAVE의 샤펠입니다.

AI와 데이터 센터 지속 가능성이 공존할 수 있습니까?

AI 인프라 플랫폼 CTO Ugur Tigli 미니IO우리는 AI가 에너지 소비를 크게 늘리지 않고 발전할 수 있는 미래를 희망하지만 단기적으로는 현실적이지 않다고 말합니다. “장기적인 영향은 예측하기가 더 어렵습니다.” 그는 나에게 말했다, “그러나 인력의 변화를 보게 될 것이며 AI는 전반적으로 에너지 소비를 개선하는 데 도움이 될 것입니다.” Tigli는 에너지 효율성이 시장 우선순위가 되면서 특히 효율성이 높아지면서 다른 부문의 에너지 사용 감소와 함께 컴퓨팅 분야의 성장도 보게 될 것이라고 믿습니다.

그는 또한 보다 친환경적인 AI 솔루션에 대한 소비자들의 관심이 증가하고 있다고 지적했습니다. “90%의 효율성으로 작동하지만 전력은 절반만 사용하는 AI 애플리케이션을 상상해 보십시오. 이것이 바로 실제로 성공할 수 있는 혁신입니다.” 그는 덧붙였다. AI의 미래는 단지 혁신에 관한 것이 아니라 데이터 센터의 지속 가능성에 관한 것임이 분명합니다. 보다 효율적인 하드웨어를 개발하든, 리소스를 보다 스마트하게 사용하는 방법을 개발하든, AI의 에너지 소비를 관리하는 방법은 데이터 센터의 설계와 운영에 큰 영향을 미칠 것입니다.

라이돈 지속 가능한 데이터 센터 설계, 에너지 효율적인 AI 워크로드 및 개방형 리소스 공유에 초점을 맞춘 업계 전반의 이니셔티브의 중요성을 강조했습니다. “이것은 보다 친환경적인 운영을 향한 중요한 단계입니다.” 그는 말했다. “AI를 사용하는 기업은 기술 기업과 협력하여 환경에 미치는 영향을 줄이는 솔루션을 만들어야 합니다. 우리는 함께 협력함으로써 AI를 더욱 지속 가능한 미래로 이끌 수 있습니다.”

게시물 AI의 전력에 대한 욕구 증가: 데이터 센터가 이를 따라잡을 준비가 되어 있습니까? 처음 등장한 Unite.AI.

Share post:

Subscribe

Popular

More like this
Related

12월23일 정부지원사업 신규 공고 리스트 (12건) _ (파일 재가공/재배포 가능)

12월 23일 12건<12/23지원사업 신규 공고 목록> *전 영업일인 12/20에 올라온...

Waste Robotics와 Greyparrot가 분류 로봇을 강화하는 방법

Waste Robotics는 FANUC 로봇 팔을 사용하여 안정적이고 정확한 피킹을...

2024년 상위 10가지 생물의학 이야기

2024년에는 생체 의학 기술이 실제로 우리 머리, 더 구체적으로...

Sora AI 리뷰: AI가 영상 제작자를 영원히 대체할 수 있을까요?

말로만 고품질 비디오를 만들고 싶었던 적이 있습니까?2024년 2월 OpenAI...