AI와 가속 컴퓨팅 — NVIDIA는 지속적으로 개선하는 트윈 엔진을 제공합니다. 에너지 효율 다양한 산업에 적용 가능.
더 넓은 지역사회가 이러한 진전을 인정하기 시작했습니다.
“데이터센터가 곧 전 세계 에너지 소비의 4%를 차지할 것이라는 예측이 현실이 되더라도 AI는 나머지 96%의 에너지 소비를 줄이는 데 큰 영향을 미칠 것”이라고 한 전문가는 말했다. 보고서 2003년에 설립된 비영리 기관인 리스본 협의회 연구소에서 경제 및 사회 문제를 연구합니다.
브뤼셀에 있는 연구 그룹의 기사는 떠오르기 시작한 몇 가지 큰 그림 AI 정책 연구 중 하나입니다. 이탈리아의 레오나르도 슈퍼컴퓨터자동차 디자인과 신약 발견부터 날씨 예보에 이르는 분야에서 작업을 진행하는 시스템의 한 예로, NVIDIA GPU 약 14,000개로 가속화되었습니다.
가속 컴퓨팅이 지속 가능한 컴퓨팅인 이유
가속 컴퓨팅은 NVIDIA GPU의 병렬 처리를 사용하여 더 적은 시간에 더 많은 작업을 수행합니다. 결과적으로 한 번에 하나의 작업을 처리하도록 제작된 CPU를 사용하는 범용 서버보다 에너지를 덜 소모합니다.
그래서 가속 컴퓨팅이 필요한 것입니다. 지속 가능한 컴퓨팅.
이득은 더욱 커집니다 가속 시스템은 AI를 적용합니다본질적으로 병렬적인 컴퓨팅 형태로서 우리 시대의 가장 혁신적인 기술입니다.
보고서는 “머신 러닝이나 딥 러닝과 같은 최첨단 애플리케이션의 경우 GPU의 성능이 CPU보다 훨씬 뛰어납니다.”라고 밝혔습니다.
가속화된 AI를 통한 사용자 경험
전 세계 사용자들은 AI와 가속화된 컴퓨팅으로 에너지 효율성이 향상되었다고 기록하고 있습니다.
금융 서비스에서 무렉스 — 매일 60,000명 이상이 사용하는 거래 및 위험 관리 플랫폼을 보유한 파리에 본사를 둔 회사 — NVIDIA Grace Hopper 슈퍼칩. 작업 부하에서 CPU-GPU 콤보는 CPU 전용 시스템에 비해 에너지 소비를 4배, 완료 시간을 7배 단축했습니다(아래 차트 참조).
Murex의 양적 연구 책임자인 Pierre Spatz는 “위험 계산에 있어서 Grace는 가장 빠른 프로세서일 뿐만 아니라 훨씬 더 전력 효율적이어서 거래 세계에서 녹색 IT를 현실로 만들고 있습니다.”라고 말했습니다.
제조업에서는 대만에 본사를 둔 위스트론 방의 디지털 사본을 만들었습니다. NVIDIA DGX 시스템 현장에서의 운영을 개선하기 위해 열 응력 테스트를 거쳤습니다. 엔비디아 옴니버스시뮬레이션을 에뮬레이트하는 AI 버전인 대체 모델을 갖춘 산업 디지털화를 위한 플랫폼입니다.
수천 개의 네트워크 센서에 연결된 디지털 트윈을 통해 Wistron은 시설의 전체 에너지 효율성을 최대 10%까지 높일 수 있었습니다. 이는 연간 전기 소비량을 120,000kWh, 탄소 배출량을 무려 60,000kg 줄이는 것과 같습니다.
최대 80% 탄소 배출량 감소
Apache Spark용 RAPIDS 가속기 머신 러닝의 널리 사용되는 형태인 데이터 분석의 탄소 발자국을 최대 80%까지 줄일 수 있으며 평균 속도 향상은 5배, 컴퓨팅 비용은 4배 절감할 수 있다고 합니다. 최근 벤치마크.
수천 개의 회사(Fortune 500의 약 80%)가 다음을 사용합니다. 아파치 스파크 증가하는 데이터 산을 분석합니다. NVIDIA의 Spark 가속기를 사용하는 회사로는 Adobe가 있습니다. AT&T 그리고 미국 국세청.
의료 분야에서 인실리코 의학 NVIDIA 기반 AI 플랫폼 덕분에 비교적 희귀한 호흡기 질환에 대한 약물 후보물질을 발견하고 2상 임상 시험에 돌입했습니다.
기존 방법을 사용하면 작업 비용이 4억 달러 이상 그리고 가져갔다 최대 6년. 하지만 함께 생성형 AI인실리코는 1/10의 비용으로 1/3의 시간 안에 이정표를 달성했습니다.
Insilico Medicine의 CEO인 Alex Zhavoronkov는 “이것은 우리뿐만 아니라 AI 가속 약물 발견 분야의 모든 사람들에게도 중요한 이정표입니다.”라고 말했습니다.
이는 가속 컴퓨팅 및 AI 사용자가 다음과 같은 회사에서 추구하는 결과의 샘플일 뿐입니다. 암젠, BMW, 폭스콘, 페이팔 그리고 더 많은.
가속화된 AI로 과학을 가속화하다
기초 연구에서는 국가 에너지 연구 과학 컴퓨팅 센터(National Energy Research Scientific Computing Center)가네르스크), 미국 에너지부의 오픈 사이언스를 위한 주요 시설, 측정된 결과 4개의 서버에서 NVIDIA A100 Tensor Core GPU 4가지 핵심 고성능 컴퓨팅 및 AI 애플리케이션에서 듀얼 소켓 x86 CPU 서버와 비교한 결과입니다.
연구원들은 NVIDIA A100 GPU로 가속화된 앱이 다음과 같은 결과를 보였다는 것을 발견했습니다. 에너지 효율 평균 5배 상승(아래 참조). 날씨 예보를 위한 한 애플리케이션은 거의 10배의 이득을 기록했습니다.
전 세계의 과학자와 연구자들은 높은 성능과 효율성을 달성하기 위해 AI와 가속 컴퓨팅을 활용합니다.
안에 최근 순위 세계에서 가장 에너지 효율적인 슈퍼컴퓨터 중 하나로 알려져 있습니다. 그린500NVIDIA 기반 시스템은 상위 6위를 휩쓸었고, 상위 50개 중 40개가 해당 시스템을 차지했습니다.
과소평가된 에너지 절감
산업과 과학 전반에 걸친 많은 이득은 가장 큰 AI 모델을 훈련하는 데 드는 에너지 소비량만 외삽하는 예측에서 간과되는 경우가 많습니다. 이는 AI 모델이 비교적 적은 에너지를 소비하고 위에서 설명한 종류의 효율성을 제공할 때 대부분의 AI 모델 수명에서 얻는 이점을 놓치고 있습니다.
수십 개의 출처를 인용한 분석에서 최근 연구 훈련 모델을 기반으로 한 오해의 소지가 있고 과장된 예측이라는 것이 폭로되었습니다.
워싱턴 소재 싱크탱크인 정보기술혁신재단(ITIF)의 보고서는 “전자상거래와 비디오 스트리밍의 에너지 발자국에 대한 초기 예측이 궁극적으로 과장된 것으로 판명된 것처럼 AI에 대한 추정치도 틀릴 가능성이 크다”고 밝혔다.
보고서는 AI 모델을 학습시킨 후 애플리케이션에 배포하는 데 드는 비용의 90%가 소요되고 효율성도 향상된다고 밝혔습니다.
“저탄소 미래로의 전환을 포함하여 경제와 사회에 혜택을 주기 위해 AI를 사용할 수 있는 엄청난 기회가 주어지면 정책 입안자와 미디어가 AI의 환경 영향에 대해 생각하는 주장을 더 잘 검토하는 것이 필수적입니다.” 보고서 작성자는 자신의 연구 결과를 다음과 같이 설명했습니다. 최근 팟캐스트.
다른 사람들은 AI의 에너지 이점을 인용합니다.
워싱턴 DC에 있는 R 스트리트 연구소의 정책 분석가들도 이에 동의했습니다.
그룹은 1,200단어 분량의 글에서 “정책 입안자들은 일시 정지보다는 AI로부터 얻을 수 있는 이익의 잠재력을 실현하도록 도와야 합니다.”라고 썼습니다. 기사.
“가속 컴퓨팅과 AI의 부상은 경제 성장과 사회 복지 측면에서 상당한 사회적 혜택을 제공할 수 있어 미래에 큰 희망을 줍니다.”라고 말하며 AI의 입증된 이점을 인용했습니다. 약물 발견, 은행업, 주식 거래 그리고 보험.
보고서는 AI가 전력망, 제조, 운송 부문의 효율성을 높일 수 있다고 덧붙였다.
AI는 지속 가능성 노력을 지원합니다
보고서는 또한 기후 변화에 맞서고 지속 가능성을 증진하기 위해 가속화된 AI의 잠재력을 언급했습니다.
“AI는 정확도를 높일 수 있습니다. 날씨 모델링 대중의 안전을 개선하고 보다 정확한 예측을 생성하기 위해 수확량. AI의 힘은 또한 … 더 정확한 개발에 기여할 수 있습니다. 기후 모델,” R 스트리트가 말했다.
리스본 보고서는 AI가 더 효율적인 배터리 소재를 발견하는 것과 같은 작업을 위해 “기후 변화 문제를 해결하는 데 필요한 혁신에서 중요한 역할”을 한다고 덧붙였습니다.
AI가 환경에 도움이 될 수 있는 방법
ITIF는 정부에 운영의 탈탄소화를 위한 도구로 AI를 채택할 것을 촉구했습니다.
공공 및 민간 기관은 이미 NVIDIA AI를 적용하고 있습니다. 산호초를 보호하다개선하다 산불 추적 그리고 극단적 인 날씨그리고 지속 가능한 농업을 강화하다.
NVIDIA는 다음과 협력하고 있습니다. 수백 개의 스타트업 AI를 사용하여 기후 문제를 해결합니다. NVIDIA는 또한 다음을 위한 계획을 발표했습니다. 지구-2기후 과학에 전념하는 세계에서 가장 강력한 AI 슈퍼컴퓨터가 될 것으로 기대됩니다.
스택 전체의 에너지 효율성 향상
NVIDIA는 1993년 설립 이래 GPU, CPU 등 모든 제품에 걸쳐 에너지 효율성을 높이기 위해 노력해 왔습니다. DPUs네트워크, 시스템 및 소프트웨어는 물론 Omniverse와 같은 플랫폼도 포함됩니다.
AI에서 AI 모델의 삶의 대부분은 추론에 있으며, 사용자가 새로운 효율성을 달성하는 데 도움이 되는 통찰력을 제공합니다. NVIDIA GB200 그레이스 블랙웰 슈퍼칩 AI 추론에서 이전 세대 NVIDIA Hopper GPU에 비해 25배의 에너지 효율성을 입증했습니다.
지난 8년 동안 NVIDIA GPU는 대규모 언어 모델을 실행하면서 에너지 효율성이 무려 45,000배나 향상되었습니다(아래 차트 참조).
최근 소프트웨어 혁신에는 다음이 포함됩니다. 텐서RT-LLM. 이를 통해 GPU는 LLM 추론의 에너지 소비를 3배 줄이는 데 도움이 될 수 있습니다.
눈길을 끄는 통계가 있습니다. 자동차의 효율성이 NVIDIA가 가속 컴퓨팅 플랫폼에서 AI의 효율성을 향상시킨 만큼 향상된다면 자동차는 갤런당 280,000마일을 달릴 수 있을 것입니다. 즉, 갤런당 1갤런 미만의 연료로 달까지 운전할 수 있다는 뜻입니다.
이 분석은 자동차의 연비에 적용됩니다. NVIDIA는 2016년부터 2025년까지 AI 훈련 및 추론에서 무려 10,000배의 효율성을 얻었습니다(아래 차트 참조).
데이터 센터 효율성 향상
NVIDIA는 시스템 수준의 혁신을 통해 많은 최적화를 제공합니다. 예를 들어, NVIDIA BlueField-3 DPU ~할 수 있다 전력 소모를 줄이세요 덜 효율적인 CPU에서 필수적인 데이터 센터 네트워킹 및 인프라 기능을 오프로드하여 최대 30%까지 절감할 수 있습니다.
작년에 NVIDIA는 500만 달러의 보조금 미국 에너지부에서 100개 이상의 신청 풀에서 가장 큰 15개 보조금을 받아 데이터 센터를 위한 새로운 액체 냉각 기술을 설계했습니다. 오늘날의 공랭식 접근 방식보다 20% 더 효율적으로 작동하며 탄소 발자국이 더 작습니다.
이는 NVIDIA가 데이터 센터의 에너지 효율성에 기여하는 몇 가지 방법입니다.
데이터 센터는 에너지를 가장 효율적으로 사용하는 곳이자 재생 에너지의 가장 큰 소비자 중 하나입니다.
ITIF 보고서에 따르면, 2010년부터 2018년까지 전 세계 데이터 센터의 컴퓨팅 인스턴스는 550% 증가하고, 저장 용량은 2,400% 증가했지만, 하드웨어와 소프트웨어의 개선 덕분에 에너지 사용량은 6%만 증가했습니다.
NVIDIA는 가속화된 AI를 위한 에너지 효율성을 지속적으로 추진하여 과학, 정부 및 산업 분야의 사용자가 지속 가능한 AI를 향한 여정을 가속화할 수 있도록 지원합니다. 컴퓨팅.
NVIDIA를 시도해보세요 에너지 효율 계산기 에너지 효율성을 개선할 방법을 찾아보세요. 그리고 NVIDIA의 지속 가능한 컴퓨팅 사이트 그리고 기업 지속 가능성 보고서 자세한 내용은.
