필립 버 Lumai의 제품 책임자이며, 세계 제품 관리, 대 시장 및 주요 시장 및 리더십 역할에 대한 25 년 이상의 반도체 및 기술 회사 내에서 입증 된 제품 및 서비스에 대한 입증 된 실적을 보유하고 있습니다.
루무 쿠 영국에 기반을 둔 딥 테크 회사는 인공 지능 워크로드를 가속화하기 위해 3D 광학 컴퓨팅 프로세서를 개발하는 것입니다. 3 차원에서 광선을 사용하여 매트릭스 벡터 곱셈을 수행함으로써, 기술은 기존 실리콘 기반 가속기에 비해 최대 50 배의 성능과 90% 적은 전력 소비를 제공합니다. 이로 인해 대형 언어 모델을 포함한 AI 추론 작업에 특히 적합한 반면 에너지 비용과 환경 영향을 크게 줄입니다.
Lumai의 창립에 영감을 주었던 것은 무엇이며 옥스포드 대학교 연구에서 상업용 벤처에 대한 아이디어가 어떻게 발전 했습니까?
Xianxin Guo 박사 인 Lumai의 창립자 중 한 명이 옥스포드 대학에서 1851 년 연구원을 수상했을 때 초기 불꽃이 발화되었습니다. 면접관들은 광학 컴퓨팅의 잠재력을 이해하고 Xianxin이 그의 연구가 성공적이면 특허를 고려하고 회사를 회전시킬 것인지 물었습니다. 이로 인해 Xianxin의 창조적 인 마음이 발사되었고 Lumai의 다른 공동 설립자 중 한 명과 함께 AI의 핵심 계산을 위해 빛을 사용하면 AI 성능을 극적으로 향상시키고 에너지를 줄일 수 있음을 입증했습니다. 그들은 기존의 실리콘 전용 AI 하드웨어가 전력과 비용을 크게 증가시키지 않으면 서 성능을 높이기 위해 고군분투하고 있음을 알았으므로 광학 컴퓨팅을 사용 하여이 문제를 해결할 수 있다면 고객이 원하는 제품을 만들 수 있습니다. 그들은이 아이디어를 Lumai를 형성하기 위해 그들을 지원 한 일부 VC에게 가져 갔다. Lumai는 최근에 2 차 자금 조달을 마감하여 1 천만 달러 이상을 모금했으며 광학 컴퓨팅이 계속 확대 될 수 있고 AI 성과 수요 증가를 충족시킬 수 있다고 생각하는 추가 투자자를 데려 왔습니다.
ARM, Indie Semiconductor 등을 가로 질러 인상적인 경력을 쌓았습니다.이 단계에서 Lumai에 합류하게 된 것은 무엇입니까?
짧은 대답은 팀과 기술입니다. Lumai는 인상적인 광학, 머신 러닝 및 데이터 센터 전문가 팀을 보유하고 있으며 Meta, Intel, Altera, Maxeler, Seagate 및 IBM과 같은 경험을 제공합니다 (ARM, Indie, Mentor Graphics 및 Motorola에서의 경험과 함께). 나는 AI 추론의 비용을 줄이기위한 도전을 해결하는 데 집중하는 놀라운 사람들로 구성된 팀이 놀라운 일을 할 수 있다는 것을 알고있었습니다.
나는 AI의 미래가 컴퓨팅에 새롭고 혁신적인 혁신을 요구한다고 굳게 믿고있다. AI 컴퓨팅 성능을 50 배 제공 할 수 있다는 약속은 물론 오늘날의 솔루션에 비해 AI 추론 비용을 1/10으로 절감하는 것이 너무 좋은 기회였습니다.
창립 팀이 연구 혁신에서 제품 준비 회사로 확장하는 데 직면 한 초기 기술 또는 비즈니스 과제는 무엇입니까?
연구 혁신은 광학이 빠르고 매우 효율적인 매트릭스 벡터 곱셈에 사용될 수 있음을 증명했습니다. 기술적 혁신에도 불구하고 가장 큰 도전은 Lumai가 다른 광학 컴퓨팅 스타트 업이 실패한 곳에서 성공할 수 있다고 사람들에게 설득하는 것이 었습니다. 우리는 Lumai의 접근 방식이 매우 다르며 단일 2D 칩에 의존하는 대신 3D 광학을 사용하여 스케일과 효율성에 도달한다고 설명했습니다. 물론 데이터 센터에서 규모로 배치 할 수있는 실험실 연구에서 기술로의 많은 단계가 있습니다. 우리는 성공의 열쇠가 대량과 데이터 센터에서 제품 개발 경험이있는 엔지니어를 데려 오는 것임을 매우 일찍 인식했습니다. 다른 영역은 소프트웨어입니다 – 표준 AI 프레임 워크 및 모델은 Lumai의 프로세서의 혜택을받을 수 있으며 AI 소프트웨어 엔지니어에게 가능한 한 원활하게 만들 수있는 도구와 프레임 워크를 제공하는 것이 중요합니다.
Lumai의 기술은 3D 광학 매트릭스 벡터 곱셈을 사용한다고합니다. 일반 청중을 위해 간단한 용어로 해체 할 수 있습니까?
AI 시스템은 행렬 벡터 곱셈이라는 많은 수학적 계산을 수행해야합니다. 이러한 계산은 AI 응답에 전원을 공급하는 엔진입니다. Lumai에서는 전기 대신 빛을 사용 하여이 작업을 수행합니다. 작동 방식은 다음과 같습니다.
- 우리는 정보를 빛의 빔으로 인코딩합니다
- 이 광선은 3D 공간을 통과합니다
- 빛은 렌즈 및 특수 재료와 상호 작용합니다
- 이러한 상호 작용은 수학적 작동을 완료합니다
공간의 3 차원을 모두 사용하면 각 광선으로 더 많은 정보를 처리 할 수 있습니다. 이로 인해 AI 시스템을 실행하는 데 필요한 에너지, 시간 및 비용을 줄이는 데있어 우리의 접근 방식이 매우 효율적입니다.
전통적인 실리콘 기반 GPU 및 통합 광자에 대한 광학 컴퓨팅의 주요 장점은 무엇입니까?
실리콘 기술의 발전 속도가 크게 둔화 되었기 때문에, GPU와 같은 실리콘 전용 AI 프로세서 (GPU)의 성능의 각 단계 상승은 전력이 크게 증가합니다. 실리콘 전용 솔루션은 엄청난 양의 전력을 소비하고 수익이 줄어들고있어 엄청나게 복잡하고 비싸게 만듭니다. 광학 사용의 장점은 한 번 광학 영역에서는 실제로 전력이 소비되지 않는다는 것입니다. 에너지는 광학 영역에 들어가는 데 사용되지만 예를 들어 Lumai의 프로세서에서는 각 조명 빔에 대해 1,000 개가 넘는 계산 작업, 모든 단일 사이클에 대해 1,000 개가 넘는 계산 작업을 달성 할 수 있으므로 매우 효율적입니다. 이 확장 성은 물리적 크기 제약과 신호 노이즈 둘 다로 인해 통합 광자를 사용하여 달성 할 수 없으며, 오늘날 Lumai가 달성 할 수있는 것의 1/8에서 실리콘-광학 솔루션의 계산 작업 수와 함께이 확장 성을 달성 할 수 없습니다.
Lumai의 프로세서는 어떻게 0에 가까운 대기 시간 추론을 달성하고, 왜 현대 AI 워크로드의 중요한 요소입니까?
우리는 Lumai 프로세서가 불신을 제공한다고 주장하지는 않지만 단일 사이클에서 매우 큰 (1024 x 1024) 행렬 벡터 작동을 실행합니다. 실리콘 전용 솔루션은 전형적으로 매트릭스를 작은 행렬로 나누어 개별적으로 단계별로 처리 한 다음 결과를 결합해야합니다. 이것은 시간과 더 많은 기억과 에너지를 사용하는 데 시간과 결과가 필요합니다. AI 처리의 시간, 에너지 및 비용을 줄이는 것은 더 많은 비즈니스가 AI의 혜택을 누릴 수있게하고 고급 AI를 가장 지속 가능한 방식으로 가능하게하는 데 중요합니다.
PCIE 호환 폼 팩터가 기존 데이터 센터 인프라와 어떻게 통합되는지를 안내해 주시겠습니까?
Lumai 프로세서는 표준 4U 선반 내에서 표준 CPU와 함께 PCIE 폼 팩터 카드를 사용합니다. Lumai 프로세서가 자체 장비와 통합되도록 다양한 데이터 센터 랙 장비 공급 업체와 협력하고 있습니다. 표준 네트워크 인터페이스, 표준 소프트웨어 등을 사용하므로 외부 적으로 Lumai 프로세서가 다른 데이터 센터 프로세서처럼 보입니다.
데이터 센터 에너지 사용은 전 세계적으로 점점 커지고 있습니다. Lumai는 AI Compute를위한 지속 가능한 솔루션으로 어떻게 자리 매김합니까?
데이터 센터 에너지 소비는 놀라운 속도로 증가하고 있습니다. a에 따르면 로렌스 버클리 국립 연구소에서보고합니다미국의 데이터 센터 전력 사용은 2028 년까지 3 배가 될 것으로 예상되며, 국가 전력의 최대 12%를 소비합니다. 일부 데이터 센터 운영자는 필요한 에너지를 제공하기 위해 핵 전력 설치를 고려하고 있습니다. 업계는 AI에 대한 다양한 접근 방식을 살펴 봐야하며, 광학 이이 에너지 위기에 대한 해답이라고 생각합니다.
Lumai의 아키텍처가 현재 실리콘 및 광학적 접근의 확장 성 병목 현상을 피하는 방법을 설명 할 수 있습니까?
첫 번째 Lumai 프로세서의 성능은 달성 할 수있는 것의 시작일뿐입니다. 우리는 우리의 솔루션이 성능에서 큰 도약을 계속할 것으로 예상합니다. 광학 클럭 속도와 벡터 폭을 증가 시켜서 소비되는 에너지의 증가없이 모두. 다른 솔루션은이를 달성 할 수 없습니다. 표준 디지털 실리콘 전용 접근 방식은 성능의 증가에 따라 점점 더 많은 비용과 전력을 소비 할 것입니다. 실리콘 광자는 필요한 벡터 너비를 달성 할 수 없으므로 데이터 센터 컴퓨팅 용 통합 광자를보고있는 회사는 데이터 센터의 다른 부분 (예 : 광학 상호 연결 또는 광학 스위칭)을 해결하기 위해 이동했습니다.
AI의 미래에 광학 컴퓨팅이 어떤 역할을하는지, 그리고 더 광범위하게 컴퓨팅 전체에서 어떤 역할을합니까?
광학 인터커넥트, 광학 네트워킹, 광학 스위칭 및 물론 광학 AI 처리에서 전체 데이터 센터에서 광학적으로 큰 역할을합니다. AI가 데이터 센터에 배치해야한다는 요구는이 광학 이동의 핵심 드라이버입니다. Optical Interconnect는 AI 프로세서간에 더 빠른 연결을 가능하게하며, 이는 대형 AI 모델에 필수적입니다. 광학 스위칭은보다 효율적인 네트워킹을 가능하게하고 광학 컴퓨팅은 더 빠르고 전력 효율적이며 저비용 AI 처리를 가능하게합니다. 종합적으로 그들은보다 진보 된 AI를 가능하게하여 컴퓨팅 측면에서 실리콘 스케일링의 둔화와 상호 연결 측면에서 구리의 속도 제한 문제를 극복 할 수 있도록 도와줍니다.
훌륭한 인터뷰에 감사드립니다. 더 배우고 싶은 독자들은 방문해야합니다. 루무 쿠.
게시물 Phillip Burr, Lumai의 제품 책임자 – 인터뷰 시리즈 먼저 나타났습니다 Unite.ai.
