뉴로모픽 컴퓨팅 두뇌에서 영감을 얻는 시드니 소재 스타트업의 최고 마케팅 책임자인 스티븐 브라이트필드(Steven Brightfield) 브레인칩AI 처리를 수행하는 배터리 구동 장치에 사용하기에 완벽하다고 말합니다.
“그 이유는 진화입니다.”라고 Brightfield는 말합니다. “우리 두뇌에는 전력 예산이 있습니다.” 마찬가지로 BrainChip이 목표로 하는 시장은 전력이 제한되어 있습니다. “배터리가 있고 배터리에서 나오는 에너지는 사용 중인 AI에 전력을 공급할 수 있는 정도입니다.”
오늘 BrainChip은 칩 디자인인 Akida Pico를 출시했다고 발표했습니다. 전력이 제한된 장치에 사용하기 위해 개발된 Akida Pico는 BrainChip의 단순하고 소형화된 버전입니다. 관념론 작년에 선보인 디자인. Akida Pico는 1밀리와트의 전력을 소비하며 애플리케이션에 따라 그보다 더 적은 전력을 소비합니다. 칩 설계는 일반적으로 전력 및 무선 통신 용량에 심각한 제한이 있는 휴대폰, 웨어러블 기기, 스마트 가전제품과 같은 소형 사용자 장치로 구성된 익스트림 에지를 대상으로 합니다. Akida Pico는 다음과 같이 엣지용으로 설계된 유사한 뉴로모픽 장치에 합류했습니다. 인나테라‘에스 T1 칩올해 초에 발표되었으며, SynSense의 자일로, 발표 2023년 7월.
뉴런 스파이크로 에너지 절약
뉴로모픽 컴퓨팅 장치는 뇌의 스파이크 특성을 모방합니다. 전통적인 논리 게이트 대신 ‘뉴런’이라고 하는 계산 장치가 스파이크라고 하는 전기 펄스를 보냅니다. 서로 소통하기 위해. 스파이크가 다른 뉴런에 부딪힐 때 특정 임계값에 도달하면 해당 뉴런이 차례로 활성화됩니다. 다양한 뉴런은 글로벌 클록과 독립적으로 스파이크를 생성하여 고도의 병렬 작동을 가능하게 합니다.
이 접근 방식의 특별한 장점은 스파이크가 있을 때만 전력이 소비된다는 것입니다. 일반 딥러닝 모델에서 각 인공 뉴런은 단순히 입력에 대해 작업을 수행합니다. 내부 상태는 없습니다. 스파이크 신경망 아키텍처에서는 입력을 처리하는 것 외에도 뉴런에는 내부 상태가 있습니다. 이는 출력이 현재 입력뿐만 아니라 과거 입력 기록에도 의존할 수 있음을 의미합니다. 마이크 데이비스뉴로모픽 컴퓨팅 연구소 소장 인텔. 예를 들어 입력이 이전 입력에서 충분히 변경되지 않은 경우 이러한 뉴런은 아무것도 출력하지 않도록 선택하여 에너지를 절약할 수 있습니다.
“뉴로모픽이 정말 뛰어난 점은 전체 데이터 스트림을 수집한 다음 지연된 일괄 처리 방식으로 처리하기 위해 기다릴 여유가 없을 때 신호 스트림을 처리하는 것입니다. 스트리밍, 실시간 작동 모드에 적합합니다.”라고 Davies는 말합니다. 데이비스 팀은 최근 결과를 발표했다 보여주는 그들의 롱 칩의 에너지 사용량은 스트리밍 사용 사례에 대한 GPU 사용량의 1/1000이었습니다.
Akida Pico에는 이벤트 처리 및 모델 중량 저장 SRAM 장치, 스파이크 변환 및 구성을 위한 직접 메모리 장치 및 선택적 주변 장치와 함께 신경 처리 엔진이 포함되어 있습니다. Brightfield는 간단한 감지기와 같은 일부 장치에서 칩이 마이크로컨트롤러나 기타 외부 처리 없이 독립형 장치로 사용될 수 있다고 말합니다. 추가적인 온디바이스 처리가 필요한 기타 사용 사례의 경우 마이크로컨트롤러, CPU 또는 기타 처리 장치와 결합할 수 있습니다.
BrainChip의 Akida Pico 디자인에는 소형 배터리 작동 장치에 적합한 뉴로모픽 처리 엔진의 소형 버전이 포함되어 있습니다.브레인칩
BrainChip은 또한 장치의 전력 사용을 최소화하도록 최적화된 AI 모델 아키텍처를 개발하기 위해 노력했습니다. 그들은 음성에서 키워드를 감지하는 애플리케이션으로 기술을 선보였습니다. 이는 ‘Hello, Alexa’ 키워드가 활성화될 때까지 기다리는 Amazon Alexa와 같은 음성 지원에 유용합니다.
BrainChip 팀은 그들의 최근에 개발된 시뮬레이터에서 시연된 것처럼 기존 마이크로프로세서에서 실행되는 기존 모델이 소비하는 전력의 1/5로 전력 사용을 줄이는 모델 아키텍처입니다. “Amazon은 Alexa를 깨우기 위해 클라우드 컴퓨팅 서비스에 연간 2억 달러를 지출하는 것 같습니다.”라고 Brightfield는 말합니다. “그들은 마이크로컨트롤러와 신경 처리 장치(NPU)를 사용하여 이를 수행하지만 여전히 수백 밀리와트의 전력을 소비합니다.” BrainChip의 솔루션이 실제로 각 장치에 대해 주장된 전력 절감 효과를 제공한다면 그 효과는 상당할 것입니다.
두 번째 시연에서는 유사한 기계 학습 모델을 사용하여 보청기 또는 소음 제거 헤드폰에 사용하기 위한 오디오 소음 제거를 시연했습니다.
현재까지 뉴로모픽 컴퓨터는 상업적으로 광범위하게 사용되지 않았으며, 저전력 AI 애플리케이션의 기능 저하로 인해 이러한 소형 엣지 장치가 성공할지는 지켜봐야 합니다. Intel의 Davies는 “아주 작은 신경망 수준에서는 문제를 일으킬 수 있는 마법의 양이 제한되어 있습니다.”라고 말합니다.
그러나 BrainChip의 Brightfield는 응용 분야가 있을 것으로 기대하고 있습니다. “말이 깨어나는 것일 수도 있습니다. 이어폰이나 AR 안경, 보청기의 소음 감소일 수도 있습니다. 이것들은 우리가 목표로 삼고 있는 모든 종류의 사용 사례입니다. 우리는 또한 누군가가 발명할 것인지 모르는 사용 사례가 있다고 생각합니다.”
