Yubei Chen 세계에서 가장 작고 효율적인 AI 모델을 구축하는 회사 인 Aizip Inc.의 공동 설립자입니다. 또한 데이비스 캘리포니아 대학교 ECE 부서의 조교수이기도합니다. Chen의 연구는 계산 신경 과학의 교차점과 깊은 감독 (자체 감독) 학습의 교차점에 있습니다. 뇌와 기계 모두에서 감독되지 않은 표현 학습을 지배하는 계산 원리에 대한 이해를 높이고 자연 신호 통계에 대한 통찰력을 재구성합니다.
UC Davis에 합류하기 전에 Chen은 NYU 데이터 과학 센터 (CDS)의 Yann Lecun 교수와 Meta Fundamental AI Research (Fair)와 함께 박사후 연구를 수행했습니다. 그는 박사 학위를 마쳤다. UC Berkeley의 Redwood Center 및 Berkeley AI Research (BAIR)에서 Bruno Olshausen 교수가 조언했습니다.
Aizip Edge Devices에 최적화 된 매우 효율적인 AI 솔루션을 개발하여 비전, 오디오, 시계열, 언어 및 센서 퓨전 애플리케이션을위한 소형 모델을 제공합니다. 이 제품을 사용하면 Face 및 Object 인식, 키워드 스팟 팅, ECG/EEG 분석 및 기기 챗봇과 같은 작업이 모두 TinyMl로 구동됩니다. 이 회사는 AI Nanofactory 플랫폼 인 Aizipline을 통해 기초 및 생성 모델을 사용하여 모델 개발을 가속화하여 전체 AI 설계 자동화를 향해 밀어 붙입니다. Aizip의 Gizmo 시리즈의 작은 언어 모델 (300m – 2b 매개 변수)은 광범위한 장치를 지원하여 지능형 기능을 가장자리로 가져옵니다.
당신은 NYU와 Meta Fair에서 Yann Lecun과 함께 당신의 박사후를했습니다. UC Berkeley에서 그와 함께 일하는 연구는 실제 AI 솔루션 구축에 대한 귀하의 접근 방식을 어떻게 형성 했습니까?
버클리에서 저의 작품은 과학적 탐구와 수학적 엄격함에 깊이 뿌리를두고있었습니다. 전기 공학, 컴퓨터 과학 및 계산 신경 과학을 결합한 박사 연구는 “화이트 박스”관점에서 AI 시스템을 이해하거나 데이터 및 학습 모델의 기본 구조를 밝히는 방법을 개발하는 데 중점을 두었습니다. Black-Box AI 시스템을 개방하는 데 도움이되는 해석 가능한 고성능 AI 모델 및 시각화 기술을 구축하는 작업을 수행했습니다.
메타 페어 (Meta Fair)에서는 AI 시스템을 엔지니어링하여 최첨단 성과를 달성하는 데 중점을 두었습니다. 세계적 수준의 계산 자원에 액세스하여 자체 감독 학습의 한계를 탐구하고 현재 데이터에서 학습하고 가능한 환경을 상상하는 AI 시스템 인“세계 모델”이라고 부르는 것에 기여했습니다. 버클리에 대한 과학적 이해와 메타의 엔지니어링 중심 스케일링 (Engineering Driven Scaling)은 AI 개발에 대한 포괄적 인 관점을 제공했습니다. 실제 응용 프로그램을위한 AI 솔루션을 개발할 때 이론적 통찰력과 실제 구현이 모두 가하는 것이 중요하다는 점을 강조했습니다.
귀하의 작업은 계산 신경 과학을 AI와 결합합니다. 신경 과학의 통찰력은 AI 모델을 개발하는 방식에 어떤 영향을 미칩니 까?
계산 신경 과학에서, 우리는 AI 모델을 조사하여 내부 메커니즘을 이해하는 방법과 마찬가지로 뇌가 다양한 자극에 대한 반응을 측정하여 정보를 처리하는 방법을 연구합니다. 경력 초기에, 나는 단어 임베딩을 분석하기 위해 시각화 기술을 개발했습니다.“Apple”과 같은 단어를“과일”및“기술”과 같은 구성 시맨틱 요소로 분류했습니다. 나중에이 접근법은 변압기 및 대형 언어 모델과 같은보다 복잡한 AI 모델로 확장되어 지식을 처리하고 저장하는 방법을 보여줍니다.
이들 방법은 실제로 뇌 활동을 연구하기 위해 전극 또는 fMRI를 사용하는 것과 같은 신경 과학에서 실제로 병행합니다. AI 모델의 내부 표현을 조사하면 추론 전략을 이해하고 특정 아이디어를 활성화하는 개념 뉴런 (예 : Golden Gate Bridge Feature)과 같은 출현 속성을 감지 할 수 있습니다. Claude를 매핑 할 때 인류가 발견되었습니다). 이 연구 라인은 이제 해석 가능성과 실질적인 중재를 가능하게하여 모델에서 편견을 제거하는 것으로 입증 되었기 때문에 업계에서 널리 채택되었습니다. 따라서 신경 과학에서 영감을 얻은 접근 방식은 본질적으로 AI를보다 설명 가능하고 신뢰할 수 있으며 효율적으로 만드는 데 도움이됩니다.
Aizip을 공동 창립 한 이유는 무엇입니까? 개념에서 회사 런칭으로의 여정을 공유 할 수 있습니까?
기본 AI 연구원으로서, 저의 작업의 대부분은 이론적 이었지만 연구와 실제 응용 분야의 격차를 해소하고 싶었습니다. 나는 Aizip을 공동 설립하여 특히 자원으로 제한된 환경에서 최첨단 AI 혁신을 실질적으로 사용하도록했습니다. 우리는 대형 기초 모델을 구축하는 대신 에지 장치에 최적화 될 세계에서 가장 작고 가장 효율적인 AI 모델을 개발하는 데 중점을 두었습니다.
여정은 기본적으로 주요 관찰로 시작되었습니다. AI 발전이 빠르게 확장되고 있었지만 실제 응용 프로그램에는 종종 가볍고 매우 효율적인 모델이 필요했습니다. 그런 다음 과학적 엄격함을 실용적 배치와 균형 잡는 새로운 방향을 개척 할 수있는 기회를 보았습니다. Aizip은 자체 감독 학습 및 컴팩트 한 모델 아키텍처의 통찰력을 활용하여 Edge에서 효율적으로 작동하고 임베디드 시스템, IoT 및 그 이상에서 AI에 대한 새로운 가능성을 열 수있는 AI 솔루션을 제공 할 수있었습니다.
Aizip은 Edge Devices의 작은 AI 모델을 전문으로합니다. 시장에서 어떤 차이가 있었습니까?
AI 산업은 모델을 확장하는 데 주로 중점을 두었지만 실제 응용 프로그램은 종종 고효율, 저전력 소비 및 최소 대기 시간을 필요로합니다. 오늘날 많은 AI 모델은 소규모 임베디드 장치에 배치하기에는 계산 비용이 너무 비쌉니다. 우리는 극단적 인 자원 제약 내에서 작동하면서 강력한 성능을 제공 할 수있는 AI 솔루션 시장의 차이를 보았습니다.
우리는 모든 AI 애플리케이션이 대규모 모델에서 실행되는 것이 불필요 할뿐만 아니라 모든 것에 대한 크기의 모델에 의존하는 것이 확장 가능하지 않다는 것을 인식했습니다. 대신, 우리는 정확도를 유지하면서 최대 효율성을 달성하기 위해 알고리즘을 최적화하는 데 중점을 둡니다. 스마트 센서, 웨어러블 또는 산업 자동화에 관계없이 Edge Applications 용으로 맞춤형 AI 모델을 설계함으로써 AI는 기존 모델이 실용적이지 않은 곳에서 실행할 수 있습니다. 우리의 접근 방식은 AI가보다 접근 가능하고 확장 가능하며 에너지 효율적으로 클라우드를 넘어 AI 중심 혁신을위한 새로운 가능성을 잠금 해제합니다.
Aizip은 작은 언어 모델 (SLM)을 개발하는 최전선에있었습니다. SLM이 GPT-4와 같은 더 큰 모델을 경쟁하거나 보완하는 방법은 무엇입니까?
SLM과 GPT-4와 같은 대규모 모델은 다른 요구를 제공하기 때문에 반드시 직접 경쟁 할 필요는 없습니다. 대형 모델은 일반화와 깊은 추론 측면에서 강력하지만 상당한 계산 자원이 필요합니다. SLM은 저전력 에지 장치의 효율성 및 배포를 위해 설계되었습니다. IoT 장치, 웨어러블 및 산업 자동화와 같은 컴퓨팅 전원, 대기 시간 및 비용 제약이 중요한 실제 응용 프로그램에서 AI 기능을 활성화하여 대형 모델을 보완합니다. AI 채택이 커지면서 우리는 하이브리드 접근 방식이 떠오르는 것을 볼 수 있습니다. 여기서 크고 클라우드 기반 모델은 복잡한 쿼리를 처리하는 반면 SLM은 실시간으로 현지화 된 지능을 제공합니다.
AI 모델을 저전력 에지 장치에 충분히 효율적으로 만드는 데있어 가장 큰 기술적 과제는 무엇입니까?
근본적인 과제 중 하나는 AI 모델의 작동 방식에 대한 완전한 이론적 이해가 부족하다는 것입니다. 명확한 이론적 기초가 없으면 최적화 노력은 종종 경험적이며 효율성 이득을 제한합니다. 또한, 인간 학습은 현재 기계 학습 패러다임이 완전히 포착되지 않는 다양한 방식으로 발생하므로 인간 효율성을 모방하는 모델을 설계하기가 어렵습니다.
엔지니어링 관점에서 AI가 극도의 제약 내에서 작동하도록 추진하려면 모델 압축, 양자화 및 아키텍처 설계에 혁신적인 솔루션이 필요합니다. 또 다른 과제는 견고성을 유지하면서 다양한 장치와 환경에 적응할 수있는 AI 모델을 만드는 것입니다. AI가 IoT 및 센서를 통해 물리적 세계와 점점 더 상호 작용함에 따라, 음성, 제스처 및 기타 비 전통적인 입력과 같은 자연스럽고 효율적인 인터페이스의 필요성이 중요 해집니다. 가장자리의 AI는 사용자가 디지털 세계와 완벽하게 상호 작용하는 방식을 재정의하는 것입니다.
SoftBank와 같은 회사와 Aizip의 작업에 대한 세부 정보를 공유 할 수 있습니까?
우리는 최근 CES Innovation Award를 수상한 양식 프로젝트에서 SoftBank와 파트너 관계를 맺었습니다. 우리는 어류 농장을 위해 양식업 사업자가 사용할 수있는 물고기 계산 용 응용 프로그램을위한 효율적인 에지 기반 AI 모델을 개발했습니다. 이 솔루션은 지속 가능성, 음식물 쓰레기 및 수익성 문제를 야기 할 수있는 어류 농업의 중요한 도전을 해결합니다. 업계는 신뢰할 수없는 전력과 해상의 연결성으로 인해 AI를 솔루션으로 채택하는 데 느리게 진행되어 클라우드 기반 AI 솔루션이 비현실적입니다.
이를 해결하기 위해, 우리는 기반을 기반으로 솔루션을 개발했습니다. 우리는 교육 데이터를위한 SoftBank의 컴퓨터 그래픽 시뮬레이션을 컴팩트 한 AI 모델과 결합하고 스마트 폰에서 실행되는 매우 정확한 시스템을 만들었습니다. 수중 현장 테스트에서는 95% 인식 속도를 달성하여 어류 계산 정확도를 크게 향상 시켰습니다. 이를 통해 농민들은 저장 조건을 최적화하고, 생선을 생중계하는지 또는 얼어 붙어야하는지 여부를 결정하며, 물고기의 잠재적 인 질병 또는 기타 건강 문제를 감지 할 수있었습니다.
이 돌파구는 효율성을 향상시키고 비용을 낮추며 수동 노동에 대한 의존도를 줄입니다. 더 광범위하게, 그것은 AI가 실제 문제에 실질적인 영향을 줄 수있는 방법을 보여줍니다.
Aizip은 “AI Nanofactory”개념을 소개했습니다. 그것이 무엇의 의미와 그것이 AI 모델 개발을 자동화하는지 설명해 주시겠습니까?
AI Nanofactory는 반도체 제조의 EDA (Electronic Design Automation)에서 영감을 얻은 내부 AI 설계 자동화 파이프 라인입니다. 신흥 기술 분야의 초기 개발에는 많은 수동 노력이 필요하므로 자동화는 현장이 성숙함에 따라 진행 상황과 스케일링 솔루션을 가속화하는 데 핵심이됩니다.
AI를 다른 산업을 가속화하기 위해 단순히 AI를 사용하는 대신 AI가 자체 개발을 가속화 할 수 있습니까? AI Nanofactory는 데이터 처리에서 아키텍처 설계, 모델 선택, 교육, 양자화, 배포 및 디버깅에 이르기까지 AI 모델 개발의 모든 단계를 자동화합니다. AI를 최적화하기 위해 AI를 활용하여 새로운 모델의 개발 시간을 평균 요인 10으로 줄일 수있었습니다. 경우에 따라 1,000 배 이상. 이는 한 번 개발하는 데 1 년이 걸렸던 모델이 이제 몇 시간 만에 만들 수 있음을 의미합니다.
또 다른 이점은이 자동화를 통해 AI 솔루션이 광범위한 응용 프로그램에 대해 경제적으로 실행 가능하도록하여 실제 AI 배포가보다 액세스 가능하고 확장 가능하도록합니다.
향후 5 년 안에 Edge AI의 역할이 어떻게 진화하는지 어떻게 보십니까?
Edge AI는 스마트 폰이 인터넷 액세스를 혁신하는 방식과 유사하게 기술과 상호 작용하는 방식을 변화시킬 것을 약속합니다. 오늘날 대부분의 AI 응용 프로그램은 클라우드 기반이지만 AI가 물리적 세계와 상호 작용하는 센서 및 장치에 가까워지면서 전환하기 시작합니다. 이러한 변화는 가장자리에서 효율적이고 실시간 처리에 대한 중요한 요구를 강조합니다.
향후 5 년 동안 우리는 Edge AI가 음성 및 제스처 인식 및 기타 직관적 인 인터페이스와 같은보다 자연스러운 인간 컴퓨터 상호 작용을 가능하게 할 것으로 예상하며, 이는 키보드 및 터치 스크린과 같은 전통적인 장벽에 대한 의존성을 제거 할 수 있습니다. AI는 또한 스마트 홈 또는 산업 자동화와 같은 일상적인 환경에 더 내장되어 최소한의 대기 시간으로 실시간 의사 결정을 가능하게 할 것으로 예상됩니다.
또 다른 주요 추세는 Edge AI 시스템의 자율성이 증가하는 것입니다. AI Nanofactory 스타일 자동화의 발전 덕분에 AI 모델은보다 자체 최적화되고 적응력이 높아질 것이므로 배치 및 유지 보수에 인간의 개입의 필요성을 줄일 수 있습니다. 이로 인해 의료, 자동차 및 농업과 같은 여러 산업에서 새로운 기회가 열릴 것입니다.
Aizip의 다가오는 AI 기반 장치는 무엇입니까?
우리는 New Industries의 모델의 사용 사례를 확장하기 위해 노력하고 있으며, 특히 흥분하는 것은 자동차 부문의 AI 에이전트입니다. 객실 내부의 Chatgpt처럼 느껴지는 언어 모델로 구동되는 음성 보조원을 개발하기 위해 중국 자동차 제조업체들 사이에서 추진력이 커지고 있습니다. 도전은 대부분의 현재 도움이된다는 것입니다 TS는 여전히 자연스럽고 유연한 대화를 위해 클라우드에 의존합니다. 기본 명령 및 제어 작업 ( “AC 켜기”또는 “트렁크 열기”와 같은 기본 명령 및 제어 작업 만 일반적으로 차량에서 로컬로 실행되며, 이러한 명령의 엄격한 특성은 운전자가 완전히 정확성으로 암기하지 않으면 운전자에게 산만해질 수 있습니다.
우리는 현재 다양한 산업에 대한 여러 응용 분야에서 사용되는 Gizmo라는 일련의 초효성 SLM 기반 AI 에이전트를 개발했으며, 차량의 공동 부조화 “로 배치하기 위해 노력하고 있습니다. Gizmo는보다 미묘한 방식으로 의도를 이해하도록 훈련을 받았으며 차량의 AI 에이전트 역할을 할 때는 대화, 프리폼 언어를 통해 명령을 실행할 수 있습니다. 예를 들어, 운전자가 단순히“나는 추워요”라고 말하거나“내일 보스턴으로 운전하고 있는데 무엇을 입어야 하는가?”와 같은 프롬프트에 응답하면 에이전트가 객실의 온도를 조정할 수 있습니다. 날씨를 확인하고 제안을 제공함으로써.
그들은 현지에서 운행하고 구름에 의존하지 않기 때문에이 요원들은 터널, 산 또는 농촌 도로와 같은 연결성이없는 죽은 구역이나 지역에서 계속 작동합니다. 또한 운전자에게 도로에서주의를 끌지 않고 완벽한 음성 기반 제어를 제공함으로써 안전을 향상시킵니다. 그리고 별도의 가벼운 메모로, 나는 또한 우리가 현재 공동 부채와 같은 로컬로 운영되는 차량 및 Bluetooth 스피커에 대한 AI 구동 가라오케 모델을 생산에 넣는 과정에 있다고 언급 할 것입니다. 기본적으로 입력 오디오가 필요하고 인간의 목소리를 제거하므로 모든 노래의 노래방 버전을 실시간으로 만들 수 있습니다. 따라서 고객이 자동차의 컨트롤을보다 안전하게 관리하도록 돕는 것 외에도 경험을 더 재미있게 만드는 방법을 찾고 있습니다.
사람들의 일상 생활에서 의미있는 차이를 만드는 이러한 종류의 솔루션은 우리가 가장 자랑스럽게 생각합니다.
Aizip은 Edge Devices에 최적화 된 매우 효율적인 AI 솔루션을 개발하여 비전, 오디오, 시계열, 언어 및 센서 퓨전 애플리케이션을위한 소형 모델을 제공합니다. 이 제품을 사용하면 Face 및 Object 인식, 키워드 스팟 팅, ECG/EEG 분석 및 기기 챗봇과 같은 작업이 모두 TinyMl로 구동됩니다. 이 회사는 AI Nanofactory 플랫폼 인 Aizipline을 통해 기초 및 생성 모델을 사용하여 모델 개발을 가속화하여 전체 AI 설계 자동화를 향해 밀어 붙입니다. Aizip의 Gizmo 시리즈의 작은 언어 모델 (300m – 2b 매개 변수)은 광범위한 장치를 지원하여 지능형 기능을 가장자리로 가져옵니다.
훌륭한 인터뷰에 감사드립니다. 더 배우고 싶은 독자들은 방문해야합니다. Aizip.
게시물 Yubei Chen, Aizip Inc-인터뷰 시리즈의 공동 설립자 먼저 나타났습니다 Unite.ai.
