획기적인 발표에서, 액체 AIMIT 스핀오프 기업인 가 첫 번째 시리즈를 출시했습니다. 리퀴드 파운데이션 모델 (LFM). 첫 번째 원칙에 따라 설계된 이 모델은 업계에서 새로운 기준을 설정했습니다. 생성 AI 다양한 규모에 걸쳐 비교할 수 없는 성능을 제공합니다. 혁신적인 아키텍처와 고급 기능을 갖춘 LFM은 ChatGPT를 비롯한 업계 최고의 AI 모델에 도전할 준비가 되어 있습니다.
Liquid AI는 다음을 포함한 MIT 연구원 팀에 의해 설립되었습니다. 라민 하사니, 마티아스 레흐너, 알렉산더 믿다다니엘라 루스. 매사추세츠주 보스턴에 본사를 둔 이 회사의 사명은 모든 규모의 기업을 위한 유능하고 효율적인 범용 AI 시스템을 만드는 것입니다. 이 팀은 원래 뇌 역학에서 영감을 받은 AI 모델 클래스인 액체 신경망을 개척했으며 이제는 에지 장치에서 엔터프라이즈급 배포에 이르기까지 모든 규모에서 AI 시스템의 기능을 확장하는 것을 목표로 하고 있습니다.
리퀴드 파운데이션 모델(LFM)이란 무엇입니까?
리퀴드 파운데이션 모델은 메모리 사용과 계산 능력 모두에서 매우 효율적인 차세대 AI 시스템을 나타냅니다. 동적 시스템, 신호 처리 및 수치선형대수학이러한 모델은 텍스트, 비디오, 오디오 및 신호와 같은 다양한 유형의 순차 데이터를 놀라운 정확도로 처리하도록 설계되었습니다.
Liquid AI는 이번 출시의 일환으로 세 가지 기본 언어 모델을 개발했습니다.
- LFM-1B: 리소스가 제한된 환경에 최적화된 13억 개의 매개변수로 구성된 밀도 모델입니다.
- LFM-3B: 모바일 애플리케이션과 같은 엣지 배포 시나리오에 이상적인 31억 매개변수 모델입니다.
- LFM-40B: 뛰어난 성능으로 복잡한 작업을 처리하도록 설계된 403억 매개변수의 MoE(Mixture of Experts) 모델입니다.
이러한 모델은 이미 주요 AI 벤치마크에서 최첨단 결과를 입증하여 기존 생성 AI 모델에 대한 강력한 경쟁자가 되었습니다.
최첨단 성능
Liquid AI의 LFM은 다양한 벤치마크에서 동급 최고의 성능을 제공합니다. 예를 들어, LFM-1B 크기 범주에서 변압기 기반 모델보다 성능이 뛰어납니다. LFM-3B Microsoft의 Phi-3.5 및 Meta의 Llama 시리즈와 같은 대형 모델과 경쟁합니다. 그만큼 LFM-40B 모델은 크기에도 불구하고 매개변수 수가 더 많은 모델과 경쟁할 만큼 효율적이며 성능과 리소스 효율성 간의 고유한 균형을 제공합니다.
LFM 성능의 주요 특징은 다음과 같습니다.
- LFM-1B: MMLU, ARC-C 등의 벤치마크를 장악하여 1B 매개변수 모델의 새로운 표준을 설정합니다.
- LFM-3B: 작은 메모리 공간을 유지하면서 효율성 면에서 Phi-3.5 및 Google의 Gemma 2와 같은 모델을 능가하므로 모바일 및 엣지 AI 애플리케이션에 이상적입니다.
- LFM-40B: 이 모델의 MoE 아키텍처는 주어진 시간에 120억 개의 활성 매개변수를 사용하여 더 큰 모델과 비슷한 성능을 제공합니다.
AI 효율성의 새로운 시대
현대 AI의 중요한 과제는 특히 문서 요약이나 챗봇 상호 작용과 같은 긴 컨텍스트 작업을 수행할 때 메모리와 계산을 관리하는 것입니다. LFM은 입력 데이터를 효율적으로 압축하여 추론 중 메모리 소비를 줄여 이 분야에서 탁월합니다. 이를 통해 모델은 값비싼 하드웨어 업그레이드 없이도 더 긴 시퀀스를 처리할 수 있습니다.
예를 들어, LFM-3B 제공합니다 32k 토큰 컨텍스트 길이—동시에 처리해야 하는 대량의 데이터가 필요한 작업에 가장 효율적인 모델 중 하나입니다.
혁명적인 아키텍처
LFM은 기존 변압기 모델에서 벗어난 독특한 아키텍처 프레임워크를 기반으로 구축되었습니다. 아키텍처는 입력 데이터를 기반으로 계산을 변조하는 적응형 선형 연산자를 중심으로 합니다. 이 접근 방식을 통해 Liquid AI는 NVIDIA, AMD, Cerebras 및 Apple 하드웨어를 포함한 다양한 하드웨어 플랫폼에서 성능을 크게 최적화할 수 있습니다.
그만큼 디자인 공간 LFM의 경우 다음과 같은 새로운 혼합이 필요합니다. 토큰 혼합 그리고 채널 믹싱 구조 모델이 데이터를 처리하는 방식을 개선합니다. 이는 특히 긴 컨텍스트 작업과 다중 모드 애플리케이션에서 탁월한 일반화 및 추론 기능을 제공합니다.
AI 프론티어 확장
Liquid AI는 LFM에 대한 원대한 야망을 가지고 있습니다. 언어 모델 외에도 회사는 비디오, 오디오, 시계열 데이터를 포함한 다양한 데이터 형식을 지원하기 위해 기반 모델을 확장하기 위해 노력하고 있습니다. 이러한 발전을 통해 LFM은 금융 서비스, 생명공학, 가전제품 등 다양한 산업 전반에 걸쳐 확장될 수 있습니다.
이 회사는 또한 개방형 과학 커뮤니티에 기여하는 데 중점을 두고 있습니다. 현재 모델 자체는 오픈 소스가 아니지만 Liquid AI는 관련 연구 결과, 방법 및 데이터 세트를 더 광범위한 AI 커뮤니티에 공개하여 협업과 혁신을 장려할 계획입니다.
조기 액세스 및 채택
Liquid AI는 현재 다음을 포함한 다양한 플랫폼을 통해 LFM에 대한 조기 액세스를 제공하고 있습니다. 액체 놀이터, 람다 (채팅 UI 및 API) 및 당혹감 연구소. 최첨단 AI 시스템을 운영에 통합하려는 기업은 에지 장치부터 온프레미스 솔루션까지 다양한 배포 환경에서 LFM의 잠재력을 탐색할 수 있습니다.
Liquid AI의 개방형 과학 접근 방식은 얼리 어답터가 자신의 경험과 통찰력을 공유하도록 장려합니다. 회사는 실제 응용 분야에 맞게 모델을 개선하고 최적화하기 위해 적극적으로 피드백을 찾고 있습니다. 이 여정에 참여하는 데 관심이 있는 개발자와 조직은 레드팀 활동에 기여하고 Liquid AI가 AI 시스템을 개선하는 데 도움을 줄 수 있습니다.
결론
리퀴드 파운데이션 모델의 출시는 AI 환경에서 중요한 발전을 의미합니다. 효율성, 적응성 및 성능에 초점을 맞춘 LFM은 기업이 AI 통합에 접근하는 방식을 재편할 준비가 되어 있습니다. 더 많은 조직이 이러한 모델을 채택함에 따라 확장 가능한 범용 AI 시스템에 대한 Liquid AI의 비전은 차세대 인공 지능의 초석이 될 것입니다.
귀하의 조직을 위한 LFM의 잠재력을 탐구하는 데 관심이 있다면 Liquid AI에서 AI의 미래를 형성하는 성장하는 얼리 어답터 커뮤니티에 연락하고 참여하도록 초대합니다.
자세한 내용은 다음을 방문하세요. Liquid AI 공식 홈페이지 오늘부터 LFM 실험을 시작해 보세요.
게시물 Liquid AI, Liquid Foundation 모델 출시: 생성 AI의 판도를 바꿀 제품 처음 등장한 Unite.AI.