Edge AI Processing의 주요 도약에서 NTT Corporation 20 와트 미만의 전력을 사용하여 초당 30 프레임으로 실시간 4K 비디오를 처리 할 수있는 획기적인 AI 추론 칩을 발표했습니다. 이 새로운 대규모 통합 (LSI) Chip은 전력이 제한된 환경에서 고성능 AI 비디오 추론을 달성 한 최초의 칩이며, Edge Computing Applications의 획기적인 것입니다.
드러났다 NTT 업그레이드 2025 정상 회담 샌프란시스코에서는이 칩은 드론, 스마트 카메라 및 센서와 같은 데이터 소스에 물리적으로 위치한 하드웨어 (하드웨어)에 배치하도록 특별히 설계되었습니다. 추론을위한 클라우드 컴퓨팅에 의존하는 기존 AI 시스템과 달리,이 칩은 강력한 AI 기능을 가장자리로 직접 가져 오며 대기 시간을 크게 줄이고 분석을 위해 초고 정의 비디오를 중앙 클라우드 서버로 전송할 필요가 없습니다.
에지 컴퓨팅 대 클라우드 컴퓨팅 : 중요한 이유
기존 클라우드 컴퓨팅에서 드론이나 카메라와 같은 장치의 데이터는 수백 또는 수천 마일 떨어진 곳에있는 원격 데이터 센터로 전송됩니다. 이 접근법은 사실상 무제한 컴퓨팅 전력을 제공하지만 자율 내비게이션, 보안 모니터링 및 라이브 의사 결정과 같은 실시간 애플리케이션에 문제가되는 데이터 전송으로 인한 지연을 도입합니다.
대조적으로 에지 컴퓨팅 장치 자체 또는 근처에서 데이터를 로컬로 처리합니다. 이는 대기 시간을 줄이고 대역폭을 보존하며 인터넷 연결이 제한적이거나 간헐적으로 연결된 환경에서도 실시간 통찰력을 제공합니다. 또한 공개 네트워크를 통해 민감한 데이터를 전송해야 할 필요성을 최소화하여 개인 정보 및 데이터 보안을 향상시킵니다.
NTT의 새로운 AI 칩은 클라우드에 의존하지 않고 장치 내에서 직접 실시간 4K 비디오 분석을 제공하는이 가장자리 최초의 철학을 완전히 수용합니다.
드론 및 장치에 실시간 AI를위한 새로운 시대
이 칩이 설치되면 드론은 일본의 드론의 법적 고도 한계 인 최대 150 미터 (492 피트)의 사람이나 물체를 감지 할 수 있습니다. 이는 전통적인 실시간 AI 시스템에 비해 극적인 개선으로, 일반적으로 해상도 또는 처리 속도가 낮아 30 미터 범위로 제한됩니다.
이 발전은 다음을 포함하여 다양한 새로운 사용 사례를 가능하게합니다.
-
인프라 검사 도달하기 어려운 곳에서
-
재난 대응 연결성이 제한된 영역에서
-
농업 모니터링 넓은 필드를 가로 질러
-
보안 및 감시 일정한 클라우드 업 링크없이
이 모든 것은 20 와트 미만을 소비하는 칩으로 달성됩니다. 모바일 또는 배터리 구동 시스템에 비현실적인 GPU 구동 AI 서버가 요구하는 수백 와트보다 드라마로 낮습니다.
칩 내부 : NTT의 독점 AI 추론 엔진
LSI의 성능은 NTT의 맞춤형 AI 추론 엔진에 달려있어 전력 사용을 최소화하면서 고속의 정확한 결과를 보장합니다. 주요 혁신은 다음과 같습니다.
-
인터 프레임 상관 관계: 순차적 비디오 프레임을 비교함으로써 칩은 중복 계산을 줄여 효율성을 향상시킵니다.
-
동적 비트 프레시션 컨트롤:이 기술은 더 간단한 작업을 위해 적은 비트를 사용하여 정확도를 손상시키지 않고 에너지를 보존하여 즉시 필요한 수치 정밀도를 조정합니다.
-
기본 YOLOV3 실행: 칩은 직접 실행을 지원합니다 한 번만 V3 만 본다머신 러닝에서 가장 빠른 실시간 객체 감지 알고리즘 중 하나입니다.
이러한 결합 된 기능을 통해 칩은 이전에 고급 추론을하기에 너무 전력 또는 대역폭 제한으로 간주되는 환경에서 강력한 AI 성능을 제공 할 수 있습니다.
상업화의 길과 iown 비전
NTT는 운영 회사를 통해 2025 회계 연도에 칩을 상용화 할 계획입니다. NTT Innovative Devices Corporation.
연구원들은 이미 그 통합을 탐구하고 있습니다 혁신적인 광학 및 무선 네트워크 (IOWN)—NTT의 차세대 인프라 비전은 현대 사회의 디지털 백본을 점검하는 것을 목표로했습니다. iown ‘s 내에서 데이터 중심 인프라 (DCI),이 칩은 초 저쪽 대기 시간, 고속 통신을 위해 All-Photonics 네트워크를 이용하여 Edge 장치에 가져 오는 로컬 처리 능력을 보완합니다.
NTT도 협력하고 있습니다 NTT 데이터, Inc. 칩의 기능과 결합합니다 속성 기반 암호화 (ABE) 민감한 데이터에 대한 안전하고 세밀한 액세스 제어를 가능하게하는 기술. 이러한 기술은 함께 의료, 스마트 시티 및 자율 시스템과 마찬가지로 속도와 보안이 필요한 AI 응용 프로그램을 지원할 것입니다.
혁신의 유산과 미래에 대한 비전
이 AI 추론 칩은 깊은 기술 혁신을 통해 지속 가능하고 지능적인 사회에 힘을 실어 주려는 NTT의 사명의 최신 시연입니다. NTT는 연간 R & D에서 920 억 달러 이상의 매출, 330,000 명의 직원, 360 억 달러의 36 억 달러를 보유한 글로벌 리더로서 190 개국의 Fortune Global 100 회사의 75% 이상과 수백만 소비자에게 서비스를 제공합니다.
드론이 시각적 시야를 넘어 날아가는 드론이든, 클라우드 의존성없이 실시간으로 이벤트를 감지하든, 속성 기반 암호화로 데이터 흐름을 확보 한 NTT의 새로운 칩은 Edge에서 AI의 다음 프론티어의 단계를 설정합니다.
게시물 NTT는 실시간 4K 비디오 처리를위한 획기적인 AI 추론 칩을 공개합니다. 먼저 나타났습니다 Unite.ai.