인공 지능 (AI) 및 기계 학습 (ML) 응용 프로그램에 대한 사회의 의존은 계속 성장하여 정보 소비 방식을 재정의합니다. AI 기반 챗봇에서 LLM (Lange Language Models)에서 생성 된 정보 합성에 이르기까지 Society는 그 어느 때보 다 더 많은 정보와 더 깊은 통찰력에 액세스 할 수 있습니다. 그러나 기술 회사가 가치 사슬에 걸쳐 AI를 구현하기 위해 경쟁함에 따라 중요한 질문이 다가오고 있습니다. AI 솔루션의 출력을 정말로 신뢰할 수 있습니까?
불확실성 정량화없이 AI 출력을 정말로 신뢰할 수 있습니까?
주어진 입력의 경우, 모델은 다른 많은 것과 같은 많은 출력을 생성했을 수 있습니다. 이는 교육 데이터, 교육 데이터의 변형 또는 기타 원인이 불충분하기 때문일 수 있습니다. 모델을 배포 할 때 조직이 활용할 수 있습니다 불확실성 정량화 최종 사용자에게 AI/ML 모델의 출력을 얼마나 신뢰 해야하는지에 대한 명확한 이해를 제공합니다. 불확실성 정량화는 다른 출력이 무엇인지 추정하는 과정입니다.
내일의 고온을 예측하는 모델을 상상해보십시오. 이 모델은 출력 21ºC를 생성 할 수 있지만 해당 출력에 적용되는 불확실성 정량화는 모델이 출력이 12 ℃, 15 ℃ 또는 16 ℃를 생성했을 수 있음을 나타낼 수 있습니다. 이것을 알고, 우리는 이제 20 ℃의 간단한 예측을 얼마나 믿습니까? 신뢰를 유발하거나주의를 기울일 수있는 잠재력에도 불구하고, 많은 조직은 컴퓨팅 자원 및 추론 속도에 대한 요구로 인해이를 구현하는 데 필요한 추가 작업으로 인해 불확실성 정량화를 건너 뛰기로 선택하고 있습니다.
인간의 루프 의료 진단 및 예후 시스템과 같은 시스템은 의사 결정 과정의 일부로 인간을 포함합니다. 의료 전문가는 의료 AI/ML 솔루션의 데이터를 맹목적으로 신뢰함으로써 환자를 잘못 진단하는 위험을 감수하여 잠재적으로 하위 건강 결과를 유발하거나 악화시킬 위험이 있습니다. 불확실성 정량화를 통해 의료 전문가는 AI의 생산량을 더 신뢰할 수있을 때와 특정 예측을주의해서 치료해야 할 때를 정량적으로 볼 수 있습니다. 마찬가지로, 자율 주행 차와 같은 완전한 자원 화 시스템에서, 장애물의 거리를 추정하기위한 모델의 출력은 거리 추정치에서 불확실성 정량화가있을 때 피할 수있는 충돌로 이어질 수 있습니다.
AI/ML 모델에 대한 신뢰를 구축하기 위해 Monte Carlo 방법을 활용하는 과제
몬테 카를로 방법맨해튼 프로젝트에서 개발 된 것은 불확실성 정량화를 수행하는 강력한 방법입니다. 추가 반복이 출력에 훨씬 더 많은 정보를 제공하지 않을 때까지 약간 다른 입력으로 반복적으로 다시 실행되는 알고리즘이 포함됩니다. 프로세스가 그러한 상태에 도달하면 수렴 된 것으로 알려져 있습니다. Monte Carlo Methods의 한 가지 단점은 일반적으로 느리고 계산 집약적이므로 수렴 된 출력을 얻기 위해서는 구성 계산의 많은 반복이 필요하다는 것입니다. Monte Carlo Methods는 임의 번호 생성기의 출력을 주요 빌딩 블록 중 하나로 사용하기 때문에 많은 내부 반복으로 Monte Carlo를 실행하더라도 동일한 매개 변수로 프로세스를 반복 할 때 얻을 수있는 결과가 변경됩니다.
AI/ML 모델의 신뢰성으로 향하는 길
기존 서버 및 AI 특이 적 가속기와 달리 새로운 품종 컴퓨팅 플랫폼 기존 컴퓨팅 플랫폼이 정수 및 부동 소수점 값을 처리하는 것과 같은 방식으로 경험적 확률 분포를 직접 처리하기 위해 개발되고 있습니다. 이러한 플랫폼에 AI 모델을 배포함으로써 조직은 미리 훈련 된 모델에서 불확실성 정량화 구현을 자동화 할 수 있으며 전통적으로 몬테 카를로 방법을 사용한 다른 종류의 컴퓨팅 작업을 속도를 높일 수도 있습니다. 금융 계산. 특히 VAR 시나리오의 경우이 새로운 플랫폼을 사용하면 조직이보다 정확한 분석과 더 빠른 결과를 얻기 위해 임의 번호 생성기에 의해 생성 된 샘플로 이러한 분포를 근사화하기보다는 실제 시장 데이터에서 직접 구축 된 경험적 분포로 작업 할 수 있습니다.
최근 컴퓨팅의 혁신으로 인해 불확실성 정량화의 장벽이 크게 낮아졌습니다. 내 동료들과 나는 Neurips 2024의 새로운 Compute Paradigms Workshop을 사용한 머신 러닝우리가 개발 한 차세대 계산 플랫폼이 고급 Intel-Xeon 기반 서버에서 전통적인 Monte-Carlo 기반 분석을 실행하는 것과 비교하여 불확실성 정량화 분석이 어떻게 100 배 이상 더 빠르게 실행되는지 강조합니다. 이와 같은 발전은 AI 솔루션을 배포하는 조직이 불확실성 정량화를 쉽게 구현하고 낮은 오버 헤드로 불확실성 정량화를 실행할 수 있도록 허용합니다.
AI/ML의 미래 신뢰성은 고급 차세대 계산에 달려 있습니다.
조직이 더 많은 AI 솔루션을 사회에 통합함에 따라 AI/ML의 신뢰성이 최우선 과제가 될 것입니다. 기업은 더 이상 AI 모델 배포에서 구현 시설을 건너 뛸 여유가 없어서 소비자가 특정 AI 모델 출력을 회의론으로 처리 할시기를 알 수 있도록 할 수 있습니다. 이러한 설명 및 불확실성 정량화에 대한 요구는 분명하며 대략 4 명 중 3 명 적절한 보증 메커니즘이 마련된 경우 AI 시스템을 더 기꺼이 신뢰할 것입니다.
새로운 컴퓨팅 기술로 인해 불확실성 정량화를 더 쉽게 구현하고 배포 할 수 있습니다. 산업 및 규제 기관은 사회에 AI를 배치하는 것과 관련된 다른 도전과 관련이 있지만, AI 배치에서 불확실성을 정량화함으로써 신탁 인간을 요구할 수있는 기회가 적어도 있습니다.
게시물 AI에 대한 우선 순위 신뢰 먼저 나타났습니다 Unite.ai.