벤 하는 Veritone의 Government, Legal and Compliance 부문의 Solutions Architect Director입니다. 벤은 소프트웨어 업계에서 15년 이상의 경험을 가지고 있으며, 주로 기술 사전 판매 역할을 담당했습니다. 벤은 지난 4년 동안 정부 및 법률 분야의 고객과 협력해 왔습니다.
베리톤 인간 중심의 디자인 AI 솔루션. Veritone의 소프트웨어와 서비스는 세계에서 가장 크고 잘 알려진 브랜드의 많은 구성원이 더 효율적으로 운영하고, 의사 결정을 가속화하고, 수익성을 높일 수 있도록 지원합니다.
Veritone의 iDEMS는 기존의 법 집행 시스템과 어떻게 통합되며, 어떤 구체적인 효율성을 제공합니까?
법 집행 기관(LEA)의 기존 시스템은 일반적으로 바디 카메라 시스템, 비디오 관리 시스템 및 기타 카메라와 장치와 같이 다양한 소스의 데이터를 보유하고 있습니다. iDEMS를 사용하면 LEA가 API 또는 기타 통합 경로를 사용하여 기존 시스템에 연결을 구축할 수 있습니다. 그런 다음 해당 시스템 위에서 가상화하여 법 집행 기관이 마스터 데이터를 소스 시스템에 있는 그대로 유지할 수 있도록 합니다. Veritone Investigate 애플리케이션 내부에서 사용자는 보기, 공유, 검색, 분석 등에 활용할 수 있는 저해상도 프록시 파일에 액세스할 수 있습니다. 데이터가 하나의 중앙 위치에 있기 때문에 사용자는 사일로화된 애플리케이션 간에 전환하지 않고도 조사 프로세스를 진행하기가 더 쉽습니다.
Veritone Investigate는 또한 사용자가 AI 인지를 활용하여 콘텐츠 자체 내부에 있는 내용을 분석할 수 있도록 합니다. 즉, LEA는 AI를 사용하여 구조화되지 않은 데이터를 구조화하여 훨씬 쉽게 찾을 수 있는 메타데이터 정보를 제공할 수 있습니다. 대부분의 시스템은 단순히 데이터 저장소 역할을 하며, 말한 단어나 콘텐츠 내부의 얼굴 또는 객체에 대한 정보를 포함하지 않습니다. Investigate와 iDEMS 솔루션을 사용하면 AI가 기본적으로 내장되어 수집 시 자동으로 실행되므로 컨텍스트를 얻기 위해 콘텐츠를 수동으로 보거나 들을 필요가 없으므로 조사 프로세스가 가속화됩니다.
법 집행 기관이 Veritone의 iDEMS를 구현하기 위해 충족해야 하는 기술적 요구 사항은 무엇입니까?
LEA는 Veritone의 iDEMS를 구현하기 위해 상당한 기술적 요구 사항을 가질 필요가 없습니다. 사실, 이 솔루션은 어떤 시스템을 구축했든 구축하지 않았든 거의 모든 규모의 LEA에서 작동합니다. Veritone에는 다양한 API에 연결할 수 있는 수집 어댑터가 있으므로 LEA에 필요한 것은 기존 시스템에 액세스할 수 있는 사람뿐입니다. 또한 iDEMS는 클라우드 기반이며 LEA에는 고속 인터넷 연결과 최신 웹 브라우저가 필요합니다.
Veritone Track이 정확도와 효율성 측면에서 기존 얼굴 인식 기술과 어떻게 다른지 자세히 설명해 주시겠습니까?
전통적인 얼굴 인식은 관심 있는 사람을 식별하기 위해 눈에 보이는 얼굴 특징(눈, 코, 입 등)에 의존합니다. 문제는 비디오가 사람의 얼굴을 포착하지 못하면 이 기술이 그 개인을 식별하거나 추적할 수 없다는 것입니다. 예를 들어, 영상이 누군가의 등만 포착하거나, 사람의 얼굴이 마스크나 후드티로 가려져 있거나, 비디오에 얼굴의 최적 각도가 없으면 얼굴 인식이 작동하지 않습니다.
또는 Veritone Track은 잠재적인 관심 인물을 인간과 유사한 사물(HLO)로 알려진 프로세스에서 사물로 취급합니다. Veritone Track은 HLO를 통해 시각적으로 구별되는 속성을 기반으로 해당 개인의 고유한 “인물 지문”을 구축할 수 있습니다. 이러한 시각적으로 구별되는 속성은 모자, 안경, 백팩이거나 손에 무언가를 들고 있는 경우 옷과 신발 사이의 색상 대비일 수 있습니다. 또한 팔 길이, 키, 체중 등 사람의 체형도 고려합니다.
Veritone Track은 해당 인물 지문을 구축한 후, 잠재적인 일치 항목을 검토하고 검증하는 인간 참여형을 통해 전통적인 경찰 업무를 통합합니다. 궁극적으로 이 방법은 기존 얼굴 인식 기술보다 더 정확하고 효율적입니다.
Veritone Track에서 인간과 유사한 사물(HLO)을 사용하면 얼굴 인식을 사용하는 것보다 어떻게 식별 프로세스가 향상됩니까?
HLO를 활용하면 LEA가 기존 얼굴 인식과 동일한 변수, 즉 완전히 보이는 인간 얼굴에 접근할 필요가 없기 때문에 식별 프로세스가 향상됩니다. Veritone Track은 영상 품질, 해상도 또는 카메라 각도(천장 높이 또는 눈높이)에 관계없이 사용 가능한 모든 정보를 사용한다는 점에서 유연합니다. Veritone Track의 장점에도 불구하고 Veritone Track과 얼굴 인식은 상호 배타적이지 않습니다. LEA는 두 기술을 동시에 사용할 수 있습니다. 예를 들어 LEA는 Veritone Track을 사용하여 잠재적인 관심 인물의 정면 샷 비디오 샘플에서 얼굴 인식을 실행하는 동안 대량의 낮은 품질 비디오에서 사람 인화물을 구성할 수 있습니다.
Veritone의 AI 기반 시스템은 높은 수준의 증거 처리 기준을 유지하면서도 조사 속도를 높이는 데 어떻게 도움이 되나요?
Veritone Investigate, Veritone Track 또는 Veritone의 모든 공공 부문 애플리케이션은 AI를 사용하여 LEA의 수동 프로세스를 획기적으로 가속화하여 몇 주 또는 며칠 분의 작업을 몇 시간으로 줄입니다. 이는 지속적인 인력 부족 속에서 점점 더 중요해지고 있습니다. 이러한 가속화된 속도에도 불구하고 Veritone은 AI 출력을 전적으로 신뢰하지 않음으로써 높은 수준의 증거 처리 표준을 유지합니다. 이러한 솔루션은 최종 결과를 검토할 최종 결정권을 인간 조사자에게 맡깁니다. Veritone의 기술은 또한 인간이 높은 수준의 증거 처리 및 보관 체계 표준을 준수할 수 있도록 합니다. 마찬가지로 내장된 감사 추적 기능이 있으므로 LEA는 조사자가 최종 결과에 도달한 방식을 확인할 수 있습니다. 간단히 말해서 AI는 인간을 대체하지 않습니다. 단지 인간의 역량을 향상시킬 뿐입니다.
법 집행 기관의 AI는 특히 디트로이트, 미시간과 같은 도시에서 소수자에 대한 부당한 박해에 대한 우려를 제기합니다. 1년 이내에 여러 차례의 잘못된 체포. Veritone은 이러한 윤리적 과제를 어떻게 해결합니까?
첫째, Veritone은 항상 가드레일과 안전 조치를 사용하여 잘못된 박해의 가능성을 최소화합니다. 예를 들어, Veritone Track은 얼굴 특징과 같은 생체 인식 마커를 사용하여 사람의 지문을 만들지 않고 옷, 체형 등에 의존합니다. 둘째, 이러한 도구는 데이터를 얻기 위해 인터넷, 소셜 미디어 또는 여권 기관과 같은 거대한 데이터베이스를 스크래핑하지 않습니다. LEA가 활성 사건 또는 조사에서 당사 솔루션을 사용하는 경우 업로드된 사진 또는 비디오 증거를 체포 기록이 있는 알려진 범죄자의 데이터베이스와만 비교할 수 있습니다. 미시간주 디트로이트에서 발생한 사건의 경우 법 집행 기관은 인간 조사자가 “루프에 참여”하여 결과를 검증하지 않고 인터넷 전반에서 데이터를 수집하는 솔루션을 사용하여 무고한 시민에 대한 잘못된 박해를 초래했습니다.
Veritone의 AI가 생성된 리드의 정확성을 어떻게 보장하는지 자세히 설명해 주시겠습니까?
Veritone의 AI는 인간 조사자가 추적할 수 있는 잠재적 단서를 생성합니다. AI가 조사자에게 유용한 결과와 결과를 제공하지만, 최종 결정은 여전히 사람이 내립니다. 다시 한 번, 미시간주 디트로이트 사건에서 법 집행 기관은 얼굴 인식만으로 일을 처리한다고 믿었습니다. 이러한 맹목적인 신뢰는 궁극적으로 문제가 되었는데, 이러한 모델은 인구 통계적 또는 인종적으로 연관된 편견을 초래하는 데이터에 의존했기 때문입니다.
또한 Veritone이 AI 엔진과 모델을 훈련하기 위해 선택한 데이터는 콘텐츠를 대표합니다. Veritone은 데이터를 훈련하기 전에 바디 웨어 카메라, 차량 내 비디오, CCTV 영상 등과 같은 소스에서 민감한 비디오 및 오디오 요소를 편집하거나 공개적으로 사용 가능한 민감하지 않은 데이터를 사용합니다. 마찬가지로 Veritone은 지속적인 개선을 위해 고객 피드백으로 결과를 검증합니다.
Veritone은 AI가 법 집행 데이터 내의 기존 편견을 영속시킬 가능성을 어떻게 처리합니까?
Veritone은 순전히 하나의 AI 모델에만 의존하는 것이 아니라 더 큰 관점을 얻기 위해 여러 타사 공급업체와 협력하는 다중 모델 접근 방식을 사용합니다. 특히, 이 방법을 통해 Veritone은 필사, 번역, 얼굴 인식, 객체 감지 또는 텍스트 인식과 같은 주어진 AI 인지 범주 내에서 표준화할 수 있습니다. Veritone은 “군중의 지혜”를 활용하여 동일한 AI 인지 범주 내의 여러 모델에 대해 동일한 콘텐츠를 실행하여 편향을 방지할 수 있습니다.
Veritone의 AI 애플리케이션이 개인 정보 권리를 침해하지 않도록 어떤 조치를 취하고 있나요?
Veritone의 AI 애플리케이션은 개인정보 보호 권리를 침해하지 않도록 하기 위해 두 가지 모범 사례를 따릅니다. 첫째, 고객 데이터는 항상 고객 데이터로 유지됩니다. 고객은 데이터를 관리, 삭제 또는 원하는 대로 할 권리가 있습니다. 고객 데이터는 Veritone의 안전한 클라우드 호스팅 환경에서 실행되지만 완전한 소유권을 유지합니다. 둘째, Veritone은 고객의 허가나 동의 없이는 고객의 데이터를 사용하지 않습니다. 특히 Veritone은 고객의 데이터를 사용하여 AI 모델을 재교육하지 않습니다. 보안과 개인정보 보호는 가장 중요하며, 고객은 모든 민감한 생체 인식 및 개인 식별 정보가 삭제된 데이터를 사용하는 사전 학습된 모델로만 작업합니다.
베리톤은 급속한 기술 발전의 필요성과 윤리적 고려 사항, 사회적 영향 간의 균형을 어떻게 맞추고 있나요?
AI를 빠른 속도로 개발할 때 가능한 한 많은 데이터를 사용하고 지속적으로 수집하여 개선하고 성장하는 경향이 있습니다. 이러한 접근 방식은 AI 모델의 성숙을 가속화하는 경향이 있지만 다양한 윤리적, 개인 정보 보호 및 사회적 우려를 야기합니다.
이를 위해 Veritone은 항상 최고의 AI를 찾고 있습니다. 생성 AI 열풍이 불던 시기에 Veritone은 OpenAI와 다른 파트너의 기술을 일찍 접할 수 있었습니다. 하지만 새로운 솔루션을 즉시 추진하고 배포하는 대신, “고객이 적절한 사용 사례 내에서 실제로 AI를 어떻게 사용할 것인가?”라고 물었습니다. 즉, LEA의 사명과 문제점을 검토한 후, 사용자가 목표를 달성하고 어려움을 극복할 수 있도록 하면서 인간을 중심에 두는 책임감 있는 방식으로 생성 AI를 적용하는 방법을 결정했습니다.
예를 들어, Veritone Investigate는 대화나 내용을 요약할 수 있는 비공개 및 네트워크 격리된 대규모 언어 모델을 제공합니다. 바디 웨어러블 카메라가 사건을 포착하거나 수사관이 누군가를 인터뷰하는 경우 Veritone Investigate는 해당 내용을 필사하여 자동으로 요약할 수 있습니다. 이는 DA 또는 검찰에 짧은 단락으로 전체 인터뷰를 요약해야 하는 형사나 수사관에게 매우 유용합니다. 그럼에도 불구하고 해당 사람은 제출하기 전에 AI가 생성한 출력을 검토하여 필요한 편집 및 변경을 할 수 있는 기회가 있습니다.
훌륭한 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자는 다음을 방문하세요. 베리톤.
게시물 Ben Ha, 솔루션 아키텍트 디렉터, 정부, 법률 및 규정 준수 부문, Veritone – 인터뷰 시리즈 처음 등장 유나이트.AI.