AI의 프론티어 확장 및 필요한 데이터
인공 지능은 빠르게 있습니다 우리가 사는 방식을 바꾸십시오일하고 통치하십시오. 공중 보건 및 공공 서비스에서 AI 도구는 더 많은 효율성과 더 빠른 의사 결정을 약속합니다. 그러나이 변형의 표면 아래에는 점점 더 불균형이 있습니다. 데이터 수집 능력은 책임감있게 통제하는 능력을 능가했습니다.
이것은 개인 정보 보호 위기가되는 기술 도전을 넘어선 것입니다. 예측 정책 소프트웨어에서 감시 도구 및 자동 번호판 리더에 이르기까지 개인에 대한 데이터는 전례없는 속도로 축적, 분석 및 수행됩니다. 그럼에도 불구하고 대부분의 시민들은 누가 자신의 데이터를 소유 한 사람, 사용 방법 또는 보호 지에 있는지 전혀 모릅니다.
나는 이것을 가까이에서 보았다. 전 FBI 사이버 스페셜 에이전트이자 현재 공공 안전 기술 회사의 CEO로서 저는 정부와 민간 부문에서 일했습니다. 한 가지 분명한 점은 분명합니다. 현재 데이터 개인 정보를 처리하는 방법을 고치지 않으면 AI는 기존 문제 만 악화시킬 것입니다. 그리고 가장 큰 문제 중 하나? 벽으로 둘러싸인 정원.
벽으로 둘러싸인 정원은 무엇이며 왜 공공 안전에서 위험합니까?
벽으로 둘러싸인 정원 한 회사가 데이터의 액세스, 흐름 및 사용을 제어하는 폐쇄 시스템입니다. 광고 및 소셜 미디어 (Facebook, Google 및 Amazon 생각)에서 일반적이지만 점점 더 공공 안전에도 나타납니다.
공공 안전 회사는 현대 정책 인프라에서 핵심적인 역할을하지만, 이러한 시스템 중 일부의 독점적 특성은 항상 다른 공급 업체의 도구와 유동적으로 상호 작용하도록 설계되지는 않습니다.
이 벽으로 둘러싸인 정원은 클라우드 기반 Bodycam 영상 또는 자동 번호판 리더와 같은 강력한 기능을 제공 할 수 있지만 데이터 저장, 액세스 및 분석 방식에 대한 독점을 만듭니다. 법 집행 기관은 종종 서로 대화하지 않는 독점 시스템과 장기 계약에 잠겨있는 것으로 나타났습니다. 결과? 파편화, 사일로의 통찰력 및 가장 중요한 경우 커뮤니티에서 효과적으로 대응할 수 없음.
대중은 알지 못하고 문제가됩니다
대부분의 사람들은 자신의 개인 정보가 이러한 시스템에 얼마나 많이 흐르고 있는지 알지 못합니다. 많은 도시에서 귀하의 위치, 차량, 온라인 활동 및 심지어 감정 상태는 AI 중심 도구 패치 워크를 통해 추론 및 추적 될 수 있습니다. 이러한 도구는 범죄 싸움 업그레이드로 판매 될 수 있지만 투명성과 규제가 없으면 쉽게 오용 할 수 있습니다.
그리고 데이터가 존재하는 것이 아니라 최소한의 감독을 가진 민간 기업이 통제하는 벽으로 된 생태계에 존재합니다. 예를 들어, 번호판 독자와 같은 도구는 현재 미국 전역의 수천 개의 커뮤니티에 있습니다.데이터를 수집하여 독점 네트워크에 공급합니다. 경찰서는 종종 하드웨어를 소유하지 않고 임대합니다. 즉, 데이터 파이프 라인, 분석 및 경고는 공개 합의가 아니라 공급 업체에 의해 지시됩니다.
이것이 붉은 깃발을 올리는 이유
AI는 작동하려면 데이터가 필요합니다. 그러나 벽으로 둘러싸인 정원 내부에 데이터가 잠겨 있으면 교차 참조, 검증 또는 도전을받을 수 없습니다. 이는 누가 철수했는지, 자원이 어디로 가거나, 누가 위협으로 표시되는지에 대한 결정을 의미하며, 때로는 부정확 한 정보에 따라 이루어집니다.
위험? 불쌍한 결정, 잠재적 인 시민 자유 위반 및 경찰서와 그들이 봉사하는 지역 사회 간의 격차가 커지고 있습니다. 투명성 침식. 신뢰 증발. 새로운 도구는 이러한 벽으로 된 시스템의 제약을 준수하지 않으면 시장에 진입 할 수 없기 때문에 혁신이 줄어 듭니다.
번호판 인식 시스템이 플랫폼 전반에 걸쳐 정보를 확인하거나 해당 결정이 어떻게 이루어 졌는지 확인할 수있는 능력없이, 번호판 인식 시스템이 구식 또는 공유 데이터를 기반으로 도난 차량에 잘못 표시되는 시나리오에서, 경찰관은 허위 양성에 따라 행동 할 수 있습니다. 우리는 이미 사건을 보았습니다 결함이있는 기술은 잘못된 체포로 이어졌습니다 또는 에스컬레이션 된 대립. 이러한 결과는 가상이 아니며 전국의 지역 사회에서 일어나고 있습니다.
법 집행 기관에 실제로 필요한 것
데이터를 잠그는 대신 안전하고 표준화되고 상호 운용 가능한 데이터 공유를 지원하는 공개 생태계가 필요합니다.. 그렇다고 프라이버시를 희생하는 것은 아닙니다. 반대로 개인 정보 보호가 시행되는 유일한 방법입니다.
일부 플랫폼은 이것을 위해 노력하고 있습니다. 예를 들어, 첫 번째 공개적으로 사용할 수있는 데이터의 책임있는 통합을 강조하는 실시간 상황 인식 도구를 제공합니다. Forcemetrics와 같은 다른 사람들은 911 통화, 행동 건강 기록 및 사전 사고 기록과 같은 이질적인 데이터 세트를 결합하여 장교들에게 현장에서 더 나은 맥락을 제공하는 데 중점을 둡니다. 그러나 결정적으로, 이러한 시스템은 공공 안전 요구와 지역 사회 존중으로 사후 생각이 아니라 우선 순위로 구축됩니다.
개인 정보 보호 우선 인프라 구축
개인 정보 보호 우선 접근 방식은 민감한 정보를 수정하는 것 이상을 의미합니다. 명확하고 합법적 인 요구가 없다면 데이터 액세스를 제한하는 것을 의미합니다. 이는 결정이 어떻게 이루어지고 제 3 자 감사를 가능하게하는지 문서화하는 것을 의미합니다. 그것은 정책과 이행을 형성하기 위해 지역 사회 이해 관계자 및 민권 그룹과 파트너 관계를 맺는 것을 의미합니다. 이 단계는 보안과 전반적인 정당성을 강화시킵니다.
기술 발전에도 불구하고 우리는 여전히 법적 진공 상태에서 운영되고 있습니다. 미국에는 포괄적 인 연방 데이터 개인 정보 보호 법이 부족합니다대행사와 공급 업체가 방치하여 규칙을 보완 할 수 있습니다. 유럽이 있습니다 GDPR동의 기반 데이터 사용 및 책임을위한 로드맵을 제공합니다. 대조적으로 미국은 공공 시스템에서 AI의 복잡성을 적절하게 다루지 않는 국가 차원 정책에 대한 조각난 패치 워크를 가지고 있습니다.
변화가 필요합니다. 우리는 법 집행 및 공공 안전 기관이 데이터를 수집, 저장 및 공유하는 방법에 대한 명확하고 시행 가능한 표준이 필요합니다. 그리고 우리는 대화에 커뮤니티 이해 관계자를 포함시켜야합니다. 동의, 투명성 및 책임은 조달에서 구현, 일일 사용에 이르기까지 모든 수준의 시스템으로 구워야합니다.
결론 : 상호 운용성이 없으면 프라이버시가 어려움을 겪습니다
공공 안전에서는 삶이 줄을 서고 있습니다. 한 공급 업체가 미션 크리티컬 데이터에 대한 액세스를 제어하고 사용 방법과시기를 제한 할 수 있다는 아이디어는 비효율적이지 않습니다. 비 윤리적입니다.
우리는 혁신과 프라이버시가 상충되었다는 신화를 넘어서야합니다. 책임있는 AI는보다 공평하고 효과적이며 책임있는 시스템을 의미합니다. 이는 공급 업체 잠금을 거부하고 상호 운용성 우선 순위를 정하고 개방 표준을 요구하는 것을 의미합니다. 민주주의에서, 단일 회사는 누가 도움을 받거나, 누가 멈추거나 남은 사람을 결정하는 데이터를 통제해서는 안됩니다.
게시물 공공 안전의 벽으로 된 정원이 미국의 데이터 개인 정보 보호 위기를 드러내는 방법 먼저 나타났습니다 Unite.ai.