미국 국토안보부(DHS)는 얼굴인식 기술을 개선하기 위해 국경에서 이주 아동들의 얼굴 사진을 수집하고 분석할 계획이다. MIT 기술 리뷰 공개할 수 있습니다. 여기에는 “유아까지” 어린이가 포함됩니다. 부서의 생체 인식 신원 관리 사무소(OBIM)의 부국장인 존 보이드에 따르면, 그의 역할의 핵심 부분은 정부를 위한 미래 생체 인식 신원 서비스를 연구하고 개발하는 것입니다.
보이드가 6월 컨퍼런스에서 설명했듯이, OBIM의 핵심 질문은 “예를 들어, 4살 때 파나마에서 온 사람을 남쪽 국경에서 데려다가 6살 때 데려간다면, 우리가 그들을 알아볼 수 있을까?”입니다.
얼굴 인식 기술(FRT)은 전통적으로 어린이에게 적용되지 않았는데, 그 이유는 실제 어린이의 얼굴에 대한 훈련 데이터 세트가 적고 인터넷에서 가져온 저품질 이미지나 다양성이 거의 없는 작은 샘플 크기로 구성되어 있기 때문입니다. 이러한 제한은 미성년자의 경우 프라이버시와 동의에 대한 상당한 민감성을 반영합니다.
실제로 새로운 DHS 계획은 이 문제를 효과적으로 해결할 수 있습니다. 시러큐스 대학의 Transactional Records Access Clearinghouse(TRAC)에 따르면 2022년에 339,234명의 어린이가 미-멕시코 국경에 도착했습니다. 이는 현재 통계를 얻을 수 있는 마지막 해입니다. 이 어린이 중 150,000명은 보호자가 없었습니다. 이는 기록상 가장 높은 연간 수치입니다. 이 어린이 중 1%의 얼굴 지문만이라도 OBIM의 두개안면 구조 진행 프로그램에 등록되었다면, 그 결과 데이터 세트는 노화 연구에 사용된 실제 어린이 얼굴의 기존 데이터 세트를 거의 모두 압도할 것입니다.
이 계획이 이미 어느 정도 실행되었는지는 불분명합니다. Boyd가 말했습니다. MIT 기술 리뷰 그가 아는 한 해당 기관은 아직 프로그램에 따라 데이터 수집을 시작하지 않았지만 그는 “고위 임원”으로서 “함께 해야 할 것”이라고 덧붙였습니다. [his] 직원들에게 보여달라고 했습니다.” 그는 자신의 사무실에서 “자금을 지원하고 있다”는 것만 확인할 수 있었습니다. 보이드는 거듭된 요청에도 불구하고 추가 정보를 제공하지 않았습니다.
보이드는 OBIM이 14세 미만 어린이의 얼굴 이미지를 수집하려는 계획은 생체 인식 데이터 수집에 대한 연령 제한을 없앤 “일부 DHS 구성 요소” 또는 하위 사무소의 최근 “규칙 제정”으로 인해 가능하다고 말했습니다. 미국 세관 및 국경 보호국(CBP), 미국 교통 안전청, 미국 이민 및 세관 집행국은 출판 전에 논평을 거부했습니다. 미국 시민권 및 이민 서비스(USCIS)는 여러 차례의 논평 요청에 응답하지 않았습니다. OBIM은 언급했습니다. MIT 기술 리뷰 DHS의 주요 홍보실로 돌아갑니다.
DHS는 출판 전에는 프로그램에 대해 언급하지 않았지만 출판 후 이메일 성명을 보냈습니다. “국토안보부는 일부 생체 인식 기능을 포함하여 임무를 수행하기 위해 다양한 형태의 기술을 사용합니다. DHS는 유형에 관계없이 모든 기술이 확립된 권한과 법의 범위 내에서 운영되도록 보장합니다. 우리는 국가를 안전하고 보안하기 위해 사용하는 기술의 적용을 받을 수 있는 모든 개인의 프라이버시, 시민권 및 시민적 자유를 보호하는 데 전념합니다.”
보이드는 6월에 연방 직원과 계약자를 위한 연례 신원 관리 컨퍼런스인 연방 신원 포럼 및 엑스포지션에서 이 계획에 대해 공개적으로 언급했습니다. 하지만 우리가 이야기를 나눈 DHS의 면밀한 관찰자(전직 공무원, 연방 정부의 감시 기술 사용에 대해 목소리를 낸 두 명의 영향력 있는 의원의 대표, 이민자에게 영향을 미치는 정책을 면밀히 추적하는 이민자 권리 기구 포함)는 14세 미만 아동의 생체 인식 데이터 수집을 허용하는 새로운 정책에 대해 알지 못했습니다.
그렇다고 해서 모두가 놀란 것은 아닙니다. “그렇게 추적됩니다.” 미국-멕시코 국경에 있는 여러 이민자 처리 센터를 방문하고 자유롭게 말할 수 있도록 익명을 요구한 한 전 CBP 관리가 말했습니다. 그는 방문한 “모든 센터”에서 “생체 인식 신원 수집이 있었고 모두가 그것을 거쳤다”고 말했지만, 그 관행을 의무화하는 특정 정책은 알지 못했습니다. 그는 “그들이 아이들을 분리했다는 기억이 나지 않습니다.”라고 덧붙였습니다.
“CBP와 DHS가 이민 아동을 추적하기 위해 얼굴 인식 기술 사용을 확대한다는 보고서는 감시 국가를 향한 또 다른 진전이며 개인 정보를 중시하는 모든 사람의 관심사가 되어야 합니다.”라고 오리건 주 상원의원 Jeff Merkley의 부 커뮤니케이션 이사인 Justin Krakoff가 성명에서 밝혔습니다. MIT 기술 리뷰. Merkley는 두 가지 모두에 대해 공개적으로 비판했습니다. DHS의 이민 정책 그리고 정부의 얼굴 인식 기술 활용.
개인정보 보호, 투명성, 책임성에 대한 우려 외에도 일부 전문가들은 동의를 제공하거나 거부할 수 있는 수단이 거의 없는 인구의 데이터를 사용하여 새로운 기술을 테스트하고 개발하는 것에 대해서도 우려합니다.
동의는 “사람들에게 시험하는 방식에 내재되어 있는 엄청난 권력 차이를 실제로 고려할 수 있을까요?”라고 저자 Petra Molnar는 묻습니다. 벽에는 눈이 있다: AI 시대의 이주 생존. “그리고 만약 당신이 국경에 도착하면… 그리고 당신은 둘 중 하나의 불가능한 선택에 직면하게 됩니다: 생체 인식 정보를 제공하면 국가에 들어갈지, 아니면 제공하지 않을지.”
그녀는 “그것은 정보에 입각한 동의를 완전히 훼손합니다”라고 덧붙였다.
미국 시민자유연합의 수석 변호사인 애슐리 고르스키는 이 질문이 어린이에게 있어서는 더욱 어려워진다고 말합니다. DHS는 “이 어린이들과 그들의 법적 보호자가 실험 대상으로 봉사하는 데 의미 있게 동의했다는 것을 보여주기 위해 매우 높은 기준을 충족해야 합니다.”라고 그녀는 말합니다. “상당한 위협 요소가 있으며, 어린이들은 장기적인 위험을 고려할 준비가 되어 있지 않습니다.”
불분명한 새로운 규칙
생체 인식 관리국(Office of Biometric Identity Management)은 이전에 미국 방문자 및 이민자 상태 표시 기술 프로그램(US-VISIT)으로 알려졌으며, 9/11 이후에 설립되었으며, 처음에는 미국 시민이 아닌 사람이 미국에 입국하려는 경우 생체 인식 데이터(처음에는 지문과 사진만 수집)를 수집한다는 구체적인 임무를 맡았습니다.
그 이후로 DHS는 얼굴 지문, 홍채 및 망막 스캔, 심지어 DNA를 비롯한 다른 모달리티를 수집하기 시작했습니다. 또한 Boyd가 컨퍼런스 프레젠테이션에서 공유했듯이 현재 국경의 5개 장소에 배치된 비접촉 지문 수집을 포함하여 이러한 데이터를 수집하는 새로운 방법도 테스트하고 있습니다.
2023년부터 CBP는 모바일 앱을 사용하고 있습니다CBP One, 난민 신청자가 생체 인식 데이터를 제출할 수 있도록 하기 위해 ~ 전에 그들은 미국에 입국합니다. 사용자는 신원을 확인하기 위해 주기적으로 셀카를 찍어야 합니다. 앱은 수수께끼 같은 기술적인 문제를 포함한 문제가 있음 결함 그리고 얼굴 인식 알고리즘은 인식할 수 없습니다. 피부가 검은 사람들모든 망명 신청자가 스마트폰을 가지고 있는 것은 아니라는 사실이 이를 더욱 악화시킵니다.
그런 다음 미국으로 건너간 직후 이민자들은 DNA를 포함한 생체 인식 데이터 수집에 제출해야 합니다. 규모를 파악하기 위해 최근 보고서 조지타운 로스쿨의 개인정보보호 및 기술 센터에 따르면 CBP는 2020년 1월에 “지문 채취를 받는 CBP 구금자의 모든 사람”으로부터 DNA를 수집하기 시작한 이래로 주로 국경을 넘는 이주민의 DNA 프로필 150만 개를 법 집행 기관 데이터베이스에 추가했습니다. 연구원들은 법 집행 기관에서 사용하는 DNA 데이터베이스에 이민자(대부분이 유색인종)가 과도하게 대표되면 과도한 경찰 활동이 이루어지고 다른 형태의 편견이 생길 수 있다고 지적했습니다.
일반적으로 이러한 프로그램은 14세에서 79세 사이의 개인에 대한 정보만 요구합니다. DHS는 2020년에 이를 변경하려고 시도했으며, USCIS와 CBP에 대한 제안된 규칙은 연령을 포함하여 생체 인식 데이터 수집을 극적으로 확대했습니다. (USCIS의 제안된 규칙은 이민자를 후원하는 미국 시민을 포함하여 생체 인식 데이터가 필요한 사람의 수를 두 배로 늘렸을 것입니다.) 그러나 USCIS 규칙은 빼는 바이든 행정부의 새로운 “우선순위 이민 시스템의 장벽과 부당한 부담을 줄이기 위해.” 한편, 아직 불분명한 이유로 제안된 CBP 규칙 제정된 적이 없습니다.
이민자 권리 단체이자 감시 기술을 추적하는 Just Futures Law의 직원 변호사인 디네시 맥코이는 DHS가 현재 14세 미만 아동의 생체 인식 데이터를 수집한다면 “모순”으로 보일 것이라고 말했습니다.
Boyd와 DHS의 미디어 사무실은 그가 프레젠테이션에서 언급한 구체적인 정책 변경 사항이 무엇인지 확인하지 않았습니다., 그렇지만 MIT 기술 리뷰 식별했다 2017 메모당시 국토안보부 장관이었던 존 F. 켈리가 발행한 이 법안은 DHS 구성원들에게 “생체 인식 정보를 수집할 시기를 결정하는 기준에서 연령을 제외”하도록 권장했습니다.
DHS의 감찰관실(OIG)은 2023년 9월 보고서에서 이 메모를 “DHS의 생체 인식에 대한 포괄적 정책”이라고 언급했지만 언론실 중 어느 누구도 이에 대해 언급하지 않았습니다. MIT 기술 리뷰 주요 DHS 홍보실, OIG, OBIM 등을 비롯한 해당 기관에 연락하여 이것이 여전히 관련 정책인지 확인할 것입니다. 그 이후로는 관련 정책 변경 사항을 확인할 수 없었습니다.
OIG 감사에서는 또한 생체 인식 데이터 수집 및 사용에 대한 DHS의 감독과 관련된 여러 가지 근본적인 문제를 발견했습니다. 생체 인식을 위한 10년 전략 프레임워크2015년부터 2025년까지를 다루는 이 보고서는 “얼굴 인식 검증 및 식별 사용과 같은 부서 전반의 생체 인식의 현재 상태를 정확하게 반영하지 못했습니다.” 또한 연령 요건을 포함하여 DHS 전반의 생체 인식의 일관된 수집 및 사용에 대한 명확한 지침도 제공하지 않았습니다.
하지만 새로운 OBIM 프로그램에 대한 또 다른 잠재적 설명도 있습니다. 보이드는 이 프로그램이 DHS의 과학 및 기술 차관보의 후원 하에 수행되고 있다고 말합니다. 이 부서는 기관의 많은 연구 노력을 주도하고 있습니다. 연구DHS 운영에서 프로세스나 의사 결정을 알리기 위해 사용되는 것이 아니라 DHS에서 얼굴 인식 및 얼굴 캡처 기술을 사용하는 데 대한 표준 제한 사항 중 다수가 적용되지 않는다고 합니다. DHS 지침.
일부 변호사들은 연방 규칙이 아닌 부서 정책을 통해 데이터 수집 연령 제한을 변경하는 것은 문제가 있다고 주장합니다. 이 정책은 공개 의견 기간을 요구합니다. 예를 들어, McCoy는 여기서 투명성이 부족하면 이미 “매우 어려운” “찾기” 과제가 더 심화된다고 말합니다. [out] “이러한 기술이 어떻게 체계적으로 배포되는지”가 책임의 핵심이기는 하지만요.
DHS의 두개안면 구조적 진행 이니셔티브에 대한 추가 정보가 있습니까? 업무용이 아닌 이메일로 연락해 주십시오. 팁@technologyreview.com 또는 Signal(전화번호: 626.765.5489)로 안전하게 연락하세요.
분야를 발전시키다
신원 포럼과 이후 대화에서 보이드는 이 데이터 수집이 효과적인 FRT 알고리즘 개발을 발전시키기 위한 것이라고 설명했습니다. 보이드는 OBIM의 Future Identity 팀을 이끌고 있으며, 이 팀의 사명은 “빠르고 정확하며 안전한 신원 서비스를 가능하게 하는 기술, 정책 및 인적 요소를 연구, 검토, 평가 및 개발”하고 OBIM을 “DHS 내에서 선호하는 신원 서비스 제공자”로 만드는 것입니다.
실종 아동의 유명 사건으로 인해 아동의 얼굴이 어떻게 노화되는지 이해하는 데 대한 관심이 오래전부터 있었습니다. 동시에 FRT 이전과 현재 모두 이를 이해하는 데 기술적 어려움이 있었습니다.
얼굴 인식의 핵심은 원래 얼굴 지문의 다양한 얼굴 특징의 기하학을 후속 이미지와 비교하여 개인을 식별한다는 것입니다. 이 비교를 기반으로 얼굴 인식 알고리즘은 각 일치할 확률은 100%입니다.
하지만 아이들이 성장하고 발달함에 따라 뼈 구조가 상당히 변해 얼굴 인식 알고리즘이 시간이 지남에 따라 그들을 식별하기 어렵게 만듭니다. (이러한 변화는 14세 미만의 어린이에게 더욱 두드러지는 경향이 있습니다. 반면 성인이 나이를 먹으면서 피부와 근육에 변화가 생기고 전체적으로 변화가 줄어듭니다.) 더 많은 데이터가 이 문제를 해결하는 데 도움이 되겠지만 검증 가능한 연령을 가진 어린이의 얼굴에 대한 고품질 데이터 세트가 부족합니다.
Boyd는 “우리가 시도하는 것은 알려진 개인에 대한 대규모 데이터 세트를 얻는 것입니다.”라고 말했습니다. MIT 기술 리뷰w. 즉, 우리가 올바른 이름을 가진 사람을 확보했다는 것을 알고 있는 통제된 조건에서 고품질 얼굴 지문을 찍는 것을 의미합니다. [and] 정확한 생년월일”—즉, 다른 말로 하면 “데이터 출처”에 대해 확신할 수 있는 곳입니다.
예를 들어, 노화 연구에 사용된 한 데이터 세트는 5세에서 32세까지 나이를 먹은 305명의 유명인 얼굴로 구성되어 있습니다. 하지만 인터넷에서 스크래핑한 이 사진에는 서로 다른 이미지 품질, 조명 조건, 촬영 거리 등 다른 변수가 너무 많아서 실제로 유용하지 않습니다. 게다가 보이드가 강조하는 출처 문제에 대해 말하자면, 각 사진에서 실제 나이는 추정만 가능합니다.
또 다른 전략은 합성적으로 노화된 성인 얼굴의 데이터 세트를 사용하는 것입니다. 합성 데이터는 개인 정보를 더 잘 보호하는 것으로 여겨지지만, 이 역시 한계가 있다고 Center for Identification Technology Research(CITeR)의 스테파니 슈커커스 이사는 말합니다. 슈커커스는 “생성된 데이터로만 테스트할 수 있습니다.”라고 설명하지만, “실제 데이터와 비슷한 결과를 얻을 수 있을까요?”라는 의문이 남습니다.
(뉴욕의 클락슨 대학에서 주최하는 CITeR은 ID 기술 분야에서 활동하는 학계와 정부 제휴 기관 네트워크를 하나로 모았습니다. OBIM은 이 연구 컨소시엄의 회원입니다.)
CITeR의 Schuckers 팀은 또 다른 접근 방식을 취했습니다. Clarkson University 주변 지역의 초등학교와 중학교 학생 231명을 대상으로 진행 중인 종단 연구입니다. 2016년부터 이 팀은 얼굴 이미지를 포함하여 6개월마다(코로나19 팬데믹 2년 제외) 생체 인식 데이터를 수집했습니다. 그들은 테스트한 오픈소스 얼굴 인식 모델이 실제로 처음 등록한 지 3~4년 후에도 어린이를 성공적으로 인식할 수 있다는 것을 발견했습니다.
하지만 이 연구의 조건은 규모에 따라 쉽게 재현할 수 없습니다. 연구 이미지는 통제된 환경에서 촬영되었고, 모든 참가자는 자원봉사자였으며, 연구자들은 부모와 피험자 자신에게 동의를 구했고, 연구는 대학의 기관 검토 위원회에서 승인되었습니다. Schuckers의 연구는 또한 다른 연구자들이 접근을 요청하고 수집된 다른 데이터와 별도로 얼굴 데이터 세트를 제공함으로써 개인 정보를 보호할 것을 약속합니다.
게다가 이 연구는 아직 기술적 한계가 있습니다. 표본이 작고 대부분이 백인이기 때문에 다른 인종에 적용하면 정확도가 떨어질 수 있습니다.
슈커스는 DHS의 두개안면 구조적 진행 이니셔티브에 대해 몰랐다고 말했습니다.
광범위한 영향
Boyd는 OBIM이 개인정보 보호 고려 사항을 심각하게 받아들이고 있으며 “우리는 상업 산업과 데이터를 공유하지 않는다”고 말했습니다. 그래도 OBIM은 정보를 공유하는 144개 정부 파트너가 있으며 비판하다 정부 책임 사무소(Government Accountability Office)에서 정보를 누구와 공유하고, 어떤 개인정보 보호 조치를 취하고 있는지에 대한 문서화가 부족하다는 이유로 처벌을 받았습니다.
데이터가 하다 연방 정부 내에 머무르면 시간이 지남에 따라 어린이의 FRT 정확도에 관한 OBIM의 조사 결과는 그럼에도 불구하고 가능합니다. 정부의 나머지가 생체 인식 데이터를 수집하는 방법과 시기, 그리고 더 광범위한 얼굴 인식 산업이 어린이를 대상으로 서비스를 마케팅할 수 있는지 여부에 영향을 미칩니다. (실제로 보이드는 “결과”를 공유하거나 FRT 알고리즘의 정확도에 대한 조사 결과는 데이터 자체를 공유하는 것과 다르다고 말합니다.)
이 기술이 미국 시민들보다 개인정보 보호 혜택이 적은 사람들을 대상으로 시험되고 있다는 사실은 국경으로 오는 이주민이든 전쟁 지역의 민간인이든 개발도상국의 사람들을 활용해 새로운 기술을 개선하려는 광범위한 추세의 일부일 뿐입니다.
실제로 Boyd는 이전에 이라크와 아프가니스탄에서 국방부의 생체 인식 시스템을 발전시키는 데 도움을 주었습니다. 개인이 부족하다는 것을 인정했습니다. 엄청나게 높은 위험에도 불구하고 다른 많은 맥락에서 허용되었을 개인정보 보호. 전쟁 지역에서 수집된 생체 인식 데이터(일부 지역에서는 모든 전투 연령 남성에게서 수집)가 사용되었습니다. 반군을 식별하고 표적으로 삼는 것이 매우 중요한데, 잘못 식별되면 사망에 이를 수 있습니다.
이러한 프로젝트는 이후 국방부의 생체 인식 데이터 수집 확대에 영향을 미치는 데 상당한 역할을 했으며, 이는 현재 전 세계적으로 이루어지고 있습니다. 그리고 보이드와 같은 프로그램의 설계자들은 다른 기관에서 생체 인식 사용을 확대하는 데 중요한 역할을 했습니다.
몰나르는 “이 테스트가 국경 지대에서 일어나는 것은 우연이 아니다”고 말한다. 국경은 “감독이 약하고 재량권이 결정에 반영되어 있기 때문에 기술 실험을 위한 완벽한 실험실”이며, “이를 통해 국가는 다른 지역에서는 허용되지 않는 방식으로 실험할 수 있다”.
하지만 그녀는 “그 일이 국경에서 일어났다고 해서 그곳에만 머물 것이라는 의미는 아니다”라고 지적합니다.
업데이트: 이 기사는 DHS의 의견을 포함하도록 업데이트되었습니다.
DHS의 두개안면 구조적 진행 이니셔티브에 대한 추가 정보가 있습니까? 업무용이 아닌 이메일로 연락해 주십시오. 팁@technologyreview.com 또는 Signal(전화번호: 626.765.5489)로 안전하게 연락하세요.