Kaarel Kotkas는 Veriff의 CEO이자 창립자이며 회사를 뒷받침하는 전략적 사상가이자 비전가입니다. 그는 빠르게 변화하는 온라인 식별 분야에서 사기와 경쟁에 앞서 Veriff 팀을 이끌고 있습니다. 에너지와 열정으로 잘 알려진 Kotkas는 팀이 디지털 세계에서 정직성을 유지할 것을 권장합니다. 2023년에는 EU Forbes 30 Under 30에 선정되었으며, 2020년에는 에스토니아에서 EY 올해의 기업가로 선정되었습니다. Nordic Business Report는 또한 북유럽에서 가장 영향력 있는 젊은 기업가 25인 중 하나로 그를 포함시켰습니다.
베리프 온라인 비즈니스가 사기를 줄이고 규정을 준수하도록 돕는 글로벌 신원 확인 회사입니다. Veriff는 AI를 사용하여 얼굴 인식을 포함한 다양한 기술 및 행동 지표를 분석하여 자동으로 신원을 확인합니다.
Veriff를 설립하게 된 계기는 무엇이며, AI 기반 사기 방지 플랫폼을 구축하면서 어떤 어려움에 직면했습니까?
Veriff에 대한 저의 동기는 온라인에서 사람들이 다른 사람인 척하는 것이 얼마나 쉬운지를 직접 목격한 이후였습니다. 14살 때 가족 농장을 위해 eBay에서 생분해성 끈을 구입할 때 Photoshop을 사용하여 PayPal의 18세 이상 연령 제한을 쉽게 우회하여 신분증 사본의 출생 연도를 변경했습니다.
나는 온라인 사용자들이 연령 확인 및 기타 보안 조치를 통과하기 위해 자신의 신원을 허위로 표시하는 문제를 계속해서 목격했습니다. 베리프에 대한 아이디어를 떠올리게 된 것도 바로 이러한 경험 때문이었습니다.
도전 과제로는 회사를 창립한 지 1년 만에 팀에게 주말 휴가를 주었습니다. 이날은 버그 수정을 수행한 날로, 이로 인해 모니터링 기능이 완전히 중단되었습니다. 우리는 토요일 아침까지 서비스가 종료되는 것을 알지 못했습니다. 월요일 아침에 저는 수천 달러의 수익을 잃은 우리의 가장 큰 고객을 직접 만나야 했습니다. 나는 그 회의에서 우리 측의 실수를 투명하게 설명했습니다. 우리는 악수를 하고 다시 일하러 나갔습니다. 이를 통해 배운 것은 창업자이자 비즈니스 리더로서 도전을 기대하고 준비해야 한다는 것입니다. 또한 투명성은 신뢰 구축의 핵심입니다. 마지막으로, 문제를 극복한 이력을 입증하는 것은 문제를 성공적으로 해결할 수 있고 회복력이 있음을 보여주기 때문에 더 가치가 있을 수 있습니다.
특히 정치적 환경에서 딥페이크가 더욱 정교해짐에 따라 딥페이크가 선거와 민주주의에 미치는 가장 심각한 위험은 무엇이라고 생각하시나요?
이번 선거 시즌에는 투표 과정의 무결성이 위협받고 있습니다. AI는 방대한 양의 데이터를 분석하여 유권자 선호도와 추세를 파악함으로써 캠페인이 메시지를 맞춤화하고 유권자가 가장 관심 있는 메시지로 유권자를 타겟팅할 수 있도록 지원합니다. 나쁜 행위자는 후보자가 한 번도 하지 않은 행동을 하거나 말하지 않은 진술을 함으로써 후보자의 평판을 손상시키고 유권자를 오도하는 허위 서술을 생성할 수 있는 능력이 잘 갖춰져 있습니다.
지금까지 우리는 보았습니다. 대선후보를 지지하는 연예인들의 딥페이크 그리고 가짜 바이든 자동녹음전화. AI 생성 콘텐츠와 실제 콘텐츠를 구별하는 데 도움이 되는 기술이 존재하지만 대규모로 광범위하게 구현하는 것은 불가능합니다. 높은 이해관계와 선거 신뢰성이 걸린 상황에서 대중의 신뢰를 유지하기 위해 뭔가 조치를 취해야 합니다. 디지털 경제의 미래 성장과 디지털 사기와의 전쟁은 입증된 신원과 확실하고 검증된 온라인 계정을 중심으로 이루어집니다.
딥페이크는 이미지뿐만 아니라 음성도 조작할 수 있습니다. 유권자를 속이는 데 있어서 한 매체가 다른 매체보다 더 위험하다고 생각하십니까?
일반적으로, 특히 미국 선거 상황에서는 두 가지 모두 민주주의에 대한 위협으로 동등하게 취급되어야 합니다. 우리의 가장 최근 보고서 Veriff 사기 지수 2024: 2부미국 응답자의 74%가 AI와 딥페이크가 선거에 영향을 미치는 것을 우려하고 있는 것으로 나타났습니다.
AI의 진화는 올해 선거 기간 동안 미국뿐만 아니라 전 세계의 보안 위협을 더욱 가중시켰습니다. 딥페이크 이미지, 유권자의 의견을 왜곡하려는 자동녹음전화에서 AI가 생성한 음성, 후보자의 조작된 동영상 등 둘 다 상당한 우려를 불러일으킵니다.
여기서 더 큰 그림을 살펴보겠습니다. 사용 가능한 데이터 포인트가 많으면 “위협 수준”을 평가하기가 더 쉽습니다. 단일 이미지만으로는 사기 여부를 판단하기에 충분하지 않을 수 있지만, 특히 오디오가 포함된 경우 비디오는 더 많은 단서를 제공합니다. 사용된 장치, 위치, 동영상을 녹화한 사람과 같은 세부정보를 추가하면 동영상의 진위에 대한 신뢰도가 높아집니다. 사기꾼은 정보를 조작하기 쉽게 만들기 때문에 항상 정보의 범위를 제한하려고 합니다. 나는 가짜 오디오를 생성하는 것이 고품질 가짜 비디오를 생성하는 것보다 쉽기 때문에 자동녹음전화를 딥페이크보다 더 위험하다고 봅니다. 또한 LLM을 사용하면 통화 중 가짜 오디오를 조정할 수 있어 더욱 설득력이 있습니다.
다가오는 선거를 고려할 때 정부와 선거 관리위원회는 AI 기반 허위 정보와 관련하여 무엇을 가장 염려해야 합니까?
정부와 선거관리위원회는 이러한 사기 사례가 얼마나 정교해지고 훨씬 더 설득력이 있는지를 포함하여 딥페이크 기능의 잠재적 범위를 이해해야 합니다. 딥페이크는 일관성이 없고 일관되지 않은 ID 관리 프로세스와 열악한 사이버 보안을 갖춘 기업에 배포할 때 특히 효과적입니다. 따라서 오늘날에는 강력한 보안 조치를 구현하거나 보안에 대한 계층화된 접근 방식을 갖는 것이 더욱 중요합니다.
하지만 모든 경우에 적용할 수 있는 일률적인 솔루션은 없으므로 조정되고 다면적인 접근 방식이 중요합니다. 여기에는 주장된 신원 문서에 대한 강력하고 포괄적인 검사, 특히 원격 투표와 관련된 수신 이미지 조작을 식별하는 카운터 AI, 그리고 가장 중요한 것은 소스에서 딥페이크 및 사기성 콘텐츠의 제작자를 식별하는 것이 포함될 수 있습니다. 투표 확인 책임은 정부, 선거관리위원회, 기술 및 ID 제공업체에 있습니다.
Veriff와 같은 AI 및 신원 확인 기술은 딥페이크가 선거 및 정치 캠페인에 미치는 영향에 대응하는 데 어떤 역할을 할 수 있습니까?
AI는 위협이자 기회이다. 거의 미국 의사결정자의 78% 지난 한 해 동안 사기 공격에 AI를 사용하는 사례가 증가했습니다. 반면 CEO의 약 79%는 사기 예방에 AI와 ML을 사용합니다. 사기가 증가하는 시대에는 사기 예방 전략이 총체적이어야 합니다. 단일 도구로는 이러한 수많은 위협에 대처할 수 없습니다. 그럼에도 불구하고 AI와 신원 확인은 사기꾼보다 앞서기 위해 생체 인식, 신원 확인, 교차 연결 및 기타 솔루션을 제공하는 다층 스택을 통해 기업과 사용자에게 힘을 실어줄 수 있습니다.
Veriff에서는 자체 AI 기반 기술을 사용하여 딥페이크 탐지 기능을 구축합니다. 이는 우리가 딥페이크를 볼 때 학습을 통해 도구가 향상된다는 것을 의미합니다. 미래의 결과를 결정하기 위해 대량의 데이터를 수집하고 이전에 나타난 패턴을 검색하는 것은 자동화된 기술과 인간의 지식 및 지능에 달려 있습니다. 인간은 상황을 더 잘 이해하고 이상 현상을 식별하여 AI 모델을 향상하는 데 사용할 수 있는 피드백 루프를 생성합니다. 다양한 통찰력과 전문 지식을 결합하여 신원 확인 및 딥페이크 탐지에 대한 포괄적인 접근 방식을 만들어 Veriff와 고객은 앞서 나갈 수 있었습니다.
기업과 개인이 딥페이크와 AI 기반 허위 정보의 영향으로부터 자신을 더 잘 보호할 수 있는 방법은 무엇입니까?
딥페이크와 AI 기반 허위 정보의 영향으로부터 자신을 보호하는 것은 AI의 광범위한 기능에 대한 교육과 인식, 그리고 입증된 신원과 검증된 실제 온라인 계정에서 시작됩니다. 출처를 신뢰할 수 있는지 확인하려면 증상보다는 원인을 살펴봐야 합니다. 우리는 이러한 딥페이크와 사기성 자원이 어디서, 누구에 의해 생성되고 있는지 문제의 근원부터 직시해야 합니다.
소비자와 기업은 검증된 소셜 미디어 플랫폼 사용자, 평판이 좋은 언론 매체 등 검증된 출처에서 나온 정보만 신뢰해야 합니다. 또한, 사실 확인 웹사이트를 이용하고 오디오나 비디오 클립에서 부자연스러운 움직임, 이상한 조명, 흐릿함, 일치하지 않는 립싱크 등 시각적 이상 현상을 찾는 것은 기업이 딥페이크 기술에 속지 않도록 스스로를 보호할 수 있는 방법 중 일부일 뿐입니다. .
딥페이크의 위험성에 대한 대중의 인식이 충분하다고 생각하시나요? 그렇지 않다면 이해를 높이기 위해 어떤 조치를 취해야 합니까?
우리는 여전히 AI에 대한 인식이 높아지고 그 잠재력에 대해 사람들에게 교육하는 단계에 있습니다.
에 따르면 Veriff 사기 지수 2024: 2부 응답자의 4분의 1 이상(28%)이 지난 1년 동안 일종의 AI 또는 딥페이크에 의해 생성된 사기를 경험했습니다. 이는 신흥 기술에 대한 놀라운 결과이자 이 위협의 성격이 점점 커지고 있음을 나타냅니다. 더 중요한 것은 20%가 자신이 표적이 되었는지 여부를 모른다고 답했기 때문에 이 숫자가 실제로 훨씬 더 높을 수 있다는 것입니다. AI가 생성한 사기 시도의 정교한 특성을 고려할 때, 많은 응답자가 자신도 모르는 사이에 표적이 되었을 가능성이 높습니다.
개인은 낯선 출처로부터 의심스러운 이메일이나 예상치 못한 전화를 받을 때 주의해야 합니다. 민감한 정보나 돈에 대한 요청은 항상 회의적이어야 하며, 뭔가 잘못되었다고 생각되면 자신의 직감을 믿고 명확성을 찾는 것이 중요합니다.
AI가 생성한 허위 정보와의 싸움에서 규제 기관의 역할은 무엇이며, Veriff와 같은 회사와 어떻게 협력할 수 있습니까?
대중을 속이고 허위 정보 노력을 증폭시키기 위해 딥페이크 기술이 사용된 정도와 미국 선거가 아직 진행 중인 상황을 고려할 때, 이 기술이 해당 선거는 물론 더 넓은 사회에 얼마나 큰 영향을 미칠지는 아직 알 수 없습니다. 그럼에도 불구하고 규제 기관은 딥페이크 기술의 위협을 완화하기 위한 조치를 취하고 있습니다.
허위 정보의 영향을 완화하기 위한 많은 책임은 우리가 가장 자주 사용하는 플랫폼의 소유자에게 있습니다. 예를 들어, 선도적인 소셜 미디어 기업은 사기 공격을 탐지 및 방지하고 유해한 잘못된 정보로부터 사용자를 보호하기 위한 조치를 취하고 강력한 조치를 구현함으로써 더 많은 책임을 져야 합니다.
특히 선거 상황에서 사기꾼보다 앞서기 위해 향후 몇 년간 Veriff의 기술이 어떻게 발전할 것으로 보시나요?
빠르게 디지털화되는 세상에서 인터넷의 미래는 온라인 사용자가 자신이 누구인지 증명하는 능력에 달려 있습니다. 그렇게 하면 기업과 사용자 모두 자신있게 서로 상호 작용할 수 있습니다. Veriff에서 신뢰는 검증과 동의어입니다. 우리는 디지털 환경이 최종 사용자의 안전과 보안감을 조성하는 것을 목표로 합니다. 이를 위해서는 오늘날의 과제에 대처할 수 있는 기술의 발전이 필요하며, 우리는 이미 얼굴 인식 및 생체인식 기술의 폭넓은 수용을 통해 이러한 현상을 목격하고 있습니다. 데이터에 따르면 소비자는 얼굴 인식과 생체 인식을 온라인 서비스에 로그인하는 가장 안전한 방법으로 간주합니다.
앞으로 우리는 이러한 추세가 계속되고 사용자가 온라인에서 다양한 작업을 수행하면서 지속적으로 자격 증명을 입력하고 다시 입력하는 대신 웹 전체에서 자신의 페르소나를 나타내는 “재사용 가능한 하나의 ID”를 갖게 되는 미래를 상상합니다.
우리의 목표에 한 걸음 더 다가가기 위해 최근 생체 인식 인증 솔루션을 업데이트하여 정확도와 사용자 경험을 개선하고 더 강력한 신원 확인을 위해 보안을 강화했습니다. 생체인식 기술의 이러한 최신 발전을 통해 우리 기술은 개별 사용자 행동에 적응할 수 있게 되었고, 단일 세션이 아닌 사용자 인증을 보장할 수 있게 되었습니다. 특히 이러한 발전은 재사용 가능한 하나의 디지털 ID를 향한 여정의 앞으로의 진전을 나타냅니다.
Veriff는 사기 예방 분야에서 전 세계적인 영향력을 발휘하는 것으로 인정받고 있습니다. 이렇게 경쟁이 치열한 곳에서 베리프의 기술이 돋보이는 이유는 무엇일까요?
Veriff의 솔루션은 경쟁 제품보다 30배 더 정확하고 6배 더 빠르기 때문에 속도와 편의성을 제공합니다. 우리는 IDV/KYC(Know Your Customer) 업계에서 가장 큰 신원 문서 표본 데이터베이스를 보유하고 있습니다. 우리는 230개 이상의 국가 및 지역에서 48개 언어로 제공되는 11,500개의 정부 발급 신분증 문서를 기준으로 신원을 확인할 수 있습니다. 또한 이러한 편리성과 마찰 감소 이온을 통해 조직은 더 많은 사용자를 전환하고 사기를 완화하며 규정을 준수할 수 있습니다. 또한 자동화율은 91%이며, 실제 사용자의 95%가 첫 번째 시도에서 성공적으로 인증됩니다.
Veriff는 Cyber Essentials 인증을 획득한 최초의 IDV 회사 중 하나입니다. Cyber Essentials는 가장 일반적인 사이버 공격으로부터 보호하는 효과적인 정부 지원 표준입니다. 이 인증을 획득함으로써 Veriff는 사이버 보안을 중요하게 여기고 데이터와 시스템을 보호하기 위한 조치를 취했음을 입증합니다. 이러한 성과는 사이버 보안에 대한 회사의 확고한 의지와 고객 데이터 보호에 대한 헌신의 증거입니다. 가장 최근에 우리는 Veriff의 솔루션이 생체 인식 보안의 최고 표준을 충족하는지 확인하기 위한 독립적인 외부 검증인 생체 인식 수동 생체 감지에 대한 ISO/IEC 30107-3 iBeta 레벨 2 규정 준수 평가를 완료했습니다.
훌륭한 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자들은 방문하시기 바랍니다. 베리프.
게시물 Kaarel Kotkas, Veriff CEO 겸 창립자 – 인터뷰 시리즈 처음 등장한 Unite.AI.
