그렇게 말하는 것은 정확히 속보가 아닙니다. AI는 사이버 보안 산업을 극적으로 변화시켰습니다.. 공격자와 방어자 모두 자신의 능력을 향상시키기 위해 인공 지능을 활용하고 있으며, 각자는 다른 사람보다 한발 앞서기 위해 노력하고 있습니다. 이 고양이와 쥐 게임은 새로운 것이 아닙니다. 공격자들은 결국 수십 년 동안 보안 팀을 앞지르기 위해 노력해 왔습니다. 그러나 인공 지능의 출현으로 이러한 역학 관계에 새로운(종종 예측 불가능한) 요소가 도입되었습니다. 전 세계의 공격자들은 이 신기술을 활용하여 이전에는 볼 수 없었던 혁신적인 공격 방법을 개발할 수 있다는 전망에 기뻐하며 손을 비비고 있습니다.
적어도 그것은 인식입니다. 그러나 현실은 조금 다릅니다. 공격자들이 점점 더 AI를 활용하고 있는 것은 사실이지만 대부분은 AI를 다음과 같은 목적으로 사용하고 있습니다. 공격의 규모와 복잡성 증가새로운 영역을 개척하기보다는 기존 전술에 대한 접근 방식을 개선합니다. 여기서의 생각은 분명합니다. 수비수들이 이미 오늘의 공격 방법을 막기 위해 고군분투하고 있는데 왜 내일의 공격 방법을 개발하는 데 시간과 노력을 소비합니까? 다행스럽게도 현대의 보안 팀은 자체 AI 기능을 활용하고 있으며, 그 중 다수는 맬웨어, 피싱 시도 및 기타 일반적인 공격 전술을 더 빠르고 정확하게 탐지하는 데 도움이 됩니다. 공격자와 방어자 간의 “AI 군비 경쟁”이 계속됨에 따라 보안 팀에서는 적이 실제로 기술을 배포하는 방식을 이해하고 보안 팀의 노력이 올바른 위치에 집중되도록 하는 것이 점점 더 중요해질 것입니다.
공격자가 AI를 활용하는 방법
반자동 AI가 조직의 방어를 체계적으로 해킹하기 위해 배치된다는 아이디어는 무서운 것이지만 (현재로서는) 윌리엄 깁슨의 소설과 기타 공상 과학 소설의 영역에 확고하게 남아 있습니다. AI가 지난 몇 년 동안 놀라운 속도로 발전한 것은 사실이지만, 우리는 여전히 그런 수준에서 벗어나려면 한참 멀었습니다. 인공일반지능 (AGI) 인간의 사고 패턴과 행동을 완벽하게 모방할 수 있습니다. 그렇다고 오늘날의 AI가 인상적이지 않다는 것은 아닙니다. 확실히 그렇습니다. 하지만 생성적 AI 도구와 대규모 언어 모델 (LLM)은 기존 자료의 정보를 합성하고 작고 반복적인 변경을 생성하는 데 가장 효과적입니다. 자체적으로 완전히 새로운 것을 만들 수는 없습니다. 하지만 실수하지 마십시오. 합성하고 반복하는 능력은 매우 유용합니다.
실제로 이는 공격자가 새로운 공격 방법을 개발하는 대신 현재 공격 방법을 향상시킬 수 있음을 의미합니다. AI를 사용하면 공격자는 수천 개가 아닌 수백만 개의 피싱 이메일을 보낼 수 있습니다. 또한 LLM을 사용하여 보다 설득력 있는 메시지를 작성하여 더 많은 수신자가 악성 링크를 클릭하거나 악성 코드가 포함된 파일을 다운로드하도록 속일 수 있습니다. 피싱과 같은 전략은 사실상 숫자 게임입니다. 대다수의 사람들은 피싱 이메일에 속지 않을 것입니다. 그러나 수백만 명의 사람들이 피싱 이메일을 받는다면 1%의 성공률이라도 수천 명의 새로운 피해자가 발생할 수 있습니다. LLM이 1%의 성공률을 최대 2% 이상으로 높일 수 있다면 사기꾼은 거의 노력하지 않고도 공격 효율성을 두 배로 높일 수 있습니다. 맬웨어도 마찬가지입니다. 맬웨어 코드를 조금만 수정하면 탐지 도구에서 효과적으로 위장할 수 있다면 공격자는 새로운 코드로 이동하기 전에 개별 맬웨어 프로그램에서 훨씬 더 많은 이점을 얻을 수 있습니다.
여기서 중요한 또 다른 요소는 속도입니다. AI 기반 공격은 인간의 제한을 받지 않기 때문에 인간 운영자보다 훨씬 빠른 속도로 전체 공격 시퀀스를 수행할 수 있는 경우가 많습니다. 이는 보안 팀이 경고를 받기도 전에 공격자가 네트워크에 침입하여 피해자의 가장 중요하거나 가치 있는 데이터에 접근할 수 있다는 것을 의미합니다. 공격자가 더 빠르게 움직일 수 있다면 그다지 조심할 필요가 없습니다. 즉, 공격자는 더 시끄럽고 파괴적인 활동을 중단하지 않고도 피할 수 있습니다. 여기서 반드시 새로운 작업을 수행할 필요는 없지만 공격을 더 빠르게 추진함으로써 잠재적으로 판도를 바꾸는 방식으로 네트워크 방어를 능가할 수 있습니다.
이것이 공격자가 AI를 어떻게 활용하는지 이해하는 열쇠입니다. 사회 공학 사기 및 맬웨어 프로그램은 이미 성공적인 공격 벡터입니다. 그러나 이제 공격자는 이를 더욱 효율적으로 만들고, 더 빠르게 배포하고, 더 큰 규모로 운영할 수 있습니다. 조직은 하루에 수십 건의 시도에 맞서 싸우는 대신 수백, 수천, 심지어 수만 건의 빠른 속도로 진행되는 공격에 맞서 싸울 수 있습니다. 그리고 이러한 공격을 신속하게 탐지하고, 실제적이고 실질적인 위협이 무엇인지 식별하고, 효과적으로 해결하기 위한 솔루션이나 프로세스가 없다면 공격자에게 위험할 정도로 노출되는 것입니다. 공격자가 미래에 AI를 어떻게 활용할 수 있을지 궁금해하는 대신, 조직은 기존 공격 방법을 더 큰 규모로 처리한다는 목표로 자체 AI 솔루션을 활용해야 합니다.
AI를 보안 팀의 이점으로 전환
기업과 정부의 모든 수준의 보안 전문가들은 방어 목적으로 AI를 활용할 수 있는 방법을 모색하고 있습니다. 지난 8월 미국 국방고등연구계획국(DARPA)은 최종 합격자를 발표했습니다 최근 AI Cyber Challenge(AIxCC)에서는 코드 기반 취약점을 식별하고 수정하기 위해 LLM을 교육하는 보안 연구 팀에 상을 수여했습니다. 이 과제는 Google, Microsoft, OpenAI를 포함한 주요 AI 제공업체의 지원을 받으며, 모두 AI 기반 보안을 강화하려는 이러한 노력에 기술적, 재정적 지원을 제공합니다. 물론 DARPA는 단지 하나의 예일 뿐입니다. 실리콘 밸리에서는 첨단 AI 기반 보안 솔루션에 대해 알려주고 싶어하는 12명의 스타트업 창업자들을 만나지 않고는 거의 흔들릴 수 없습니다. 방어 목적으로 AI를 활용하는 새로운 방법을 찾는 것은 모든 유형과 규모의 조직에서 최우선 과제입니다.
그러나 공격자와 마찬가지로 보안 팀도 AI를 사용하여 기존 기능을 증폭시킬 때 가장 큰 성공을 거두는 경우가 많습니다. 점점 더 많은 규모로 공격이 발생하면서 보안 팀의 시간과 리소스가 부족해지는 경우가 많아 나타나는 모든 보안 경고를 적절하게 식별, 조사 및 해결하기가 어렵습니다. 단순히 시간이 없습니다. AI 솔루션은 자동화된 탐지 및 대응 기능을 제공함으로써 이러한 문제를 완화하는 데 중요한 역할을 하고 있습니다. AI가 잘하는 것이 있다면 패턴을 식별하는 것입니다. 이는 AI 도구가 비정상적인 행동을 인식하는 데 매우 능숙하다는 것을 의미합니다. 특히 해당 행동이 알려진 공격 패턴을 따르는 경우에는 더욱 그렇습니다. AI는 인간보다 훨씬 더 빠르게 방대한 양의 데이터를 검토할 수 있기 때문에 보안 팀이 상당한 방식으로 운영을 확장할 수 있습니다. 많은 경우 이러한 솔루션은 기본적인 교정 프로세스를 자동화하여 사람의 개입 없이도 낮은 수준의 공격을 저지할 수 있습니다. 또한 보안 검증, 네트워크 방어에 대한 지속적인 조사 및 찌르기 프로세스를 자동화하여 의도한 대로 작동하는지 확인하는 데 사용할 수도 있습니다.
AI는 보안 팀이 잠재적인 공격 활동을 더 빠르게 식별할 수 있게 할 뿐만 아니라 정확성도 크게 향상시킨다는 점을 기억하는 것도 중요합니다. 보안 팀은 허위 경보를 추적하는 대신 AI 솔루션이 잠재적인 공격에 대해 경고하면 즉시 주의를 기울일 가치가 있다는 확신을 가질 수 있습니다. 이는 거의 충분히 논의되지 않는 AI의 요소입니다. 많은 논의가 AI가 인간을 “대체”하고 일자리를 빼앗는 것에 초점을 맞추고 있지만 현실은 AI 솔루션을 통해 인간이 업무를 더 효율적으로 수행할 수 있도록 지원한다는 것입니다. , 지루하고 반복적인 작업을 수행할 때 발생하는 번아웃을 완화합니다. AI 솔루션은 인간 운영자에게 부정적인 영향을 미치지 않고 보안 위치와 관련된 인식된 “바쁜 작업”의 대부분을 처리하여 인간이 더 흥미롭고 중요한 작업에 집중할 수 있도록 합니다. 피로도가 사상 최고에 달하고 많은 기업이 새로운 보안 인재를 유치하기 위해 고군분투하고 있는 상황에서 삶의 질과 직업 만족도를 향상시키는 것은 엄청난 긍정적인 영향을 미칠 수 있습니다.
여기에 보안 팀의 진정한 이점이 있습니다. AI 솔루션은 자체 AI 도구를 활용하여 공격자와 효과적으로 맞서 싸우기 위해 운영을 확장하는 데 도움이 될 뿐만 아니라 보안 전문가가 자신의 역할에서 더 행복하고 만족할 수 있도록 해줍니다. 이는 관련된 모든 사람이 윈윈할 수 있는 흔치 않은 솔루션이며, 오늘날의 기업이 AI 기반 보안 솔루션에 투자할 시기가 바로 지금이라는 것을 인식하는 데 도움이 될 것입니다.
AI 군비 경쟁이 이제 막 시작되었습니다
AI 솔루션을 채택하기 위한 경쟁이 진행 중이며 공격자와 방어자 모두 기술을 활용하여 이점을 얻을 수 있는 다양한 방법을 찾고 있습니다. 공격자가 AI를 사용하여 공격의 속도, 규모 및 복잡성을 높이면 보안 팀은 자체 AI 도구를 사용하여 탐지 및 교정 기능의 속도와 정확성을 향상시켜 화재에 맞서 싸워야 합니다. 다행스럽게도 AI 솔루션은 보안 팀에 중요한 정보를 제공하여 보안 팀이 자체 솔루션의 효율성을 더 잘 테스트하고 평가하는 동시에 더욱 중요한 업무에 필요한 시간과 리소스를 확보할 수 있도록 해줍니다. 실수하지 마십시오. AI 군비 경쟁은 이제 시작일 뿐입니다. 하지만 보안 전문가가 이미 AI를 사용하여 공격자보다 한 발 앞서 나가고 있다는 사실은 매우 좋은 신호입니다.
게시물 현대 위협 환경에서 AI로 AI에 맞서기 처음 등장한 Unite.AI.