Steve Wilson은 Exabeam의 최고 AI 및 제품 책임자로서 그의 팀은 최첨단 AI 기술을 적용하여 실제 사이버 보안 문제를 해결합니다. 그는 대형 언어 모델 보안 목록을위한 업계 표준 OWASP 10의 조직인 OWASP Gen AI Security Project를 설립하고 공동 의장했습니다.
그의 수상 경력에 빛나는 책”대형 언어 모델 보안을위한 개발자의 플레이 북”(O’Reilly Media)는 Cyber Defense Magazine에 의해 최고의 최첨단 사이버 보안 책으로 선정되었습니다.
exabeam 세계에서 가장 똑똑한 회사의 보안 운영을 강화하는 인텔리전스 및 자동화의 리더입니다. AI의 규모와 힘을 업계 최고의 행동 분석 및 자동화의 강점과 결합함으로써, 조직은 보안 사고에 대한보다 전체적인 관점을 얻고 다른 도구에서 누락 된 이상을 발견하며 더 빠르고 정확하며 반복 가능한 응답을 달성합니다. Exabeam은 글로벌 보안 팀이 사이버를 해산하고 위험을 완화하며 운영을 간소화 할 수 있도록합니다.
귀하의 새로운 타이틀은 Exabeam의 최고 AI 및 제품 책임자입니다. 이것이 사이버 보안 내에서 AI의 발전하는 중요성을 어떻게 반영합니까?
사이버 보안은 머신 러닝을 진정으로 수용 한 최초의 영역 중 하나였습니다. 엑사임에서 우리는 10 년 넘게 ML을 탐지 엔진의 핵심으로 사용하여 인간 만 놓칠 수있는 변칙적 인 행동을 식별했습니다. 지능형 에이전트와 같은 최신 AI 기술이 도착함에 따라 AI는 중요에서 중심으로 성장했습니다.
Exabeam의 최고 AI 및 제품 책임자로서의 저의 역할은 이러한 진화를 정확하게 반영합니다. 회사에서는 제품 전반에 AI를 포함시키기 위해 깊이 노력하고 AI의 역할이 점점 비판적 인 사이버 보안과 같은 산업 내에서 AI 전략과 제품 전략을 하나의 역할로 통합하는 것이 합리적이었습니다. 이 통합은 우리가 가장 의존하는 보안 분석가 및 운영 팀에 혁신적인 AI 중심 솔루션을 제공하기 위해 전략적으로 조정되도록합니다.
Exabeam은 보안 운영에서 “에이전트 AI”를 개척하고 있습니다. 실제로 그것이 무엇을 의미하는지, 전통적인 AI 접근 방식과 어떻게 구별되는지 설명 할 수 있습니까?
에이전트 AI는 전통적인 AI 접근법의 의미있는 진화를 나타냅니다. 분석가가 요청하기 전에 프로세스를 시작하고 정보를 분석하며 통찰력을 제시하는 행동 지향적입니다. 단순한 데이터 분석 외에도 Agentic AI는 고문으로 활동하여 전체 SOC 전체에 전략적 권장 사항을 제공하여 사용자를 가장 쉬운 승리로 안내하고 보안 자세를 개선하기위한 단계별 지침을 제공합니다. 또한 에이전트는 번거로운 챗봇이 아닌 특수 팩으로 작동하며 각각 분석가, 엔지니어 및 관리자의 워크 플로우에 원활하게 통합되어 타겟팅 된 영향력있는 지원을 제공하는 특정 개성 및 데이터 세트와 맞춤화됩니다.
Exabeam Nova가 SOC 워크 플로에서 여러 AI 에이전트를 통합하면 보안 분석가 역할의 미래는 어떤 모습입니까? 진화, 수축 또는보다 전문화되고 있습니까?
보안 분석가 역할은 확실히 발전하고 있습니다. 분석가, 보안 엔지니어 및 SOC 관리자 모두 데이터, 경고 및 사례에 압도됩니다. 실제 미래의 변화는 평범한 작업에 시간을 절약하는 것뿐만 아니라 에이전트가 확실히 도움이되는 데 도움이 될뿐만 아니라 모든 사람의 역할을 팀 리드의 역할로 높이는 것입니다. 분석가들은 여전히 강력한 기술 기술이 필요하지만 이제는 과제를 가속화하고 결정을 증폭 시키며 보안 자세를 진정으로 추진할 준비가 된 에이전트 팀을 이끌 것입니다. 이 변화는 분석가들이 전술적 대응자가 아닌 전략적 오케스트레이터가되도록합니다.
최근 데이터는 AI의 생산성 영향과 관련하여 경영진과 분석가 간의 연결이 끊김을 보여줍니다. 왜이 인식 격차가 존재한다고 생각하고 어떻게 해결할 수 있습니까?
최근 데이터 명확한 단절을 보여줍니다. 경영진의 71%가 AI가 생산성을 크게 향상 시킨다고 생각하지만 일일 사용자는 일상적인 분석가의 22%만이 동의합니다. Exabeam에서 우리는 사이버 보안에 대한 최근 AI 약속의 열풍과 함께이 격차가 커지는 것을 보았습니다. 화려한 AI 데모를 만드는 것은 결코 쉬운 일이 아니 었으며, 공급 업체는 모든 SOC 도전을 해결했다고 주장 할 수 있습니다. 이 데모는 처음에는 경영진을 현혹시켜 버렸지 만, 많은 사람들이 분석가들의 손에서 중요한 곳에서 부족합니다. 잠재력이 있으며 진정한 보상의 주머니가 존재하지만 여전히 소음이 너무 많고 의미있는 개선이 적습니다. 이러한 인식 격차를 해소하기 위해 경영진은 데모에서 인상적인 것이 아니라 분석가들에게 진정으로 권한을 부여하는 AI 도구를 우선 순위로 삼아야합니다. AI가 분석가의 효과를 진정으로 향상 시키면 신뢰와 실제 생산성 개선이 이어질 것입니다.
AI는 위협 탐지 및 응답을 가속화하고 있지만 고위험 사이버 보안 사고에서 자동화와 인간의 판단 사이의 균형을 어떻게 유지합니까?
AI 기능은 빠르게 발전하고 있지만 오늘날의 기초적인 “언어 모델”을 뒷받침하는 지능형 에이전트는 원래 미묘한 의사 결정, 게임 이론 또는 복잡한 인적 요소를 다루지 않고 언어 번역과 같은 작업을 위해 설계되었습니다. 이것은 사이버 보안에서 인간의 판단을 그 어느 때보 다 필수적으로 만듭니다. 분석가 역할은 AI에 의해 줄어들지 않습니다. 높아졌습니다. 분석가들은 이제 팀 리드로, 여러 에이전트를 안내하고 지시하기 위해 경험과 통찰력을 활용하여 상황과 뉘앙스에 따라 결정을 내릴 수 있도록합니다. 궁극적으로 인간의 판단으로 자동화 균형은 AI가 인간의 전문 지식을 증폭시키는 공생 관계를 만드는 것입니다.
AI가 애드온 대신 핵심 설계 원칙이되면 제품 전략이 어떻게 발전합니까?
Exabeam에서 우리의 제품 전략은 AI에 의해 피상적 인 애드온이 아니라 핵심 설계 원칙으로 근본적으로 형성됩니다. 우리는 통나무 섭취, 구문 분석, 농축 및 정규화에서 머신 러닝을 지원하기 위해 마신 학습을 지원하기 위해 Exabeam을 구축하여 ML 시스템을 공급하기 위해 특별히 최적화 된 강력한 공통 정보 모델을 채우기 위해 기계 학습을 지원했습니다. 고품질의 구조화 된 데이터는 AI 시스템에 중요 할뿐만 아니라 생명의 혈액입니다. 오늘날, 우리는 지능형 에이전트를 일반적인 워크 플로우에 직접 포함시켜 일반적이고 다루기 쉬운 챗봇을 피합니다. 대신, 우리는 사용자에게 실제의 실질적인 혜택을 제공하는 중요한 사용 사례를 정확하게 목표로합니다.
Exabeam Nova와 함께, 당신은“보조에서 자율적으로 이사하는 것을 목표로하고 있습니다. 완전히 자율 보안 운영을위한 주요 이정표는 무엇입니까?
완전히 자율적 인 보안 운영에 대한 아이디어는 흥미롭지 만 조기입니다. 모든 영역에서 완전히 자율적 인 에이전트는 단순히 효율적이거나 안전하지 않습니다. AI의 의사 결정이 개선되고 있지만, 인적 수준의 신뢰성에 도달하지 못했으며 한동안 그렇지 않습니다. Exabeam에서 우리의 접근 방식은 Total Autonomy를 쫓지 않으며, OWASP의 그룹은 과도한 대행사로 알려진 핵심 취약점으로 식별합니다. 에이전트에게 안정적으로 테스트 및 검증 될 수있는 것보다 더 많은 자율성을 제공합니다. 대신, 우리의 목표는 SOC의 인간 전문가의 감독하에 일하는 유능하고 신중하게 안내되는 지능형 에이전트 팀입니다. 인간의 감독과 대상 에이전트 지원의 조합은 현실적이고 영향력있는 경로입니다.
실시간 사이버 보안에 필요한 규모로 Genai 및 기계 학습을 통합 한 가장 큰 과제는 무엇입니까?
사이버 보안을 위해 Genai 및 Machine Learning을 통합하는 데있어 가장 큰 과제 중 하나는 균형을 잡는 속도와 정밀도입니다. Genai만으로도 고속 ML 엔진 처리의 얇은 규모를 대체 할 수는 없습니다. 가장 진보 된 AI 에이전트조차도 매우 불충분 한 “컨텍스트 창”을 가지고 있습니다. 대신, 우리의 레시피에는 ML을 사용하여 대규모 데이터를 실행 가능한 통찰력으로 증류하는 것이 포함되며, 이는 지능형 에이전트가 효과적으로 번역하고 운영합니다.
LLM 응용 프로그램 용 OWASP Top 10을 공동 설립했습니다. 이것에 영감을 주었고 AI 보안 모범 사례를 형성하는 방법은 무엇입니까?
2023 년 초 LLM 응용 프로그램 용 OWASP Top 10을 출시했을 때 LLM 및 Genai 보안에 대한 구조화 된 정보는 거의 없었지만 관심은 매우 높았습니다. 며칠 내에 200 명 이상의 자원 봉사자들이 이니셔티브에 참여하여 다양한 의견과 전문 지식을 가져와 원래 목록을 형성했습니다. 그 이후로 10 만 번 이상 읽었으며 국제 산업 표준의 기본이되었습니다. 오늘날이 노력은 AI RED 팀과 같은 영역, 에이전트 시스템 보안 및 사이버 보안에서 Gen AI의 공격적인 사용을 처리하는 OWASP Gen AI 보안 프로젝트로 확대되었습니다. 우리 그룹은 최근 10,000 명의 회원을 능가했으며 전 세계 AI 보안 관행을 계속 발전시키고 있습니다.
당신의 책, ’LLM 보안을위한 개발자의 플레이 북‘, 최고 상을 수상했습니다. 안전한 응용 프로그램을 구축 할 때 모든 AI 개발자가 이해해야하는 책에서 가장 중요한 테이크 아웃이나 원칙은 무엇입니까?”
저의 저서 인“LLM Security를위한 개발자의 플레이 북”에서 가장 중요한 테이크 아웃은 간단합니다. 전통적인 보안 개념을 이해하는 것은 필수적이지만 개발자는 이제 LLM에 고유 한 완전히 새로운 도전 과제에 직면 해 있습니다. 이 강력한 기술은 무료 패스가 아니며 적극적이고 사려 깊은 보안 관행이 필요합니다. 개발자는 이러한 새로운 취약점을 처음부터 인식하고 해결하여 AI 응용 프로그램 수명주기의 모든 단계에 보안을 포함시켜야합니다.
에이전트 AI가 더 주류가되면서 사이버 보안 인력이 향후 5 년 내에 진화하는 것을 어떻게 보십니까?
우리는 현재 AI 무기 경주에 있습니다. 적대자들은 악의적 인 목표를 향상시키기 위해 AI를 적극적으로 배치하여 사이버 보안 전문가를 그 어느 때보 다 중요하게 만들고 있습니다. 앞으로 5 년 동안 사이버 보안 인력이 줄어들지 않으며,이를 향상시킬 것입니다. 전문가는 AI를 수용하여 팀과 워크 플로에 통합해야합니다. 보안 역할은 전략적 명령으로 전환 할 것입니다. 이 변화는 사이버 보안 전문가들이 끊임없이 진화하는 위협과의 전투에서 결정적이고 자신있게 이끌어 줄 수있게합니다.
훌륭한 인터뷰에 감사드립니다. 더 배우고 싶은 독자들은 방문해야합니다. exabeam.
게시물 Steve Wilson, Exabeam의 AI 최고 및 제품 책임자 – 인터뷰 시리즈 먼저 나타났습니다 Unite.ai.