클라우디오노르 코엘료 그는 Zscaler의 최고 AI 책임자로서 최첨단 응용 기계 학습(ML), 딥 러닝 및 생성 AI 기술을 통해 데이터, 장치 및 사용자를 보호하는 새로운 방법을 찾도록 팀을 이끄는 책임을 맡고 있습니다. Zscaler에 합류하기 전에는 Advantest에서 최고 AI 책임자 및 엔지니어링 부문 수석 부사장을 역임했습니다. 이전에 Coelho는 Palo Alto Networks의 부사장 겸 AI 연구소 책임자였습니다. 그는 또한 Google에서 ML 및 딥 러닝 역할을 맡았습니다.
지스케일러 조직이 더 뛰어난 민첩성, 효율성, 탄력성 및 보안을 달성할 수 있도록 지원하여 디지털 혁신을 가속화하는 데 중점을 둡니다. 회사의 클라우드 기반 제로 트러스트 교환 플랫폼은 위치에 관계없이 사용자, 장치 및 애플리케이션을 안전하게 연결하여 사이버 공격 및 데이터 손실로부터 사용자를 보호하도록 설계되었습니다. Zscaler는 강력한 보안과 원활한 연결을 강조하면서 전 세계 수천 명의 고객에게 서비스를 제공하고 있습니다.
Zscaler의 첫 번째 AI 최고 책임자로서, 특히 AI와 사이버 보안을 통합하는 측면에서 회사의 AI 전략을 어떻게 형성하셨나요?
Zscaler는 사이버 보안을 위한 AI 분야에서 상당한 발전을 이루었으며 이는 경쟁사와 차별화됩니다. Zscaler의 제로 트러스트 플랫폼은 AI를 활용하여 피싱 페이지에서 자격 증명 도용과 브라우저 악용을 감지하고 중지합니다. 매일 4,000억 건이 넘는 거래에서 수집된 위협 인텔리전스는 정교한 사이버 공격에 대한 방어력을 강화하는 실시간 분석을 제공합니다. 또한 우리는 NVIDIA와 협력하여 IT 및 네트워크 운영을 단순화하는 동시에 Zero Trust Exchange™ 플랫폼의 데이터를 처리하여 위협으로부터 기업을 사전에 보호하는 Zscaler ZDX Copilot과 같은 생성적 AI 기반 보안 및 IT 혁신을 제공합니다. 마지막으로 Avalor 인수를 통해 보안용 Data Fabric을 사용하여 Zero Trust Exchange™ 기능을 확장했습니다. 150개 이상의 사전 구축된 통합을 통해 중요한 취약점을 식별하고 예측하는 동시에 운영 효율성을 향상시킵니다.
Kunumi를 포함하여 여러 회사를 설립하고 최고의 회사에서 리더십 역할을 맡았습니다. 귀하의 기업가적 배경이 Zscaler의 기업 AI 리더로서의 접근 방식에 어떤 영향을 미쳤습니까?
제가 전자 설계 자동화(Electronic Design Automation) 스타트업인 Jasper Design Automation에서 엔지니어링 SVP로 근무했을 때 우리는 수십억 달러 규모의 기업과 경쟁했지만 혁신, 비즈니스 프로세스 및 민첩성 덕분에 70~80% 이상의 시장 점유율을 달성했습니다. 전략 회의에서 제가 항상 참고한 책 중 하나는 Kathleen M. Eisenhardt 교수가 쓴 “Competing on the Edge: Strategy as Structured Chaos”였습니다. 이 책은 1998년에 나온 것이지만 오늘날 우리가 보고 있는 Generative AI에 여전히 적용됩니다.
세상을 변화시키는 기술이 이렇게 빠르게 발전한 적은 이전에 없었습니다. 모토로라 엔지니어 마틴 쿠퍼(Martin Cooper)는 1973년에 최초의 휴대폰 통화를 만들었지만, 최초의 상용 네트워크가 개설되기까지 10년이 걸렸고, 아이폰이 출시되기까지 24년이 더 걸렸으며, 이는 우리가 컴퓨터와 상호작용하는 방식을 변화시켰습니다.
ChatGPT는 2022년 11월에 출시되었습니다. 다음 해에 우리는 WEF가 후원하는 세미나에서 인공일반지능(AGI)이 곧 출시될 것이라고 논의했습니다. 당시 우리 중 소수만이 에이전트를 사용하여 AGI 이전에도 LLM의 공백을 도구로 채워 많은 지능형 시스템을 만들 수 있다는 것을 인식했습니다. 2024년에는 논의가 AI 에이전트로 옮겨갔고, 연말에는 여러 지능형 AI 에이전트(예: ZDX 부조종사 또는 블로그 플랫폼 Kiroku).
이런 속도는 스타트업 환경에서만 볼 수 있어 전례 없는 속도로 기술을 수용할 만큼 민첩성을 갖추기 위해 애쓰는 대규모 조직에서는 엄청난 스트레스를 주고 있다.
브라질과 미국에서 기업을 이끈 경험을 고려할 때 AI 및 사이버 보안 도입 측면에서 두 시장 간의 주요 차이점은 무엇입니까?
스타트업에 대해 논의하는 것은 시장 간의 유사점과 차이점을 설명하기 시작하는 좋은 방법입니다. 스타트업은 대기업에 도달하기 전에 급진적인 혁신을 흔히 볼 수 있는 곳이기 때문입니다. 브라질의 스타트업에 대한 일반적인 전략은 성공적인 초기 단계의 미국 스타트업을 모방하는 것이었습니다. 미국 스타트업은 일반적으로 내부 시장을 먼저 살펴보기 때문입니다(이것이 변화하고 있음). 그러나 미국은 전통적으로 회사를 시작하기가 더 쉬운 보다 안정적인 자본 시스템을 갖추고 있습니다.
저는 2014년에 브라질 최초의 딥러닝 회사인 Kunumi를 설립했습니다. 올해 초 Bradesco Bank에 매각되었습니다. 일반적으로 브라질 기업은 제너레이티브 AI를 어떻게 채택할지 모르고 많은 실수를 보게 될 것입니다. 이는 미국에서도 마찬가지입니다. 저는 제 인생에서 4대의 Copilot을 만들었습니다. 첫 번째는 Synopsys에 근무하던 2016년이었습니다. 다국어 지원으로 대형 에뮬레이션 머신의 컴파일 및 실행 로그를 스캔하고 사용자의 질문과 관련된 정보를 검색할 수 있는 에이전트였습니다. 그 당시에는 변환기도, LLM도 없었고, 심지어 번역도 오늘날의 것과는 매우 달랐습니다.
2020년에 저는 Google에서 연구원으로 딥 러닝 모델 압축 및 양자화 작업을 진행했으며, CERN에서는 제가 아원자 입자 검색을 위해 만든 것을 사용했습니다. 우리가 데이터를 두고 전쟁을 벌이고 있다고 생각했을 때, 사이버 보안은 한 국가나 다른 국가에 국한되지 않는 세계적인 문제라는 것이 분명해졌습니다. 그때 나는 그 곳으로 이사하기로 결정했습니다.
몇 달 전, 나는 사이버 보안이 미국의 문제이고 그의 기관은 걱정할 것이 없다고 말하는 외국 정부 관리와 이야기를 나누었습니다. 단지 몇 주 후에 그의 조직에서 사이버 공격이 일어날 뿐이었습니다.
마지막으로, 사이버 보안 상태를 브라질과 미국 간의 랜섬웨어 혐의와 비교해 보면 실제로 랜섬웨어 요금 추정치는 거의 동일합니다.
브라질과 미국의 AI 및 사이버 보안에 대한 규제 환경은 어떻게 다르며, 이는 이 지역의 혁신에 어떤 영향을 미치나요?
Generative AI가 매우 빠르게 움직이기 때문에 정부는 무언가를 보호해야 할 필요성을 인식하지만 보호하려는 것이 무엇인지 명확하지 않은 경우가 많습니다. 2023년에 LLM에 대한 법률을 제정하고 2024년에 AI 에이전트를 사용한다면 어떤 영향을 미치나요? 규제가 필요하지만, 지역 시민을 더 잘 보호할 수 있는 방법을 알아보기 위해 규제 환경을 냉정하게 분석해야 합니다.
즉, AI가 이유나 특징을 나타내는 정확한 숫자 입력에만 의존하여 결정을 내릴 때 분석은 종종 불완전하고 결함이 있는 실제 결과를 산출합니다. 예를 들어 AI 알고리즘이 ‘확률’이라는 모호한 기준과 급여, 인종 등의 요소를 포함해 개인에게 대출 결정을 내린다면, 그 사람이 대출을 거부하는 시나리오를 쉽게 볼 수 있다. 두 가지 요소 중 하나의 순 효과입니다. Generative AI를 사용하면 LLM이 외부 데이터를 가져와 추론 가정을 할 수 없기 때문에 문제가 더욱 악화됩니다. 결함이 있는 시스템은 실수할 수밖에 없기 때문에 (특히 심층적인 감독 없이) 결정을 내리는 것을 허용하지 않는 규정을 마련하는 것이 중요합니다.
반면에 인간과 비교했을 때 사고가 발생하기 전까지 주행할 수 있는 마일 수를 초과하는 것으로 입증된 Tesla 자동차의 완전 자율 주행 능력에 매우 만족했습니다. 예, 실수를 합니다. 하지만 부조종사가 장착된 비행기에서도 비상 상황이 발생하면 조종사가 조종권을 넘겨받아야 합니다.
사이버 보안과 관련하여 여러 미국 조직(예: JCDC.AI, NIST, CISA 등)은 AI 및 사이버 보안을 다룰 필요성에 대해 논의했습니다. 물론 빠르게 변화하는 시장이나 기술에서는 변화에 지속적으로 적응해야 하며, 변화가 극도로 빠르게 움직일 때는 혼란의 가장자리에서 운영해야 합니다.
Zscaler의 Zero Trust Exchange는 보안 모델의 핵심 부분입니다. AI는 이 플랫폼을 어떻게 향상시키며, 이 분야에서 가장 흥미로운 발전은 무엇입니까?
Zscaler의 제로 트러스트 아키텍처는 조직이 AI 배포를 위한 보다 안전한 환경을 조성하는 데 도움이 될 뿐만 아니라 생성적 AI 기반 보안 혁신을 제공하는 ZDX Copilot을 시작으로 다양한 방식으로 AI를 활용합니다. NVIDIA와 협력하여 개발된 이 에이전트는 Generative AI를 활용하여 위협으로부터 기업을 사전에 방어하고 IT 및 네트워크 운영을 단순화합니다. 또한 Zscaler는 Avalor의 보안용 데이터 패브릭을 Zscaler Zero Trust Exchange에 추가하여 예측 취약성 식별 기능을 강화했습니다. 마지막으로 AI는 Zscaler의 제로 트러스트 플랫폼의 핵심으로 피싱 페이지에서 자격 증명 도용과 브라우저 악용을 탐지하고 차단합니다. 매일 4,000억 건이 넘는 거래에서 수집된 위협 인텔리전스를 기반으로 한 실시간 분석은 정교한 사이버 공격에 대한 방어력을 강화합니다.
AI는 사이버 위협에 맞서 싸우는 데 점점 더 중심이 되고 있습니다. 특히 IoT 및 OT 장치 영역에서 증가하는 사이버 보안 위험의 복잡성을 해결하기 위해 AI가 어떻게 진화한다고 보시나요?
AI 기반 사이버 공격의 출현으로 위협 환경이 명백히 발전했기 때문에 조직은 AI를 사용하여 AI에 맞서 싸울 수 있습니다. 주요 발전은 추가 데이터 소스를 통해 AI 솔루션을 향상시키는 것입니다.
사이버 공격의 수가 증가함에 따라 사이버 위험을 탐지하고 해결하기 위해 AI를 통한 자동화를 더 많이 사용해야 합니다. AI와 생성적 AI가 현재 새로운 공격 전선을 만들기 위해 사용되고 있다는 점은 주목할 가치가 있으며, 이로 인해 이전보다 더 많은 신호를 연관시켜 게임을 향상시켜야 합니다.
IoT 및 OT 장치의 경우 Wi-Fi 스위치, 인터넷 연결 TV, 식기 세척기 등을 쉽게 구입할 수 있음에도 불구하고 여러 IoT 장치가 최신 소프트웨어 스택을 사용하지 않기 때문에 조직에 심각한 위험을 초래합니다. , 오븐 등. 수년 동안 우리는 보았습니다. 많은 조항 IoT/OT에서 우리가 직면할 수 있는 취약점을 보여줍니다.
우리는 모든 유형의 데이터와 신호를 분석하여 이상 현상과 잠재적인 위협을 탐지함으로써 지속적인 인식과 사이버 보안 방어를 강화해야 합니다. 이 게임에서 승리하려면 실시간으로 대량의 데이터로 훈련된 최첨단 AI 모델이 필요합니다. 생성적 AI는 기업이 사용자와 보안 운영자에게 결과를 분석하고 요약할 수 있도록 지원함으로써 중요한 역할을 합니다.
세계 경제 포럼의 AI 및 사이버 보안 작업 그룹의 일원으로서 AI 윤리 및 사이버 보안에 대한 글로벌 논의가 Zscaler에서의 역할에 대한 접근 방식을 어떻게 형성합니까?
기술이 너무 빠르게 발전하기 때문에 정부와 조직은 기초 정보를 확보해야 하는데 이것이 바로 세계경제포럼의 역할이라고 생각합니다. AI와 사이버보안만으로도 별도의 그룹이 필요할 만큼 충분히 필요하지만, 이 둘을 병합하면 그 자체로 거의 새로운 영역이 된다. 예를 들어, 올해 Gartner는 Generative AI가 입력 및 출력 시 즉각적인 주입부터 애플리케이션 코드 공격, 모델 공격, 심지어 플러그인 공격까지 공격 표면을 엄청나게 증가시키는 것을 보여주었습니다.
이러한 공격 중 일부는 ChatGPT와 같은 LLM에만 국한되지만 LLM에서 AI 에이전트 및 다중 에이전트 시스템으로 전환하는 것을 고려한다면 더 많은 정보를 고려해야 합니다. 예를 들어, LLM에서는 신속한 주입, 수면 셀 동작(특수 키워드에 따라 다르게 반응하도록 LLM을 트리거) 또는 독점 정보 유출에 관심을 가질 수 있습니다. AI 에이전트를 논의할 때 도구 및 데이터 소스에 대한 공격도 고려해야 하며, SQL 주입 및 OS 명령 주입이 다시 가능할 수 있다는 가정도 고려해야 합니다.
또한 에이전트가 서로 다른 위치에 상주할 수 있는 다중 에이전트 시스템을 추가하면 이는 프로토콜과 통신하는 완전히 다른 네트워크를 의미한다고 상상해야 합니다. 사람들은 컴퓨터 네트워크처럼 수천 개의 에이전트를 실험해 왔습니다.
마지막으로, 우리는 인력이 제너레이티브 AI를 사용할 수 있도록 준비하고 이들이 이 새로운 세계에서 작업할 수 있는 도구와 환경을 제공해야 합니다.
귀하는 특히 Zscaler의 라틴계 및 히스패닉 ERG인 Sabor의 총괄 후원자로서 다양성과 포용성을 강력히 옹호해 왔습니다. 귀하의 문화적 배경이 귀하의 리더십 스타일과 AI 개발 접근 방식에 어떤 영향을 미쳤습니까?
브라질에서 태어나고 자란 자랑스러운 라틴계인 저는 Zscaler의 라틴계 및 히스패닉 커뮤니티를 지원하고 역량을 강화하는 데 열정을 갖고 있습니다. 나는 abl이 되어서 큰 성취감을 느낀다. e 사이버 보안을 통해 더 나은 세상에 기여하고, 점점 더 복잡해지는 세상에서 사회를 보호하는 데 도움을 줍니다. 나의 가치관은 지금의 나를 있게 하는 데 도움이 되었으며, 내가 어디에서 왔는지를 매우 자랑스럽게 생각합니다.
나의 조언은 당신이 어디서 왔는지, 무엇을 했는지 결코 잊지 말라는 것입니다. 당신을 독특하게 만드는 것에 대해 항상 자부심을 가지세요. 또한 다양성이 왕이라는 점을 인식하세요. 나는 하루 24시간 나 자신과 함께 산다. 나와 비슷하고 나와 동의하는 사람만 고용한다면 지식이 늘어나지 않을 것입니다. 다양한 위치와 배경의 사람들을 고용하면 글로벌 고객 기반의 특정 요구 사항을 더 잘 이해하는 데 도움이 됩니다.
마지막으로, 사이버 보안 분야에서 AI의 미래에 대해 가장 흥미로운 점은 무엇이며, 그 미래에서 Zscaler가 어떤 역할을 할 것으로 보시나요?
AI는 효과적인 사이버 방어의 기본을 바꾸지 않으며 그 중요성을 강조합니다. 우리는 투명성, 강력한 보안 관행 및 지속적인 모니터링이 업계 전반에 확산될 것으로 기대합니다. 조직은 보안에 대한 포괄적인 접근 방식을 채택하고 위협을 탐지하고 대응하기 위한 고급 조치를 구현해야 합니다. 여기에는 보안 인식 문화 조성, 정기적인 보안 감사 수행, 이해관계자와 협력하여 효과적인 보안 전략 개발이 포함됩니다. 이를 통해 조직은 침해 위험을 줄이고 민감한 정보를 보호할 수 있습니다.
Zscaler는 최첨단 기술을 사용하여 데이터를 익명화하고 LLM에서 데이터를 보호하여 개별 사용자 또는 조직의 식별을 방지함으로써 사용자 개인 정보를 보호하기 위해 최선을 다하고 있습니다. 향후 LLM을 미세 조정하는 방법을 모색할 수도 있지만, 사용자 데이터가 손상되지 않도록 하기 위한 엄격한 데이터 개인 정보 보호 조치가 계속해서 가장 중요할 것입니다. 우리의 목표는 AI의 힘을 활용하여 고객의 개인 정보를 침해하지 않으면서 보안을 강화하는 것입니다.
훌륭한 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자들은 방문하시기 바랍니다. 지스케일러.
게시물 Claudio Coelho, Zscaler의 최고 AI 책임자 – 인터뷰 시리즈 처음 등장한 Unite.AI.