니콜라스 캐서만 Logicgate의 최고 정보 보안 책임자 (CISO)는 회사의 정보 보안 프로그램을 이끌고 플랫폼 보안 혁신을 감독하며 사이버 보안 위험 관리에 참여합니다. Kathmann은 20 년이 넘는 경험과 사이버 보안에서 18 년 이상의 경험을 쌓았을 때 소규모 비즈니스 및 Fortune 100 기업에서 보안 운영을 구축하고 이끌었습니다.
논리 조직이 거버넌스, 위험 및 규정 준수 (GRC) 프로그램을 자동화하고 확장하도록 도와주는 위험 및 규정 준수 플랫폼입니다. Logicgate는 플래그십 제품을 통해 Teams가 사용자 정의 가능한 워크 플로, 실시간 통찰력 및 통합으로 기업의 위험을 식별, 평가 및 관리 할 수 있도록합니다. 이 플랫폼은 타사 위험, 사이버 보안 규정 준수 및 내부 감사 관리를 포함하여 광범위한 사용 사례를 지원하여 기업이 더 민첩하고 탄력적 인 위험 전략을 구축 할 수 있도록 도와줍니다.
Logicgate에서 CISO와 CIO 역할을합니다. AI가 향후 2-3 년 안에 이러한 역할의 책임을 어떻게 변화 시키는가?
AI는 이미이 두 가지 역할을 모두 변화시키고 있지만 향후 2-3 년 안에 우리는 매일 비즈니스 프로세스를 어떻게 처리하는지 다시 상상할 수있는 에이전트 AI가 크게 증가 할 것이라고 생각합니다. 비밀번호 재설정, 응용 프로그램 설치 등과 같은 IT 헬프 데스크로 이동하는 것은 AI 에이전트가 처리 할 수 있습니다. 또 다른 중요한 사용 사례는 AI 에이전트를 활용하여 지루한 감사 평가를 처리하여 CISOS 및 CIO가보다 전략적인 요청을 우선시 할 수 있습니다.
연방 사이버 해고 및 규제 완화 동향으로 인해 기업은 강력한 보안 자세를 유지하면서 AI 배포에 어떻게 접근해야합니까?
우리는 미국에서 규제 완화 추세를보고 있지만 실제로 EU에서 규정이 강화되고 있습니다. 따라서 다국적 기업이라면 AI의 책임있는 사용과 관련하여 글로벌 규제 요구 사항을 준수해야합니다. 미국에서만 운영되는 회사의 경우 AI 채택 측면에서 학습 기간이 있음을 알 수 있습니다. 기업이 강력한 AI 거버넌스 정책을 형성하고 배치 프로세스에서 인간의 감독을 유지하는 것이 중요하다고 생각합니다.
AI를 기존 사이버 보안 프레임 워크에 통합 할 때 오늘날 가장 큰 사각 지대는 무엇입니까?
내가 생각할 수있는 몇 가지 영역이 있지만 가장 영향력있는 사각 지대는 데이터가있는 곳과 가로지는 곳입니다. AI의 도입은 해당 분야에서 더 많은 도전을 감독 할 것입니다. 공급 업체는 제품에서 AI 기능을 활성화하고 있지만 해당 데이터가 항상 AI 모델/공급 업체로 직접 이동하는 것은 아닙니다. 이로 인해 DLP 및 웹 모니터링과 같은 전통적인 보안 도구가 효과적으로 눈을 멀게합니다.
대부분의 AI 거버넌스 전략은“종이 호랑이”라고 말했습니다. 실제로 작동하는 거버넌스 프레임 워크의 핵심 성분은 무엇입니까?
“종이 호랑이”라고 말할 때, 저는 소규모 팀만이 프로세스와 표준을 알고 있으며 조직 전체에서 시행되거나 이해되지 않는 거버넌스 전략을 언급하고 있습니다. AI는 매우 널리 퍼져있어 모든 그룹과 모든 팀에 영향을 미칩니다. “하나의 크기는 모두에 맞습니다”전략은 효과가 없습니다. AI 기능을 ERP에 구현하는 재무 팀은 특정 제품에서 AI 기능을 구현하는 제품 팀과 다르며 목록은 계속됩니다. 강력한 거버넌스 프레임 워크의 핵심 성분은 다양하지만 IAPP, OWASP, NIST 및 기타 자문 기관은 평가 대상을 결정하기위한 매우 좋은 프레임 워크를 가지고 있습니다. 가장 어려운 부분은 요구 사항이 각 사용 사례에 적용되는시기를 파악하는 것입니다.
회사는 어떻게 AI 모델 표류를 피하고 정책을 과도하게 공학하지 않고 시간이 지남에 따라 책임있는 사용을 보장 할 수 있습니까?
드리프트 및 저하는 기술 사용의 일부일 뿐이지 만 AI는 프로세스를 크게 가속화 할 수 있습니다. 그러나 드리프트가 너무 커지면 시정 조치가 필요합니다. 정확성, 편견 및 기타 적기를 찾고 측정하는 포괄적 인 테스트 전략은 시간이 지남에 따라 필요합니다. 회사가 편견과 드리프트를 피하려면 식별하고 측정 할 수있는 도구를 갖추도록 시작해야합니다.
Agile AI 거버넌스를 유지하는 데 변경 사항, 제한된 정책 업데이트 및 실시간 피드백 루프가 어떤 역할을해야합니까?
현재 공급자에 대한 위험과 책임을 줄이기 위해 현재 역할을하는 동안 실시간 피드백은 고객과 사용자가 AI 거버넌스를 수행 할 수있는 능력을 방해합니다. 특히 커뮤니케이션 메커니즘의 변화가 너무 자주 발생하는 경우.
인수 또는 신용 점수에 대한 AI 편견 및 차별에 관한 우려는 특히 “지금 구매, 나중에 지불”(BNPL) 서비스를 통해 어떤 우려가 있습니까?
작년에 나는 위험 모델에서 AI/LLM을 실험 해 온 다국적 은행의 AI/ML 연구원과 이야기를 나 spoke습니다. 크고 정확한 데이터 세트에 대해 교육을 받았을 때에도 모델은 보험을 승인하거나 거부하기위한 지원되지 않는 결정을 내릴 수 있습니다. 예를 들어, “큰 신용”이라는 단어가 채팅 성적표 또는 고객과의 커뮤니케이션에 언급 된 경우, 모델은 기본적으로 고객이 말했는지 또는 은행 직원이 말한지 여부에 관계없이 대출을 거부 할 것입니다. AI가 의존한다면 은행은 더 나은 감독과 책임이 필요하며 이러한 “놀라움”을 최소화해야합니다.
스테이크가 많은 결정을 내리는 알고리즘을 감사하거나 평가하는 방법에 대한 귀하의 의견은 무엇이며 누가 책임을 져야합니까?
이는 포괄적 인 테스트 모델로 돌아가서 가능한 한 실시간에 알고리즘/모델을 지속적으로 테스트하고 벤치마킹해야합니다. 모델 출력이 특이 치를 식별하기 위해 인간이 필요한 바람직한 결과를 가질 수 있으므로 이것은 어려울 수 있습니다. 은행 예를 들어, 모든 대출을 거부하는 모델은 큰 위험 등급을 가질 것입니다. 이 경우 모델/알고리즘을 구현하는 조직은 인간이 결정을 내릴 때와 마찬가지로 모델의 결과에 책임이 있어야합니다.
사이버 보험이 필요한 더 많은 기업이 있으므로 AI 도구는 어떻게 위험 환경과 보험 계수 자체를 모두 재구성합니까?
AI 도구는 많은 양의 데이터를 배포하고 패턴 또는 트렌드를 찾는 데 능숙합니다. 고객 측면에서 이러한 도구는 조직의 실제 위험을 이해하고 해당 위험을 관리하는 데 중요한 역할을합니다. 보험업 자의 측면에서 이러한 도구는 시간이 지남에 따라 미숙 해지는 불일치와 조직을 찾는 데 도움이 될 것입니다.
기업은 AI를 활용하여 오늘날의 보험 시장에서 사이버 위험을 사전에 줄이고 더 나은 조건을 협상 할 수 있습니까?
오늘날, 위험을 줄이고 더 나은 보험 조건을 협상하기 위해 AI를 활용하는 가장 좋은 방법은 소음과 산만 함을 걸러내어 가장 중요한 위험에 집중하는 것입니다. 이러한 위험을 포괄적으로 줄이면 사이버 보험료가 하락해야합니다. 엄청난 양의 위험에 압도당하는 것은 너무 쉽습니다. 가장 중요한 문제에 초점을 맞출 때 모든 단일 문제를 해결하려고 노력하면 훨씬 더 큰 영향을 줄 수 있습니다.
책임감있게 AI를 구현하려는 회사에 권장하는 몇 가지 전술 단계는 무엇입니까?
먼저 사용 사례가 무엇인지 이해하고 원하는 결과를 문서화해야합니다. 모든 사람은 AI를 구현하기를 원하지만 먼저 목표를 생각하고 그곳에서 뒤로 작업하는 것이 중요합니다. 오늘날 많은 조직이 어려움을 겪고 있다고 생각합니다. 사용 사례를 잘 이해하면 다양한 AI 프레임 워크를 조사하고 사용 사례 및 구현에 해당 컨트롤이 중요한지 이해할 수 있습니다. 강력한 AI 거버넌스는 또한 비즈니스 중요합니다. 자동화는 데이터 입력만큼 유용하기 때문에 위험 완화 및 효율성을 위해서는 비즈니스 중요합니다. 파트너와 잠재 고객이 AI Sprawl 및 사용에 관한 어려운 질문을하기 때문에 AI를 활용하는 조직은 책임감있게해야합니다. 답을 알지 못하면 비즈니스 거래에 빠진 것을 의미 할 수 있으며 결론에 직접 영향을 미칩니다.
지금부터 5 년 후 가장 큰 AI 관련 보안 위험을 예측해야한다면, 어떻게 될 것인데, 오늘날 어떻게 준비 할 수 있습니까?
저의 예측은 에이전트 AI가 더 많은 비즈니스 프로세스 및 응용 프로그램에 내장 될 때, 공격자는 사기와 오용을 수행하여 해당 에이전트가 악의적 인 결과를 전달하도록 조작 할 것입니다. 우리는 이미 고객 서비스 에이전트의 조작으로 이것을 보았으며, 무단 거래 및 환불을 초래했습니다. 위협 행위자는 언어 트릭을 사용하여 정책을 우회하고 에이전트의 의사 결정을 방해합니다.
훌륭한 인터뷰에 감사드립니다. 더 배우고 싶은 독자들은 방문해야합니다. 논리.
게시물 Nick Kathmann, Ciso/CIO의 Logicgate – 인터뷰 시리즈 먼저 나타났습니다 Unite.ai.
