생성적 AI가 가져오는 사업적 혁신에는 AI 자체가 일종의 진보의 추진력으로 확보하는 데 도움이 될 수 있는 위험이 따릅니다.
20년 전 개방형 인터넷을 재빨리 받아들인 회사들은 그 혜택을 가장 먼저 누리고 현대적 네트워크 보안에 능숙해진 회사들 중 하나입니다.
엔터프라이즈 AI는 오늘날 비슷한 패턴을 따르고 있습니다. 특히 강력한 생성 AI 기능을 통해 발전을 추구하는 조직은 이러한 학습을 적용하여 보안을 강화하고 있습니다.
이 여정을 시작한 사람들을 위해 AI를 사용하여 다음 세 가지 문제를 해결하는 방법을 소개합니다. 최고 보안 위협 산업 전문가들은 대규모 언어 모델을 식별했습니다.LLM(법학 석사)).
AI 가드레일, 신속한 주사를 막다
생성 AI 서비스는 그 뒤에 있는 LLM을 방해하거나 데이터에 액세스하도록 설계된 악성 프롬프트의 공격을 받습니다. 위에 인용된 보고서에서 언급했듯이 “직접 주입은 시스템 프롬프트를 덮어쓰고 간접 주입은 외부 소스의 입력을 조작합니다.”
신속한 주사에 대한 가장 좋은 해독제는 LLM에 내장되거나 주변에 배치된 AI 가드레일입니다. 도로의 금속 안전 장벽과 콘크리트 연석처럼 AI 가드레일은 LLM 신청을 궤도와 주제에 맞게 유지합니다.
업계는 이 분야에서 솔루션을 제공했으며 계속해서 작업하고 있습니다. 예를 들어, NVIDIA NeMo 가드 레일 소프트웨어를 사용하면 개발자가 생성 AI 서비스의 신뢰성, 안전성 및 보안을 보호할 수 있습니다.
AI는 민감한 데이터를 감지하고 보호합니다
LLM이 프롬프트에 제공하는 응답은 때때로 민감한 정보를 공개할 수 있습니다. 다중 요소 인증 및 기타 모범 사례를 통해 자격 증명은 점점 더 복잡해지고 있으며, 민감한 데이터로 간주되는 범위가 확대되고 있습니다.
공개를 방지하기 위해 모든 민감한 정보는 AI 훈련 데이터에서 신중하게 제거하거나 가려야 합니다. 훈련에 사용되는 데이터 세트의 크기를 감안할 때, 인간은 데이터 정리 프로세스가 효과적인지 확인하기 어렵지만 AI 모델은 쉽습니다.
민감한 정보를 탐지하고 난독화하도록 훈련된 AI 모델은 LLM의 훈련 데이터에 실수로 남겨진 기밀 정보가 공개되는 것을 방지하는 데 도움이 될 수 있습니다.
사용 중 엔비디아 모피어스구축을 위한 AI 프레임워크 사이버 보안 애플리케이션, 기업은 네트워크에서 민감한 정보를 찾아 보호하는 AI 모델과 가속화된 파이프라인을 만들 수 있습니다. Morpheus는 AI가 기존의 규칙 기반 분석을 사용하는 인간이 할 수 없는 일을 할 수 있도록 합니다. 전체 기업 네트워크에서 방대한 데이터 흐름을 추적하고 분석합니다.
AI는 접근 제어 강화에 도움이 될 수 있습니다
마지막으로, 해커는 LLM을 사용하여 조직의 자산에 대한 액세스 제어를 시도할 수 있습니다. 따라서 기업은 생성 AI 서비스가 권한 수준을 초과하지 않도록 방지해야 합니다.
이 위험에 대한 가장 좋은 방어책은 보안 설계의 모범 사례를 사용하는 것입니다. 구체적으로, LLM에 최소한의 권한을 부여하고 지속적으로 해당 권한을 평가하여 의도한 기능을 수행하는 데 필요한 도구와 데이터에만 액세스할 수 있도록 합니다. 이 간단하고 표준적인 접근 방식은 이 경우 대부분 사용자에게 필요한 전부일 것입니다.
그러나 AI는 LLM에 대한 액세스 제어를 제공하는 데에도 도움이 될 수 있습니다. 별도의 인라인 모델을 훈련하여 LLM의 출력을 평가하여 권한 상승을 감지할 수 있습니다.
사이버 보안 AI로의 여정을 시작하세요
어떤 기술도 만병통치약은 아닙니다. 보안은 계속해서 진화하는 대책과 대응책에 관한 것입니다. 그 여정에서 가장 잘하는 사람들은 최신 도구와 기술을 활용합니다.
AI를 보호하려면 조직이 AI에 익숙해야 하며, 이를 위한 가장 좋은 방법은 의미 있는 사용 사례에 배포하는 것입니다. NVIDIA와 파트너는 AI, 사이버 보안 및 사이버 보안 AI에서 풀스택 솔루션을 도울 수 있습니다.
앞으로 AI와 사이버 보안은 일종의 선순환, 즉 서로를 더 좋게 만드는 진보의 플라이휠로 긴밀하게 연결될 것입니다. 궁극적으로 사용자는 이를 또 다른 형태의 자동화로 신뢰하게 될 것입니다.
NVIDIA에 대해 자세히 알아보세요 사이버 보안 AI 플랫폼 그리고 그것이 어떻게 진행되고 있는지 활용하다. 그리고 전문가의 사이버 보안 강연을 들어보세요. 엔비디아 AI 서밋 10월에.
