인공 지능 (AI)에는 데이터가 필요합니다. 필요한 정보를 수집하는 것이 오늘날의 환경에서 항상 어려운 것은 아닙니다. 많은 공개 데이터 세트를 사용할 수 있고 매일 많은 데이터가 생성됩니다. 그러나 그것을 확보하는 것은 또 다른 문제입니다.
방대한 크기의 AI 훈련 데이터 세트와 AI 모델의 영향은 사이버 범죄자로부터 관심을 초대합니다. AI에 대한 의존이 증가함에 따라이 기술을 개발하는 팀은 교육 데이터를 안전하게 유지하기 위해주의를 기울여야합니다.
AI 교육 데이터에 더 나은 보안이 필요한 이유
AI 모델을 훈련시키는 데 사용하는 데이터는 실제 사람, 비즈니스 또는 이벤트를 반영 할 수 있습니다. 따라서, 귀하는 상당한 양의 개인 식별 정보 (PII)를 관리 할 수 있으며, 이로 인해 노출 된 경우 상당한 개인 정보 보호 위반이 발생할 수 있습니다. 2023 년에 Microsoft는 실수로 노출 된 사건을 겪었습니다 38 개인 정보의 38 테라 바이트 AI 연구 프로젝트 중.
AI 교육 데이터 세트는 또한보다 유해한 적대적 공격에 취약 할 수 있습니다. 사이버 범죄자는 교육 데이터가 액세스 할 수있는 경우 교육 데이터를 조작하여 기계 학습 모델의 신뢰성을 변경할 수 있습니다. 데이터 중독으로 알려진 공격 유형이며 AI 개발자는 너무 늦을 때까지 효과를 알 수 없습니다.
연구에 따르면 중독이 밝혀졌습니다 데이터 세트의 0.001% AI 모델을 손상시키기에 충분합니다. 적절한 보호가 없으면 이와 같은 공격은 모델이 실제 구현을 볼 때 심각한 영향을 줄 수 있습니다. 예를 들어, 손상된 자율 주행 알고리즘은 보행자를 알아 차리지 못할 수 있습니다. 또는 이력서 스캔 AI 도구는 편향된 결과를 생성 할 수 있습니다.
덜 심각한 상황에서 공격자는 산업 간첩 행위에서 교육 데이터 세트에서 독점 정보를 훔칠 수 있습니다. 또한 공인 된 사용자를 데이터베이스에서 잠그고 몸값을 요구할 수도 있습니다.
AI가 삶과 비즈니스에 점점 더 중요 해짐에 따라 사이버 범죄자들은 교육 데이터베이스를 타겟팅하여 더 많은 것을 얻습니다. 이러한 모든 위험은 차례로 추가로 걱정됩니다.
AI 교육 데이터를 보호하기위한 5 단계
이러한 위협에 비추어 AI 모델을 교육 할 때 보안을 진지하게 받아들이십시오. 다음은 AI 교육 데이터를 보호하기 위해 따라야 할 5 가지 단계입니다.
1. 교육 데이터 세트에서 민감한 정보를 최소화합니다
가장 중요한 조치 중 하나는 교육 데이터 세트에서 민감한 세부 사항의 양을 제거하는 것입니다. 데이터베이스에 PII 또는 기타 귀중한 정보가 적을수록 해커에게는 목표가 적습니다. 이러한 시나리오에서 발생하는 경우 위반도 영향력이 떨어집니다.
AI 모델은 종종 교육 단계에서 실제 정보를 사용할 필요가 없습니다. 합성 데이터는 귀중한 대안입니다. 합성 데이터에 대해 훈련 된 모델이 될 수 있습니다 더 정확하지 않은 것처럼 다른 사람들보다 성능 문제에 대해 걱정할 필요가 없습니다. 생성 된 데이터 세트가 실제 데이터와 비슷하고 행동하는지 확인하십시오.
또는 사람들의 이름, 주소 및 재무 정보와 같은 민감한 세부 사항의 기존 데이터 세트를 문지르면됩니다. 그러한 요소가 모델에 필요한 경우, 스탠드 인 더미 데이터로 교체하거나 레코드간에 교체하는 것을 고려하십시오.
2. 교육 데이터에 대한 액세스를 제한합니다
교육 데이터 세트를 컴파일하면 액세스를 제한해야합니다. 최소 특권의 원칙을 따르십시오. 이는 모든 사용자 나 프로그램이 작업을 올바르게 완료하는 데 필요한 것에 만 액세스 할 수 있어야한다고 명시하십시오. 교육 과정에 관여하지 않은 사람은 데이터베이스를 보거나 상호 작용할 필요가 없습니다.
권한 제한은 사용자를 확인하는 신뢰할 수있는 방법을 구현하는 경우에만 효과적입니다. 사용자 이름과 비밀번호로는 충분하지 않습니다. MFA (Multi-Factor Authentication)는 중지되므로 필수적입니다 모든 공격의 80% ~ 90% 계정에 대해서는 모든 MFA 방법이 동일하지는 않습니다. 텍스트 기반 및 앱 기반 MFA는 일반적으로 이메일 기반 대안보다 안전합니다.
사용자뿐만 아니라 소프트웨어와 장치를 제한해야합니다. 교육 데이터베이스에 액세스 할 수있는 유일한 도구는 AI 모델 자체와 교육 중에 이러한 통찰력을 관리하는 데 사용하는 모든 프로그램이어야합니다.
3. 데이터를 암호화하고 백업합니다
암호화는 또 다른 중요한 보호 조치입니다. 모든 머신 러닝 알고리즘이 암호화 된 데이터를 적극적으로 훈련 할 수있는 것은 아니지만 분석 중에 암호를 암호화하고 해독 할 수 있습니다. 그런 다음 완료되면 다시 암호화 할 수 있습니다. 또는 암호화 된 상태에서 정보를 분석 할 수있는 모델 구조를 살펴보십시오.
어떤 일이 발생하는 경우에도 교육 데이터의 백업을 유지하는 것이 중요합니다. 백업은 기본 사본과 다른 위치에 있어야합니다. 데이터 세트가 미션 크리티컬한지에 따라 오프라인 백업과 클라우드에 1 개의 백업을 유지해야 할 수도 있습니다. 모든 백업도 암호화해야합니다.
암호화와 관련하여 메소드를주의 깊게 선택하십시오. 더 높은 표준은 항상 바람직하지만 양자 공격의 위협이 증가함에 따라 양자 내성 암호화 알고리즘을 고려할 수 있습니다.
4. 액세스 및 사용을 모니터링하십시오
이러한 다른 단계를 따르더라도 사이버 범죄자는 방어를 뚫을 수 있습니다. 결과적으로 AI 교육 데이터로 액세스 및 사용 패턴을 지속적으로 모니터링해야합니다.
24 시간 내내 의심스러운 활동을 지켜 볼 직원 수준이 거의 없기 때문에 자동화 된 모니터링 솔루션이 필요할 수 있습니다. 자동화는 또한 비정상적인 일이 발생할 때 행동 할 때 훨씬 빠릅니다. $ 2.22 낮은 데이터 위반 비용 더 빠르고 효과적인 응답에서 평균적으로.
누군가 또는 무언가가 데이터 세트에 액세스 할 때마다 기록하고 액세스를 요청하거나 변경하거나 다른 방식으로 상호 작용합니다. 이 활동에서 잠재적 인 위반을 지켜 보는 것 외에도 더 큰 트렌드에 대해 정기적으로 검토하십시오. 공인 사용자의 행동은 시간이 지남에 따라 변경 될 수 있으며, 이는 이러한 시스템을 사용하는 경우 액세스 권한이나 행동 생체 인식의 변화가 필요할 수 있습니다.
5. 정기적으로 위험을 재평가합니다
마찬가지로 AI DEV 팀은 사이버 보안이 일회성 수정이 아니라 진행중인 프로세스라는 것을 인식해야합니다. 공격 방법은 빠르게 발전합니다. 일부 취약점과 위협은 균열을 알아 차리기 전에 균열을 겪을 수 있습니다. 안전을 유지하는 유일한 방법은 보안 자세를 정기적으로 재평가하는 것입니다.
적어도 1 년에 한 번, AI 모델, 교육 데이터 및 영향을받는 보안 사고를 검토하십시오. 데이터 세트와 알고리즘을 감사하여 올바르게 작동하고 중독, 오도 또는 유해한 데이터가 존재하지 않도록합니다. 보안 컨트롤을 필요에 따라 비정상적으로 알 수 있도록 적응하십시오.
보안 전문가가 방어를 깰 수 있도록 방어를 테스트하는 침투 테스트도 유익합니다. 그러나 사이버 보안 전문가의 17% 펜 테스트는 적어도 매년 한 번 테스트하고, 72%가 조직의 위반을 중단했다고 생각합니다.
사이버 보안은 안전한 AI 개발의 핵심입니다
기계 학습에 대한 의존에 관한 잠재적 인 문제가 더욱 두드러지면 윤리적이고 안전한 AI 개발이 점점 더 중요 해지고 있습니다. 교육 데이터베이스 확보는 그 수요를 충족시키는 데 중요한 단계입니다.
AI 교육 데이터는 너무 귀중하고 사이버 위험을 무시하기에는 취약합니다. 오늘 5 단계를 따라 모델과 데이터 세트를 안전하게 유지하십시오.
게시물 AI 교육 데이터를 보호하는 방법 먼저 나타났습니다 Unite.ai.
