Paola Zeni는 최고 개인정보보호책임자입니다. 링센트럴그녀는 20년 이상의 개인정보 보호 경험을 가진 국제 개인정보 보호 변호사이며, Symantec과 Palo Alto Networks에서 일하며 개인정보 보호 프로그램을 처음부터 구축한 사이버 보안 산업의 베테랑입니다.
데이터 개인정보 보호 분야에서 경력을 쌓게 된 계기는 무엇입니까?
1990년대 후반, EU 회원국이 1995년 EU 데이터 보호 지침을 시행할 당시, 데이터 프라이버시가 유럽에서 중요한 문제로 부상하기 시작했습니다. HP와 Agilent Technologies와 같은 기술 회사에서 일하는 기술 변호사로서 저는 이것이 관련 주제라고 생각했고, 이에 주의를 기울이고 프라이버시 요구 사항에 대한 이해를 넓히기 시작했습니다. 저는 이것이 제가 관여하고 싶은 분야라는 것을 금방 알았습니다. 왜냐하면 그것이 법적으로 흥미롭고 도전적일 뿐만 아니라 조직 전체의 많은 팀과 많은 프로세스에 영향을 미치는 문제이기 때문입니다. 데이터 프라이버시에 관여한다는 것은 다양한 그룹과 개인과 협력하고 비즈니스의 여러 측면에 대해 배우는 것을 의미합니다. 조직의 여러 기능에서 중요한 문제에 영향을 미치고 변화를 주도할 수 있는 동시에 급성장하는 법률 분야를 따르는 것은 매우 보람 있는 일이었습니다. 오늘날 데이터 프라이버시 분야에서 일하는 것은 기술 발전과 글로벌 수준에서 증가한 법적 복잡성을 고려할 때 그 어느 때보다 더 흥미진진합니다.
RingCentral에 처음 가입했을 때 다음을 생성했습니다. 신뢰 센터이게 구체적으로 무슨 뜻인가요?
RingCentral에서는 고객과 파트너에게 데이터의 프라이버시와 보안에 대한 정보를 제공하는 것이 서비스에 대한 신뢰를 구축하고 유지하는 데 필수적이라고 생각합니다. 이러한 이유로 우리는 핵심 제공 사항에 대한 제품 프라이버시 데이터시트, 백서, 규정 준수 가이드와 같은 담보와 리소스를 계속 생성하고 이를 공개 Trust Center에서 고객과 파트너에게 제공합니다. 가장 최근에 AI 투명성 백서를 추가했습니다. Trust Center는 주요 이해 관계자와의 투명성에 대한 우리의 약속의 중요한 구성 요소입니다.
RingCentral은 개인정보 보호 원칙이 모든 AI 기반 제품과 서비스에 통합되도록 어떻게 보장합니까?
인공 지능은 기업이 새로운 잠재력을 발휘하고 데이터에서 의미 있는 정보와 통찰력을 빠르게 추출할 수 있도록 지원할 수 있지만 이러한 이점에는 책임이 따릅니다. RingCentral에서 우리는 고객과 데이터를 보호하는 데 끊임없이 집중하고 있습니다. 우리는 제품 개발 관행을 안내하는 개인 정보 보호 기둥을 통해 이를 달성합니다.
개인 정보 보호 디자인: 우리는 제품 고문, 제품 관리자, 제품 엔지니어와 긴밀히 협력하여 AI를 구현하는 제품 및 서비스의 측면 전반에 개인정보 보호 원칙과 개인정보 보호 요구 사항을 내장함으로써 개인정보 보호 설계 방식을 활용합니다. 개인정보 보호 평가는 아이디어에서 배포에 이르기까지 제품 개발 라이프사이클에 통합되며, 이를 기반으로 AI 검토 및 지침을 수행합니다.
투명도: 당사는 투명성을 추구하고 서비스에 대한 신뢰를 구축하는 일환으로 고객, 파트너, 사용자에게 데이터가 수집되고 사용되는 방법에 대한 담보와 리소스를 제공합니다.
고객 통제: 고객이 결정을 내릴 때 통제력을 유지할 수 있는 옵션을 제공합니다. 어떻게 그들은 AI가 그들의 데이터와 상호작용하기를 원합니다.
RingCentral의 AI 기반 커뮤니케이션 솔루션에 포함된 구체적인 개인 정보 보호 조치의 예를 들어주시겠습니까?
우선, 우리는 개인 정보 보호 데이터 시트에 데이터를 수집하고 처리하는 방법, 즉 누가 데이터를 저장하는지, 어떤 제3자가 데이터에 액세스할 수 있는지 등에 대한 자세한 정보를 제품 설명서에 추가했습니다. 이 정보는 Trust Center에 게시되어 있습니다. 우리는 구체적으로 어떤 데이터가 AI의 입력으로 사용되고 어떤 데이터가 AI의 출력으로 생성되는지 명시합니다. 또한 제품 고문과 협력하여 제품을 검토하는 일환으로 투명성에 대한 우리의 공약을 충족하기 위해 공개를 구현하고, 고객 관리자에게 AI와의 데이터 공유를 제어할 수 있는 옵션을 제공합니다.
AI 시대에 기업이 데이터 수집 및 사용에 관한 완전한 투명성을 유지하는 것이 중요한 이유는 무엇입니까?
신뢰할 수 있는 AI 도입을 촉진하기 위해 조직은 AI가 데이터를 처리하는 방식과 출력의 정확성에 대한 신뢰를 구축하는 것이 필수적입니다. 이는 AI가 훈련되는 데이터, 알고리즘이 적용하는 논리, 출력의 특성까지 확장됩니다.
우리는 공급업체가 투명하게 AI에 대한 정보를 공유하고, AI가 어떻게 작동하는지, 무엇에 사용되는지 알 때, 고객은 정보에 입각한 결정을 내릴 수 있고 사용자에게 보다 구체적인 공개를 제공할 수 있는 권한을 부여받아 AI 채택과 신뢰를 개선할 수 있다고 믿습니다. AI를 개발하고 제공할 때 우리는 모든 이해 관계자를 생각합니다. 고객뿐만 아니라 직원, 파트너, 고객도 포함됩니다.
조직에서는 공급업체가 엄격한 AI 사용 정책을 준수하도록 하기 위해 어떤 조치를 취할 수 있습니까?
RingCentral에서 우리는 AI를 배포하려면 우리와 공급업체 간의 신뢰가 필요하다고 생각합니다. 공급업체는 제품 아키텍처에 개인 정보 보호 및 데이터 보안을 내장해야 합니다. 이러한 이유로 우리는 특정 AI 검토를 추가하여 기존 공급업체 실사 프로세스를 구축했으며, RingCentral과 고객을 보호하기 위한 특정 요구 사항과 함께 타사 AI 사용에 대한 표준을 구현했습니다.
RingCentral은 AI 시스템에 입력되는 데이터의 정확성과 공정성을 보장하기 위해 어떤 전략을 사용합니까?
공정성을 지침 원칙으로 삼아, 우리는 끊임없이 AI의 영향을 고려하고 있으며, 잠재적인 편견과 위험에 대한 인식을 유지하는 데 전념하고 있으며, 의도치 않은 결과를 식별하고 완화하기 위한 메커니즘을 마련하고 있습니다.
- 우리는 모든 제품 리뷰에 적용하는 윤리적 AI 개발 프레임워크의 일환으로 편견을 식별하고 예방하기 위한 특정 프레임워크를 채택했습니다.
- AI에 대한 우리의 사용 사례에는 AI 시스템의 출력을 평가하기 위한 인간 참여가 포함됩니다. 예를 들어, 스마트 노트에서 생성된 노트의 내용을 모니터링하지 않더라도 사용자의 행동을 통해 노트가 정확한지 여부를 추론할 수 있습니다. 사용자가 노트를 지속적으로 편집하는 경우 RingCentral에 신호를 보내 프롬프트를 조정합니다.
- 인간 참여의 또 다른 예로, 우리의 검색 증강 생성 프로세스는 출력을 특정 지식 데이터베이스에 엄격하게 집중시키고 생성된 출력의 소스에 대한 참조를 제공합니다. 이를 통해 인간은 응답을 확인하고 참조 자체를 더 깊이 파고들 수 있습니다.
AI의 정확성을 보장함으로써, 우리는 설명 가능하고 투명한 AI를 제공하겠다는 약속을 지킵니다.
대규모 기업에 AI를 도입하면 어떤 개인정보 보호 문제가 발생하며, 이러한 문제는 어떻게 해결합니까?
우선, 기존의 개인정보 보호법에는 인공지능에 적용되는 조항이 포함되어 있다는 점을 기억하는 것이 중요합니다. 법률이 기술 중립적일 때, 법적 프레임워크와 윤리적 지침이 새로운 기술에 적용됩니다. 따라서 조직은 AI 사용이 GDPR 및 CPRA와 같은 기존 개인정보 보호법을 준수하도록 해야 합니다.
둘째, 프라이버시 전문가의 책임은 주마다, 국가마다 다른 신생 및 신흥 AI 법률을 모니터링하는 것입니다. AI 법률은 AI의 여러 측면을 다루지만, 새로운 AI 규제의 최우선 순위 중 하나는 프라이버시를 포함한 기본 인권의 보호입니다.
개인정보 보호 문제를 해결하는 데 있어 중요한 성공 요인은 사용자에 대한 투명성이며, 특히 AI가 개인에 대한 프로파일링을 수행하거나, 개인에게 영향을 미치고 선택이 가능하도록 하는 자동화된 결정을 내리는 경우 사용자는 불편함을 느끼는 AI 사용을 거부할 수 있습니다.
AI와 데이터 개인정보 보호의 미래 트렌드는 무엇이라고 생각하십니까? RingCentral은 앞서 나가기 위해 어떤 준비를 하고 있습니까?
주요 추세로는 지속적으로 시행될 새로운 법률, 투명성과 통제에 대한 사용자들의 요구 증가, 제3자 위험을 포함한 AI 관련 위험을 관리해야 할 필요성 증가, AI의 사이버 위험 증가 등이 있습니다.
기업은 견고한 거버넌스를 구축해야 하며 팀은 내부적 일치를 보장하고 위험을 최소화하며 사용자의 신뢰를 높이기 위해 기능 전반에서 협업해야 합니다. RingCentral에서 개인정보 보호, 보안 및 투명성에 대한 지속적인 노력은 타의 추종을 불허합니다. 우리는 이러한 사항을 진지하게 받아들입니다. RingCentral은 AI 거버넌스와 AI 개인정보 보호 기둥을 통해 윤리적 AI에 전념합니다.
훌륭한 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자는 다음을 방문하세요. 링센트럴.
게시물 RingCentral의 최고 개인정보보호책임자 Paola Zeni – 인터뷰 시리즈 처음 등장 유나이트.AI.