Ashish Nagar는 CEO이자 창립자입니다. 레벨 AIAlexa 팀에서 Amazon에서의 경험을 바탕으로 인공 지능을 사용하여 컨택 센터 운영을 혁신했습니다. 기술과 기업가 정신에 대한 강력한 배경을 갖춘 Ashish는 고급 AI 솔루션을 통해 고객 서비스 상호 작용의 효율성과 효과를 향상시키려는 회사의 사명을 추진하는 데 중요한 역할을 해왔습니다. 그의 리더십 하에 Level AI는 최첨단 제품과 우수한 인공 지능 구현으로 유명한 AI 기반 컨택 센터 공간의 핵심 플레이어가 되었습니다.
Amazon을 떠나 Level AI를 시작하게 된 계기는 무엇입니까? 기술을 통해 해결하고자 했던 고객 서비스의 특정 문제점을 공유할 수 있습니까?
저의 경력은 기술과 비즈니스의 교차점에서 제품을 만드는 것입니다. 저는 응용물리학 학사학위를 가지고 있지만, 제 업무는 제품 역할과 새로운 사업의 설립, 시작, 구축에 지속적으로 초점을 맞춰왔습니다. 기술과 비즈니스에 대한 나의 열정은 나를 AI로 이끌었습니다.
저는 2014년에 AI 분야에서 일하기 시작했습니다. 당시 우리는 Rel C라는 차세대 모바일 검색 회사를 만들고 있었는데, 이는 오늘날의 Perplexity AI와 유사했습니다. 그 경험이 AI 소프트웨어에 대한 나의 여정을 촉발시켰고 결국 그 회사는 Amazon에 인수되었습니다. Amazon에서 저는 Alexa 팀의 제품 리더로서 더 복잡한 AI 문제를 해결할 수 있는 기회를 지속적으로 모색했습니다.
Amazon에서 근무한 마지막 해인 2018년에 저는 유명한 공상과학 프랜차이즈에서 영감을 받아 “스타 트렉 컴퓨터”라고 불리는 프로젝트에 참여했습니다. 목표는 사용자가 묻는 모든 질문을 이해하고 응답할 수 있는 컴퓨터를 개발하는 것이었습니다. 이 프로젝트는 알렉사 프라이즈(Alexa Prize)로 알려지게 되었습니다. 누구나 어떤 사회적 주제에 대해서도 알렉사와 20분간 대화할 수 있도록 하는 것을 목표로 하고 있습니다. 저는 약 10명의 과학자로 구성된 팀을 이끌었고 이를 세계적인 AI 도전 과제로 시작했습니다. 저는 MIT, CMU, 스탠포드, 옥스퍼드와 같은 기관의 선도적인 사람들과 긴밀히 협력했습니다. 한 가지는 분명해졌습니다. 당시에는 누구도 문제를 완전히 해결할 수 없었습니다.
그럼에도 불구하고 나는 이것을 가능하게 하는 혁신의 물결이 다가오고 있음을 느낄 수 있었습니다. 2024년이 되면 ChatGPT와 같은 기술이 이제 우리가 상상했던 많은 일을 해내고 있습니다. Amazon, Google, OpenAI, Microsoft와 같은 회사가 대규모 모델과 기본 인프라를 구축하면서 자연어 처리 분야가 급속히 발전했습니다. 하지만 반드시 엔드투엔드 워크플로를 처리해야 하는 것은 아니었습니다. 우리는 이러한 격차를 인식하고 이를 해결하고 싶었습니다.
우리의 첫 번째 제품은 고객 서비스 솔루션이 아니었습니다. 기술자, 소매점 직원 등 일선 직원을 위한 음성 비서였습니다. 우리는 종자 자금으로 200만 달러를 모았고 잠재 고객에게 제품을 선보였습니다. 그들은 이미 음성 및 데이터 스트림이 있지만 현대적인 생성 AI 아키텍처가 부족한 컨택 센터에 기술을 적용해 줄 것을 압도적으로 요청했습니다. 이로 인해 우리는 이 분야의 기존 기업이 과거에 갇혀 레거시 시스템을 점검할지 아니면 새로운 시스템을 구축할지에 대한 고전적인 혁신가의 딜레마와 씨름하고 있다는 사실을 깨달았습니다. 우리는 백지 상태에서 시작하여 최초의 기본 LLM(대형 언어 모델) 고객 경험 인텔리전스 및 서비스 자동화 플랫폼을 구축했습니다.
인간 언어의 복잡성과 컴퓨터 엔지니어링 관점에서 이러한 문제를 해결하는 것이 얼마나 어려운지에 대한 나의 깊은 관심은 우리의 접근 방식에서 중요한 역할을 했습니다. 인간의 말을 이해하는 AI의 능력은 특히 컨택센터 산업에서 매우 중요합니다. 예를 들어, Siri를 사용하면 AI가 인간 언어의 의도와 맥락을 이해하는 것이 얼마나 어려운지 알 수 있습니다. 간단한 쿼리라도 AI를 방해하여 사용자가 요청한 내용을 해석하는 데 어려움을 겪을 수 있습니다.
AI는 의도를 이해하고, 긴 대화에서 맥락을 유지하며, 세계에 대한 관련 지식을 보유하는 데 어려움을 겪습니다. ChatGPT에도 이러한 영역에는 한계가 있습니다. 예를 들어, 최신 뉴스를 모르거나 대화 내에서 변화하는 주제를 이해하지 못할 수도 있습니다. 이러한 과제는 고객 서비스와 직접적인 관련이 있으며, 대화에는 종종 여러 주제가 관련되고 AI가 특정 도메인 관련 지식을 이해해야 합니다. 우리는 고객 서비스 환경에서 인간 언어의 복잡성을 처리하도록 설계된 플랫폼에서 이러한 문제를 해결하고 있습니다.
레벨AI의 NLU 기술은 기본적인 키워드 매칭 그 이상입니다. AI가 어떻게 더 깊은 고객 의도를 이해하고 이것이 고객 서비스에 제공하는 이점을 설명할 수 있습니까? Level AI는 특히 미묘한 고객 상호 작용을 이해하는 데 있어 AI 시스템의 정확성과 신뢰성을 어떻게 보장합니까?
우리는 현재 작업에 따라 특정 작업에 맞춰진 6~7개의 AI 파이프라인을 보유하고 있습니다. 예를 들어, 한 가지 워크플로에는 통화 동인을 식별하고 고객이 제품이나 서비스에 대해 갖고 있는 문제를 이해하는 작업이 포함될 수 있습니다. 이를 “고객의 목소리”라고 합니다. 또 다른 방법은 상담원 성과를 평가하기 위해 품질 점수표를 자동으로 채점하는 것입니다. 각 워크플로 또는 서비스에는 자체 AI 파이프라인이 있지만 기본 기술은 동일하게 유지됩니다.
비유하자면, 우리가 사용하는 기술은 ChatGPT 및 기타 생성 AI 도구의 기반 기술과 유사한 LLM을 기반으로 합니다. 그러나 우리는 이러한 전문적인 워크플로를 위해 내부 교육을 받은 고객 서비스별 LLM을 사용합니다. 이를 통해 신규 고객 온보딩 후 단 며칠 만에 85% 이상의 정확도를 달성할 수 있으므로 가치 창출 시간이 단축되고 전문 서비스가 최소화되며 비교할 수 없는 정확성, 보안 및 신뢰가 가능해집니다.
우리 모델은 고객 서비스에 대한 심층적이고 구체적인 전문 지식을 갖추고 있습니다. 기존 패러다임에서는 “계정 취소” 또는 “불만족”과 같은 키워드나 문구를 선택하여 대화를 분석했습니다. 그러나 우리의 솔루션은 가능한 모든 구문 변형을 캡처하는 데 의존하지 않습니다. 대신 AI를 적용해 질문 뒤의 의도를 이해함으로써 훨씬 더 빠르고 효율적으로 만듭니다.
예를 들어, 누군가가 “내 계정을 취소하고 싶어요”라고 말하면 “이제 끝났어” 또는 “다른 사람에게 넘어갈 거야”와 같이 이를 표현할 수 있는 방법은 무수히 많습니다. 우리의 AI는 질문의 의도를 이해하고 이를 맥락에 다시 연결하므로 우리의 소프트웨어가 더 빠르고 정확합니다.
유용한 비유는 오래된 AI가 규칙서와 같다는 것입니다. 즉, 유연하지 않고 지속적으로 유지 관리가 필요한 if-then-else 문을 사용하여 이러한 엄격한 규칙서를 만들었습니다. 반면에 새로운 AI는 역동적인 두뇌나 학습 시스템과 같습니다. 몇 가지 포인터만으로 상황과 의도를 동적으로 학습하여 지속적으로 즉각적으로 개선됩니다. 규칙서는 범위가 제한되어 있으며 미리 정의된 규칙에 맞지 않는 것이 있으면 쉽게 깨지는 반면, 동적 학습 시스템은 계속 확장되고 성장하며 훨씬 더 광범위한 영향을 미칩니다.
고객 관점에서 본 좋은 예는 대규모 전자상거래 브랜드입니다. 수천 개의 제품이 있으며 지속적인 업데이트를 따라가는 것은 불가능합니다. 그러나 우리의 AI는 새로운 제품이 나올 때마다 스코어카드나 루브릭을 지속적으로 업데이트할 필요 없이 특정 소파에 대해 이야기하는지 여부와 같은 맥락을 이해할 수 있습니다.
레벨 AI의 기술을 기존 고객 서비스 시스템과 통합하는 데 있어 주요 과제는 무엇이며 이를 어떻게 해결합니까?
Level AI는 고객 경험 인텔리전스 및 서비스 자동화 플랫폼입니다. 따라서 우리는 CRM, CCaaS, 설문 조사 또는 툴링 솔루션 등 업계 대부분의 CX 소프트웨어와 통합합니다. 이를 통해 우리는 모든 소스에서 데이터를 수집하고 그 위에 인텔리전스 계층 역할을 하는 중앙 허브가 됩니다.
그러나 문제는 이러한 시스템 중 일부가 비클라우드, 온프레미스 기술, 심지어 API나 깔끔한 데이터 통합이 부족한 클라우드 기술을 기반으로 한다는 것입니다. 우리는 이 문제를 해결하기 위해 고객과 긴밀히 협력하고 있지만 현재 통합의 80%가 클라우드 기반 또는 API 기반이므로 빠르게 통합할 수 있습니다.
Level AI는 어떻게 고객 서비스 상담원에게 실시간 인텔리전스와 실행 가능한 통찰력을 제공합니까? 이를 통해 고객 상호 작용이 어떻게 향상되었는지에 대한 몇 가지 예를 공유해 주실 수 있나요?
우리가 고객에게 제공하는 실시간 인텔리전스와 실행 가능한 통찰력에는 세 가지 종류가 있습니다.
- 수동 워크플로 자동화: 서비스 담당자는 제한된 시간(6~9분)과 여러 수동 작업을 수행하는 경우가 많습니다. 레벨 AI는 대화 중 및 대화 후 메모 작성과 같은 지루한 작업을 자동화하여 각 고객에 대한 맞춤형 요약을 생성합니다. 이를 통해 고객의 통화 처리 시간이 10~25% 절약되어 효율성이 향상되었습니다.
- 서비스 담당자를 위한 CX Copilot: 서비스 담당자는 높은 이탈률과 온보딩 문제에 직면해 있습니다. 회사 정책을 모르고 연락 센터에 방문했다고 상상해 보십시오. 레벨 AI는 전문가 옆에 앉아 대화를 듣고 실시간 안내를 해주는 전문가 AI 역할을 한다. 여기에는 이의 처리, 지식 제공, 스마트 전사 제공이 포함됩니다. 이 기능을 통해 고객은 서비스 담당자를 30~50% 더 빠르게 온보딩하고 교육할 수 있었습니다.
- 부조종사 관리자: 이 고유한 기능을 통해 관리자는 팀의 성과를 실시간으로 확인할 수 있습니다. 레벨 AI는 대화에 대한 초 단위 통찰력을 제공하여 관리자가 개입하고 정서와 의도를 감지하며 담당자를 실시간으로 지원할 수 있도록 합니다. 이를 통해 상담원 생산성이 10~15% 향상되고 상담원 만족도가 향상되었습니다. 이는 비용 절감에 매우 중요합니다. 예를 들어, 고객이 담당자에게 욕설을 시작하면 시스템에서 이를 표시하고 관리자가 전화를 이어받거나 담당자에게 안내를 속삭일 수 있습니다. 이런 실시간 개입은 이 기술이 없었다면 불가능했을 것입니다.
Level AI의 감정 분석이 어떻게 작동하는지, 상담원이 고객에게 보다 효과적으로 대응하는 데 어떻게 도움이 되는지 자세히 설명해주실 수 있나요?
우리의 감정 분석은 극도의 좌절감부터 기쁨에 이르기까지 7가지 감정을 감지하여 전체 감정 점수에 기여하는 다양한 수준의 감정을 측정할 수 있게 해줍니다. 이 분석에서는 말하는 단어와 대화의 음조를 모두 고려합니다. 그러나 우리는 실험을 통해 말투가 어조보다 훨씬 더 중요한 역할을 한다는 사실을 발견했습니다. 가장 나쁜 말을 단조로운 어조로 말할 수도 있고 아주 좋은 말을 이상한 어조로 말할 수도 있습니다.
우리는 1에서 10까지의 감정 점수를 제공합니다. 1은 매우 부정적인 감정을 나타내고 10은 매우 긍정적인 감정을 나타냅니다. 우리는 고객의 대화를 100% 분석하여 고객 상호 작용에 대한 깊은 통찰력을 제공합니다.
상황에 따른 이해도 중요합니다. 예를 들어 통화가 매우 부정적인 감정으로 시작했지만 긍정적으로 끝나는 경우 통화의 80%가 부정적이더라도 전반적인 상호 작용은 긍정적인 것으로 간주됩니다. 고객이 화를 내기 시작했고 상담원이 문제를 해결했으며 고객이 만족하여 떠났기 때문입니다. 반면 통화가 긍정적으로 시작되었다가 부정적으로 끝난다면 통화의 80%가 긍정적이었음에도 불구하고 이야기는 달라집니다.
이 분석은 담당자와 관리자 모두 고객에게 인사하고, 고객의 우려 사항을 인정하고, 공감을 표시하는 등 긍정적인 정서와 관련된 행동에 초점을 맞춰 교육 영역을 식별하는 데 도움이 됩니다. 이는 성공적인 상호 작용에 중요한 요소입니다.
Level AI는 특히 고객 상호 작용의 민감한 특성을 고려할 때 데이터 개인 정보 보호 및 보안 문제를 어떻게 해결합니까?
우리는 처음부터 보안과 개인 정보 보호를 최우선으로 생각했습니다. 우리는 기업 수준의 보안과 개인 정보 보호를 핵심 원칙으로 시스템을 구축했습니다. 우리는 생성 AI 기능을 제3자 공급업체에 아웃소싱하지 않습니다. 모든 것이 내부에서 개발되므로 환경 외부에 데이터를 공유하지 않고도 고객별 AI 모델을 교육할 수 있습니다. 또한 광범위한 사용자 정의 기능을 제공하므로 고객은 데이터 파이프라인의 여러 부분에서 데이터를 공유하지 않고도 자신만의 AI 모델을 가질 수 있습니다.
현재 업계의 우려 사항을 해결하기 위해 우리의 데이터는 교육용 외부 모델에서 사용되지 않습니다. 우리는 모델이 다른 소스의 AI 생성 데이터에 영향을 받는 것을 허용하지 않습니다. 이 접근 방식은 일부 AI 모델이 직면하고 있는 AI 생성 데이터에 대한 교육으로 인해 정확도가 떨어지는 문제를 방지합니다. Level AI에서는 모든 것이 자사이며 외부에서 데이터를 공유하거나 가져오지 않습니다.
최근 3,940만 달러 규모의 시리즈 C 자금 조달을 통해 Level AI의 플랫폼을 확장하고 새로운 고객 세그먼트에 도달하기 위한 계획은 무엇입니까?
세르 ies C 투자는 제품 개발 발전, 엔지니어링 개선, 엄격한 연구 개발 노력을 포함하여 중요한 영역에서 우리의 전략적 성장과 혁신 이니셔티브를 촉진할 것입니다. 우리는 조직의 모든 수준에서 최고의 인재를 채용하여 고객의 기대를 뛰어넘고 역동적인 시장 요구를 충족하는 업계 최고의 기술을 계속해서 개척하는 것을 목표로 합니다.
향후 10년 동안 고객 서비스를 변화시키는 데 있어 AI의 역할을 어떻게 보시나요?
일반적인 초점은 봇이 모든 고객 서비스를 처리하는 미래를 예측하는 자동화 측면에 있는 경우가 많지만 우리의 견해는 좀 더 미묘합니다. 자동화 범위는 업종에 따라 다릅니다. 예를 들어 은행이나 금융 분야에서는 자동화 수준이 낮을 수 있지만 다른 부문에서는 자동화 수준이 더 높을 수 있습니다. 평균적으로 우리는 모든 업종에서 40% 이상의 자동화를 달성하는 것이 어렵다고 생각합니다. 이는 서비스 담당자가 단순히 질문에 답변하는 것 이상을 수행하기 때문입니다. 문제 해결사, 영업 자문 등 AI가 완전히 복제할 수 없는 역할을 수행하기 때문입니다.
레벨 AI가 중점을 두고 있는 워크플로우 자동화에도 상당한 잠재력이 있습니다. 여기에는 품질 보증, 티켓 분류, 화면 모니터링과 같은 백오피스 작업이 포함됩니다. 여기서 생성 AI를 사용하면 자동화가 80%를 초과할 수 있습니다. 인텔리전스와 데이터 통찰력이 중요합니다. 우리는 생성적 AI를 사용하여 구조화되지 않은 데이터에서 통찰력을 얻는 데 있어 독보적입니다. 이 접근 방식은 통찰력의 품질을 크게 향상시켜 전문 서비스의 필요성을 90% 줄이고 가치 창출 시간을 90% 가속화할 수 있습니다.
또 다른 중요한 고려 사항은 조직의 얼굴이 봇이어야 하는지 아니면 사람이어야 하는지입니다. 그들이 수행하는 기본 기능 외에도 고객과의 인간적 연결이 중요합니다. 우리의 접근 방식은 개인의 작업량에서 과도한 작업을 제거하여 의미 있는 상호 작용에 집중할 수 있도록 하는 것입니다.
우리는 인간이 직접적인 의사소통에 가장 적합하며 계속해서 그 역할을 수행해야 한다고 믿습니다. 그러나 메모 작성, 상호 작용 복사 또는 화면 녹화와 같은 작업에는 적합하지 않습니다. 이러한 작업을 처리함으로써 우리는 고객이 고객과 보다 효과적으로 소통할 수 있는 시간을 확보합니다.
훌륭한 인터뷰에 감사드립니다. 더 자세히 알고 싶은 독자들은 방문하시기 바랍니다. 레벨 AI.
게시물 Ashish Nagar, Level AI의 CEO 겸 창립자 – 인터뷰 시리즈 처음 등장한 Unite.AI.