오늘날 대부분의 조직은 대규모 언어 모델(LLM)을 활용하고 개념 증명 및 인공 지능(AI) 에이전트를 구현하여 비즈니스 프로세스 내에서 비용을 최적화하고 새롭고 창의적인 사용자 경험을 제공하고자 합니다. 그러나 이러한 구현의 대부분은 ‘일회성’입니다. 결과적으로 기업은 이러한 사용 사례 중 대부분에서 투자 수익률(ROI)을 실현하는 데 어려움을 겪습니다.
생성 AI(GenAI)는 조종사와 같은 소프트웨어를 넘어설 것을 약속합니다. 이러한 솔루션은 주제 전문가(SME)에게 단순히 지침과 도움을 제공하는 것이 아니라 SME 행위자가 되어 자율적으로 작업을 실행할 수 있습니다. GenAI 솔루션이 이 지점에 도달하려면 조직에서 추가 지식과 메모리, 계획 및 재계획 기능, 다른 에이전트와 협력하여 작업을 수행할 수 있는 기능을 제공해야 합니다.
일부 시나리오에서는 단일 모델이 조종사 역할을 하는 데 적합하지만 에이전트 아키텍처는 LLM이 비즈니스 프로세스 자동화의 활성 구성 요소가 될 수 있는 문을 열어줍니다. 따라서 기업은 다음을 활용하는 것을 고려해야 합니다. LLM 기반 다중 에이전트(LLM-MA) 시스템 복잡한 비즈니스 프로세스를 간소화하고 ROI를 개선합니다.
LLM-MA 시스템이란?
그렇다면 LLM-MA 시스템이란 무엇일까요? 간단히 말해, AI 기술의 이 새로운 패러다임은 고립된 개체가 아닌 AI 에이전트의 생태계를 설명하며, 복잡한 과제를 해결하기 위해 응집력 있게 함께 일합니다.
의사 결정은 광범위한 맥락에서 이루어져야 하며, 인간들 사이에서 신뢰할 수 있는 의사 결정이 전문화를 필요로 하는 것과 마찬가지입니다. LLM-MA 시스템은 공통의 목표를 달성하기 위해 여러 전문 에이전트가 상호 작용하여 인간 그룹이 누리는 것과 동일한 ‘집단 지능’을 구축합니다. 다시 말해, 기업이 다양한 분야의 다양한 전문가를 모아 하나의 문제를 해결하는 것과 같은 방식으로 LLM-MA 시스템도 작동합니다.
비즈니스 요구 사항은 단일 LLM에게는 너무 많습니다. 그러나 한 LLM이 모든 부담을 떠안는 대신 고유한 기술과 지식을 가진 전문 에이전트에게 역량을 분배함으로써 이러한 에이전트는 작업을 보다 효율적이고 효과적으로 완료할 수 있습니다. 다중 에이전트 LLM은 교차 검증을 통해 서로의 작업을 ‘확인’할 수도 있습니다. ‘환각’을 줄이는 것 생산성과 정확성을 극대화하기 위해.
특히, LLM-MA 시스템은 분할 정복 방식을 사용하여 복잡한 AI 기반 시스템의 다른 측면에 대한 보다 정교한 제어를 획득합니다. 특히, 특정 데이터 세트에 대한 보다 나은 미세 조정, 보다 나은 설명 가능성, 거버넌스, 보안 및 신뢰성을 위한 방법(변환 전 AI 포함) 선택, 복잡한 솔루션의 일부로 비 AI 도구 사용 등이 있습니다. 이 분할 정복 방식 내에서 에이전트는 작업을 수행하고 다른 에이전트와 데이터로부터 피드백을 받아 시간이 지남에 따라 실행 전략을 채택할 수 있습니다.
LLM-MA 시스템의 기회와 사용 사례
LLM-MA 시스템은 구조화되고 구조화되지 않은 문서를 검색하고, 데이터 모델을 쿼리하는 코드를 생성하고, 다른 콘텐츠 생성을 수행하여 비즈니스 프로세스를 효과적으로 자동화할 수 있습니다. 기업은 소프트웨어 개발, 하드웨어 시뮬레이션, 게임 개발(특히, 세계 개발), 과학 및 제약 발견, 자본 관리 프로세스, 금융 및 거래 경제 등 여러 사용 사례에 LLM-MA 시스템을 사용할 수 있습니다.
LLM-MA 시스템의 주목할 만한 응용 분야 중 하나는 콜/서비스 센터 자동화입니다. 이 예에서 사전 정의된 워크플로 및 절차를 활용하는 모델과 기타 프로그래밍적 행위자의 조합은 최종 사용자 상호 작용을 자동화하고 텍스트, 음성 또는 비디오를 통해 요청 분류를 수행할 수 있습니다. 또한 이러한 시스템은 개인화 데이터와 함께 절차적 및 SME 지식을 활용하고 RAG(Retrieval Augmented Generation) 유형 및 비 LLM 에이전트를 호출하여 가장 최적의 해결 경로를 탐색할 수 있습니다.
단기적으로 이 시스템은 완전히 자동화되지 않을 것입니다. 실수가 발생할 것이고 루프에 인간이 있어야 합니다. AI는 예를 들어 책임 있는 AI 우려 사항에 대해 자유로운 흐름 대화를 테스트하는 복잡성으로 인해 인간과 같은 경험을 복제할 준비가 되어 있지 않습니다. 그러나 AI는 수천 개의 이전 지원 티켓과 피드백 루프를 학습하여 콜/서비스 센터 운영의 상당 부분을 자동화하여 효율성을 높이고 티켓 해결 다운타임을 줄이며 고객 만족도를 높일 수 있습니다.
다중 에이전트 LLM의 또 다른 강력한 응용 분야는 실시간 대화를 위한 인간-AI 협업 인터페이스를 만들어서 이전에는 불가능했던 작업을 해결하는 것입니다. 대화형 군집 지능 예를 들어, (CSI)는 수천 명의 사람들이 실시간 대화를 나눌 수 있는 방법입니다. 구체적으로, CSI는 소규모 그룹이 서로 대화하는 동시에 다른 에이전트 그룹이 대화 스레드를 요약할 수 있도록 합니다. 그런 다음 더 많은 사람들에게 콘텐츠 전파를 촉진하여 전례 없는 규모로 인간의 조정을 강화합니다.
보안, 책임 있는 AI 및 LLM-MA 시스템의 기타 과제
LLM-MA 시스템의 흥미로운 기회에도 불구하고, 에이전트의 수와 그들의 액션 공간의 크기가 증가함에 따라 이 접근 방식에 대한 몇 가지 과제가 발생합니다. 예를 들어, 기업은 루프에 인간이 필요한 평범한 오래된 환각 문제를 해결해야 합니다. 지정된 당사자는 에이전트 시스템, 특히 자동 약물 발견과 같이 잠재적으로 중대한 영향을 미칠 수 있는 시스템에 대한 책임을 져야 합니다.
또한 데이터 편향에 문제가 있을 것이며, 이는 상호작용 편향으로 눈덩이처럼 불어날 수 있습니다. 마찬가지로, 수백 개의 에이전트를 실행하는 미래의 LLM-MA 시스템은 다른 LLM 단점, 데이터 및 머신 러닝 작업을 고려하면서 더 복잡한 아키텍처가 필요할 것입니다.
또한 조직은 보안 문제를 해결하고 책임 있는 AI(RAI) 관행을 장려해야 합니다. 더 많은 LLM과 에이전트가 모든 AI 위협에 대한 공격 표면을 증가시킵니다. 기업은 LLM-MA 시스템의 여러 부분을 전문화된 행위자로 분해하여 보안 및 RAI 요소를 포함한 기존 LLM 위험에 대한 더 많은 제어를 제공해야 합니다.
게다가 솔루션이 더 복잡해짐에 따라 AI 제품이 신뢰할 수 있고(즉, 견고하고, 책임감 있고, 모니터링되고, 설명 가능함), 상주하고(즉, 안전하고, 보안되고, 사적이며, 효과적임) 책임감이 있고(즉, 공정하고, 윤리적이며, 포괄적이고, 지속 가능하고, 목적이 있음) AI 거버넌스 프레임워크도 더 복잡해져야 합니다. 복잡성이 증가함에 따라 규제도 강화되어 보안과 RAI가 처음부터 모든 비즈니스 사례와 솔루션 설계에 포함되고, 지속적인 정책 업데이트, 기업 교육 및 훈련, TEVV(테스트, 평가, 검증 및 확인) 전략이 더욱 중요해질 것입니다.
LLM-MA 시스템에서 전체 가치 추출: 데이터 고려 사항
기업이 LLM-MA 시스템에서 전체 가치를 추출하려면 LLM이 그 자체로 일반적인 도메인 지식만 가지고 있다는 것을 인식해야 합니다. 그러나 LLM은 일반적으로 차별화된 데이터 자산, 기업 문서, SME 지식 및 공개 데이터 소스에서 검색된 정보로 구성된 엔터프라이즈 도메인 지식에 의존할 때 가치를 창출하는 AI 제품이 될 수 있습니다.
기업은 데이터가 보고를 지원하는 데이터 중심에서 AI 중심, 즉 데이터 소스가 결합되어 AI가 기업 생태계 내에서 행위자가 되도록 하는 방식으로 전환해야 합니다. 따라서 고품질 데이터 자산을 큐레이션하고 관리하는 기업의 능력은 이러한 새로운 데이터 유형으로 확장되어야 합니다. 마찬가지로 조직은 데이터 및 통찰력 소비 접근 방식을 현대화하고 운영 모델을 변경하며 데이터, AI 및 RAI를 통합하는 거버넌스를 도입해야 합니다.
툴링 관점에서 GenAI는 데이터와 관련하여 추가적인 도움을 제공할 수 있습니다. 특히 GenAI 도구는 온톨로지를 생성하고, 메타데이터를 만들고, 데이터 신호를 추출하고, 복잡한 데이터 스키마를 이해하고, 데이터 마이그레이션을 자동화하고, 데이터 변환을 수행할 수 있습니다. GenAI는 또한 데이터 품질을 향상시키고 거버넌스 전문가이자 조종사 또는 반자율 에이전트 역할을 하는 데 사용될 수 있습니다. 이미 많은 조직이 GenAI를 사용하여 ‘데이터와 대화’ 기능에서 볼 수 있듯이 데이터를 민주화하는 데 도움을 줍니다.
급속한 변화의 시대에 지속적인 채택
LLM은 그 자체로 가치를 더하거나 긍정적인 ROI를 달성하지 않지만 비즈니스 성과 중심 애플리케이션의 일부로서 달성합니다. 문제는 과거 LLM의 기술적 역량이 어느 정도 알려졌던 때와 달리 오늘날에는 매주, 때로는 매일 새로운 역량이 등장하여 새로운 비즈니스 기회를 지원한다는 것입니다. 이러한 급속한 변화에 더해 끊임없이 진화하는 규제 및 규정 준수 환경이 있어 성공을 위해 빠르게 적응하는 능력이 필수적입니다.
이러한 새로운 기회를 활용하는 데 필요한 유연성은 기업이 사일로에서 협업으로 사고방식을 전환하여 기술, 프로세스 및 사람 전반에 걸쳐 최고 수준의 적응성을 촉진하고 강력한 데이터 관리 및 책임 있는 혁신을 구현해야 함을 요구합니다. 궁극적으로 이러한 새로운 패러다임을 수용하는 회사가 디지털 혁신의 다음 물결을 이끌 것입니다.
게시물 다중 에이전트 LLM이 AI 모델이 복잡한 작업을 보다 효과적으로 해결하도록 하는 방법 처음 등장 유나이트.AI.
