처럼 인공 일반 지능 (AGI)가 급속히 발전함에 따라, 대화의 주제는 철학적 토론에서 실질적 관련성 있는 토론으로 바뀌고 있으며, 글로벌 기업과 인간의 잠재력을 변화시킬 수 있는 엄청난 기회가 있습니다.
Turing의 AGI Icons 이벤트 시리즈는 AI 혁신가들을 모아 AGI 솔루션의 실용적이고 책임감 있는 발전에 대해 논의합니다. 7월 24일, Turing은 샌프란시스코의 기업가와 기술 혁신가를 위한 전용 허브인 SHACK15에서 두 번째 AGI Icons 이벤트를 주최했습니다. The Information의 재무 칼럼니스트인 Anita Ramaswamy가 진행한 가운데, 저는 Quora CEO인 Adam D’Angelo와 함께 AGI로 가는 길에 대해 논의하고 개발 일정, 실제 응용 프로그램 및 책임감 있는 배포 원칙에 대한 통찰력을 공유했습니다.
AI에서 AGI로 가는 길
AI 연구를 주도하는 “북극성”은 인간 수준의 “지능”을 추구하는 것입니다. AGI를 표준 AI와 차별화하는 것은 좁은 기능을 넘어 더 큰 일반성(폭)과 성능(깊이)으로 나아가는 것이며, 심지어 인간의 능력을 뛰어넘는 것입니다.
이것이 “AGI로 가는 길”로, AI가 더 자율적인 시스템, 뛰어난 추론, 향상된 역량, 향상된 기능으로 발전합니다. 이러한 진행은 5가지 분류 수준으로 나뉩니다.
- 레벨 0: AI 없음 – 계산기와 같은 간단한 도구
- 레벨 1: 떠오르는 AGI – ChatGPT와 같은 현재 LLM
- 2 단계: 유능한 AGI – 특정 작업에 숙련된 성인을 매칭하는 AI 시스템
- 레벨 3: 전문가 AGI – 숙련된 성인의 90%에 해당하는 AI 시스템
- 레벨 4: 거장 AGI – 99번째 백분위수의 AI 시스템
- 레벨 5: 초인적 AGI – 모든 인간보다 성능이 뛰어난 AI 시스템
토론 중에 Adam은 AGI의 개념을 “인간이 할 수 있는 모든 것을 할 수 있는 소프트웨어”로 정의했습니다. 그는 AI가 스스로를 개선하여 결국 머신 러닝 연구자들이 처리하는 복잡한 인간 작업을 인수하는 미래를 상상합니다.
한 걸음 더 나아가, 저는 AGI에 대한 제 견해를 “기계 번역, 복잡한 쿼리, 코딩”과 같은 다양한 작업을 수행할 수 있는 “인공 두뇌”에 대한 견해와 비교했습니다. 그것이 AGI와 그 이전에 등장한 보다 예측적인 AI 및 좁은 형태의 ML 간의 구분입니다. 그것은 새로운 행동처럼 느껴집니다.
AGI로 가는 길에서의 현실적인 개발 일정
도로 여행에서와 마찬가지로 AGI에 대한 가장 중요한 질문은 “아직 거기에 도달했을까?”입니다. 간단히 말해서 아니요이지만 AI 연구가 가속화됨에 따라 올바른 질문은 “AGI를 어떻게 균형 있게 유지할 수 있을까?”입니다. 큰 뜻 ~와 함께 현실적인 기대?”
애덤은 AGI의 자동화 증가가 인간의 역할을 없애는 것이 아니라 바꾸어 놓을 것이며, 이는 더 빠른 경제 성장과 더 효율적인 생산성으로 이어질 것이라고 강조했습니다. “이 기술이 더욱 강력해짐에 따라 오늘날 사람들이 하는 일의 90%가 자동화되는 지점에 도달할 것이지만, 모든 사람이 다른 일로 전환할 것입니다.”
현재 세계 경제의 대부분은 일할 수 있는 사람의 수에 의해 제약을 받고 있습니다. AGI를 달성하면 오늘날 가능한 것보다 훨씬 빠른 속도로 경제를 성장시킬 수 있습니다.
진정한 AGI가 언제 실현될지에 대한 확실한 타임라인을 제시할 수는 없지만, Adam과 저는 AI 발전이 미래의 AGI 진행을 위한 길을 만든 몇 가지 사례를 인용했습니다. 예를 들어, AI 개발자 도구를 사용한 Turing의 실험은 개발자 생산성이 33% 증가했으며, 이는 더 큰 잠재력을 암시합니다.
실제 세계 응용 프로그램 및 효과
AGI의 가장 유망한 응용 분야 중 하나는 소프트웨어 개발 분야입니다. 대규모 언어 모델 (LLM)은 AGI의 선구자로서 이미 소프트웨어 개발을 강화하고 코드 품질을 개선하는 데 사용되고 있습니다. 저는 이 AI 시대가 물리학보다는 생물학에 더 가깝다고 봅니다. 모든 유형의 지식 작업이 개선될 것입니다. 인간으로부터 그리고 인간을 위해 훨씬 더 많은 생산성이 해제될 것입니다.
제 관점은 경험에서 나온 것입니다. LLM과 AI 개발자 도구를 사용했을 때 개인 생산성이 10배 증가하는 것을 목격했습니다. 또한 Turing에서는 AI를 사용하여 기술 인재를 평가하고 적절한 소프트웨어 엔지니어와 박사 수준의 도메인 전문가를 적절한 직무에 매칭합니다.
예를 들어 LLM 교육 분야에서 제가 보고 있는 것은 트레이너가 이러한 모델을 활용하여 개발자 생산성을 높이고 프로젝트 일정을 가속화한다는 것입니다. 일상적인 코딩 작업을 자동화하고 지능적인 코드 제안을 제공함으로써 LLM은 개발자가 작업의 더 전략적이고 창의적인 측면에 집중할 수 있도록 해줍니다.
Adam은 “LLM이 모든 코드를 작성하지는 않겠지만, 소프트웨어 기본을 이해하는 것은 여전히 중요합니다. 계산기가 산수를 배울 필요성을 없애지는 않았습니다.”라고 마무리했습니다. 그는 “이러한 모델을 사용하면 개발자의 가치가 더 높아집니다. LLM이 있으면 개발자 일자리에 긍정적이며 개발자에게는 많은 이점이 있을 것입니다.”라고 덧붙였습니다.
우리는 한 명의 소프트웨어 엔지니어가 10배 더 생산적으로 일하고, 더 많은 것을 창조하고, 세상에 이바지할 수 있는 소프트웨어 개발의 황금기를 맞이하고 있습니다.
기술 및 거버넌스 과제
AGI의 유망한 잠재력에도 불구하고, 해결해야 할 과제가 있습니다. AGI 혁신과 공공 안전의 균형을 맞추려면 견고한 평가 프로세스와 규제 프레임워크가 필요합니다.
애덤은 최악의 시나리오를 제한하기 위해 철저한 테스트와 샌드박싱의 필요성을 강조했습니다. “어떤 종류의 견고한 평가 프로세스가 필요하고… 테스트하는 배포판이 실제 사용에 가능한 한 가깝게 되기를 바랍니다.”
그리고 저도 동의합니다. AGI 발전의 병목 현상은 이제 컴퓨팅 파워나 데이터가 아니라 인간의 지능입니다. 인간의 전문성은 AI 모델을 미세 조정하고 사용자 지정하는 데 필수적입니다. 그래서 튜링은 최고 수준의 기술 전문가를 소싱하고 매칭하여 모델과 인간의 지능을 균형 있게 맞추는 데 집중합니다.
우리는 프로세스, 일반성, 성능, 잠재력보다는 역량에 초점을 맞춰 AGI 과제를 정면으로 해결해야 합니다.
과제에 대한 관점: 인간-AGI 상호작용 개선
AGI 과제를 해결하기 위한 모범 사례는 다음과 같습니다.
- 프로세스나 “AGI가 어떻게 하는지”보다는 역량이나 “AGI가 무엇을 할 수 있는지”에 집중하세요.
- AGI의 필수 구성 요소로서 일반성과 성능의 균형을 맞추십시오.
- 신체적 작업/산출물보다는 인지/초인지 작업과 학습 능력에 집중하세요.
- AGI를 잠재력과 역량으로 측정합니다.
- 사람들이 중요하게 여기는 현실 세계의 업무에 벤치마크를 맞춰 생태적 타당성에 중점을 둡니다.
- AGI로 가는 길은 단일한 종착점이 아니라 반복적인 과정이라는 점을 기억하세요.
이러한 모범 사례에 더하여, Adam과 저는 인간-AGI 상호작용을 개선하는 것의 중요성을 강조했습니다. Adam은 이러한 모델을 어떻게 그리고 언제 사용하는지 배우는 것의 가치를 강조하면서, 프로그래밍의 모든 하위 도메인을 빠르게 가르칠 수 있는 강력한 학습 도구로 보고, 기본 사항을 이해하는 것의 중요성을 강조했습니다.
마찬가지로, 저는 모든 인간을 LLM의 파워 유저로 만드는 것이 다양한 분야에서 생산성과 이해를 크게 향상시킬 수 있다고 제안합니다. LLM은 모든 사람이 복잡한 정보에 접근할 수 있게 하여 다양한 분야에서 생산성을 향상시킬 수 있습니다. 하지만 단계적이고 반복적인 접근 방식이 필요합니다. AI 조종사가 인간을 돕는 것으로 시작하여 인간의 감독을 받는 에이전트로 이동한 다음, 결국 잘 평가된 작업에서 완전히 자율적인 에이전트를 달성해야 합니다.
이와 함께, 사후 훈련 차별화가 중요하며, 여기에는 감독 미세 조정(SFT)이 포함되고 인간 지능을 활용하여 맞춤형 모델을 구축하는 것이 포함됩니다. 트레이너, 엔지니어 및 기타 사람을 소싱하고 매칭할 수 있는 회사는 미세 조정 및 맞춤형 엔지니어링 역량을 가속화할 것입니다. OpenAI 및 Anthropic과 같은 선도적인 회사와 협력하는 것도 다양한 산업에 이러한 모델을 적용하는 데 중요합니다.
책임 있는 AGI 개발의 원칙
“AGI 개발은 혁신을 촉진하는 동시에 안전과 투명성을 보장하는 책임감 있고 윤리적이어야 합니다.” – Adam D’Angelo
AGI의 책임 있는 개발을 위해서는 몇 가지 핵심 원칙을 준수해야 합니다.
- 안전 및 보안: AGI 시스템이 안정적이고 오용에 강하도록 보장하는 것, 특히 모델이 새로운 데이터 입력이나 알고리즘을 수용하도록 확장되는 경우 더욱 그렇습니다.
- 투명성: AGI의 역량, 한계, 그리고 “작동 방식”에 대해 현실적으로 설명하세요.
- 윤리적 고려 사항: 공정성, 편견 및 AGI가 고용 및 기타 사회경제적 요인에 미치는 영향에 대한 논의.
- 규제: 정부 및 기타 조직과 협력하여 진보와 대중 안전의 균형을 이루는 프레임워크를 개발합니다.
- 벤치마킹: 향후 벤치마크에서는 윤리적 고려 사항과 분류 수준에 맞춰 AGI 행동과 역량을 정량화해야 합니다.
결론: 단일 종점이 아닌 AGI로 가는 경로에 집중하세요
AGI로 가는 길은 복잡하지만, 그 과정에서 각 정거장은 여정에 중요합니다. AGI의 반복적 개선 사항과 그 의미를 이해함으로써 사람과 기업은 이 진화하는 기술을 책임감 있게 채택할 수 있을 것입니다. 이것이 책임감 있는 AGI 개발의 핵심이며, 실제 세계의 상호 작용이 이 새로운 경계를 탐색하는 방법을 알려줍니다.
게시물 인공 일반 지능(AGI)으로 가는 길을 함께 항해하기: 균형 잡힌 접근 방식 처음 등장 유나이트.AI.
