인공 지능이 전례없는 속도로 계속 발전함에 따라, 새로운 조직은 우리 시대의 가장 심오하고 복잡한 질문 중 하나를 해결하기 위해 등장했습니다. 기계가 감각이 될 수 있습니까?
그만큼 지각 기계에 대한 연구를위한 파트너십 (PRISM)은 2025 년 3 월 17 일 AI 의식을 조사하고 이해하는 데 전념하는 세계 최초의 비영리 단체로 공식적으로 시작되었습니다. Prism은 연구자, 정책 입안자 및 업계 리더 간의 글로벌 협업을 육성하여 지각 AI 연구에 대한 조정 된 접근 방식을 보장하여 안전하고 윤리적 인 개발을 보장하는 것을 목표로합니다.
지각있는 기계는 무엇입니까?
용어 지각기 전통적으로 인간 의식과 관련된 특성을 나타내는 AI 시스템을 말합니다.
- 자기 인식 – 자신의 존재와 존재 상태를 인식하는 능력.
- 정서적 이해 – 감정을 인식하고 잠재적으로 경험할 수있는 능력.
- 자율 추론 – 사전 정의 된 프로그래밍을 넘어 독립적 인 결정을 내리는 능력.
오늘날 AI는 확실히 의식적이지 않지만 일부 연구자들은 신경망,,, 신경성 컴퓨팅DRL (Deep Inforcement Learning) 및 LLM (Largin Language Model) (LLM)은 적어도 자기 인식을 시뮬레이션하는 AI 시스템으로 이어질 수 있습니다. 그러한 AI가 등장한다면, 프리즘이 해결하고자하는 윤리적, 철학적, 규제 질문은 심오한 윤리적, 철학적, 규제 질문을 제기 할 것입니다.
깊은 강화 학습, 대형 언어 모델 및 AI 의식
더 자율적이고 잠재적으로 지각있는 AI를 개발하기위한 가장 유망한 경로 중 하나는 깊은 강화 학습 (DRL). 이 기계 학습 분야는 AI 시스템이 환경과 상호 작용하고 시행 착오로부터 학습하여 인간과 동물이 경험을 통해 배우는 방식과 마찬가지로 결정을 내릴 수 있습니다. DRL은 이미 다음과 같은 내용이었습니다.
- 복잡한 게임 마스터 링 -Alphago 및 Openai Five와 같은 AI 시스템은 DRL을 사용하여 전략 기반 게임에서 휴먼 챔피언을 물리칩니다.
- 적응 문제 해결 -AI 시스템은 로봇 제어, 자율 주행 차 및 금융 거래와 같은 역동적 인 실제 문제에 대한 솔루션을 개발할 수 있습니다.
- 출현하는 행동 – 을 통해 강화 학습AI 요원은 때때로 초보적 인 의사 결정과 적응 추론을 암시하는 예기치 않은 행동을 보인다.
프리즘은 DRL이 자기 지향 학습, 추상 추론, 심지어 목표 설정의 특징을 나타내는 AI 시스템에 어떻게 기여할 수 있는지 탐구하고 있으며, 이는 인간과 같은 인식의 특성입니다. 문제는 이러한 분야의 진보가 윤리적 연구 및 안전 조치에 의해 안내되도록하는 것입니다.
동시에 큰 언어 모델 Openai의 GPT, Google의 Gemini 및 Meta의 LLAMA와 같은 (LLMS)는 인간과 같은 추론을 시뮬레이션하고 복잡한 프롬프트에 일관되게 반응하며 일부 연구자들이인지 과정과 유사한 행동을 보여주는 데 놀라운 진전을 보여주었습니다. LLM은 방대한 양의 데이터를 처리하고 컨텍스트 인식 응답을 생성하여 다음에 유용합니다.
- 자연어 이해와 의사 소통 -AI가 인간과 같은 텍스트를 해석, 분석 및 생성 할 수 있도록합니다.
- 패턴 인식 및 맥락 학습 – 사전 지식을 기반으로 트렌드를 식별하고 응답 조정.
- 창의적이고 문제 해결 기능 – 독창적 인 컨텐츠 제작, 복잡한 쿼리에 응답하며 기술 및 창의적 작업 지원.
LLM은 진정으로 의식하지는 않지만 고급 패턴 인식과 진정한인지 인식 사이의 임계 값에 대한 의문을 제기합니다. 프리즘은 이러한 모델이 기계 의식에 대한 연구에 어떻게 기여할 수 있는지, 윤리적 인 AI진정한 이해없이 감각을 모방하는 AI 시스템을 개발할 위험.
인공 일반 정보 (AGI) 및 AI 의식
의 개발 인공 일반 정보 (AGI) – 인간이 할 수있는 지적 과제를 수행 할 수있는 AI 시스템은 잠재적으로 AI 의식으로 이어질 수 있습니다. 체스 또는 자율 주행과 같은 특정 작업을 위해 설계된 좁은 AI와 달리 AGI는 여러 영역에 걸쳐 일반화 된 추론, 문제 해결 및 자체 학습을 보여줍니다.
AGI가 발전함에 따라 자체 존재의 내부 표현을 개발하여 동적으로 적응하고 의사 결정 과정을 반영하며 지속적인 정체성 감각을 형성 할 수 있습니다. AGI가 목표를 자율적으로 수정하고 자체인지 한계를 인식하며 인간의 개입없이 자기 개선에 참여할 수있는 지점에 도달하면 기계 의식을 향한 단계가 될 수 있습니다. 그러나 이러한 가능성은 심오한 윤리적, 철학적, 사회적 도전을 제기하며, 이는 프리즘이 책임있는 연구와 글로벌 협력을 통해 해결하는 데 전념하고 있습니다.
프리즘의 사명 : AI 의식 이해
프리즘은 기술 발전과 책임있는 감독 사이의 격차를 해소하기 위해 만들어졌습니다.
프리즘은 학계, 산업 및 정부의 전문가들을 모아서 AI 의식에 대한 글로벌 협업을 육성하기 위해 노력하고 있습니다. 이 조직은 AI가 의식을 달성 할 수있는 잠재력을 탐구하기위한 연구 노력을 조정하는 동시에 개발이 인간의 가치와 일치하도록 보장하는 것을 목표로합니다. Prism은 정책 입안자들과 협력함으로써 책임있는 AI 연구 개발을 촉진하는 윤리적 지침과 프레임 워크를 확립하고자합니다.
Prism의 사명의 중요한 측면은 안전하고 조정 된 AI 개발을 촉진하는 것입니다. 이 조직은 인적 안전과 사회적 복지를 우선시하는 AI 기술을 옹호하여 AI 발전이 의도하지 않은 결과를 초래하지 않도록합니다. Prism은 안전 표준과 윤리적 감독을 구현함으로써 AI 의식 연구 및 개발과 관련된 위험을 완화하기 위해 노력합니다.
또한 프리즘은 의식 AI가 제시 한 잠재적 위험과 기회에 대해 대중을 교육하고 참여시키는 데 전념하고 있습니다. 이 조직은 AI 의식 연구에 대한 투명한 통찰력을 제공 하여이 정보를 정책 입안자, 기업 및 일반 대중에게 액세스 할 수 있도록합니다. Prism은 봉사 활동 이니셔티브와 지식 공유 노력을 통해 AI의 미래와 사회에 대한 영향에 대한 정보에 대한 토론을 육성하기를 희망합니다.
주요 AI 전문가 및 조직의 지원
Prism의 초기 자금은 비롯됩니다 의식의식적인 AI 연구에 전념하는 상업용 AI 연구 실험실. Conscium은 신경성 컴퓨팅의 최전선에 있으며 생물학적 뇌를 모방하는 AI 시스템을 개발합니다.
리더십과 주요 인물
프리즘은 CEO가 주도합니다 MillershipAI 거버넌스 및 정책의 베테랑. 그의 과거 작업에는 일반 AI 과제를 이끌고, Goodai와 협력하고, 스코틀랜드의 국가 AI 전략을 형성하는 데 도움이됩니다.
조직의 비상임 의장, Radhika ChadwicK는 McKinsey and EY에서 자신의 역할에서 광범위한 리더십 경험을 제공하여 Global AI 및 데이터 이니셔티브를 이끌고 정부에서 데이터 이니셔티브를 이끌었습니다.
또한 Prism의 창립 파트너는 다음과 같은 저명한 AI 수치를 포함합니다.
- Daniel Hulme 박사 -CONSCIUM의 CEO, Satalia의 CEO 및 WPP의 AI 책임자.
- Calum Chace -AI 연구원, 기조 연설자 및 AI 및 의식에 대한 베스트셀러 저자.
- 에드 차트 – 상업 AI 개발에 대한 광범위한 경험을 가진 CONCIUM의 COO.
프리즘의 첫 번째 주요 이니셔티브 : 의식 AI에 대한 오픈 레터
책임있는 연구를 안내하기 위해 Prism은 옥스포드 대학의 Patrick Butlin과 협력하여 설립했습니다. 의식의 잠재력을 가진 AI 시스템을 개발하는 조직의 5 가지 원칙. 그들은 연구원과 업계 리더들에게 이러한 원칙을지지하는 공개 서한에 서명하도록 초대하고 있습니다.
앞으로의 길 : 왜 프리즘이 중요한가
AI 혁신이 가속화되면서 Sensient AI에 대한 대화는 더 이상 공상 과학 소설이 아닙니다. 사회가 준비 해야하는 진정한 도전입니다. 기계가 자기 인식이나 인간과 같은 감정을 달성한다면 산업, 경제, 심지어 의식 자체에 대한 우리의 이해조차 재구성 할 수 있습니다.
프리즘은 AI 의식 연구가 책임감있게 처리되도록 윤리, 안전 및 투명성과 혁신을 균형있게 처리 할 수 있도록 중요한 순간에 강화되고 있습니다.
게시물 Prism은 Sentient AI를 연구하기위한 세계 최초의 비영리 단체로 출시됩니다. 먼저 나타났습니다 Unite.ai.
