범용 인공지능(AGI)이란?

AGI는 AI 연구 초기부터 활발히 연구되어 왔습니다. 하지만 학계 내에서는 정확히 무엇이 AGI인지, 어떻게 하면 이를 가장 잘 달성할 수 있는지에 대한 합의가 여전히 이루어지지 않고 있습니다. 인간과 유사한 지능이라는 큰 목표는 간단하고 직관적이지만, 세부적인 내용은 미묘하고 주관적입니다. 따라서 AGI를 추구하는 것에는 기계의 지능을 이해하는 프레임워크와 그 프레임워크를 충족하는 모델을 개발하는 것으로 구성됩니다.

이 과제는 철학적이면서도 기술적입니다. 철학적으로 AGI를 공식적으로 정의하려면 ‘지능’에 대한 공식적인 정의와 그러한 지능이 AI에서 어떻게 발현될 수 있는지에 대한 폭넓은 합의가 필요합니다. 기술적으로 AGI를 구현하려면 전례 없는 수준의 정교함과 다재다능함을 갖춘 AI 모델, 모델의 인지 능력을 신뢰성 있게 검증하는 지표와 테스트, 이를 지속적으로 뒷받침할 컴퓨팅 성능이 필요합니다.

일반 지능 또는 범용 AI라는 개념은 좁은 AI와 대비할 때 가장 잘 이해할 수 있습니다. 좁은 AI는 '지능'이 특화된 도메인에서만 발휘되는 현재의 AI 대부분을 설명하는 용어입니다.

'인공 지능'이라는 용어는 1956년 다트머스, IBM, 하버드, 벨 연구소 등 다양한 기관의 수학자와 과학자들이 참여한 '인공 지능에 관한 다트머스 서머 리서치 프로젝트'에서 기원한 것으로 여겨집니다. 제안서에 설명된 대로 "이 연구는 학습의 모든 측면이나 지능의 다른 특징을 기계가 시뮬레이션할 수 있을 정도로 정확하게 설명할 수 있다는 추측을 바탕으로 진행되었습니다."

급성장 중이었던 'AI' 분야는 스스로 생각할 수 있는 기계에 대한 로드맵을 개발하고자 했습니다. 하지만 그 후 수십 년 동안 기계의 지능을 인간과 비슷하게 만드는 작업은 거의 진전되지 않았습니다.

체스 게임, 의료 진단, 예측, 자동차 운전과 같이 일반적으로 인간의 높은 지능을 필요로 하는 특정 작업을 수행하는 컴퓨팅 머신을 개발하는 것에는 훨씬 더 큰 진전이 있었습니다. 하지만 자율 주행 자동차를 구동하는 모델과 같은 이러한 모델은 특정 영역에서만 지능을 발휘합니다.

2007년, AI 연구자 Ben Goertzel은 DeepMind의 공동 창립자 Shane Legg의 제안에 따라 동명의 책을 발간하며 '범용 인공지능'(AGI)이라는 용어를 대중화시켰습니다. 그가 '내로우 AI'라고 불렀던 인공지능과는 달리, 범용 인공지능은 "인간과 마찬가지로 영역에 제한되지 않은 방식으로 범용적인 문제를 해결할 수 있는 능력"을 갖춘 새로운 유형의 인공지능이었습니다.

AGI는 과제 전반에 걸친 폭넓은 인간 수준의 역량을 의미하며, 머신 러닝의 다른 개념과도 밀접하게 연관됩니다. 강한 AI는 일반적으로 의식 또는 진정한 정신을 의미합니다. 초인공지능은 사실상 모든 과제에서 인간의 능력을 능가합니다. 이러한 개념은 상당 부분 겹치지만, 각각 고유한 AI 개념입니다.

철학자 존 설(John Searle)의 저작에서 주요하게 논의된 ‘강한 AI’는 의식을 보이는 AI 시스템을 가리키며, 주로 약한 AI와 대비되는 개념입니다.강한 AI는 일반적으로 AGI와 유사하고 약한 AI는 일반적으로 좁은 AI와 유사하지만, 서로 단순한 동의어는 아닙니다.

본질적으로 약인공지능은 의식, 즉 인간이 사용하는 도구에 불과하지만, 강인공지능은 그 자체가 의식입니다. 일반적으로 의식이 있는 AI라고 하면 인간과 동등하거나 더 우수한 지능을 가질 것이라고 생각할 수 있지만, 강인공지능은 다양한 작업을 수행할 때 상대적인 성능에 명시적으로 관여하지 않습니다. 의식은 일반적으로 '범용 지능'의 전제 조건 또는 결과로 간주되기 때문에 두 개념이 종종 혼동되기도 합니다.

유사점에도 불구하고 AGI와 강인공지능은 궁극적으로 동일한 개념이라기보다는 상호 보완적인 개념입니다.

초인공지능은 이름에서 알 수 있듯이 사실상 모든 과제에 걸쳐 모든 인간의 일반적 역량을 크게 능가하는 AI 시스템을 의미합니다.

전이 학습과 퓨샷 학습 같은 개념은 시스템이 한 과제에서 얻은 지식을 다른 과제에 적용하는 능력을 보여 주므로 AGI와 관련하여 자주 논의됩니다. 특정 과제나 도메인을 위해 설계되어 해당 영역에서 모든 인간보다 뛰어난 것으로 보이는 소수의 AI 시스템을 통해, 초인적 지능의 제한적인 형태는 이미 여러 차례 달성되었다고 볼 여지도 있습니다. 예를 들면 다음과 같습니다.

• AlphaFold는 아미노산 서열에서 단백질의 3차원 구조를 예측하는 능력에서 모든 인간 과학자를 능가합니다.
  
  
• IBM의 Deep Blue는 1997년에 세계 체스 챔피언 가리 카스파로프(Garry Kasparov)를 이겼습니다.

• IBM Watson은 2013년에 Jeopardy! 챔피언 켄 제닝스(Ken Jennings)와 브래드 러터(Brad Rutter)를 이겼습니다.
  
  
• AlphaGo와 그 후속 모델인 AlphaZero는 바둑에서 세계 최고 수준의 실력으로 평가됩니다.

전이 학습은 현재 AI 모델이 관련 과제 전반에서 일반화하는 데 도움이 되지만, 범용 인공지능과 동일한 것은 아닙니다. 이러한 모델은 초인공지능으로 나아가는 돌파구일 수 있지만, 인공 ‘일반’ 지능을 달성하지는 못했습니다. 이러한 AI 시스템은 좁게 정의된 범위를 벗어나 새 과제를 자율적으로 학습하거나 문제 해결 역량을 확장할 수 없기 때문입니다. 진정한 ASI는 특정 도메인 한 곳에서의 우위뿐 아니라 인간이 수행할 것으로 기대되는 모든 과제에 걸친 우위를 의미합니다.

초인공지능은 AGI의 전제 조건이 아닙니다. 이론적으로 의식을 보이고 평균적인 보통 사람과 비슷한 수준의 지능을 보이는 AI 시스템은 AGI와 강한 AI에는 해당하지만, 초인공지능에는 해당하지 않습니다.

컴퓨터 과학의 역사를 통틀어 많은 정의가 제안되었지만, 정확히 무엇이 AGI에 해당되는지에 대해서는 전문가들 사이에 합의가 이루어지지 않았습니다. 이러한 정의는 일반적으로 기계 지능을 달성하기 위해 사용해야 하는 구체적인 알고리즘이나 머신 러닝 모델보다는 추상적인 개념에 초점을 맞추고 있습니다.

2023년 Google Deepmind 논문에서는 기존 학술 문헌을 조사해 범용 인공지능을 정의하기 위한 몇 가지 범주의 프레임워크를 확인했습니다.

• 튜링 테스트: 인간처럼 설득력 있게 행동할 수 있는 기계
  
  
• 강한 AI: 의식을 가진 시스템
  
  
• 인간 뇌와의 유사성
  
  
• 인지 과제에서 인간 수준의 성능
  
  
• 새로운 과제를 학습하는 능력
  
  
• 경제적으로 가치 있는 작업
  
  
• 유연하고 범용적인 역량
  
  
• ACI(Artificial Capable Intelligence)

이론 컴퓨터 과학 역사의 중요한 인물인 Alan Turing은 1950년 논문 'Computer Machinery and Intelligence'에서 기계 지능에 대한 가장 초기이자 가장 영향력 있는 정의 중 하나를 발표했습니다. 그 주장 핵심은 바로 지능은 신비로운 철학적 특성보다는 행동으로 정의될 수 있다는 것이었습니다. 기계, 사고와 같은 개념에 대한 확고한 정의를 내리는 것이 어렵다는 것을 인식한 Turing은 모방 게임이라는 파티 게임을 기반으로 문제를 해결하는 간단한 방법을 제안했습니다.

'튜링 테스트'는 간단합니다. 인간 관찰자가 텍스트 샘플을 읽고 사람이 생성한 것인지 기계가 생성한 것인지 판단하는 것입니다. Turing은 인간이 프로그램의 출력과 인간의 출력을 구별할 수 없다면 그 프로그램은 인간과 같은 지능을 가지고 있다고 할 수 있다고 제안했습니다.

튜링 테스트에 대한 비판
그 기념비적인 영향에도 불구하고 오늘날 컴퓨터 과학자들은 튜링 테스트가 AGI의 적절한 척도라고 생각하지 않습니다. 이 테스트는 기계의 사고 능력을 입증하기보다는 인간이 얼마나 쉽게 속을 수 있는지를 강조합니다.

1966년, Joseph Weizenbaum은 간단한 규칙을 적용하여 사람의 입력 언어를 챗봇의 응답으로 변환하는 ELIZA라는 챗봇 프로그램을 만들었습니다. 그가 이 챗봇으로 설계한 첫 번째 프로그램 DOCTOR는 일반적인 응답을 하거나 사용자의 입력을 질문 형식으로 바꾸는 로저리언 심리 치료를 모방하도록 설계되었습니다.

Human: 남자친구가 여기 오라고 해서 왔어요.
ELIZA: 남자친구가 여기로 오라고 했나요?
Human: 그는 내가 항상 우울하다고 말해요.
ELIZA: 우울하다니 유감이에요.
Human: 맞아요. 불행해요.
ELIZA: 여기 오면 불행하지 않을 것 같나요?

Weizenbaum은 1976년 저서 Computer Power and Human Reason에서 "DOCTOR와 대화하는 사람들이 얼마나 빨리 그리고 매우 깊게 컴퓨터에 감정적으로 몰입하는지, 그리고 얼마나 명백하게 컴퓨터를 의인화하는지를 보고 깜짝 놀랐다"라고 설명했습니다. Weizenbaum은 그가 몇 달 동안 프로그램 작업을 하던 것을 지켜보았고 DOCTOR의 간단한 방법론을 분명히 알고 있던 비서조차도 대화를 시작할 때 사생활을 위해 방에서 나가달라고 요청했다고 언급했습니다^.1 이 현상은 오늘날 엘리자 효과(ELIZA Effect)로 불리고 있습니다.

또 다른 제안된 정의는 AGI의 기준을 더 높게 설정합니다. 바로 의식을 갖춘 AI 시스템입니다. 일부 연구자는 AGI를 의식 또는 자기 인식과 연관 짓는 반면, 다른 연구자들은 인간 수준의 과제 수행에 자기 인식이 필요하지 않다고 주장합니다. 자기 인식이 범용 인공지능에 필요한지 여부는 아직 결론 나지 않았습니다. 존 설이 표현한 것처럼, “강한 AI에 따르면 컴퓨터는 단순히 정신을 연구하기 위한 도구가 아닙니다. 적절히 프로그래밍된 컴퓨터는 실제로 정신 그 자체입니다.”²

존 설은 1980년에 튜링 테스트가 강한 AI를 증명할 수 있다는 주장에 대한 저명한 철학적 반박을 제시했습니다. 그는 중국어를 전혀 이해하지 못하는 영어 사용자가 중국어 기호로 된 책과 기호를 조작하는 방법을 설명하는 영어 지침으로 가득 찬 방에 갇혀 있는 상황을 설명합니다. 이 영어 사용자는 다른 방에 있는 사람의 메시지도, 자신의 답변도 이해하지 못하지만, 숫자와 기호를 조작하라는 지침을 따르는 것만으로 자신이 중국어를 할 수 있다고 그 사람을 속일 수 있다고 존 설은 주장합니다.³

Stanford Encyclopedia of Philosophy의 이 기사에 요약된 중국어 방 논증을 둘러싼 수십 년의 논쟁은 ‘이해’의 정의와 컴퓨터 프로그램이 이를 가질 수 있는지에 대해 과학계의 합의가 없음을 보여줍니다. 이러한 이견과 의식이 인간과 유사한 성능을 위한 필수 조건조차 아닐 수 있다는 가능성 때문에, 강한 AI만으로는 AGI를 정의하기 위한 실용적인 프레임워크가 되기 어렵습니다.

인간 뇌만이 지금까지 달성한 것으로 알려진 종류의 지능을 재현하려는 AGI 접근법 중 하나는 인간 뇌 자체를 복제하는 것입니다.⁴ 이러한 직관은 초기 인공 신경망을 탄생시켰고, 이는 다시 오늘날 AI의 거의 모든 하위 분야에서 최고 수준을 보여 주는 딥 러닝 모델로 발전했습니다.

딥 러닝 신경망, 특히 생성형 AI의 선두에 있는 대규모 언어 모델(LLM)과 멀티모달 모델의 성공은 자기 조직화된 인공 뉴런 네트워크를 통해 인간 뇌에서 영감을 얻는 방식의 이점을 보여줍니다. 그러나 현재까지 가장 뛰어난 딥 러닝 모델 중 다수는 트랜스포머 기반 아키텍처를 사용하며, 이러한 아키텍처 자체는 뇌와 유사한 구조를 엄밀하게 모방하지 않습니다. 이는 인간 뇌를 명시적으로 모방하는 일이 AGI 달성에 본질적으로 필요하지 않을 수 있음을 시사합니다.

보다 총체적인 접근 방식은 AGI를 단순히 사람이 할 수 있는 모든 인지 작업을 수행할 수 있는 AI 시스템으로 정의하는 것입니다. 이 정의는 유연하고 직관적이지만 어떤 작업을 대상으로 하고, 어떤 사람들을 대상으로 하는지 모호합니다. 이러한 모호성으로 인해 AGI의 공식 프레임워크로서의 실제 사용에는 한계가 있습니다.

이 프레임워크의 가장 유의미한 공로는 AGI의 초점을 비물리적 작업으로 제한한다는 점입니다. 이렇게 하면 흔히 '신체적 지능'을 보여주는 것으로 간주되는 기능, 물리적 도구 사용, 이동 또는 물체 조작과 같은 능력은 무시됩니다.⁵ 따라서 로보틱스의 추가적인 발전은 AGI 개발의 전제 조건이 될 수 없습니다.

AGI와 지능 자체에 대한 또 다른 직관적 접근법은 학습 역량, 특히 인간이 할 수 있는 만큼 폭넓은 과제와 개념을 학습하는 능력을 강조합니다. 이는 튜링이 '컴퓨팅 기계와 지능(Computing Machinery and Intelligence)'에서 제시한 생각과도 맞닿아 있습니다. 그는 성인 정신을 가진 컴퓨터 시스템으로 직접 프로그래밍하는 것보다 아이와 같은 AI를 프로그래밍하고 일정 기간 교육하는 편이 더 현명할 수 있다고 추측했습니다.⁶

이 접근법은 특정 작업을 수행하도록 모델을 명시적으로 훈련하는 좁은 AI와 대조됩니다. 예를 들어 ‘새로운’ 과제에서 퓨샷 학습이나 제로샷 학습 역량을 보여주는 것으로 보이는 GPT-4와 같은 LLM도, 주요 작업인 시퀀스에서 다음 단어를 자기회귀적으로 예측하는 것과 인접한 기능으로 제한됩니다.

최첨단 멀티모달 AI 모델은 자연어 처리(NLP)에서 컴퓨팅 비전, 음성 인식에 이르기까지 점점 더 다양한 작업을 수행할 수 있지만, 여전히 학습 데이터 세트에 포함된 핵심 기술의 한정된 목록으로 제한되어 있습니다. 예를 들어, 이러한 모델은 자동차 운전도 배울 수 없습니다. 진정한 AGI는 실시간으로 새로운 경험을 통해 학습할 수 있으며, 이 능력은 인간 어린이, 심지어 많은 동물에게도 놀라운 일이 아닙니다.

AI 연구자 Pei Wang은 이 프레임워크에서 유용한 기계 지능의 정의를 "정보 처리 시스템이 부족한 지식과 자원으로 환경에 적응할 수 있는 능력"이라고 제시합니다.⁷

Open AI, GPT-3 모델이 ChatGPT 출시와 함께 현재의 생성형 AI 시대를 연 것으로 종종 인정받는 Open AI는 헌장에서 AGI를 “가장 경제적으로 가치 있는 작업에서 인간보다 뛰어난 성과를 내는 고도로 자율적인 시스템”이라고 정의합니다.⁸

DeepMind 논문에서 언급되었듯, 이 정의에는 예술적 창의성이나 감성 지능과 같이 경제적 가치를 정의하기 어려운 인간 지능의 요소는 빠져 있습니다. 지능의 이러한 측면은 수익성 있는 영화를 제작하는 창의성이나 심리 치료를 수행하는 기계를 구동하는 감정 지능 등의 우회적인 방식으로 경제적 가치를 실현할 수 있습니다.

경제적 가치에 초점을 맞추는 것은 AGI를 구성하는 역량이 실제 환경에 배포될 때만 인정될 수 있음을 의미하기도 합니다. AI 시스템이 특정 과제에서 인간에 필적하더라도 법적, 윤리적, 사회적 이유로 해당 과제에 실제 배포하는 것이 현실적이지 않다면, 그 시스템이 인간보다 ‘우수하다’고 말할 수 있을까요?

DeepMind 논문은 또한 OpenAI가 2021년에 로보틱스 사업부를 폐쇄했다고 언급하며, 이는 육체노동의 복제와 이에 따른 AGI에서 '신체적 지능'의 역할이 경제적 가치에 대한 해석의 일부가 아님을 시사합니다.

심리학자이자 인지 과학자, AI 연구자인 Gary Marcus는 AGI를 “유연하고 범용적이며 인간 지능에 필적하는 (또는 그 이상의) 수완과 신뢰성을 갖춘 모든 지능의 약칭”이라고 정의했습니다.⁹ Marcus는 이러한 적응력과 범용적인 역량을 입증하기 위해 '학습 과제' 프레임워크의 구체적이고 실용적인 구현과 유사한 일련의 벤치마크 과제를 제안했습니다.

AGI를 정량적으로 규정하려는 이러한 시도는 Apple 공동 창립자 스티브 워즈니악(Steve Wozniak)이 제안한 사고 실험을 떠올리게 합니다. 그는 “컴퓨터가 커피 한 잔을 만들 수 있을까?”라고 물었습니다. 워즈니악은 겉보기에는 단순한 이 작업이 실제로는 매우 복잡하다고 지적합니다. 주방이 무엇인지, 커피 머신이나 커피가 어떻게 생겼는지 알아야 하며, 서랍과 찬장을 다룰 수 있어야 하기 때문입니다. 요컨대 인간은 커피 한 잔을 내리기 위해서만도 평생의 경험을 활용해야 합니다.¹⁰

구체적으로, Marcus는 단일 AI 시스템에서 수행할 경우 AGI를 입증할 수 있는 5가지 벤치마크 작업을 제안했습니다.¹¹

• 영화를 보고 등장인물과 이들의 갈등 및 동기를 이해하기.
  
  
• 소설을 읽고 줄거리, 등장인물, 갈등 및 동기에 관한 질문에 원문을 넘어선 인사이트를 제공하며 신뢰성 있게 답하기.
  
  
• 어떤 주방에서든 유능한 요리사로 일하기(워즈니악의 커피 벤치마크와 유사).
  
  
• 기존 라이브러리의 코드를 짜깁기하지 않고 자연어 지침을 바탕으로 버그 없는 코드 10,000줄을 신뢰성 있게 작성하기.
  
  
• 자연어 수학적 증명을 기호 형식으로 변환하기

이 작업 중심 프레임워크는 AGI 검증에 절실히 필요한 객관성은 갖추고 있지만, 이러한 특정 작업이 인간의 모든 지능을 포괄하는지에 대해서는 동의하기 어렵습니다. 요리사로 일하는 세 번째 작업은 로보틱스, 그리고 신체적 지능이 AGI의 필수 요소라는 것을 의미합니다.

2023년 Microsoft AI의 CEO이자 DeepMind의 공동 창립자인 Mustafa Suleyman은 현실 세계에서 복잡하고 개방적인 다단계 작업을 수행할 수 있는 AI 시스템을 설명하기 위해 'ACI'(Artificial Capable Intelligence)이라는 용어를 제안했습니다. 조금 더 구체적으로, 그는 인공지능에 10만 달러의 종잣돈을 주고 이를 100만 달러로 불리는 과제를 부여하는 '현대 버전의 튜닝 테스트'를 제안했습니다.¹² 넓은 관점에서 보면, 이 테스트는 OpenAI의 경제적 가치 개념과 Marcus가 중점을 둔 유연성과 범용 지능을 결합한 것이라고 할 수 있습니다.

이 벤치마크는 진정한 독창성과 학제 간 역량을 입증할 가능성이 높지만, 실질적으로 지능을 특정 종류의 경제적 산출물로 보는 프레임워크는 지나치게 협소합니다. 더욱이, 이익에만 초점을 맞추면 정렬 위험이 발생합니다.¹³

Blase Agüera y Arcas와 Peter Norvig 등의 일부 연구자들은 Meta의 Llama, Open AI의 GPT, Anthropic의 Claude 등의 첨단 LLM이 이미 AGI를 달성했다고 주장합니다. 이들은 범용성이 AGI의 핵심 요소이며, 오늘날의 모델은 이미 광범위한 주제를 논의하고 광범위한 작업을 수행하며 다양한 멀티모달 입력을 처리할 수 있다고 가정합니다. 이들은 "'범용 지능'은 다차원적인 스코어카드의 관점에서 생각해야 한다"며 "네 또는 아니요 방식의 제안은 단 한 건도 없다"고 말합니다.¹⁴

이 입장을 반대하는 사람들은 많습니다. DeepMind 논문의 저자들은 일반성 자체가 AGI의 자격이 되지는 않으며, 어느 정도의 성능과 결합되어야 한다고 주장합니다. 예를 들어, LLM이 코드를 작성할 수는 있어도 코드를 신뢰할 수 없다면 이 일반성은 "아직 충분한 성능을 갖추지 못한 것"입니다.

Meta의 수석 AI 과학자 Yann LeCun은 LLM에는 상식이 없기 때문에 AGI로서의 자격이 부족하다고 말합니다. 즉, 행동하기 전에 생각할 수 없고, 현실 세계에서 행동을 수행하거나 체화된 경험을 통해 학습할 수 없으며, 지속적인 기억력과 계층적 계획 능력이 부족하다는 것입니다.¹⁵ 보다 근본적인 차원에서, LeCun과 Jacob Browning은 "언어만으로 학습을 받은 시스템은 지금부터 우주가 열사될 때까지 학습시킨다고 해도 결코 인간의 지능에 근접하지 못할 것"이라고 주장합니다.¹⁶

Goertzel과 Pennachin은 알고리즘과 모델 아키텍처 측면에서 AGI 시스템에 대한 최소한 3가지 기본 기술 접근 방식이 있다고 말합니다.

• 인간 뇌의 정밀한 소프트웨어 모방: 모델 아키텍처가 뇌를 직접 모방하지 않는 경우에도 신경과학의 인사이트는 AGI 연구에 계속 영향을 미칩니다. 인간 뇌는 우리가 알고 있는 일반 지능을 갖춘 유일한 시스템이므로, 이를 거의 완벽하게 모방한다면 이론적으로 유사한 지능을 구현할 수 있습니다. 인공 신경망은 겉으로는 뇌의 기본 메커니즘을 재현하지만, 뇌의 실제 작동 방식은 현재의 딥 러닝 모델보다 훨씬 더 다양하고 정교합니다. 뇌를 실제로 모방하는 기술적 과제 외에도, 이 접근 방식에는 현재보다 훨씬 더 깊은 뇌의 작동 원리에 대한 이해가 필요합니다.¹⁷

• 뇌와 좁은 AI 아키텍처 모두와 구별되는 새로운 모델 아키텍처: 이 접근 방식은 일반 지능에 적합한 구조가 뇌만은 아니며, 좁은 AI에 대한 기존 접근 방식은 기술적 또는 개념적 한계를 넘어설 수 없다고 가정합니다. 따라서 AGI에는 새로운 유형의 인공지능이 필요합니다. 예를 들어 르쿤(LeCun)은 자기회귀형 및 기타 생성형, 확률적 AI 모델 아키텍처를 지양하고, 동물과 어린이와 더 유사한 방식으로 학습하는 ‘월드 모델’을 갖춘 ‘목표 지향 AI 시스템(Objective-Driven AI Systems)’을 채택할 것을 제안했습니다.
  
  
• 좁은 AI 알고리즘을 종합하는 통합적 접근 방식: 이 접근 방식은 AGI를 달성하기 위한 현재의 현실 세계 이니셔티브 대부분이 초점을 맞추고 있으며, LLM, 이미지 모델, 강화 학습 에이전트와 같은 좁은 AI 툴에서 이루어진 분리된 진전을 엮어내려 시도합니다. 현재의 멀티모달 모델은 이 경로의 중간 단계로 볼 수 있습니다. 이러한 통합적 접근 방식은 일반적으로 의사 결정 프로세스를 탐색하고 전문 모델에 하위 작업을 위임하는 과정을 자동화하는 중앙 ‘에이전트’ 모델, 대개 LLM을 사용합니다.

AI의 미래에 대한 예측은 항상 높은 수준의 불확실성을 수반하지만, 거의 모든 전문가들은 금세기 말까지 가능할 것이라는 데 동의합니다. 일부에서는 훨씬 더 빨리 일어날 수도 있다고 추정하기도 합니다.

2023년, Our World in Data의 Max Roser는 최근 몇 년간 AGI 예측에 관한 전문가들의 의견이 어떻게 변화했는지를 정리해 발표했습니다. 각 설문조사에서는 응답자(AI 연구원과 머신 러닝 연구원)에게 인간 수준 50%의 기계 지능을 달성하는 데 얼마나 걸릴 것으로 생각하는지 물었습니다. 2018년부터 2022년까지의 가장 중요한 변화는 응답자들이 AGI가 100년 이내에 도래할 것이라는 확신이 높아졌다는 것입니다.

하지만 이 3가지 연구는 모두 ChatGPT가 출시되고 현대 생성형 AI 시대가 시작되기 전에 수행되었다는 점에 주목할 필요가 있습니다. 2022년 말 이후 AI 기술, 특히 LLM과 멀티모달 AI의 발전 속도가 빨라지면서 예측 환경이 크게 달라졌습니다.

Grace 등이 2,778명의 AI 연구원을 대상으로 2023년 10월에 실시해 2024년 1월에 발표한 더 큰 규모의 후속 설문조사에서 응답자들은 불과 1년 전 유사한 연구에서 전문가들이 예측한 것보다 13년 빠른 2047년까지 "모든 가능한 작업에서 인간을 능가하는 기계가 지원 없이 인간보다 우수한 성과를 낼 확률"을 50%로 추정했습니다.

하지만 Roser가 지적했듯이 연구에 따르면 많은 분야의 전문가가 본인 분야의 미래를 예측했을 때 반드시 신뢰할 수 있는 것은 아닙니다. 그는 일반적으로 세계 최초의 성공적인 비행기의 발명가로 간주되는 Wright 형제의 예를 인용합니다. 1908년 11월 5일 파리의 에어로 클럽 드 프랑스에서 열린 수상 수락 연설에서 Wilbur Wright는 "1901년에 나는 나의 형제 Orville에게 50년 동안 인간이 하늘을 나는 일은 없을 것이라고 말했다. 그리고 2년 후, 우리는 비행기를 만들고 있었다"라고 고백했습니다.¹⁸

인공지능은 팩맨의 유령부터 최첨단 LLM에 이르기까지, 인간의 개입 없이 의사 결정이나 예측을 수행할 수 있는 모든 시스템을 포괄하는 매우 광범위한 범주입니다. 범용 인공지능은 모든 과제 전반에서 일반화되는 인간과 유사하거나 그 이상의 역량을 갖춘 AI 시스템을 구체적으로 가리킵니다.

아니요. 에이전틱 AI는 툴이나 여러 모델을 사용하여 계획을 수립하고, 조치를 취하고, 여러 단계로 이루어진 작업을 조정할 수 있는 시스템을 의미합니다. 에이전틱 AI 시스템은 제한된 인간 개입으로 특정 목표를 달성하기 위해 여러 단계의 작업을 실행할 수 있지만, 일반적으로 정의된 도메인과 역량 내에서 작동합니다.

반면 AGI는 사실상 모든 인지 과제나 도메인 전반에서 이해하고, 학습하고, 추론하고, 적응할 수 있는 인간 수준의 일반 지능을 갖춘 가설적인 형태의 AI를 의미합니다. 간단히 말해 에이전틱 AI는 자율적인 행동과 목표 실행에 중점을 두는 반면, AGI는 폭넓은 인간과 유사한 지능 및 적응력에 중점을 둡니다.

파운데이션 모델은 AGI 구현에 도움이 될 수 있지만, 그 자체가 AGI는 아닙니다. 파운데이션 모델은 대규모 데이터 세트에서 패턴을 학습하고 광범위한 과제를 지원함으로써 고급 AI 시스템을 위한 기반 기술을 제공합니다. 많은 전문가는 역량이 점점 향상되는 파운데이션 모델이 AGI의 핵심 구성 요소가 될 수 있다고 생각하지만, 대부분의 연구자는 진정한 AGI를 달성하려면 신뢰할 수 있는 추론, 장기 기억, 실제 세계에 대한 이해 및 자율 학습과 같은 추가 역량이 필요하다는 데 동의합니다.

아니요. 현재의 LLM은 AGI로 간주되지 않습니다. 대규모 언어 모델은 언어를 이해하고 생성하며, 여러 주제에 걸쳐 추론하고, 광범위한 작업을 완료할 수 있지만, 범용 인공지능(AGI)과 일반적으로 연관되는 폭넓은 인간 수준의 적응력, 실제 세계에 대한 이해 및 일반적인 문제 해결 능력은 여전히 부족합니다. 다만 전문가는 역량이 점점 향상되는 LLM이 AGI로 가는 경로인지, 아니면 AGI의 초기 형태인지를 계속 논의하고 있습니다.

AGI는 초인공지능(ASI)의 전제 조건이지만, 초인공지능은 AGI에 필요하지 않습니다. 평균적인 보통 사람과 동일한 지능과 역량을 갖춘 AI 시스템은 AGI의 조건을 충족하지만 ASI에는 해당하지 않습니다.

합의된 견해는 없습니다. 일부 연구자들은 진정한 범용 인공지능을 위해 자기 인식 또는 의식이 필요하다고 주장하는 반면, 다른 연구자들은 시스템의 자기 인식 여부와 관계없이 다양한 과제에서 인간 수준의 지능을 보이는 것으로 AGI를 더 좁게 정의합니다. 이러한 논쟁은 AGI를 정의하고 측정하기 어려운 이유 중 하나입니다.

AGI로 인정될 수 있는 정확한 기준에 관한 진정한 합의가 없으므로, 우리가 언제 AGI에 도달했는지를 판단하는 데 합의된 방법도 없습니다. ARC-AGI와 같은 일부 성능 벤치마크는 AGI를 측정한다고 표방하지만, 그 과정에 수반되는 주관성으로 인해 단일 벤치마크가 결정적인 증거를 제시할 가능성은 낮습니다.