AI 초지능: 과대 선전인가 현실인가?

OpenAI의 CEO인 Sam Altman은 기술 세계가 가장 좋아하는 논쟁 중 하나인 초지능 AI의 도래를 곧 볼 수 있을지에 대한 논의에 다시 불을 붙였습니다. 최근 블로그 게시물에서 그는 인간의 인지 능력을 능가하는 이러한 시스템이 '수천 일' 안에 등장하여 전 세계 발전에 혁명을 일으킬 수 있다고 말했습니다.

고도로 발전된 인공 지능 시스템에 대한 Altman의 고민은 연구자와 업계 관찰자로부터 많은 반응을 불러일으켰습니다. 다양한 영역에서 인간을 능가하는 AI의 능력이 화제가 되면서 기술 커뮤니티는 다음과 같은 중요한 질문을 하고 있습니다. 이러한 변화는 얼마나 빨리 일어날 수 있으며, 이는 인류에게 어떤 의미가 있을까?

도발적인 동시에 추측이 담긴 Altman의 게시물은 AI의 향방에 대한 업계의 희망과 우려를 드러내는 로르샤흐 테스트(Rorschach test)와 같습니다.

AI가 빠르게 발전하고 있다는 사실을 부인하는 사람은 아무도 없지만, 일부 관찰자들은 우리가 초지능 단계에 근접하지 못했다고 말합니다.

IBM 부사장 겸 기술 및 데이터 전략 글로벌 책임자인 Brent Smolinski는 '완전히 과장되었다'고 말했습니다. "초지능에 도달하기까지는 아직 갈 길이 매우 멀다고 생각합니다."

Smolinski에 따르면 AI는 특정 영역에서 눈부신 발전을 이루었지만, 여전히 인간과 같은 지능의 근본적인 요소가 부족합니다. "초지능에 도달하기 위해 필요한 근본적인 무언가가 빠져 있습니다."라고 그는 말합니다.

한 가지 중요한 문제는 인간과 머신 러닝 간의 효율성 격차입니다. Smolinski는 AI의 학습 프로세스와 인간의 학습 프로세스의 차이에 대해 다음과 같이 말합니다. "이러한 대규모 언어 모델이 대화 방법을 배워 상호작용할 수 있는 수준이 되려면 인터넷상의 전체 말뭉치를 공급해야 합니다. 하지만 인간은 극히 일부만으로도 충분합니다."

또한 AI는 언어부터 골프나 자동차 운전과 같은 신체적 작업에 이르기까지 다양한 기술을 배울 때 인간이 보여주는 다재다능함과는 거리가 멉니다. 이러한 다양성은 인간의 지능과 현재 AI 기능의 근본적인 차이를 나타냅니다.

Smolinski는 귀납 및 연역 추론 능력, 창의성, 정신 모델을 통한 지식 표현, 실시간 학습 및 적응, 의식 등 진정한 초지능의 몇 가지 요소를 간략하게 설명합니다.

AI 분야에서 양자 컴퓨팅은 몇 가지 계산상의 제약을 해결하여 잠재적으로 'AI가 할 수 있는 일의 한계를 뛰어넘을 수 있다'고 Smolinski는 말합니다. 하지만 진정한 초지능을 달성하는 데 양자 컴퓨팅이 미치는 영향은 여전히 불확실합니다.

Smolinski가 강조한 또 다른 문제는 초지능에 대한 명확하고 합의된 정의가 필요하다는 것입니다. "6명의 컴퓨터 과학자가 있는 방에서 초지능이 무엇을 의미하는지 물으면 12가지 다른 답을 얻을 수 있습니다."라고 Smolinski는 말합니다.

초지능에 대한 예측을 한 사람은 Altman뿐만이 아닙니다. 루이빌 대학교의 컴퓨터 과학 및 공학 교수인 Roman V. Yampolskiy는 인공 일반 지능(인간 수준의 지능과 유사한 컴퓨팅 능력으로 흔히 묘사됨)이 빠르게 발전 중이며 '3~4년 내에 초지능이 실현될 것'이라고 말했습니다.

Yampolskiy는 인공 지능이 인간 수준의 지능을 능가하면 그러한 시스템에 대한 통제력을 유지하는 것이 사실상 불가능해질 수 있다고 경고합니다. 이 초지능 AI는 근본적으로 예측할 수 없고 우리가 관리하거나 제한할 수 없는 방식으로 작동할 수 있습니다. 이러한 통제력 부족은 초지능 시스템이 인간의 가치를 공유하지 않거나 우선순위를 정하지 않을 가능성과 결합되어, 인류의 존재를 위협하는 시나리오로 이어질 수 있다고 연구진은 말합니다.

"이에 비하면 편향, 실업, 딥페이크, 허위 정보 등 당장의 우려는 [이러한] 부정적인 영향에 비하면 사소한 것입니다."라고 그는 말합니다.

의식은 초지능에 대한 논의에서 특히 쟁점이 되는 문제입니다. 초지능 기계가 우리보다 앞서 생각하려면 의식이 있어야 할까요? Smolinski에 따르면 진정한 초지능을 위해서는 계산 능력뿐만 아니라, 현재 AI 시스템에는 없는 어떤 형태의 의식 또는 인식도 필요합니다.

현재 AI 모델은 기존 아이디어를 새로운 방식으로 결합하는 조합적 창의성에 탁월합니다. 하지만 진정으로 혁신적인 도약을 위해서는 도움이 필요합니다. Smolinski는 이러한 유형의 혁신적 창의성이 잘 이해되지 않는 방식으로 의식과 연결되어 있을 것이라는 가설을 세웠습니다.

그 결과 Smolinski는 AI를 둘러싼 과장된 두려움에 대해 우려하고 있습니다.

Smolinski는 "제가 걱정하는 것은 이런 식의 공포 조장이 'AI를 규제해야 한다'는 식으로 이어진다는 점입니다."라고 말합니다. 규제도 중요하지만, 규제는 기존 업체를 보호하는 동시에 신규 진입 업체에게는 장벽을 만들어 잠재적으로 발전을 방해할 수 있습니다.

Smolinski는 마지막으로 AI 개발에 대한 균형 잡힌 관점을 유지하는 것이 중요하다고 강조하며 다음과 같이 말합니다. "AI는 복잡한 문제를 해결하는 데 도움이 되는 강력한 도구입니다. 하지만 현재의 한계와 미래의 가능성을 명확하게 이해하고 신중하게 개발에 접근해야 합니다."