什么是通用人工智能 (AGI)？

从 AI 研究之初，AGI 就一直是人们深入了解的方向。尽管如此，学术界对究竟什么才算 AGI 或如何最好地实现 AGI 尚未达成共识。尽管“类人智能”的广泛目标相当简单，但细节却微妙而主观。因此，对 AGI 的追求既包括开发一个理解机器智能的框架，也包括开发能够满足该框架的模型。

其挑战既有哲学层面，也有技术层面。哲学上，AGI 的正式定义既需要对“智能”的正式定义，也需要对智能如何在 AI 中体现达成普遍共识。技术上，AGI 需要创建前所未有之复杂度和通用性的 AI 模型，需要可靠的度量标准和测试来验证模型的认知能力，以及维持其运行所需的计算能力。

“通用”智能或通用 AI 的概念，最好通过与狭义 AI 的对比来理解：后者几乎有效描述了当前所有 AI，其“智能”仅在特定领域得以展现。

1956 Dartmouth Summer Research Project on Artificial Intelligence 汇集了来自 Dartmouth、IBM、Harvard 和 Bell Labs 等机构的数学家和科学家，被认为是“人工智能”一词的起源。正如提案中所述，“这项研究将基于这样的猜想进行：学习的每个方面或任何其他智能特征都可以被精确地描述，以至于可以制造机器来实现模拟。”

AI 这一新兴领域旨在开发一种能够自主思考的机器的路线图。但在随后的几十年里，机器在实现类人智能方面的进展却难以实现。

在研发能够执行特定任务的计算机器方面取得了更大的进展，这些任务通常需要人类具备相当高的智能，例如下国际象棋、医疗诊断、预测或驾驶汽车。但这些模型（例如，为自动驾驶汽车提供动力的模型）仅在其特定领域内展现出智能。

2007 年，在 DeepMind 联合创始人 Shane Legg 的建议下，AI 研究员 Ben Goertzel 在一本颇具影响力的同名书籍中普及了“通用人工智能”(AGI) 一词。与他所谓的“狭义 AI”相反，通用人工智能是一种新型 AI，其特点之一是“能够以不受领域限制的方式解决一般性问题，就像人类一样”。

AGI 指跨任务的广泛的人类水平能力，并与机器学习中的其他概念紧密相关。强 AI 通常指意识或真正的心智。人工超级智能在几乎所有任务上都超越人类能力。虽然这些概念有相当多的重叠，但它们各自是 AI 的不同概念。

“强 AI”这一概念在哲学家 John Searle 的著作中受到广泛讨论，指展现意识的 AI 系统，主要作为弱 AI 的对立面。虽然强 AI 通常与 AGI 类似（弱 AI 通常与狭义 AI 类似），但它们并非彼此的同义词。

从本质上讲，弱 AI 只是有意识的头脑（即人类）使用的工具，而强 AI 本身就是有意识的头脑。尽管这种意识通常被认为需要具备与人类相同或优于人类的相应智能，但强 AI 并不明确关注在各种任务上的相对性能。这两个概念经常被混淆，因为意识通常被视为“通用智能”的先决条件或结果。

尽管有相似之处，但 AGI 和强 AI 最终描述的是互补的概念，而不是相同的概念。

人工超级智能，顾名思义，指其通用能力在任何任务上都远超任何人类的 AI 系统。

迁移学习和少样本学习等概念常与 AGI 一同被讨论，因为它们反映了系统将知识从一个任务应用到另一个任务的能力。值得注意的是，我们可以说已经在多个场合实现了狭义上的超人类智能——以少数 AI 系统的形式，这些系统在它们所设计的特定任务或领域上表面上优于所有人类。例如：

• AlphaFold 在从氨基酸序列预测蛋白质三维结构方面超越所有人类科学家。
  
  
• IBM 的 Deep Blue 于 1997 年在国际象棋中击败了世界冠军 Garry Kasparov。

• IBM Watson  于 2013 年击败了 Jeopardy!冠军肯 Ken Jennings 和 Brad Rutter。
  
  
• AlphaGo（及其后继模型 AlphaZero）被认为是世界上最强的围棋棋手。

尽管迁移学习帮助当前 AI 模型在相关任务间进行泛化，但它与通用人工智能并不相同。这些模型可能代表了向 人工超级智能的突破，但尚未实现“通用”智能，因为此类 AI 系统无法自主地学习新任务，也无法将其问题解决能力扩展到狭义范围之外。真正的 ASI 不仅要在某一特定领域，而且要在人类可能被期望执行的任何任务上都具备优越性。

超级智能并非 AGI 的前提条件。理论上，一个展现意识且智能水平与普通常人相当的 AI 系统，既代表 AGI 也代表强 AI——但不属于人工超级智能。

尽管在计算机科学的历史上已经提出了许多定义，但专家们对于什么才算得上 AGI 还没有达成共识。这些定义通常侧重于机器智能的抽象概念，而不是用来实现机器智能的特定算法或机器学习模型。

2023 年，Google Deepmind 论文调研了现有的学术文献，确定了几类通用人工智能的框架：

• 图灵测试：能够令人信服地像人类一样行动的机器
  
  
• 强 AI：拥有意识的系统
  
  
• 与人脑的类比
  
  
• 在认知任务上达到人类水平的表现
  
  
• 学习新任务的能力
  
  
• 具有经济价值的工作
  
  
• 灵活且通用的能力
  
  
• “人工能力智能”(ACI)

Alan Turing 是理论计算机科学史上的一位开创性人物，他在 1950 年发表的论文《Computer Machinery and Intelligence》中发表了最早、最具影响力的机器智能定义之一。他的核心观点是，智力可以通过行为来定义，而不是神秘的哲学品质。Turing 认识到很难确定机器和思维等概念的确切定义，因此提出了一个简单的方法来解决这个问题，这个方法基于一个名为“模仿游戏”的聚会游戏。

“图灵测试”很简单：人类观察者必须阅读文本样本，并确定它们是人类生成的还是机器生成的。Turing 提出，如果人类无法区分程序的输出和另一个人的输出，就可以说程序展示了类人智能。

对图灵测试的批评
尽管图灵测试影响巨大，但如今的计算机科学家并不认为图灵测试是衡量通用人工智能的充分标准。与其说是展示机器的思考能力，不如说这项测试往往只是凸显了人类是多么容易被愚弄。

例如，1966 年，Joseph Weizenbaum 创建了一款名为 ELIZA 的聊天机器人程序，该程序可应用简单的规则将用户输入的语言转换为聊天机器人的响应。他用这个聊天机器人设计的第一个程序称为 DOCTOR，旨在模仿罗杰斯式心理治疗师，通过一般性回应或以问题形式重新表述用户输入：

人类：嗯，我男朋友让我来这里。ELIZA：你男朋友让你来这里？人类：他说我经常情绪低落。ELIZA：听到你很情绪低落，我感到很遗憾。人：确实如此。我不开心。
ELIZA：你觉得来这里能让你不再难过吗？

正如 Weizelbaum 在他 1976 年的著作 《Computer Power and Human Reason》中所解释的那样，他“惊讶地发现与 DOCTOR 交谈的人在情感上与计算机的投入如此之快，而且他们如此明确地将其拟人化。他指出，他的秘书几个月来一直在看他编制程序，显然也知道程序的简单方法，但当她开始与程序对话时，却要求他离开房间，以保护个人隐私。¹这种现象被称为 ELIZA 效应。

另一种提出的定义为 AGI 设定了更高的标准：一个拥有意识的 AI 系统。一些研究者将 AGI 与意识或自我意识挂钩，而另一些人则认为自我意识并非达到人类水平任务表现所必需。自我意识是否为通用人工智能所必需，尚无定论。 正如 Searles 所阐述的：“根据强 AI，计算机不仅仅是研究心智的工具；相反，经过适当编程的计算机确实就是心智。”² 

Searles 于 1980 年撰写了一篇著名的哲学论文，反驳了图灵测试证明强 AI 的能力。他描述了一个完全不懂中文的英语使用者，被锁在一个房间里，房间里堆满了中文符号书籍和（英文）操作说明，用于操作这些符号。他认为，这个英语使用者只需按照指令操作数字和符号，就能骗过另一个房间里的人，让对方以为他会说中文，尽管他既不理解对方的信息，也不理解自己的回复。³

围绕“中文房间论证”的数十年来争论（斯坦福哲学百科全书中的这篇文章 对此进行了总结）表明，科学界对“理解”的定义以及计算机程序是否能拥有理解力尚未达成共识。这种分歧，加上意识可能甚至不是达到人类水平表现的必要条件，使得仅凭强 AI 来定义 AGI 成为一个不切实际的框架。

一种直观的 AGI 方法是复制人类大脑本身，因为（据我们所知）这种智能只有人脑才实现过。⁴这种直觉催生了最初的神经网络，进而产生了深度学习模型，这些模型目前代表了 AI 几乎所有子领域的最先进水平。

深度学习神经网络的成功，特别是处于生成式 AI 前沿的大语言模型 (LLM) 和多模态模型，展示了通过自组织人工神经元网络从人脑中汲取灵感的好处。然而，迄今为止许多最有能力的深度学习模型使用基于 Transformer 的架构，而这些架构本身并不严格模拟类脑结构。这表明，显式模仿人脑可能并非实现 AGI 所固有必需的。

一种更全面的方法是将 AGI 简单地定义为，一个可以完成人类能做的所有认知任务的 AI 系统。虽然这个定义非常灵活和直观，但依旧模棱两可：哪些任务？哪些人？这种模糊性限制了它作为 AGI 正式框架的实际用途。

该框架最显著的贡献在于，它将 AGI 的关注点限制在非体力劳动任务方面。这样做会忽视像物理工具使用、移动或操纵物体等能力，这些能力通常被认为是“身体智能”的体现。⁵这使得机器人技术的进一步发展不再是 AGI 发展的先决条件。

另一种直观的 AGI 方法，也是针对智能本身的方法，是强调学习能力——特别是学习与人类一样广泛的任务和概念的能力。这与 Turing 在《计算机与智能》 中的观点相呼应，他推测，或许更明智的做法是编写一个类似儿童的程序，并让它接受一段教育时期，而不是直接将计算机系统编程为成人思维。⁶

这种方法与狭义 AI 相悖，后者明确训练模型执行特定任务。例如，即使像 GPT-4 这样的大语言模型表面上展示了在新任务上的少样本学习甚至零样本学习能力，也仅限于与其主要任务相近的功能：自回归地预测序列中的下一个词。

尽管最先进的多模态 AI 模型可以执行从自然语言处理 (NLP) 到计算机视觉再到语音识别的日益多样化的任务，但它们仍然仅限于训练数据集中有限的核心技能列表。例如，它们不可能学会开车。真正的 AGI 将能够实时从新体验中学习，而这对人类儿童甚至许多动物来说都不算什么了不起的壮举。

AI 研究员 Pei Wang 给出了在此框架下非常有用的机器智能定义：“信息处理系统在知识和资源不足的情况下适应环境的能力”。 ⁷

Open AI 的 GPT-3 模型通常被认为在 ChatGPT 推出后开创了当前的生成式 AI 时代。自 ChatGPT 推出以来，Open AI 在其章程中将 AGI 定义为“在最具经济价值的工作中超越人类的高度自主系统”。⁸

正如 DeepMind 论文所指出的，这个定义省略了难以定义的人类智能要素，例如艺术创造力或情商。充其量，智力的这些方面可以通过迂回的方式实现经济价值 — 例如，创造力可以制作出盈利的电影，或者情商可以驱动机器进行心理治疗。

对经济价值的关注还意味着，构成 AGI 的能力只有在实际投入现实世界部署时才算作数。如果一个 AI 系统在特定任务上能与人类匹敌，但由于法律、道德或社会原因而无法实际部署用于该任务，它能被说成“超越”人类吗？

DeepMind 论文还指出，OpenAI 在 2021 年关闭其机器人部门，这意味着体力劳动的复制，以及对 AGI 中“身体智能”作用的相应影响，并不属于这种经济价值的解释。

心理学家、认知科学家兼 AI 研究员 Gary Marcus 将 AGI 定义为“任何智能的简写……灵活、通用，其足智多谋和可靠性可与人类智能媲美（或超越）。”⁹Marcus 提出了一套基准任务，旨在证明适应能力和一般能力，类似于“学习任务”框架的具体和实际实施。

这种对 AGI 的量化让人想起苹果联合创始人 Steve Wozniak 提出的一个思想实验，他问道：“计算机能煮一杯咖啡吗？”Wozniak 指出，这个看似简单的任务实际上相当复杂：一个人必须能够走动，知道厨房是什么，咖啡机或咖啡长什么样，并且能与抽屉和柜子交互。简而言之，人类仅为了煮一杯咖啡就必须运用一生的经验。¹⁰

具体来说，Marcus 提出了 5 项基准任务，如果由单一 AI 系统完成，即可证明其具备 AGI 的能力。¹¹

• 观看一部电影并理解其中的角色、他们的冲突和动机。
  
  
• 阅读一本小说，并能可靠地回答关于情节、角色、冲突和动机的问题，且能提供超越原文的洞察。
  
  
• 在任意厨房中担任称职的厨师（类似于 Wozniak 的咖啡基准）。
  
  
• 根据自然语言指令，可靠地编写出 10000 行无错误的代码，而不是从现有库中拼凑代码。
  
  
• 将自然语言数学证明转换为符号形式。

虽然这种以任务为导向的框架为 AGI 的验证引入了一些亟需的客观性，但对于这些特定任务是否涵盖了人类智能的全部内容却很难达成一致。第三项任务，即担任厨师，意味着机器人技术（以及由此而来的身体智能）将是 AGI 的必要组成部分。

2023 年，Microsoft AI 的 CEO 和 DeepMind 联合创始人 Mustafa Suleyman 提出了“人工能力智能”(ACI) 一词，用来描述能够在现实世界中完成复杂、开放式、多步骤任务的 AI 系统。更具体地说，他提出了一个“现代转型测试”，即给人工智能 10 万美元的种子资金，并让它将其发展成 100 万美元。¹² 总的来说，这融合了 OpenAI 的经济价值概念和 Marcus 对灵活性和通用智能的关注。

虽然这个基准确实可能证明了真正的聪明才智和跨学科能力，但实际上，这种将智力视为一种特定经济基准过于狭隘。此外，仅关注利润会带来巨大的协调风险。¹³

一些研究人员，如 Blase Agüera y Arcas 和 Peter Norvig，认为 Meta 的 Llama、Open AI 的 GPT 和 Anthropic 的 Claude 等高级 LLM 已经实现了 AGI。他们认为，通用性是 AGI 的关键因素，如今的模型已经可以讨论广泛的话题、执行广泛的任务、处理各种多模态输入。“‘通用智能’必须从多维度记分卡的角度来思考。”他们认为，“这不是单一‘是’或‘否’的命题。”¹⁴

许多人对这种观点持反对意见。DeepMind 论文的作者认为，通用性本身并不构成 AGI：它必须与一定程度的性能相匹配。例如，如果 LLM 可以编写代码，但代码不可靠，那么这种通用性“性能还不够”。

Meta 首席 AI 科学家 Yann LeCun 表示，LLM 缺乏 AGI，因为它们没有常识：他们无法在行动之前思考，无法在现实世界中执行行动或通过体验学习，并且缺乏持久的记忆和分层规划的能力。¹⁵ 在更根本的层面上，LeCun 和 Jacob Browning 认为：“即使从现在开始训练到宇宙热寂，一个仅靠语言训练的系统也永远不会接近人类的智力。”¹⁶

Goertzel 和 Pennachin 指出，在算法和模型架构方面，AGI 系统至少有三种基本技术方法。

• 在软件中接近模拟人脑： 神经科学的洞见持续影响 AGI 研究，即使模型架构并不直接模仿大脑。鉴于人脑是我们所知唯一具备通用智能的系统，理论上，近乎完美的模拟将产生类似的智能。虽然人工神经网络表面复制了大脑的基本机制，但大脑的实际运作远比当前的深度学习模型更加多样和复杂。除了真正模拟大脑的技术挑战外，这一方法还需要我们比目前更深入地理解大脑的运作方式。¹⁷

• 一种新颖的模型架构，既不同于人脑，也不同于狭义 AI 架构：这一方法假设人脑并非唯一有利于通用智能的结构，且现有的狭义 AI 方法无法超越其技术或概念上的局限。因此，AGI 需要一种新型人工智能。例如，LeCun 提出放弃自回归及其他生成式、概率性 AI 模型架构，转而采用“目标驱动的 AI 系统”，其“世界模型”的学习方式更接近动物和儿童的学习方式。
  
  
• 一种综合方法，整合狭义 AI 算法：这一方法是当前大多数实现 AGI 的实际计划所关注的焦点，试图将大语言模型、图像模型和强化学习智能体等狭义 AI 工具方面已取得的孤立进展整合在一起。当前的多模态模型可被视为这一路径上的中间步骤。这些综合方法通常使用一个中央“智能体”模型（通常是大语言模型）来导航决策过程，并将子任务自动委派给专家模型。

对 AI 未来的预测总是带有高度的不确定性，但几乎所有专家都认为，这将在本世纪末实现，有些人估计可能会更早一些。

2023年，Our World in Data 的 Max Roser 撰写了一篇关于 AGI 预测的综述，总结近年来专家思维在 AGI 预测上的演变。每项调查都询问受访者（AI 和机器学习研究人员）：他们认为需要多长时间才能使机器智能达到 50% 的人类水平。2018 年至 2022 年间最显著的变化是，受访者越来越确信 AGI 将在 100 年内实现。

不过，值得注意的是，这三项研究都是在 ChatGPT 推出和现代生成式 AI 时代开始之前进行的。自 2022 年底以来，AI 技术的进步步伐加快，尤其是在 LLM 和多模态 AI 方面，这带来了截然不同的预测环境。

在 Grace 等人于 2023 年 10 月对 2,778 名 AI 研究人员进行并于 2024 年 1 月发布的一项更大规模的后续调查中，受访者估计到 2047 年“无人驾驶的机器在每项可能的任务中都优于人类”的可能性为 50%，比专家在一年前的一项类似研究中预测的要早 13 年。

但是正如 Roser 指出，研究表明，很多领域的专家在预测自己学科的未来时并不一定可靠。他以莱特兄弟为例，人们普遍认为他们是世界上第一架成功飞机的发明者。1908 年 11 月 5 日，Wilbur Wright 在巴黎的 Aéro Club de France 举行的获奖感言中说道：“我承认，我在 1901 年对我的兄弟 Orville 说，人们在 50 年内都无法飞翔。两年后，我们就开始了飞行。”¹⁸

人工智能是一个非常广泛的类别，涵盖任何能够在无人为干预的情况下做出 决策或预测的系统，小到《吃豆人》中的幽灵，大到最先进的 LLM。通用人工智能特指具备类人（或 更强）能力且能泛化到任何任务的 AI 系统。

不是。智能体式 AI 指能够规划、采取行动并协调多步骤任务的系统，通常通过使用工具或多个模型来实现。虽然智能体式 AI 系统可以在有限人为干预下执行多步骤任务以实现特定目标，但它们通常在定义的领域和能力范围内运行。

相比之下，AGI 描述的是一种假设的 AI 形式，具备人类水平的通用智能，能够理解、学习、推理并适应几乎所有认知任务或领域。简而言之，智能体式 AI 侧重于自主行动和目标执行，而 AGI 侧重于广泛的人类水平的智能和适应性。

基础模型可能有助于实现 AGI，但它们本身并非 AGI。基础模型通过学习海量数据集中的模式，为先进的 AI 系统提供底层技术，并支持广泛的任务。虽然许多专家认为能力日益增强的基础模型可能构成 AGI 的关键组成部分，但大多数研究者认为，在实现真正的 AGI 之前，还需要额外的能力，如可靠的推理、长期记忆、对现实世界的理解以及自主学习。

不，当前的 LLM 不被认为是 AGI。虽然大语言模型能够理解和生成语言，在许多主题上进行推理，并完成广泛的任务，但它们仍然缺乏通常与通用人工智能 (AGI) 相关的那种广泛的人类水平适应性、对现实世界的理解和通用问题解决能力。然而，专家们仍在争论能力日益增强的 LLM 是通向 AGI 的路径还是其早期形式。

AGI 是人工超级智能 (ASI) 的前提条件，但超级智能并非 AGI 所必需。一个智能和能力与普通常人相同的 AI 系统符合 AGI 的条件，但它不会是 ASI。

尚无共识。一些研究者认为自我意识或意识是真正的通用人工智能所必需的，而另一些人则将 AGI 更狭义地定义为跨任务的人类水平智能，无论系统是否具备自我意识。这种分歧是 AGI 仍难以定义和衡量的原因之一。

由于对于什么才算 AGI 尚无真正的共识，因此也没有公认的方法来判断我们何时达到了这一目标。一些性能基准测试（如 ARC-AGI）确实声称可以衡量 AGI——但其中涉及的主观性使得任何一个基准测试都不太可能提供确凿的证据。