汎用人工知能（AGI）とは

AGIは、AI研究の初期から積極的に模索されてきました。それでも、何がAGIとみなされるのか、あるいはそれを達成する最適な方法について、教育機関向けコミュニティー内ではコンセンサスが得られていません。人間のような知能という大きな目標は非常に単純ですが、詳細は微妙で主観的なものです。したがって、AGIの追求には、機械の知能を理解するフレームワークと、そのフレームワークを満たすことができるモデルの開発の両方が含まれます。

この課題には、哲学的側面と技術的側面の両方があります。哲学的な観点では、AGIを正式に定義するには、「知能」を正式に定義するとともに、その知能がAIにおいてどのように現れ得るかについて広く合意する必要があります。技術的な観点では、AGIを実現するには、前例のないレベルの高度さと汎用性を備えたAIモデル、モデルの認知能力を確実に検証するための指標とテスト、そしてその能力を維持するために必要なコンピューティング能力が必要です。

「汎用」知能、つまり汎用AIという概念は、特化型AIとの対比によって最もよく理解できます。特化型AIとは、現在のほぼすべてのAIを事実上表す用語であり、その「知能」は専門分野においてのみ発揮されます。

1956年にダートマス大学、IBM、ハーバード大学、ベル研究所などの機関から数学者や科学者を集めて行われた「人工知能に関するダートマス夏季研究プロジェクト」が「人工知能」という言葉の起源とされています。提案に記載されているように、「学習のあらゆる側面や知能のその他の機能は非常に正確に説明できるため、機械にそれをシミュレートさせることができるという推測に基づいて研究を進めることにした」。

この急成長中の「AI」の分野では、自ら考察することができる機械へのロードマップを開発しようとしていました。しかし、その後数十年間で、機械が人間のような知能を実現する進歩は困難であることが判明しました。

チェス、医療診断、予報、自動車運転など、人間に高度な知能を必要とする特定のタスクを遂行するコンピュータの追求においては、はるかに大きな進展が見られました。しかし、これらのモデル（たとえば、自動運転車に動力を供給するモデル）は、特定の領域内のみで知能を発揮します。

2007年、AI研究者のBen Goertzel氏は、DeepMind社の共同設立者であるShane Leggの提案により、同名の影響力のある著書の中で「汎用人工知能（artificial general intelligence）」（AGI）という用語を広めました。彼が「狭いAI」と呼んだものとは対照的に、汎用AIとは、「分野に制限されない方法、つまり、人間にできる方法で一般的な問題を解決する能力」です。

AGIとは、幅広いタスクに対応できる人間レベルの能力を指し、機械学習におけるほかの概念とも密接に関連しています。強いAIは通常、意識または真の心を指します。人工超知能は、ほぼすべてのタスクにおいて人間の能力を上回ります。これらの概念にはかなりの重複がありますが、それぞれが独立したAIの概念です。

哲学者John Searleの著作で詳しく論じられている「強いAI」とは、意識を示すAIシステムを指す概念であり、主に弱いAIと対比されます。強いAIは一般にAGIに相当し、弱いAIは一般に特化型AIに相当しますが、それぞれが単なる同義語というわけではありません。

要するに、弱いAIは単に意図的に、つまり人間によって使用されるためのツールであるのに対し、強いAIはそれ自体が意図を持っています。この意識は一般的に、人間と同等かそれ以上の知能を必要とすることを意味しますが、強力なAIは、さまざまなタスクにおける相対的な性能に明示的に関係しているわけではありません。意識は通常、「一般知能」の前提条件または結果と考えられるため、この2つの概念はしばしば混同されます。

AGIと強力なAIは類似点があるものの、最終的には同一の概念ではなく、補完的な概念を表しています。

人工超知能は、その名が示すように、あらゆるタスクにおいて、汎用的な能力が人間をはるかに上回るAIシステムです。

転移学習や少数ショット学習などの概念は、あるタスクの知識を別のタスクに応用するシステムの能力を反映するため、AGIとの関連でよく取り上げられます。注目すべき点として、複数の場面で、超知能の特化型バージョンはすでに実現しているとも言えます。少数のAIシステムは、設計対象となった特定のタスクや分野において、明らかにすべての人間を上回る能力を示しています。と言える点です。たとえば、次のような例があります。

• AlphaFoldは、アミノ酸配列からタンパク質の3D構造を予測する能力において、すべての人間の科学者を上回っています。
  
  
• IBMのDeep Blueは、1997年にチェスの世界チャンピオン、Garry Kasparovを破りました。

• IBM® Watsonは、2013年にJeopardy!のチャンピオンであるKen JenningsとBrad Rutterを破りました。
  
  
• AlphaGo（およびその後継モデルであるAlphaZero）は、世界最高の囲碁棋士と見なされています。

転移学習は、現在のAIモデルが関連する複数のタスクにわたって一般化するのに役立ちますが、汎用人工知能と同じものではありません。これらのモデルは、人工超知能に向けたブレークスルーとなる可能性がありますが、人工「汎用」知能。は実現していません。つまり、AIシステムは新しいタスクを自律的に学習したり、限定的に定義された範囲を超えて問題解決能力を拡張したりすることはできません。真のASIは、特定の1つの分野だけでなく、人間に期待されるあらゆるタスクにおいて優れた能力を発揮します。

超知能はAGIの前提条件ではありません。理論的には、平均的で目立たない人間と同等の知能レベルを示すAIシステムは、AGIと強力なAIの両方を表しますが、人工超知能ではありません。

コンピューター・サイエンスの歴史を通じて多くの定義が提案されてきましたが、AGIとして正確に何が定義されるべきかについては専門家の間で合意が得られていません。これらの定義は通常、機械知能を達成するために使用される特定のアルゴリズムや機械学習モデルではなく、機械知能の抽象的な概念に焦点を当てます。

2023年、 Google Deepmind社の論文では、既存の教育機関向け文献について調査し、いくつかのカテゴリーのフレームワークを定義するために汎用人工知能を特定しました。

• チューリング・テスト：人間らしく振る舞っていると説得力をもって示すことができる機械
  
  
• 強いAI：意識を持ったシステム
  
  
• 人間の脳との類似点
  
  
• 認知タスクにおける人間レベルのパフォーマンス
  
  
• 新しいタスクを学習する能力
  
  
• 経済的に価値のある仕事
  
  
• 柔軟で汎用な能力
  
  
• 「人工知能」（ACI）

理論計算機科学の歴史において重要な人物であるAlan Turing氏は、1950年の論文『Computer Machinery and Intelligence』で機械知能の最初期において最も影響力のある定義の1つを発表しました。彼の議論の核心は、知性とは哲学的な性質ではなく、行動によって定義できるということでした。機械や思考などの概念のしっかりした定義を絞り込むことの難しさを認識していたTuring氏は、Imitation Gameと呼ばれるパーティー・ゲームに基づいてこの問題を回避するシンプルな方法を提案しました。

「チューリング・テスト」は単純です。人間の観察者はテキスト・サンプルを読み、それが人間によって生成されたか機械によって生成されたかを判断します。Turing氏は、ある人間がプログラムのアウトプットと別の人間のアウトプットを区別できない場合、そのプログラムは人間のような知能を示すと言える、と提案しました。

チューリング・テストに対する批判
その多大な影響力にもかかわらず、今日のコンピューター科学者はチューリング・テストがAGIの適切な尺度であるとは考えていません。このテストでは、多くの場合、機械が考える能力を実証するのではなく、人間がいかに簡単に騙されるかが浮き彫りになります。

例として、1966年にJoseph Weizelbaum氏は、ELIZAと呼ばれるチャットボットプログラムを開発しました。このプログラムは、シンプルなルールを適用して、ユーザーのインプットに基づく人間の言語をチャットボットからの応答に変換するものです。このチャットボットで設計した最初のプログラムは「DOCTOR」と呼ばれるもので、一般的に応答をしたり、質問形式でユーザーの入力を言い換えたりすることで、ロジャース派の心理療法士を模倣するように設計されました。

人間：彼氏に言われて来ました。ELIZA：彼氏に言われたんですか。人間：彼は私がいつも落ち込んでいると言うんです。ELIZA：いつも落ち込んでいるなんて、聞いていて辛いです。人間：でも、そのとおりなんです。私は不幸な人間です。ELIZA：ここに来れば不幸にならずに済むと思いますか。

Weizelbaum氏が1976年に発表した著書『Computer Power and Human reason』で説明したように、彼は「DOCTORと会話する人々がどれだけ早く、とても深くコンピューターと感情的つながりを築いていくのか、そして、彼らがいかに明確にコンピューターを擬人化しているのを見て驚きました」。彼は、何カ月もプログラムの取り組みを見て、そのシンプルな方法論を知っていた彼の秘書でさえ、会話を始めた際にはプライバシーのために部屋から離れるように彼に求めたことに言及しました。¹この現象はイライザ効果 として知られるようになりました。

別の定義案では、AGIに対してさらに高い基準を設定しています。それは、意識を持つAIシステムです。AGIを意識や自己認識と結び付ける研究者がいる一方で、人間レベルのタスクパフォーマンスに自己認識は必要ないと主張する研究者もいます。汎用人工知能に自己認識が必要かどうかについては、いまだに結論が出ていません。Searleは次のように述べています。「強いAIの考え方によれば、コンピューターは単なる心の研究のためのツールではありません。適切にプログラムされたコンピューターは、実際に心そのものなのです」²

Searle氏は1980年に、チューリングテストによって強いAIを証明できるという考えに対する、著名な哲学的反論を発表しました。Searle氏は、中国語をまったく理解できない英語話者が、中国語の記号が書かれた大量の本と、その記号を操作するための指示書（英語）が置かれた部屋に閉じ込められている状況を説明しています。そして、その英語話者は、相手のメッセージだけでなく自分の返答さえ理解していなくても、指示に従って数字や記号を操作するだけで、別の部屋にいる人に中国語を話せると思わせることができると主張しています。³

Stanford Encyclopedia of Philosophyのこちらの記事に要約されているように、中国語の部屋に関する数十年にわたる議論は、「理解」の定義と、コンピューター・プログラムが理解する能力を持ち得るかどうかについて、科学的な合意がないことを示しています。この見解の相違に加えて、人間のようなパフォーマンスを実現するうえで意識は必要ない可能性もあるため、強いAIだけではAGIを定義するための実用的な枠組みにはなりません。

AGIに対する直感的なアプローチは、私たちの知る限り人間の脳だけが実現してきた種類の知能を再現することを目指すものであり、人間の脳自体を再現するというものです^。4この直感から、初期の人工ニューラル・ネットワークが生まれ、さらにそこから、現在ではAIのほぼすべての分野で最先端を代表するディープラーニングモデルが生み出されました。

ディープラーニングニューラル・ネットワーク、特に大規模言語モデル（LLM）と、生成AI（gen AI）の最前線にあるマルチモーダルモデルの成功は、人工ニューロンの自己組織化ネットワークを通じて人間の脳から着想を得ることの利点を示しています。しかし、これまでで最も高性能なディープラーニング・モデルの多くは、それ自体が脳のような構造を厳密に模倣しているわけではないTransformerベースのアーキテクチャーを使用しています。このことは、AGIを実現するうえで、人間の脳を明示的に模倣することが本質的に必要とは限らないことを示唆しています。

より包括的なアプローチは、AGIを人間ができるすべての認知タスクを実行できるAIシステムと単純に定義することです。この定義は柔軟で直感的ですが、曖昧です。どのタスクで、どのような人を対象とすれば良いのでしょうか。この曖昧さにより、AGIの正式なフレームワークとしての実用化が制限されます。

このフレームワークの最も注目すべき成果は、AGIの焦点を非物理的なタスクに制限したことです。そのようなことは、機能のような物理ツールの使用、運動、物体の操作などのものを無視するもので、これらはしばしば「物理的知能」の実証と考えられています。⁵これにより、AGI開発の前提条件から、ロボティクスにおけるさらなる進歩が排除されます。

AGI、さらには知能そのものに対するもう1つの直感的なアプローチは、学習する能力、具体的には人間と同じように幅広いタスクや概念を学習する能力を重視することです。これは、Turingが「Computing Machinery and Intelligence」において、コンピューターシステムを成人の心として直接プログラムするのではなく、子どものようなAIをプログラムして一定期間教育する方が賢明かもしれないと推測した考え方に通じます。⁶

このアプローチは、特定のタスクを実行するようモデルを明示的にトレーニングする特化型AIとは相いれません。たとえば、GPT-4のように、一見すると「新しい」タスクに対する少数ショット学習やゼロショット学習の能力を示すLLMであっても、実行できるのは、自己回帰的にシーケンス内の次の単語を予測するという主要タスクに近い機能に限られます。

最先端のマルチモーダルAIモデルは、自然言語処理（NLP）からコンピューター・ビジョン、音声認識まで、ますます多様なタスクを実行できますが、依然としてトレーニング・データ・セットに含まれる有限なリストに限定されています。たとえば、車の運転方法も学習できません。真のAGIは、新しい経験からリアルタイムで学習できます。これは人間の子供や多くの動物にとって驚くべき偉業ではありません。

AIの研究者のPei Wang氏は、このフレームワークの中で役立つ機械知能の定義として、以下を提示しています：「知識とリソースが不十分な情報処理システムが環境に適応する能力」 ⁷

ChatGPTの発表時に、GPT-3モデルが現在の生成AI時代の到来を告げたとよく考えられているOpen AI社は、その定義の中でAGIを「最も経済的価値のある仕事で人間を上回る高度に自律的なシステム」と定義しています。⁸

DeepMind社の論文によると、この定義では、芸術的創造性や感情的知能など、経済的価値を定義するのが難しい人間の知能の要素が省略されています。せいぜい、こうした側面は、収益性の高い映画を制作する創造性や、心理療法を行う機械を強化する感情知能など、遠回りな方法で経済的価値を実現することにとどまります。

経済的価値を重視するということは、AGIを構成する能力として認められるのは、現実の環境に実際に導入された場合に限られるということでもあります。AIが特定のタスクで人間に匹敵する能力を持っていても、法律上、倫理上、または社会的な理由から、そのタスクに実際に導入することが現実的でない場合、そのAIは人間を「上回っている」と言えるでしょうか。

DeepMind社の論文では、OpenAI社が2021年にロボティクス部門を閉鎖したことにも言及しています。これは、物理的な労働の複製と、それに対応するAGIにおける「物理的知能」の役割への影響は、この経済的価値の解釈には含まれていないことを示唆しています。

心理学者、認知科学者、AI研究者であるGary Marcus氏は、AGIを「人間の知能に匹敵する（またはそれ以上の）機知と信頼性を備えた柔軟で一般的なものである」と定義しました。⁹Marcus氏は、「学習タスク」フレームワークの具体的で実践的な実装と同様に、その適応性と一般的な能力を実証することを目的とした一連のベンチマーク・タスクを提案しました。

このようにAGIを定量化する考え方は、Apple共同創業者のSteve Wozniakが提唱した「コンピューターはコーヒーを1杯入れられるか」という思考実験を想起させます。Wozniak氏は、この一見単純なタスクが実際には非常に複雑であると指摘しています。歩行する能力、キッチンとは何かを理解する能力、コーヒーメーカーやコーヒーがどのようなものかを認識する能力、さらに引き出しや戸棚を扱う能力が必要です。つまり、人間はコーヒーを1杯入れるだけでも、生涯にわたる経験を活用する必要があります。¹⁰

具体的には、Marcus氏は、単一のAIシステムで実行された場合にAGIを実証できる一連の5つのベンチマーク・タスクを提案しました。¹¹

• 映画を見て、登場人物、その対立、動機を理解する。
  
  
• 小説を読み、原文の情報を超えて、プロット、登場人物、対立、動機を洞察し、質問に確実に答える。
  
  
• 初めて使うキッチンで、有能な料理人として作業する（Wozniak氏のコーヒーの基準に類似）。
  
  
• 既存のライブラリにあるコードをつぎはぎすることなく、自然言語による指示から、バグのないコードを1万行確実に作成する。
  
  
• 自然言語の数学的証明を記号形式に変換します。

このタスク指向のフレームワークは、AGIの検証に必要な客観性を導入しますが、これらの特定のタスクが人間の知能をすべてカバーしているかどうかについて合意することは困難です。3番目のタスクは料理人として機能するため、ロボティクス、つまり物理的知能がAGIの必要な一部であることを意味します。

2023年、Microsoft AI社のCEO（最高経営責任者）であり、DeepMind社の共同創設者であるMustafa Suleyman氏は、現実世界でオープンエンドで複数ステップの複雑なタスクを実行できるAIシステムを表す言葉として「特化型人工知能」（ACI）という用語を提案しました。具体的には、AIに10万米ドルのシード・キャピタルを与えて、それを100万米ドルに成長させることを使命とする「モダン・ターニング・テスト」を提案しました。¹²大まかに言えば、これはOpenAI社の経済的価値の概念と柔軟性と一般的なインテリジェンスに焦点を当てているMarcus氏の価値を融合させたものです。

このベンチマークは、真の創意工夫と学際的な能力を証明する可能性がありますが、実際の観点から見ると、特定の種類の経済的ベンチマークとしてのインテリジェンスの枠組みは非常に狭いものです。さらに、利益のみに焦点を当てることは、重大なアライメント・リスクをもたらします。¹³

Blase Agüera y Arcas氏やPeter Norvig氏などの研究者は、 Meta社のLlama、Open AI社のGPT、Anthropic社のClaudeなどの高度なLLMがすでにAGIを実現していると主張しています。彼らは、一般性がAGIの重要な要素であり、今日のモデルはすでに幅広いトピックについて議論し、幅広いタスクを実行し、多様なマルチモーダル・インプットを処理できると仮定しています。「汎用型インテリジェンスは多次元スコアカードの観点から考えられなければならない」と彼らは主張します。「単純にイエスかノーか、という提案ではありません。」¹⁴

この主張には多くの批判があります。DeepMind社の論文の著者らは、一般性自体によってAGIとして認められるものではなく、一定の性能と組み合わせる必要があると主張しています。たとえば、LLMがコードを書くことができるものの、そのコードが信頼性が低い場合、その一般性は「まだ十分なパフォーマンスを発揮していない」ことになります。

Meta社のチーフAIサイエンティストであるYann LeCun氏は、LLMには常識がないため、AGIが不足していると述べています。行動する前に考察することができず、現実世界で行動を実行することも、経験から学ぶこともできず、これは階層計画のための永続的な記憶と能力が不足しているためである、と主張します。¹⁵もっと基本的なレベルでは、LeCun氏とJacob Browning氏は、「言語だけで訓練されたシステムは、今から宇宙が熱力学的に消滅するまで訓練されたとしても、人間の知性に近づくことは決してない」と主張しています。¹⁶

Goertzel氏とPennachin氏は、アルゴリズムとモデル・アーキテクチャーの観点から、AGIシステムに対して少なくとも3つの基本的な技術的アプローチがあると述べています。

• ソフトウェアによる人間の脳の忠実なエミュレーション：モデルのアーキテクチャーが脳を直接模倣していない場合でも、神経科学から得られた知見はAGI研究に影響を与え続けています。人間の脳は、私たちが知る限り、汎用知能を実現できる唯一のシステムであるため、理論上、それをほぼ完全にエミュレートすれば、同様の知能が得られます。人工ニューラル・ネットワークは、脳の基本的な仕組みを表面的には再現していますが、実際の脳の働きは、現在のディープラーニング・モデルよりもはるかに多様で高度です。脳を真にエミュレートするという技術的課題に加えて、このアプローチには、脳の働きについて現在よりも深く理解することも必要です。¹⁷

• 脳とも特化型AIのアーキテクチャーとも異なる、新しいモデル・アーキテクチャー：このアプローチでは、汎用知能の実現に適した構造は脳だけではなく、特化型AIに対する既存のアプローチでは、その技術的または概念的な限界を超えられないと想定します。したがって、AGIには新しいタイプの人工知能が必要になります。たとえば、LeCunは、自己回帰型などの生成的な確率的AIモデルアーキテクチャを使用せず、動物や子どものように学習する「世界モデル」を備えた「Objective-Driven AI Systems（目標駆動型AIシステム）」を採用することを提唱しています。
  
  
• 特化型AIのアルゴリズムを統合するアプローチ：これは、現在実際に進められているAGI実現の取り組みの大半が重視しているアプローチです。LLM、画像モデル、強化学習エージェントなどの特化型AIツールで個別に達成されてきた進歩をまとめようとするものです。現在のマルチモーダル・モデルは、この道筋における中間段階と見なすことができます。これらの統合的アプローチでは通常、中心となる「エージェント」モデル（多くの場合はLLM）を使用して意思決定プロセスを進め、専門モデルへのサブタスクの割り当てを自動化します。

AIの将来に関する予測には常に高い不確実性が伴いますが、ほとんどすべての専門家が今世紀末までにそれが可能になることに同意しており、はるかに早く実現する可能性があるという推論もあります。

2023年、Our World in DataのMax Roser氏は、AGI予測の総まとめを執筆し、AGI予測に関する専門家の考え方が近年どのように進化してきたかをまとめました。各調査では、回答者（AIおよび機械学習の研究者）に、人間レベルの機械知能が得られる可能性が50％に達するまでにどれくらいの時間がかかると考えているかを尋ねました。2018年から2022年までの最も大きな変化は、100年以内にAGIが到達するという回答者の確信性が高まったことです。

ただし、これら3つの調査がそれぞれ、ChatGPTの発売前であり、かつ現代の生成AI時代の前に実施されたものであることは注目に値します。2022年後半以降のAIテクノロジー、特にLLMとマルチモーダルAIの進歩は加速しており、予測の状況は大きく変わりました。

2,778人のAI研究者を対象に、Grace氏らによって2023年10月に実施され、2024年1月に発表されたより大規模なフォローアップ調査では、2047年までに「支援を受けていないマシンが、考え得るすべてのタスクにおいて人間を上回るパフォーマンスを発揮する」可能性が50%だと推定しています。これは、専門家がつい昨年実施された同様の調査で予測するより、13年も前のことです。

しかし、Roser氏が指摘するように、研究によると、多くの分野の専門家は、自身の専門分野の将来を予測する際に必ずしも信頼できるわけではありません。彼は、一般的に世界初の成功した航空機の発明者と考えられているライト兄弟の例を挙げています。1908年11月5日にパリに行われたAéro Club de Franceでの受賞講演では、Wilbur Wright氏は次のように宣言したとされています。「1901年、私は弟のOrvilleに、今後50年は、人類が空を飛ぶことはないだろう、と伝えました。2年後、私たちは飛行に成功したのです。」¹⁸

人工知能は非常に幅広いカテゴリーであり、人間の介入なしに意思決定や予測を行えるあらゆるシステムが含まれます。たとえば、パックマンのゴーストから最先端のLLMまでが該当します。汎用人工知能は、人間のような能力（またはそれ以上の能力）を備え、あらゆるタスクにわたって一般化できるAIシステムを具体的に指します。

いいえ。エージェント型AIとは、計画を立て、行動を起こし、複数のタスクを調整できるシステムを指し、多くの場合、1つまたは複数のモデルをオーケストレーションするためのツールを使用します。エージェント型AIシステムは、限られた人間の介入で複数のステップからなるタスクを実行して特定の目標を達成できますが、通常は定義された領域と能力の範囲内で動作します。

これに対してAGIは、人間レベルの汎用知能を備え、事実上あらゆる認知タスクや分野にわたって理解、学習、推論、適応できる仮説上のAIを指します。簡単に言えば、エージェント型AIは自律的な行動と目標の遂行に重点を置くのに対し、AGIは幅広い人間のような知能と適応能力に重点を置きます。

基盤モデルはAGIの実現に役立つ可能性がありますが、それ自体がAGIというわけではありません。基盤モデルは、大規模なデータ・セットからパターンを学習し、幅広いタスクを支援することで、高度なAIシステムの基盤となる技術を提供します。能力がますます向上している基盤モデルがAGIの主要な構成要素になり得ると考える専門家は多いものの、真のAGIを実現するには、信頼性の高い推論、長期記憶、現実世界の理解、自律学習などの能力をさらに備える必要があるという点で、ほとんどの研究者の意見は一致しています。

いいえ。現在のLLMはAGIとは見なされていません。大規模言語モデルは、言語を理解して生成し、多くの分野にわたって推論し、幅広いタスクをこなすことができます。しかし、一般に汎用人工知能（AGI）と関連付けられる、人間レベルの幅広い適応能力、現実世界の理解、汎用的な問題解決能力はまだ備えていません。しかし、能力がますます向上するLLMがAGIへの道筋となるのか、それともAGIの初期形態に当たるのかについては、専門家の間で議論が続いています。

AGIは人工超知能（ASI）の前提条件ですが、AGIに超知能が必要なわけではありません。平均的で特筆すべき点のない人間と同等の知能と能力を持つAIシステムはAGIに該当しますが、ASIには該当しません。

合意は得られていません。真の汎用人工知能には自己認識または意識が必要だと主張する研究者がいる一方で、システムが自己認識を持つかどうかにかかわらず、幅広いタスクに対応できる人間レベルの知能として、AGIをより限定的に定義する研究者もいます。この議論は、AGIの定義と測定が依然として難しい理由の1つです。

何をもってAGIと見なすかについて明確な合意がないため、AGIが実現した時点を判断するための共通の方法もありません。一部の性能ベンチマーク、ARC-AGIなど、AGIの測定を目的とするパフォーマンスベンチマークもありますが、主観が伴うため、いずれか1つのベンチマークだけで決定的な証拠を示すことは難しいと考えられます。