Was ist künstliche allgemeine Intelligenz (AGI)?

AGI wird seit den Anfängen der KI-Forschung aktiv erkundet. Dennoch besteht in der akademischen Gemeinschaft kein Konsens darüber, was genau als AGI gelten würde und wie man dies am besten erreicht. Obwohl das übergeordnete Ziel einer menschenähnlichen Intelligenz recht einfach ist, sind die Details nuanciert und subjektiv. Die Bemühungen um AGI umfassen daher sowohl die Entwicklung eines Frameworks zum Verständnis der Intelligenz in Maschinen als auch die Entwicklung von Modellen, die dieses Framework erfüllen können.

Die Herausforderung ist sowohl philosophischer als auch technologischer Natur. Philosophisch betrachtet erfordert eine formale Definition von AGI sowohl eine formale Definition von „Intelligenz“ als auch eine allgemeine Übereinkunft darüber, wie sich diese Intelligenz in KI manifestieren könnte. Technologisch erfordert AGI die Erstellung von KI-Modelle mit einem beispiellosen Maß an Raffinesse und Vielseitigkeit, Metriken und Tests, um die Kognition des Modells und die notwendige Power zuverlässig zu überprüfen.

Der Begriff der „allgemeinen“ Intelligenz bzw. der allgemeinen KI lässt sich am besten im Gegensatz zur engen KI verstehen: ein Begriff, der praktisch die gesamte gegenwärtige KI beschreibt, deren „Intelligenz“ sich nur in spezialisierten Bereichen zeigt.

Das Dartmouth Summer Research Project on Artificial Intelligence von 1956, an dem Mathematiker und Wissenschaftler von Institutionen wie Dartmouth, IBM, Harvard und Bell Labs teilnahmen, gilt als Ursprung des Begriffs „künstliche Intelligenz“. Wie im Projektentwurf beschrieben, „sollte die Studie auf der Vermutung aufbauen, dass jeder Aspekt des Lernens oder jede andere Funktion der Intelligenz so genau beschrieben werden kann, dass eine Maschine zur Simulation hergestellt werden kann.“

In diesem aufstrebenden Gebiet der „KI“ sollte eine Roadmap für Maschinen entwickelt werden, die selbständig denken können. Doch in den folgenden Jahrzehnten erwies sich der Fortschritt hin zu menschenähnlicher Intelligenz bei Maschinen als schwer zu erreichen.

Viel größere Fortschritte wurden bei der Suche nach Rechenmaschinen erzielt, die spezifische Aufgaben ausführen, die typischerweise große Intelligenz des Menschen erfordern, wie z. B. Schachspielen, Gesundheitsdiagnosen, Forecasting oder Autofahren. Aber diese Modelle – zum Beispiel jene, die selbstfahrende Autos antreiben – zeigen Intelligenz nur innerhalb ihrer spezifischen Bereiche.

Im Jahr 2007 popularisierte der KI-Forscher Ben Goertzel auf Anregung des DeepMind-Mitbegründers Shane Legg den Begriff „künstliche allgemeine Intelligenz“ (AGI) in einem einflussreichen Buch gleichen Namens. Im Gegensatz zu dem, was er als „schmale KI“ bezeichnete, wäre eine künstliche allgemeine Intelligenz eine neue Art von KI, die unter anderem „die Fähigkeit besitzt, allgemeine Probleme auf eine nicht auf ein bestimmtes Gebiet beschränkte Weise zu lösen, so wie es ein Mensch kann“.

AGI bezieht sich auf umfassende, aufgabenübergreifende Funktionen auf menschlichem Niveau und ist eng mit anderen Konzepten des maschinellen Lernens verbunden. Starke KI bezieht sich üblicherweise auf Bewusstsein oder einen echten Verstand. Künstliche Superintelligenz übertrifft die menschlichen Fähigkeiten bei praktisch allen Aufgaben. Obwohl diese Konzepte einige Überschneidungen aufweisen, stellen sie jeweils eine eigenständige Auffassung von KI dar.

Der Begriff „Starke KI“, der in den Werken des Philosophen John Searle eine wichtige Rolle spielt, bezeichnet ein KI-System, das Bewusstsein aufweist, und dient hauptsächlich als Gegenpol zur schwachen KI. Starke KI ist zwar im Allgemeinen analog zu AGI (und schwache KI ist im Allgemeinen analog zu enger KI), aber sie sind nicht nur Synonyme füreinander.

Im Wesentlichen ist schwache KI lediglich ein Werkzeug, das von einem bewussten Verstand – also einem Menschen – benutzt wird. Starke KI hingegen ist selbst ein bewusster Verstand. Obwohl in der Regel impliziert wird, dass dieses Bewusstsein eine entsprechende Intelligenz mit sich bringt, die der von Menschen gleich oder überlegen ist, geht es bei starker KI nicht explizit um die relative Leistung bei verschiedenen Aufgaben. Die beiden Konzepte werden oft miteinander verschmolzen, weil das Bewusstsein entweder als Voraussetzung oder als Folge von „allgemeiner Intelligenz“ angesehen wird.

Trotz ihrer Ähnlichkeiten beschreiben AGI und starke KI letztlich eher komplementäre Konzepte als identische Konzepte.

Künstliche Superintelligenz ist, wie der Name schon sagt, ein KI-System, dessen allgemeine Funktionen die eines Menschen bei jeder Aufgabe bei weitem übertreffen.

Konzepte wie Transferlernen und Few-Shot-Learning werden oft im Zusammenhang mit AGI diskutiert, da sie die Fähigkeit eines Systems widerspiegeln, Wissen von einer Aufgabe auf eine andere zu übertragen. Es ist erwähnenswert, dass wir wohl schon mehrfach eine engere Version übermenschlicher Intelligenz erreicht haben, in Form einer Handvoll KI-Systeme, die angeblich alle Menschen bei der spezifischen Aufgabe oder dem Bereich, für den sie entwickelt wurden, übertreffen. Einige Beispiele:

• AlphaFold übertrifft alle menschlichen Wissenschaftler bei der Vorhersage der 3D-Struktur eines Proteins aus einer Aminosäuresequenz.
  
  
• IBMs Deep Blue besiegte 1997 den Weltmeister Garry Kasparov im Schach.

• IBM® Watson besiegte die Jeopardy!-Champions Ken Jennings und Brad Rutter im Jahr 2013.
  
  
• AlphaGo (und sein Nachfolgemodell AlphaZero) gilt als der weltweit beste Spieler bei Go.

Obwohl Transferlernen aktuellen KI-Modellen hilft, auf verwandte Aufgaben zu generalisieren, ist es nicht dasselbe wie künstliche allgemeine Intelligenz. Diese Modelle könnten Durchbrüche in Richtung künstlicher Superintelligenz bedeuten, aber sie haben keine künstliche „allgemeine“ Intelligenz erreicht, da solche KI-Systeme nicht autonom neue Aufgaben erlernen oder ihre Problemlösungsfähigkeiten über ihren eng definierten Rahmen hinaus erweitern können. Eine echte ASI würde Überlegenheit nicht nur in einem bestimmten Bereich bedeuten, sondern bei jeder Aufgabe, die ein Mensch ausführen könnte.

Superintelligenz ist keine Voraussetzung für AGI. Theoretisch würde ein KI-System, das Bewusstsein und ein Intelligenzniveau zeigt, das mit dem eines durchschnittlichen, unscheinbaren Menschen vergleichbar ist, sowohl AGI als auch starke KI darstellen – aber keine künstliche Superintelligenz.

Unter Experten besteht kein Konsens darüber, was genau als AGI gelten sollte, obwohl im Laufe der Geschichte der Informatik viele Definitionen vorgeschlagen wurden. Diese Definitionen konzentrieren sich in der Regel auf den abstrakten Begriff der maschinellen Intelligenz und nicht auf die spezifischen Algorithmen oder Modelle des maschinellen Lernens, die zur Erreichung dieser Ziele verwendet werden sollten.

Im Jahr 2023 veröffentlichte Google Deepmind eine Studie, in der die bestehende akademische Literatur untersucht wurde und mehrere Kategorien von Rahmenwerken zur Definition künstlicher allgemeiner Intelligenz identifiziert wurden:

• Der Turing-Test: Maschinen, die sich überzeugend wie Menschen verhalten können
  
  
• Starke KI: Systeme mit Bewusstsein
  
  
• Analogien zum menschlichen Gehirn
  
  
• Leistung auf menschlichem Niveau bei kognitiven Aufgaben
  
  
• Fähigkeit, neue Aufgaben zu erlernen
  
  
• Wirtschaftlich wertvolle Arbeit
  
  
• Flexible und allgemeine Funktionen
  
  
• “Artificial Capable Intelligence” (ACI)

Alan Turing, eine wegweisende Persönlichkeit in der Geschichte der theoretischen Informatik, veröffentlichte 1950 in seiner Arbeit „Computer Machinery and Intelligence“ eine der frühesten und einflussreichsten Definitionen von maschineller Intelligenz. Der Kern seiner Argumentation war, dass Intelligenz durch Verhalten und nicht durch mystische philosophische Eigenschaften definiert werden kann. Turing erkannte die Schwierigkeit, feste Definitionen von Konzepten wie Maschinen und Denken festzulegen, und schlug einen einfachen Weg vor, das Problem zu umgehen, der auf einem Partyspiel namens „Imitation Game“ basierte.

Der „Turing-Test“ ist einfach: Ein menschlicher Beobachter muss Textproben lesen und feststellen, ob sie von einem Menschen oder von einer Maschine generiert wurden. Turing schlug vor, dass, wenn ein Mensch nicht zwischen der Ausgabe des Programms und der Ausgabe eines anderen Menschen unterscheiden kann, man sagen kann, dass das Programm menschenähnliche Intelligenz zeigt.

Kritik am Turing-Test
Trotz seines monumentalen Einflusses betrachten Informatiker den Turing-Test heute nicht als adäquates Maß für AGI. Anstatt die Fähigkeit zu denken zu demonstrieren, zeigt der Test oft einfach nur, wie leicht Menschen zu täuschen sind.

So entwickelte Joseph Weizelbaum 1966 ein Chatbot-Programm namens ELIZA, das einfache Regeln anwendet, um die menschliche Sprache der Eingaben eines Benutzers in eine Antwort des Chatbots umzuwandeln. Das erste Programm, das er mit diesem Chatbot entwarf, erhielt den Namen DOCTOR. Es sollte einen Roger-basierten Psychotherapeuten imitieren, indem es entweder generisch antwortet oder die Benutzereingabe in Form einer Frage umformuliert:

Mensch: Mein Freund hat mich hierher geschickt.
ELIZA: Dein Freund hat dich hierher geschickt?
Mensch: Er sagt, dass ich die meiste Zeit deprimiert bin.
ELIZA: Es tut mir leid, dass du deprimiert bist.
Mensch: Das stimmt. Ich bin unglücklich.
ELIZA: Glaubst du, dass der Besuch hier dir helfen wird, nicht unglücklich zu sein?

Wie Weizelbaum in seinem 1976 erschienenen Werk Computer Power and Human Reason erklärte, war er „erstaunt darüber, wie schnell und sehr intensiv sich Menschen, die mit DOCTOR interagierten, emotional mit dem Computer identifizierten und wie unmissverständlich sie ihn vermenschlichten.“ Er bemerkte, dass sogar seine Sekretärin, die ihn monatelang bei der Arbeit an dem Programm beobachtet hatte und offensichtlich dessen einfache Methodik kannte, ihn bat, den Raum zu verlassen, um ungestört zu sein, als sie begann, sich mit dem Programm zu unterhalten^.1 Dieses Phänomen ist als der ELIZA-Effekt bekannt geworden.

Eine andere vorgeschlagene Definition setzt die Messlatte für AGI höher: ein KI-System mit Bewusstsein. Einige Forscher verbinden AGI mit Bewusstsein oder Selbstbewusstsein, während andere argumentieren, dass Bewusstsein für die Leistung auf menschlicher Ebene nicht erforderlich ist. Ob Bewusstsein für künstliche allgemeine Intelligenz notwendig ist, bleibt ungeklärt. Wie Searles formulierte: "Laut starker KI ist der Computer nicht nur ein Werkzeug zur Untersuchung des Geistes; vielmehr ist der entsprechend programmierte Computer wirklich ein Geist."²

Searles verfasste 1980 eine prominente philosophische Widerlegung der Fähigkeit des Turing-Tests, starke KI zu beweisen. Er beschreibt einen Englisch sprechenden Mann, der absolut kein Chinesisch versteht und in einem Raum voller Bücher mit chinesischen Symbolen und Anweisungen (auf Englisch) zur Manipulation der Symbole eingesperrt ist. Er argumentiert, dass der Englischsprecher jemanden in einem anderen Raum glauben lassen könnte, er könne Chinesisch sprechen, indem er einfach den Anweisungen zur Manipulation von Zahlen und Symbolen folgt, obwohl er die Nachrichten des anderen oder seine eigenen Antworten nicht versteht.³

Die jahrzehntelange Debatte um das Chinese Room Argument, zusammengefasst in diesem Artikel der Stanford Encyclopedia of Philosophy , zeigt den Mangel an wissenschaftlichem Konsens über eine Definition von „Verständnis“ und darüber, ob ein Computerprogramm es besitzen kann. Diese Uneinigkeit, zusammen mit der Möglichkeit, dass Bewusstsein gar keine Voraussetzung für menschenähnliche Leistung ist, macht starke KI allein zu einem unpraktischen Framework für die Definition von AGI.

Ein intuitiver Ansatz für AGI, der darauf abzielt, die Art von Intelligenz zu replizieren, die (soweit wir wissen) bisher nur vom menschlichen Gehirn erreicht wurde, besteht darin, das menschliche Gehirn selbst zu replizieren.⁴ Diese Intuition führte zu den ursprünglichen Neural Networks, die wiederum die Deep-Learning-Modelle hervorgebracht haben, die derzeit den Stand der Technik in nahezu jedem Teilbereich der KI darstellen.

Der Erfolg von Deep Learning Neural Networks, insbesondere der großen Sprachmodelle (LLMs) und multimodalen Modelle an der Spitze der generativen KI (generative KI), demonstriert die Vorteile, sich von der Funktionsweise des menschlichen Gehirns durch selbstorganisierende Netzwerke künstlicher Neuronen inspirieren zu lassen. Viele der leistungsfähigsten Deep-Learning-Modelle verwenden jedoch transformatorbasierte Architekturen, die selbst nicht strikt gehirnähnliche Strukturen nachahmen. Dies deutet darauf hin, dass die explizite Nachahmung des menschlichen Gehirns nicht per se notwendig ist, um AGI zu erreichen.

Ein ganzheitlicherer Ansatz besteht darin, AGI einfach als KI-System zu definieren, das alle kognitiven Aufgaben erledigen kann, die auch Menschen erledigen können. Diese Definition ist zwar hilfreich flexibel und intuitiv, aber sie ist nicht eindeutig: Welche Aufgaben? Welche Personen? Diese Mehrdeutigkeit schränkt die praktische Verwendung als formales Framework für AGI ein.

Der bemerkenswerteste Beitrag dieses Frameworks besteht darin, dass es den Fokus von AGI auf nicht-physische Aufgaben beschränkt. Dabei werden Fähigkeiten wie der Gebrauch von Werkzeugen, die Fortbewegung oder das Manipulieren von Gegenständen außer Acht gelassen, die oft als Beweis für „physische Intelligenz“ gelten⁵. Damit entfallen weitere Fortschritte in der Robotertechnik als Voraussetzung für die Entwicklung von AGI.

Ein anderer intuitiver Ansatz zur AGI und zur Intelligenz selbst besteht darin, die Lernfähigkeit zu betonen – insbesondere die Fähigkeit, ein möglichst breites Spektrum an Aufgaben und Konzepten zu erlernen, wie es Menschen können. Dies erinnert an Turing in „Computing Machinery and Intelligence“, worin er spekuliert, dass es klüger sein könnte, eine kindliche KI zu programmieren und sie einer Bildung zu unterziehen, anstatt ein Computersystem mit einem erwachsenen „Gehirn“ zu programmieren.⁶

Dieser Ansatz steht im Widerspruch zu enger KI, die Modelle explizit darauf trainiert, eine bestimmte Aufgabe auszuführen. Zum Beispiel ist selbst ein LLM wie GPT-4, das angeblich die Fähigkeit zum Few-Shot-Lernen oder sogar Zero-Shot-Lernen bei „neuen“ Aufgaben demonstriert, auf Funktionen beschränkt, die an seine Hauptaufgabe angrenzen: die autoregressive Vorhersage des nächsten Wortes in einer Sequenz.

Obwohl hochmoderne multimodale KI-Modelle immer vielfältigere Aufgaben ausführen können, von der Verarbeitung natürlicher Sprache (NLP) über Computer Vision bis hin zur Spracherkennung, sind sie immer noch auf eine begrenzte Liste von Kernkompetenzen beschränkt, die in ihren Trainingsdatensätzen dargestellt werden. Sie können zum Beispiel nicht lernen, ein Auto zu fahren. Eine echte AGI wäre in der Lage, in Echtzeit aus neuen Erfahrungen zu lernen – eine Leistung, die für menschliche Kinder und sogar viele Tiere nicht bemerkenswert ist.

Der KI-Forscher Pei Wang hat eine in diesem Zusammenhang sinnvolle Definition von maschineller Intelligenz: „die Fähigkeit eines informationsverarbeitenden Systems, sich mit unzureichendem Wissen und unzureichenden Ressourcen an seine Umgebung anzupassen.“⁷

Open AI, dessen GPT-3-Modell oft dafür verantwortlich ist, dass es mit dem Start von ChatGPT die aktuelle Ära der generativen KI eingeleitet hat, definiert AGI in seiner Satzung als „hochautonome Systeme, die Menschen bei der wirtschaftlich wertvollsten Arbeit übertreffen.“⁸

Wie im DeepMind-Bericht festgestellt, lässt diese Definition Elemente der menschlichen Intelligenz außer Acht, deren wirtschaftlicher Wert schwer zu definieren ist, wie z. B. künstliche Kreativität oder emotionale Intelligenz. Bestenfalls können diese Aspekte der Intelligenz einen wirtschaftlichen Wert auf Umwegen realisieren, z. B. bei der Kreativität, die profitable Filme produziert, oder bei der emotionalen Intelligenz, die Maschinen antreibt, die Psychotherapie durchführen.

Der Fokus auf den wirtschaftlichen Wert impliziert auch, dass Funktionen, die AGI umfassen, nur dann gezählt werden können, wenn sie auch in der Praxis zum Einsatz kommen. Wenn ein KI-System bei einer bestimmten Aufgabe mit dem Menschen mithalten kann, es aber aus rechtlichen, ethischen oder sozialen Gründen praktisch unmöglich ist, diese Aufgabe jemals tatsächlich zu erfüllen, kann man dann sagen, dass es den Menschen „übertrifft“?

Der DeepMind-Bericht stellt auch fest, dass OpenAI seine Robotertechnik-Abteilung im Jahr 2021 geschlossen hat, was darauf hindeutet, dass die Replikation von physischer Arbeit – und entsprechende Auswirkungen auf die Rolle der „physischen Intelligenz“ in AGI – nicht Teil dieser Interpretation des wirtschaftlichen Wertes ist.

Gary Marcus, Psychologe, Kognitionswissenschaftler und KI-Forscher, definierte AGI als „eine Abkürzung für jede Intelligenz ... die flexibel und allgemein ist, deren Einfallsreichtum und Zuverlässigkeit mit der menschlichen Intelligenz vergleichbar sind (oder diese übertreffen).⁹ Marcus schlug eine Reihe von Benchmark-Aufgaben vor, die diese Anpassungsfähigkeit und allgemeine Kompetenz demonstrieren sollten, ähnlich einer spezifischen und praktischen Umsetzung des Frameworks für „Lernaufgaben“.

Diese Quantifizierung von AGI erinnert an ein Gedankenexperiment des Apple-Mitbegründers Steve Wozniak, der fragte: „Könnte ein Computer eine Tasse Kaffee machen?“ Wozniak merkt an, dass diese scheinbar einfache Aufgabe in Wirklichkeit recht komplex ist: Man muss in der Lage sein zu gehen, um zu wissen, wie Küchen aussehen, wie eine Kaffeemaschine oder Kaffee aussehen könnte und um mit Schubladen und Schränken umgehen zu können. Kurz gesagt, ein Mensch muss auf eine lebenslange Erfahrung zurückgreifen, nur um eine Tasse Kaffee zuzubereiten.¹⁰

Konkret schlug Marcus eine Reihe von 5 Benchmark-Aufgaben vor, die AGI demonstrieren würden, wenn sie von einem einzelnen KI-System ausgeführt werden.¹¹

• Einen Film schauen und die Charaktere, ihre Konflikte und ihre Beweggründe verstehen.
  
  
• Einen Roman lesen und Fragen dazu zuverlässig beantworten können, und zwar mit Erkenntnissen, die über den Originaltext hinausgehen, über Handlung, Charaktere, Konflikte und Motivationen.
  
  
• Als Koch in einer beliebigen Küche arbeiten (ähnlich wie Wozniaks Kaffee-Vergleich).
  
  
• Zuverlässig 10.000 Zeilen fehlerfreien Code aus natürlichen Sprachanweisungen schreiben, ohne Code aus bestehenden Bibliotheken zusammenzubauen.
  
  
• Mathematische Beweise in natürlicher Sprache in symbolische Form konvertieren.

Während dieses aufgabenorientierte Framework eine dringend benötigte Objektivität in die Validierung von AGI einbringt, ist es schwierig, sich darüber zu einigen, ob diese spezifischen Aufgaben die gesamte menschliche Intelligenz abdecken. Die dritte Aufgabe, die Arbeit als Koch, impliziert, dass Robotertechnik – und damit physische Intelligenz – ein notwendiger Bestandteil von AGI wäre.

Im Jahr 2023 schlug der CEO von Microsoft AI und DeepMind-Mitbegründer Mustafa Suleyman den Begriff „Artificial Capable Intelligence“ (ACI) vor, um KI-Systeme zu beschreiben, die komplexe, offene, mehrstufige Aufgaben in der realen Welt erfüllen können. Genauer gesagt schlug er einen „modernen Turing-Test“ vor, bei dem einer KI ein Startkapital von 100.000 US-Dollar zur Verfügung gestellt und sie die Aufgabe erhalten würde, dieses auf 1 Million US-Dollar zu vermehren.¹² Im Großen und Ganzen verbindet dies OpenAIs Vorstellung von ökonomischem Wert mit Marcus’ Fokus auf Flexibilität und allgemeine Intelligenz.

Auch wenn diese Benchmark einen echten Einfallsreichtum und interdisziplinäre Kompetenz beweist, ist diese Definition von Intelligenz als spezifischer Art von Ausgabe in praktischer Hinsicht untragbar eng. Darüber hinaus birgt die ausschließliche Fokussierung auf den Gewinn erhebliche Risiken bei der Ausrichtung. ¹³

Einige Forscher, wie Blase Agüera y Arcas und Peter Norvig, haben argumentiert, dass fortgeschrittene LLMs wie Llama von Meta, GPT von Open AI und Claude von Anthropic bereits AGI erreicht haben. Sie gehen davon aus, dass Allgemeingültigkeit das Schlüsselelement von AGI ist und dass die heutigen Modelle bereits eine breite Palette von Themen diskutieren, eine breite Palette von Aufgaben ausführen und eine Vielzahl multimodaler Eingaben verarbeiten können. „Allgemeine Intelligenz muss als multidimensionale Scorecard betrachtet werden“, argumentieren sie. „Kein einziger Ja- oder Nein-Vorschlag.“¹⁴

Es gibt viele Kritiker zu dieser Position. Die Autoren des DeepMind-Papiers argumentieren, dass Allgemeingültigkeit allein nicht als AGI qualifiziert ist: Sie muss mit einem gewissen Maß an Leistungsfähigkeit einhergehen. Wenn ein LLM zum Beispiel Code schreiben kann, dieser Code aber nicht zuverlässig ist, dann ist diese Allgemeinheit „noch nicht ausreichend leistungsfähig“.

Yann LeCun, leitender KI-Wissenschaftler von Meta, hat festgestellt, dass es LLMs an AGI mangelt, weil sie keinen gesunden Menschenverstand haben: Sie können nicht denken, bevor sie handeln, sie können keine Aktionen in der realen Welt ausführen oder durch verkörperte Erfahrung lernen und es mangelt ihnen an persistenten Gedächtnissen und Kapazitäten für hierarchische Planung.¹⁵ Auf einer grundlegenderen Ebene haben LeCun und Jacob Browning argumentiert, dass „ein System, das allein auf Sprache trainiert wurde, niemals annähernd an die menschliche Intelligenz herankommen wird, selbst wenn es von jetzt an bis zum Hitzetod des Universums trainiert wurde.“¹⁶

Goertzel und Pennachin stellen fest, dass es mindestens drei grundlegende technologische Ansätze für AGI-Systeme in Bezug auf Algorithmen und Modellarchitekturen gibt.

• Enge Nachahmung des menschlichen Gehirns in Software: Erkenntnisse aus der Neurowissenschaft beeinflussen weiterhin die AGI-Forschung, selbst wenn Modellarchitekturen das Gehirn nicht direkt nachahmen. Da das menschliche Gehirn das einzige uns bekannte System ist, das zu allgemeiner Intelligenz fähig ist, würde eine nahezu perfekte Nachahmung desselben theoretisch zu ähnlicher Intelligenz führen. Während künstliche Neural Networks oberflächlich die grundlegenden Mechanismen des Gehirns replizieren, sind die tatsächlichen Funktionsweisen des Gehirns weitaus vielfältiger und ausgefeilter als die aktuellen Deep Learning-Modelle. Abgesehen von der technologischen Herausforderung, das Gehirn tatsächlich nachzubilden, erfordert dieser Ansatz auch ein tieferes Verständnis der Funktionsweise des Gehirns, als wir es derzeit haben.¹⁷

• Eine neuartige Modellarchitektur, die sich sowohl vom Gehirn als auch von Architekturen schwacher KI unterscheidet: Dieser Ansatz geht davon aus, dass das Gehirn nicht die einzige Struktur ist, die für allgemeine Intelligenz förderlich ist, und dass bestehende Ansätze für schwache KI ihre technologischen oder konzeptionellen Grenzen nicht überwinden können. AGI würde daher eine neue Art von künstlicher Intelligenz erfordern. LeCun hat beispielsweise vorgeschlagen, autoregressive und andere generative, probabilistische KI-Modellarchitekturen zugunsten von „objektgesteuerten KI-Systemen“ zu meiden, deren
  „Weltmodelle“ eher wie Tiere und Kinder lernen.
• Ein integrativer Ansatz, der schmale KI-Algorithmen synthetisiert: Dieser Ansatz steht im Mittelpunkt der meisten aktuellen realen Initiativen zur Erreichung von AGI, wobei versucht wird, die isolierten Fortschritte bei schmalen KI-Tools wie LLMs, Bildmodellen und Reinforcement Learning Agents zusammenzuführen. Aktuelle multimodale Modelle könnten als Zwischenschritte auf diesem Weg betrachtet werden. Diese integrativen Ansätze verwenden typischerweise ein zentrales „Agenten“-Modell – oft ein LLM –, um einen Entscheidungsfindung zu steuern und die Delegation von Teilaufgaben an spezialisierte Modelle zu automatisieren .

Vorhersagen über die Zukunft der KI sind immer mit einem hohen Maß an Unsicherheit verbunden, aber fast alle Experten sind sich einig, dass dies bis zum Ende des Jahrhunderts möglich sein wird, und einige gehen davon aus, dass dies noch viel früher geschehen könnte.

Im Jahr 2023 verfasste Max Roser von Our World in Data eine Zusammenfassung der AGI-Prognosen, um zusammenzufassen, wie sich die Expertenmeinung zu AGI-Forecasting in den letzten Jahren weiterentwickelt hat. Bei jeder Umfrage wurden die Befragten – Forscher für KI und maschinelles Lernen – gefragt, wie lange es ihrer Meinung nach dauern würde, eine 50-prozentige Chance auf menschliche Intelligenz zu erreichen. Die bedeutendste Veränderung von 2018–2022 ist die zunehmende Gewissheit der Befragten, dass AGI innerhalb von 100 Jahren Realität werden würde.

Es ist jedoch erwähnenswert, dass diese drei Studien jeweils vor der Einführung von ChatGPT und dem Beginn der modernen Ära der generativen KI durchgeführt wurden. Das zunehmende Tempo der Fortschritte in der Technologie seit Ende 2022, insbesondere bei LLMs und multimodaler KI, hat zu einem deutlich veränderten Prognosenumfeld geführt.

In einer größeren Folgeumfrage von Grace et al. unter 2.778 KI-Forschern, die im Oktober 2023 durchgeführt und im Januar 2024 veröffentlicht wurde, schätzten die Befragten eine Wahrscheinlichkeit von 50 Prozent, dass bis 2047 „ungestützte Maschinen den Menschen bei jeder möglichen Aufgabe übertreffen“ würden – 13 Jahre früher als Experten es in einer ähnlichen Studie nur ein Jahr zuvor prognostiziert hatten.

Doch wie Roser feststellt, hat die Forschung gezeigt, dass Experten in vielen Bereichen nicht unbedingt zuverlässig sind, wenn sie die Zukunft ihres eigenen Fachgebiets vorhersagen. Er nennt das Beispiel der Gebrüder Wright, die allgemein als Erfinder des ersten erfolgreichen Flugzeugs der Welt gelten. In einer Dankesrede am 5. November 1908 im Aéro Club de France in Paris soll Wilbur Wright erklärt haben: „Ich gestehe, dass ich 1901 zu meinem Bruder Orville gesagt habe, dass der Mensch in den nächsten 50 Jahren nicht fliegen würde. Zwei Jahre später führten wir bereits Flüge durch.“¹⁸

Künstliche Intelligenz ist eine sehr breite Kategorie, die jedes System umfasst, das in der Lage ist, Entscheidungen oder Vorhersagen ohne menschliches Eingreifen zu treffen, von den Geistern in Pac-Man bis zu einem hochmodernen LLM. Künstliche allgemeine Intelligenz bezeichnet speziell ein KI-System mit menschenähnlichen (oder besseren) Funktionen, die sich auf jede Aufgabe verallgemeinern lassen.

Nein. Agentische KI bezeichnet Systeme, die planen, Aktionen ausführen und mehrstufige Aufgaben koordinieren können, oft mithilfe von Werkzeugen oder mehreren Modellen. Agentische KI-Systeme können zwar mehrstufige Aufgaben ausführen, um bestimmte Ziele mit begrenztem menschlichem Eingreifen zu erreichen, aber sie arbeiten in der Regel innerhalb definierter Bereiche und Funktionen.

AGI hingegen beschreibt eine hypothetische Form von KI mit allgemeiner Intelligenz auf menschlichem Niveau, die in der Lage ist, praktisch jede kognitive Aufgabe oder Domäne zu verstehen, zu lernen, zu argumentieren und sich anzupassen. In einfachen Worten konzentriert sich agentische KI auf autonomes Handeln und die Ausführung von Zielen, während AGI sich auf eine breite, menschenähnliche Intelligenz und Anpassungsfähigkeit konzentriert.

Foundation Models können zwar die Entwicklung von AGI ermöglichen, sind aber selbst keine AGI. Foundation Models liefern die zugrunde liegende Technologie für fortschrittliche KI-Systeme, indem sie Muster aus riesigen Datensatz lernen und eine breite Palette von Aufgaben unterstützen. Während viele Experten glauben, dass immer leistungsfähigere Foundation Models ein zentraler Baustein der AGI bilden könnten, sind sich die meisten Forscher einig, dass zusätzliche Funktionen – wie zuverlässiges Denken, Langzeitgedächtnis, reales Verständnis und autonomes Lernen – erforderlich sind, bevor echte AGI erreicht werden kann.

Nein, aktuelle LLMs gelten nicht als AGI. Obwohl große Sprachmodelle Sprache verstehen und generieren, über viele Fächer hinweg denken und eine Vielzahl von Aufgaben erfüllen können, fehlt ihnen dennoch die breite menschliche Anpassungsfähigkeit, das reale Verständnis und die allgemeine Problemlösungsfähigkeit, die typischerweise mit künstlicher allgemeiner Intelligenz (AGI) verbunden sind. Experten debattieren jedoch weiterhin, ob zunehmend fähige LLMs einen Weg zu AGI oder eine frühe Form davon darstellen.

AGI ist eine Voraussetzung für künstliche Superintelligenz (ASI), aber Superintelligenz ist für AGI nicht erforderlich. Ein KI-System mit Intelligenz und Fähigkeiten, die mit denen eines durchschnittlichen, unauffälligen Menschen identisch sind, würde als AGI gelten, aber nicht als ASI.

Hier besteht kein Konsens. Einige Forscher argumentieren, dass Bewusstsein für eine echte künstliche allgemeine Intelligenz notwendig sei, während andere AGI enger fassen und sie als Intelligenz auf menschlichem Niveau über verschiedene Aufgaben hinweg definieren, unabhängig davon, ob das System über Bewusstsein verfügt oder nicht. Diese Debatte ist einer der Gründe, warum AGI nach wie vor schwer zu definieren und zu messen ist.

Da es keinen wirklichen Konsens darüber gibt, was genau als AGI gelten würde, gibt es auch keine allgemein anerkannte Methode, um zu wissen, wann wir dieses Niveau erreicht haben. Einige Leistungsbenchmarks, wie beispielsweise ARC-AGI, geben zwar vor, AGI zu messen – doch die damit verbundene Subjektivität macht es unwahrscheinlich, dass ein einzelner Benchmark einen endgültigen Beweis liefern kann.