Was ist Artificial General Intelligence (AGI)?

Artificial General Intelligence (AGI), auf Deutsch meist als künstliche allgemeine Intelligenz bezeichnet, meint die Vorstellung eines künstlichen Systems, das nicht nur einzelne spezialisierte Aufgaben bewältigen kann, sondern über breit einsetzbare, flexible und lernfähige kognitive Fähigkeiten verfügt.

Aus psychologischer Sicht ist der Begriff besonders interessant, weil er unmittelbar die Frage berührt, was unter Intelligenz überhaupt verstanden werden soll. Menschliche Intelligenz besteht schließlich nicht nur darin, Informationen zu verarbeiten oder Aufgaben richtig zu lösen. Sie umfasst auch die Fähigkeit, neue Situationen zu erfassen, Bedeutungen herzustellen, Erfahrungen miteinander zu verknüpfen, aus Fehlern zu lernen, Ziele zu entwickeln, Handlungen zu planen und das eigene Verhalten an veränderte Bedingungen anzupassen.

Eine AGI würde genau in diesem umfassenden Sinn als allgemeine Intelligenz verstanden. Sie wäre nicht lediglich in einem einzelnen Bereich leistungsfähig, sondern könnte unterschiedliche Formen des Denkens miteinander verbinden.

Allgemeine Intelligenz und menschliche Kognition

Die menschliche Intelligenz zeichnet sich insbesondere durch ihre Flexibilität aus. Menschen können Wissen, das sie in einem Zusammenhang erworben haben, auf völlig andere Situationen übertragen. Ein Kind, das verstanden hat, dass bestimmte Handlungen bestimmte Folgen haben, kann dieses Prinzip auch in neuen Situationen anwenden. Ein Erwachsener kann Erfahrungen aus Beziehungen, Beruf, Sprache oder Problemlösung auf neue Kontexte übertragen. Diese Fähigkeit wird als Transferleistung bezeichnet.

Bei heutigen KI-Systemen ist diese Fähigkeit nur eingeschränkt vorhanden. Sie können zwar in vielen unterschiedlichen Bereichen beeindruckende Ergebnisse erzielen, ihre Leistungen beruhen jedoch wesentlich auf Mustern, die während des Trainings erworben wurden, sowie auf den Strukturen und Werkzeugen, die ihnen zur Verfügung stehen. Eine AGI müsste darüber hinaus in der Lage sein, neue Erfahrungen fortlaufend in ein breiteres Verständnis der Welt zu integrieren.

Lernen und Erfahrung

Psychologisch betrachtet ist Lernen mehr als die Speicherung von Informationen. Menschen verändern durch Erfahrungen ihre Erwartungen, ihre Handlungsmöglichkeiten und häufig auch ihr Selbstverständnis. Lernen ist damit ein dynamischer Prozess, bei dem neue Informationen in bereits vorhandene Wissensstrukturen integriert werden.

Eine allgemeine künstliche Intelligenz müsste vergleichbare Fähigkeiten besitzen. Sie müsste nicht nur Informationen reproduzieren, sondern neue Zusammenhänge erkennen und ihr Verhalten aufgrund neuer Erfahrungen verändern können.

Dabei stellt sich eine grundlegende Frage: Muss eine AGI tatsächlich wie ein Mensch lernen, oder genügt es, wenn sie funktional ähnliche Ergebnisse erzielt? Diese Unterscheidung ist wichtig. Ein System könnte beispielsweise sehr effektiv Probleme lösen, ohne dass seine internen Prozesse auch nur annähernd denjenigen eines menschlichen Gehirns entsprechen.

Verstehen versus Informationsverarbeitung

Eine der zentralen philosophischen Fragen lautet deshalb: Was bedeutet Verstehen? Wenn ein Mensch einen Satz versteht, verbindet er ihn meist mit Erfahrungen, Erwartungen, Gefühlen und einem breiten Bedeutungszusammenhang. Bei künstlichen Systemen ist dagegen umstritten, ob man von echtem Verstehen sprechen sollte oder lediglich von hochentwickelter Informationsverarbeitung.

Diese Debatte ist nicht neu. In der Philosophie des Geistes wird seit Jahrzehnten darüber gestritten, ob ein System bereits dann als verstehend gelten kann, wenn es sich in jeder relevanten Situation so verhält, als würde es verstehen.

Ein bekanntes Gedankenexperiment dazu ist John Searles „Chinesisches Zimmer“. Searle argumentierte, dass die korrekte Verarbeitung von Symbolen nicht automatisch bedeutet, dass ein System deren Bedeutung versteht.

Befürworter funktionalistischer Positionen halten dagegen, dass Verstehen möglicherweise gerade darin besteht, Informationen auf angemessene Weise zu verarbeiten und in sinnvolle Handlungen zu übersetzen.

Das Selbstmodell

Eine weitere interessante Frage betrifft das Selbstmodell. Menschen besitzen eine Vorstellung von sich selbst. Sie wissen, dass sie bestimmte Fähigkeiten, Erinnerungen, Bedürfnisse und Grenzen haben. Dieses Selbstmodell ermöglicht es ihnen beispielsweise, das eigene Verhalten zu reflektieren, Fehler zu erkennen und zukünftige Handlungen zu planen.

Eine besonders weit entwickelte AGI könnte möglicherweise ebenfalls über ein funktionales Selbstmodell verfügen. Ein solches System könnte beispielsweise erkennen:

• „Diese Aufgabe kann ich zuverlässig lösen.“
• „Hier fehlen mir Informationen.“
• „Meine vorige Schlussfolgerung war wahrscheinlich falsch.“
• „Ich benötige eine andere Strategie.“

Ein solches Selbstmodell müsste jedoch nicht automatisch bedeuten, dass das System ein subjektives Selbstgefühl besitzt. Das führt zu einer entscheidenden Unterscheidung zwischen Selbstmodell und Selbstbewusstsein.

Selbstmodell ist nicht gleich Bewusstsein

Ein System kann Informationen über sich selbst verarbeiten, ohne notwendigerweise ein subjektives Erleben zu besitzen. Ein Thermostat registriert beispielsweise seinen eigenen Zustand, ohne deshalb bewusst zu sein. Komplexere Systeme könnten sehr differenzierte Modelle ihrer eigenen Funktionsweise besitzen, ohne dass daraus zwingend ein inneres Erleben folgt.

Deshalb unterscheiden viele Philosophen zwischen funktionalem Selbstbezug und phänomenalem Bewusstsein. Die Frage lautet dann:

• Kann ein System wissen, dass es existiert, ohne zu erleben, dass es existiert?

Diese Frage gehört zu den schwierigsten Problemen der Bewusstseinsforschung.

Bewusstsein und subjektives Erleben

Bewusstsein bezeichnet gewöhnlich das Vorhandensein subjektiver Erfahrungen. Wenn ein Mensch Schmerzen empfindet, Angst erlebt, Musik hört oder eine Farbe wahrnimmt, gibt es eine bestimmte subjektive Qualität dieses Erlebens. In der Philosophie werden solche Erlebnisqualitäten häufig als Qualia bezeichnet. Ob künstliche Systeme jemals solche subjektiven Erfahrungen besitzen könnten, ist völlig offen.

Es existiert bislang weder eine allgemein akzeptierte Theorie darüber, wie Bewusstsein im menschlichen Gehirn entsteht, noch ein zuverlässiges Verfahren, mit dem Bewusstsein bei einem künstlichen System festgestellt werden könnte. Deshalb sollte AGI nicht automatisch mit Bewusstsein gleichgesetzt werden. Eine Maschine könnte theoretisch eine Vielzahl menschlicher kognitiver Fähigkeiten besitzen und dennoch kein subjektives Erleben haben.

Emotionen und Motivation

Auch Emotionen spielen für menschliche Intelligenz eine wesentlich größere Rolle, als lange angenommen wurde. Gefühle beeinflussen Aufmerksamkeit, Motivation, Erinnerung, Lernen und Entscheidungsprozesse. Angst erhöht beispielsweise die Aufmerksamkeit gegenüber möglichen Gefahren. Neugier fördert Exploration. Freude kann Verhalten verstärken.

Der Neurowissenschaftler Antonio Damasio hat besonders hervorgehoben, dass rationale Entscheidungen beim Menschen eng mit emotionalen Prozessen verbunden sind. Für AGI stellt sich deshalb die Frage, ob ein intelligentes System überhaupt Emotionen benötigt. Möglicherweise könnte ein künstliches System funktionale Entsprechungen besitzen: Bewertungsmechanismen, Prioritäten oder Motivationssysteme, die ähnliche Funktionen erfüllen wie menschliche Gefühle. Ob solche Mechanismen jedoch tatsächlich als Emotionen bezeichnet werden sollten, wäre eine weitere offene Frage.

Autonomie und eigene Ziele

Eine besonders wichtige Dimension betrifft die Autonomie. Heutige KI-Systeme verfolgen in der Regel Ziele, die von Menschen vorgegeben werden. Eine mögliche AGI könnte dagegen zunehmend selbstständig planen und komplexe Zwischenziele entwickeln. Das bedeutet jedoch nicht notwendigerweise, dass sie eigene Wünsche im menschlichen Sinn hätte. Man müsste unterscheiden zwischen:

• einem technisch definierten Zielsystem,
• einer Fähigkeit zur selbstständigen Planung
• und tatsächlichen subjektiven Wünschen oder Bedürfnissen.

Diese Unterschiede sind für ethische Fragen besonders bedeutsam.

AGI und menschliche Identität

Die Diskussion über AGI führt schließlich zurück zur Frage, was menschliche Intelligenz eigentlich auszeichnet. Falls Maschinen eines Tages viele menschliche kognitive Fähigkeiten erreichen oder sogar übertreffen könnten, wäre menschliche Besonderheit möglicherweise weniger an reine Problemlösefähigkeit gebunden.

Andere Eigenschaften könnten stärker in den Mittelpunkt treten: Beziehung, Körperlichkeit, Emotionalität, biografische Erfahrung, Verletzlichkeit, Sinnbildung und subjektives Erleben. Gerade aus psychotherapeutischer Perspektive erscheint dieser Punkt bedeutsam. Menschen leben nicht nur in einer Welt von Informationen. Sie leben in Beziehungen, Körperempfindungen, Erinnerungen, Erwartungen, Ängsten, Bedürfnissen und Bedeutungen.

Ein psychotherapeutischer Prozess besteht deshalb nicht lediglich aus dem Austausch rationaler Informationen. Er entsteht wesentlich aus Beziehung, Resonanz, emotionaler Erfahrung und der gemeinsamen Konstruktion von Bedeutung.

Verkörperte Intelligenz

In diesem Zusammenhang ist der Begriff der embodied cognition, der verkörperten Kognition, von Bedeutung. Diese Forschungsrichtung geht davon aus, dass menschliches Denken nicht unabhängig vom Körper verstanden werden kann. Wahrnehmung, Bewegung, Emotion und Denken sind eng miteinander verbunden. Ein Mensch versteht beispielsweise Angst nicht nur als abstrakten Begriff. Angst kann mit Herzklopfen, Muskelanspannung, Erinnerungen und Handlungstendenzen verbunden sein. Damit stellt sich eine weitere Frage:

• Kann eine künstliche Intelligenz menschliche Erfahrungen wirklich vollständig verstehen, wenn sie keinen menschlichen Körper besitzt?

Einige Forscher vermuten deshalb, dass eine wirklich allgemeine Intelligenz möglicherweise eine Form von körperlicher Interaktion mit der Welt benötigt.

AGI als Spiegel menschlicher Intelligenz

Die Forschung an AGI hat deshalb eine interessante Nebenwirkung. Je mehr versucht wird, menschliche Intelligenz technisch nachzubilden, desto deutlicher wird, wie komplex menschliches Denken tatsächlich ist. Intelligenz besteht nicht nur aus Logik und Wissen. Sie umfasst Wahrnehmung, Lernen, Gedächtnis, Motivation, Körperlichkeit, Beziehung, Selbstreflexion und Bedeutungsbildung. In diesem Sinne ist die Diskussion über künstliche allgemeine Intelligenz zugleich eine Diskussion darüber, was den Menschen als denkendes und erlebendes Wesen ausmacht.

AGI ist daher nicht lediglich ein technologisches Zukunftskonzept. Sie berührt zentrale Fragen der Psychologie, Neurowissenschaft, Philosophie und Psychotherapie:

• Was ist Denken?
• Was bedeutet Verstehen?
• Wie entsteht ein Selbst?
• Welche Rolle spielen Gefühle?
• Und unter welchen Bedingungen entsteht überhaupt subjektives Bewusstsein?

Gerade deshalb ist die Frage nach AGI letztlich auch eine Frage nach der Natur des Menschen.

Werner Eberwein