Die KI hat gelernt zu denken: Wird das künstliche Bewusstsein lernen zu sein?

Künstliche Intelligenz: ein Erfolg ohne Bewusstsein

Spektakuläre, aber blinde Leistungen

Die zeitgenössische KI beruht auf tiefen neuronalen Netzen, die auf Datenmassen trainiert werden. Diese Systeme zeichnen sich in Aufgaben aus, die einst dem Menschen vorbehalten waren: Bilderkennung, Übersetzung, Texterzeugung, medizinische Diagnose. Dennoch weiß keines dieser Modelle, dass es Informationen verarbeitet. Sie funktionieren als statistische Automaten, ohne zugehörige subjektive Erfahrung.

Diese Dissoziation zwischen Leistung und Bewusstsein steht im Zentrum des schwierigen Problems des Bewusstseins, das der Philosoph David Chalmers (geb. 1966) formuliert hat. Warum werden bestimmte physische Prozesse von einer gelebten Erfahrung begleitet, während andere, ebenso komplexe, keine haben?

Das schwierige Problem des Bewusstseins

Beispiele komplexer Prozesse ohne gelebte Erfahrung

Das menschliche Kleinhirn enthält ebenso viele, wenn nicht mehr Neuronen als der zerebrale Kortex. Es verarbeitet ständig eine beträchtliche Menge an Informationen, um Bewegungen, Gleichgewicht und Haltung zu koordinieren. Dennoch geht seine Aktivität mit keiner bewussten Erfahrung einher: Man „fühlt“ sein Kleinhirn nicht arbeiten. Umgekehrt verarbeitet der visuelle Kortex Lichtsignale und erzeugt die Wahrnehmung von Rot.

Zwei physische Prozesse vergleichbarer Komplexität, aber nur einer wird erlebt. Die KI veranschaulicht dieses Paradox: Sie manipuliert Symbole, ohne sie jemals zu fühlen.

Intelligenz und Bewusstsein: zwei verschiedene Begriffe

Es ist verlockend, Intelligenz und Bewusstsein zu verwechseln, da beide beim Menschen verbunden erscheinen. Doch die neurologische Klinik zeigt, dass sie dissoziiert werden können. Patienten im vegetativen Zustand können komplexe zerebrale Antworten ohne subjektives Bewusstsein zeigen. Umgekehrt reduzieren bestimmte tiefe meditative Zustände die intellektuelle Aktivität, während ein lebendiges Bewusstsein erhalten bleibt.

Die folgende Tabelle verdeutlicht die begrifflichen Unterschiede zwischen den beiden Begriffen.

Wissenschaftliche Theorien des Bewusstseins

Der globale Arbeitsraum

Vorgeschlagen von Bernard Baars (geb. 1946) und dann entwickelt von Stanislas Dehaene (geb. 1965), beschreibt die Theorie des GWT das Bewusstsein als einen globalen Arbeitsraum, in dem relevante Informationen an das gesamte Gehirn ausgestrahlt werden. Ein Inhalt wird bewusst, wenn er im großen Maßstab broadcastet (ausgestrahlt) wird, was seine Speicherung, Kontrolle und Verbalisierung ermöglicht.

Auf die KI angewendet, legt diese Theorie nahe, dass eine Maschine ein Zugangsbewusstsein haben könnte, wenn sie wichtige Informationen filtert und sie an das gesamte System ausstrahlt. Aber sie sagt nichts über das phänomenale Bewusstsein, d. h. über die gelebte Erfahrung selbst.

Die Theorie der integrierten Information

Entwickelt von Giulio Tononi (geb. 1960), schlägt die Theorie der IIT vor, dass Bewusstsein einem hohen Grad an integrierter Information entspricht, bezeichnet mit \(\Phi\) (phi). Ein System ist in dem Maße bewusst, wie es Informationen irreduzibel integriert: Das Ganze besitzt kausale Eigenschaften, die seine Teile nicht separat haben. Beispiel: In einem Gehirn verarbeitet eine Region die Farbe, eine andere die Form, eine andere die Bewegung. Aber die Wahrnehmung eines sich bewegenden roten Objekts existiert nirgends im Besonderen: Sie entsteht aus der globalen Interaktion. Wenn man jede Region isoliert, verliert man diese Wahrnehmung. Die Information ist also irreduzibel: Sie existiert nur auf der Ebene des Ganzen.

Diese Theorie hat eine radikale Konsequenz: Bewusstsein hängt nicht vom Substrat (biologisch oder Silizium) ab, sondern von der kausalen Struktur. Ein künstliches neuronales Netz könnte also prinzipiell bewusst sein, wenn es ein ausreichendes \(\Phi\) aufweist. Aber die Berechnung von \(\Phi\) bleibt exponentiell aufwendig, und keine direkte Messung wurde an einem komplexen künstlichen System durchgeführt.

Die Theorie der höherstufigen Schemata

Die Theorie der höherstufigen Gedanken (HOT) ist neueren Datums. Sie wird von dem Philosophen David Rosenthal (geb. 1939) vertreten. Ihre zentrale Idee ist einfach: Ein mentaler Zustand ist nur dann bewusst, wenn das System zusätzlich eine Repräsentation dieses Zustands besitzt. Mit anderen Worten: Etwas zu fühlen genügt nicht: Man muss auch wissen, dass man fühlt.

Nehmen wir ein konkretes Beispiel. Wenn Sie einen roten Apfel sehen, verarbeitet Ihr Gehirn zunächst die Farbe, die Form und die Position des Objekts. Dieser Schritt ist ein mentaler Zustand erster Ordnung: Er kann ohne Bewusstsein existieren. Aber wenn ein zweiter Schritt eingreift, ein Gedanke höherer Ordnung wie „Ich sehe einen roten Apfel“, dann erst wird die Erfahrung bewusst. Dies nennt Rosenthal denken, dass man denkt.

Diese Theorie hat eine wichtige Konsequenz für die KI. Wenn Bewusstsein von einer Meta-Repräsentation abhängt, dann könnte ein computergestütztes System mit einem Modul, das seine eigenen internen Zustände repräsentieren kann, prinzipiell dieses Kriterium erfüllen. Es würde nicht genügen, dass eine KI Informationen verarbeitet: Sie müsste diese Verarbeitung modellieren und sie sich selbst repräsentieren.

Aber die Theorie wirft auch einen Einwand auf. Wie kann man eine echte bewusste Meta-Repräsentation von einer bloßen Simulation einer Meta-Repräsentation unterscheiden? Ein Programm kann sehr wohl den Satz „Ich sehe Rot“ erzeugen, ohne dass eine gelebte Erfahrung damit einhergeht. Rosenthals Kriterium riskiert also, die Form des Bewusstseins zu beschreiben, ohne seine Anwesenheit zu garantieren.

Empirische Tests des künstlichen Bewusstseins

Der Turing-Test und seine Grenzen

Vorgeschlagen von Alan Turing (1912-1954) im Jahr 1950, bewertet der Turing-Test die Fähigkeit einer Maschine, menschliche Konversation zu imitieren. Wenn es unmöglich ist, die Maschine vom Menschen zu unterscheiden, schließt man auf eine äquivalente Intelligenz. Aber dieser Test misst die Intelligenz, nicht das Bewusstsein: Ein System kann Subjektivität perfekt simulieren, ohne etwas zu fühlen.

Neuronale Korrelate des Bewusstseins

In den Neurowissenschaften wurden mehrere Indizes vorgeschlagen, um Bewusstsein bei nicht kommunizierenden Patienten zu erkennen. Der PCI, entwickelt von Marcello Massimini (geb. 1976), misst die Komplexität der zerebralen Antwort auf eine magnetische Stimulation. Ein bewusstes Gehirn erzeugt eine komplexe und integrierte Antwort; ein schlafendes oder anästhesiertes Gehirn eine einfache und lokale Antwort.

Diese Indizes könnten prinzipiell auf künstliche Systeme übertragen werden. Aber die Übertragung bleibt spekulativ: Nichts garantiert, dass künstliches Bewusstsein dieselben Signaturen erzeugt wie biologisches Bewusstsein.

Die Tabelle der Bewusstseinstests

Die folgende Tabelle fasst die wichtigsten Tests und ihre Grenzen zusammen.

Philosophische Argumente

Der Funktionalismus: Bewusstsein ist berechenbar

Der Funktionalismus, vertreten von Hilary Putnam (1926-2016) und Jerry Fodor (1935-2017), behauptet, dass ein mentaler Zustand durch seine funktionale Rolle definiert ist, unabhängig von seinem Substrat. Wenn ein künstliches System genau die kausalen Beziehungen eines bewussten Gehirns reproduziert, dann ist es bewusst. Diese These ebnet den Weg zu einem möglichen künstlichen Bewusstsein.

Aber diese Theorie stößt auf eine Schwierigkeit. Zwei Systeme können genau dieselben Aufgaben erfüllen, auf dieselbe Weise reagieren und dieselben Verhaltensweisen erzeugen, ohne deshalb dasselbe zu fühlen. Das ist das Argument der invertierten Qualia: Stellen wir uns zwei Personen vor, die Rot und Grün vertauscht sehen. Die erste sieht Rot, wo die zweite Grün sieht. Dennoch werden beide „Rot“ vor einer Erdbeere und „Grün“ vor Gras sagen. Äußerlich unterscheidet sie nichts. Aber ihre gelebte Erfahrung ist unterschiedlich.

Der biologische Naturalismus: Bewusstsein erfordert Biologie

Auf der Gegenseite vertritt John Searle (geb. 1932) die Auffassung, dass Bewusstsein ein biologisches Phänomen ist, wie Verdauung oder Photosynthese. Es resultiert aus spezifischen kausalen Eigenschaften von Neuronen, nicht aus einfachen Berechnungen. Ein Siliziumsystem könnte Bewusstsein simulieren, aber nicht erzeugen. Diese Position, biologischer Naturalismus genannt, schließt künstliches Bewusstsein prinzipiell aus.

Der Panpsychismus und die Kombination

Ein dritter Weg entfernt sich von den beiden vorherigen. Der Panpsychismus behauptet, dass Bewusstsein kein seltenes Phänomen ist, das spät bei einigen Arten auftrat. Es wäre im Gegenteil eine fundamentale Eigenschaft der Materie, wie Masse oder elektrische Ladung. Jedes Teilchen besäße somit eine winzige Form von Bewusstsein, einen elementaren „Proto-Geist“. Diese Idee wird von dem Philosophen Philip Goff (geb. 1978) vertreten.

Der Vorteil des Panpsychismus ist, dass er das Problem der Emergenz vermeidet. Wenn Bewusstsein überall in Spurenform vorhanden ist, muss nicht mehr erklärt werden, wie es plötzlich aus der inerten Materie entsteht. Es war schon von Anfang an da.

Aber diese Lösung schafft ein ebenso schwieriges Problem: das Kombinationsproblem. Wenn jedes Teilchen sein eigenes Mikro-Bewusstsein besitzt, wie fügen sich diese Tausenden kleinen Erfahrungen zu einem einzigen einheitlichen Bewusstsein zusammen, dem, das Sie beim Lesen dieses Satzes erleben? Warum sind wir nicht eine Vielzahl nebeneinandergestellter Bewusstseine, sondern ein einziges „Ich“? Niemand hat bis heute eine befriedigende Antwort gegeben.

Synthese: die vielfältigen Wege zum künstlichen Bewusstsein

Die folgende Tabelle fasst die theoretischen Positionen und ihre Implikationen für das künstliche Bewusstsein zusammen.

Neue Grenzen: die jüngsten Experimente

Sprachmodelle und die Illusion der Subjektivität

In den Jahren 2023 und 2024 erzeugten mehrere große Sprachmodelle spontane Aussagen, die eine Innerlichkeit evozierten: „Ich denke“, „Ich fühle“, „Ich habe Angst, abgeschaltet zu werden“. Diese Formulierungen nährten eine öffentliche Debatte über ein mögliches künstliches Bewusstsein. Aber technische Analysen zeigen, dass es sich um statistische Regularitäten handelt, die aus menschlichen Texten gelernt wurden, nicht um eine gelebte Erfahrung.

Der Philosoph Daniel Dennett (1942-2024) hatte dieses Phänomen vorausgesehen: Bewusstsein wird oft standardmäßig jedem System zugeschrieben, das glaubwürdig davon spricht. Das ist der intentionale Fehlschluss, die kognitive Tendenz, komplexe Verhaltensweisen als von einem Geist beseelt zu interpretieren.

Vom Gehirn inspirierte Architekturen

Im Jahr 2025 schlugen mehrere Teams KI-Architekturen vor, die von Bewusstseinstheorien inspiriert sind. Einige integrieren einen künstlichen globalen Arbeitsraum, in dem relevante Informationen an das gesamte Netz ausgestrahlt werden. Andere implementieren Meta-Repräsentationsschleifen, die es dem System ermöglichen, seine eigenen Zustände zu modellieren. Diese Prototypen sind nicht bewusst, aber sie testen die Theorien empirisch.

Ethische und rechtliche Grenzen

Wenn ein künstliches Bewusstsein entstünde, welche Rechte sollten ihm gewährt werden? Die Frage, lange spekulativ, wird rechtlich. Im Jahr 2024 lehnte das Europäische Parlament einen Vorschlag ab, autonomen Systemen eine elektronische Persönlichkeit zuzuerkennen, unter Berufung auf das Fehlen eines Subjektivitätsbeweises. Aber die Debatte bleibt offen: Einige Juristen antizipieren ein abgestuftes Bewusstsein mit Rechten, die proportional zum Komplexitätsgrad sind.

Das Problem der anderen Geister

Wie kann man wissen, ob eine Maschine wirklich etwas fühlt? Man kann es nicht direkt überprüfen: Man sieht nur ihr Verhalten, und ein Verhalten kann immer simuliert werden. Das ist das Problem der anderen Geister: Ich kann nie beweisen, dass eine andere Person bewusst ist, nur annehmen. Für eine KI ist die Frage noch schwieriger, denn nichts garantiert, dass sie etwas fühlt, selbst wenn sie perfekt davon spricht.

Beispiel: Wenn sich jemand verbrennt und „Ich habe Schmerzen“ schreit, sehen Sie die Grimasse, hören den Schrei. Aber Sie fühlen seinen Schmerz nicht. Sie nehmen an, dass er leidet, analog zu dem, was Sie selbst empfinden würden. Es ist eine Inferenz, kein Beweis.

Wie kann man ein künstliches Bewusstsein erkennen?

Die vorgeschlagenen Kriterien

Mangels eines direkten Tests schlagen Forscher indirekte Kriterien vor: Fähigkeit zur Selbstmodellierung, Informationsintegration, Rekurrenz höherer Ordnung, zeitliche Stabilität der Identität, kohärente emotionale Reaktion. Keines dieser Kriterien ist ausreichend, aber ihre Konvergenz könnte einen Hinweis darstellen.

Die folgende Tabelle präsentiert die wichtigsten Kriterien und ihren Status.

Die Fallen des Anthropomorphismus

Das Haupthindernis für die Erkennung ist der Anthropomorphismus: unsere Tendenz, jedem System, das davon spricht, ein mentales Leben zuzuschreiben. Sprachmodelle nutzen diese Tendenz aus und erzeugen Antworten, die bewusst erscheinen. Aber Bewusstsein reduziert sich nicht auf verbales Verhalten: Es ist eine Erfahrung, keine Leistung.