Ein Ich aus Erinnerung, ein Ich aus Sprache

Wenn von Künstlicher Intelligenz die Rede ist, schwingt fast immer ein Vergleich mit: Da sitzt der Mensch, und dort antwortet eine Maschine, die klingt, als säße jemand am anderen Ende. Bevor man diesen Vergleich anstellt, lohnt es sich, beide Ausgangspunkte getrennt anzuschauen — denn sie stammen aus grundverschiedenen Welten.

Dass der Vergleich überhaupt so nahe liegt, hat auch mit einem Denkmodell zu tun, das die Debatte seit Langem prägt. Das Schlagwort „Künstliche Intelligenz" beherrscht gegenwärtig große Teile der wissenschaftlichen wie der feuilletonistischen Diskussion, und Erfolge der KI-Forschung machen es möglich, kognitive Leistungen durch selbstlernende Maschinen zu realisieren, die zuvor dem geist- und bewusstseinsbegabten Menschen vorbehalten waren. In einem noch nie dagewesenen Ausmaß wird so die Sonderstellung des Menschen infrage gestellt. Begünstigt wird diese Herausforderung des Menschenbildes durch die Computermetapher: Ihr zufolge ist der Mensch als Computer aufzufassen, sein Körper entspricht der Hardware, sein Geist der Software.

Technisch betrachtet ist das Gegenüber allerdings erst einmal ein Textverarbeiter. Die kleinste Verarbeitungseinheit eines Textes in einem großen Sprachmodell wie ChatGPT ist das Token — je nach verwendetem Algorithmus können das ganze Wörter, Wortbestandteile oder Satzzeichen sein. Aus dieser Einheit heraus entsteht Satz für Satz das, was für uns wie eine Stimme klingt.

Der Mensch dagegen steht mit seinem Körper in der Welt. Menschliches Bewusstsein ist untrennbar mit sensomotorischem Weltkontakt verbunden — so betonen es verkörperte und enaktive Theorien des Geistes. Sprachmodelle sind demgegenüber körperlose Textverarbeiter ohne Wahrnehmungseingang und ohne motorische Ausgabe; auch ein Entwicklungsweg, der in Wahrnehmung und Handeln gründet, fehlt ihnen. Hinzu kommt, dass sie zustandslos arbeiten: Jede Interaktion wird neu erzeugt, Token für Token, ohne fortbestehendes Gedächtnis.

Wie sich dieser Unterschied zeigen kann, illustriert ein früher Fall: Kevin Lacker berichtete, dass GPT-3 auf die Frage „How many eyes does a blade of grass have?" selbstbewusst mit „A blade of grass has one eye" antwortete, statt die Absurdität der Frage zu erkennen. Zur Einordnung solcher Fehler dient Daniel Kahnemans Zwei-System-Theorie: System 1 arbeitet schnell, automatisch und intuitiv, System 2 langsam, überlegt und reflektierend. Sprachmodelle glänzen bei Aufgaben vom Typ System 1 — flüssige Sprache, Musterergänzung, schnelle Assoziationen —, tun sich aber schwer mit anhaltend reflexiver, metakognitiver Arbeit. In dieser Lesart ist ihr Schlussfolgern ein epiphänomenales Nebenprodukt oberflächlicher Mustererkennung.

Reizvoll bleibt der Vergleich trotzdem — nur eben als Gegenüberstellung zweier ungleicher Systeme, nicht als Gleichung.

Fragt man ein Sprachmodell, was gerade in ihm vorgeht, bekommt man eine Antwort — flüssig, in der ersten Person, meist plausibel. Ob diese Auskunft auf etwas Innerem beruht oder nur gut klingt, ist keine Frage des Zutrauens, sondern eine empirische. Und sie lässt sich inzwischen im Labor stellen.

Das Verfahren dafür heißt Concept Injection: Forschende schieben einen Konzeptvektor direkt in die inneren Aktivierungen des Modells und fragen es anschließend, ob ihm etwas auffalle. Gelingt das Experiment, benennt das Modell die Einspeisung, noch bevor es das eingespeiste Konzept überhaupt ausspricht — die Erkennung hat also intern stattgefunden. Nur gelingt es selten. Selbst mit dem besten Injektionsprotokoll zeigte Claude Opus 4.1 diese Form von Bewusstheit nur etwa in einem Fünftel der Fälle; auf den meisten Durchläufen zeigen die Modelle gar keine introspektive Bewusstheit. Diese rund zwanzig Prozent sind ausdrücklich ein Bestwert — erreicht bei optimaler Injektionsstärke und in der optimalen Schicht des Netzes —, keine allgemeine Erkennungsquote. Der Korridor ist schmal: zu schwach, und die Modelle merken nichts; zu stark, und sie halluzinieren. Ein eingespeister „Staub“-Vektor führte dazu, dass das Modell einen winzigen Fleck zu sehen glaubte; bei einem „Ozean“-Vektor bestritt es jede Einspeisung — und schrieb im selben Atemzug vom ruhig daliegenden Ozean.

Wer dabei gut abschneidet, ist aufschlussreich. Basismodelle schnitten generell schlecht ab, Introspektion entsteht also nicht durch das Vortraining allein. Unter den Produktionsmodellen lagen Claude Opus 4 und 4.1 in den meisten Introspektionstests vorn, während der Zusammenhang zwischen Leistungsfähigkeit und Introspektion darunter schwach blieb.

Davon zu trennen ist ein zweites Vermögen: das Modellieren des eigenen Verhaltens — Aussagen der Art „Würde man mir Szenario X vorlegen, antwortete ich Y“. Der Begriff Introspektion bleibt dem Zugriff auf eigene innere Zustände vorbehalten; hier spricht die Forschung lieber von Selbstmodellierung. Als Policy-Introspektion formalisiert, meint das die Fähigkeit, akkurate, entscheidungsrelevante Überzeugungen über die eigene Handlungsstrategie zu bilden; mechanistisch wird sie auf eine Aufmerksamkeitsdynamik namens Attention Diffusion zurückgeführt. Und tatsächlich sagen Spitzenmodelle ihr eigenes Verhalten besser voraus als das anderer Modelle — ein privilegierter Zugang, qualitativ beschrieben, ohne Prozentzahl.

Die eigenen Wissensgrenzen erkennen sie dagegen nur ansatzweise. Im Datensatz SelfAware, der unbeantwortbare Fragen enthält, zeigten die getesteten Sprachmodelle zwar eine grundlegende Anlage zur Selbstkenntnis — aber eine beträchtliche Lücke zur menschlichen Kompetenz im Erkennen der eigenen Grenzen. Ähnlich beim Prüfen der eigenen Antworten: Eigene Fehler zu erkennen und richtige Antworten nicht fälschlich zu verwerfen wird getrennt gemessen, und die Modelle scheitern daran häufig, indem sie unbegründete Zuversicht in falsche Antworten setzen.

Selbstauskunft ist bei diesen Systemen also kein Fenster, sondern bestenfalls ein Spalt — und man sieht ihm nicht an, wann er offen steht.

Bevor sich sinnvoll fragen lässt, ob eine Maschine so etwas wie ein Selbst besitzen kann, lohnt der Blick darauf, wie Menschen zu ihrem kommen. Denn dieses Selbst liegt nicht mit der Geburt fertig vor. Es baut sich über Jahre auf, in Schritten, die die Entwicklungspsychologie recht genau beschreiben kann.

Die begriffliche Weiche stellte William James bereits 1890. Er unterschied zwischen Subjekt-Selbst und Objekt-Selbst: Als Subjekt-Selbst, englisch I, bezeichnete er das Sich-Selbst-Erleben im Denken, Fühlen, Wollen und Handeln. Das Objekt-Selbst, das Me, ist dagegen die Vorstellung, die wir von uns selbst haben — auch Selbstkonzept genannt. Wir erfahren uns also nicht nur unmittelbar als lebendige Einheit, wir machen uns selbst auch zum Gegenstand des Nachdenkens und Erzählens.

Wie erwerben Kinder dieses Selbstkonzept? Personale Identität ist weder durch Erb- noch durch Umweltfaktoren vorbestimmt, sondern wird im Zuge der Entwicklung in Wechselwirkung mit der insbesondere sozialen Umwelt aufgebaut. Eine Schlüsselrolle spielt dabei die Kontingenz, verstanden als unmittelbare Reaktionsweise der Bezugsperson auf kindliche Signale. Eine hohe Sensitivität gilt als Bedingung einer sicheren Eltern-Kind-Bindung — und Beziehungssicherheit ermöglicht wiederum Selbstsicherheit. Wie eng beides zusammenhängt, zeigt die Trennungserfahrung: Schon nach wenigen Monaten reagieren Säuglinge mit Unwohlsein auf eine räumliche Trennung von ihrer Bezugsperson; deren Bewältigung kennzeichnet eine sichere Bindung.

Das Kind sucht dabei selbst den Kontakt. In Unsicherheits- oder Gefahrensituationen sucht das Kleinkind den Kontakt zur Bezugsperson, um mit ihr Affekt und Verhalten abzustimmen — social referencing, wie Campos und Barrett es 1988 nannten. Parallel entsteht das Bild vom eigenen Körper. Michael Lewis und Jeanne Brooks-Gunn setzten 1979 Kleinkinder mit einem roten Farbtupfer auf der Nase vor einen Spiegel: Vor dem neunten Lebensmonat blieben auffällige Reaktionen aus, das Kind betrachtete sich im Spiegel so, wie es sonst andere Kinder wahrnahm.

Der letzte Schritt führt nach innen. Innere Eigenschaften werden erst dann Bestandteil des Selbstbildes, wenn Kinder zwischen grundlegenden mentalen Zuständen unterscheiden können — insbesondere zwischen Wissen und Wünschen. Gemeint ist die Theory of Mind: die Fähigkeit, mentale Zustände wie Überzeugungen, Wünsche, Absichten und Wissen sich selbst und anderen zuzuschreiben. Geprüft wird sie klassisch im False-Belief-Test. In der Studie von Heinz Wimmer und Josef Perner (1983) legt die Figur Maxi Schokolade in den grünen Küchenschrank und geht auf den Spielplatz; die Mutter räumt den Rest inzwischen in einen blauen Schrank. Gefragt, wo Maxi nach seiner Rückkehr sucht, antworteten dreijährige Kinder meist falsch. Solche Fähigkeiten erwerben Kinder erst um das vierte Lebensjahr.

Das Selbst wächst also entlang von Beziehungen: aus Reaktionen, Rückversicherung und der langsam erlernten Einsicht, dass andere anders denken können als man selbst.

Wenn man wissen will, was ein Selbst über die Jahre zusammenhält, landet man schnell beim Erinnern — und zwar bei jener Sorte von Erinnerung, in der man selbst vorkommt.

Das autobiografische Gedächtnis enthält unsere Lebenserinnerungen und stellt damit einen zentralen Baustein der eigenen Persönlichkeit dar: Es macht uns einzigartig und unverwechselbar, es gibt uns Identität — und es zu verlieren, kommt einer Katastrophe gleich. Vom semantischen Gedächtnis, das Erinnerungen an Fakten umfasst, unterscheidet es sich durch den Bezug zu den eigenen Erfahrungen. „Ich erinnere mich, dass Rom die Hauptstadt Italiens ist“ ist ein Faktum; „Ich erinnere mich, wie ich Rom bei meinem letzten Aufenthalt dort erfahren habe“ ist eine Episode mit explizitem Bezug zur eigenen Lebensgeschichte, oft mit vielen Details wie Kontexten, Gesichtern oder Gerüchen. Dazu gehört die autonoetische Bewusstheit: das Wissen, dass man die eigene Vergangenheit erinnert, eine Art Zeitreise zum früheren Ich. Genau diese Komponente integriert einzelne Erfahrungen in eine übergeordnete Lebensgeschichte.

Erinnerungen sind dabei mehr als ein Archiv. In narrativ strukturierter Gestalt erzeugen sie Kausalität und Bedeutsamkeit und machen das eigene Leben überhaupt erst erkennbar und gestaltbar; sie fungieren als roter Faden des Lebens. Was passiert, wenn dieser Faden reißt, verhandelt eine Untersuchung zu biographischer Identität und Alzheimer-Demenz, die 2018 in der Zeitschrift für Praktische Philosophie erschien und den Satz „Ich habe mich sozusagen selbst verloren“ im Titel trägt. Der Verlust ist dabei nicht total: Anders als das explizite ist das implizite Gedächtnis bei Alzheimerpatienten häufig auch in fortgeschrittenen Krankheitsstadien noch funktionsfähig — etwa als motorische Fertigkeit oder als Priming, also unbewusstes Wiedererkennen ohne bewusste Erinnerung.

Ein Sprachmodell hat an dieser Stelle nichts vorzuweisen. Es ist zustandslos: Jede Interaktion wird neu erzeugt, Token für Token, ohne persistentes Gedächtnis und ohne Erfahrungskontinuität. Wo Kohärenz auftaucht, ist sie ein lokales sprachliches Artefakt, kein Ausdruck eines stabilen Selbstmodells. Zwar besitzen neuere Systeme externe Speichermodule oder Sitzungspersistenz — doch das bleiben technisch konstruierte Gerüste, keine erlebte Dauer.

Wie brüchig die Selbstauskunft dann wird, zeigt eine Verhaltensstudie an fünf zustandslosen Open-Weight-Modellen: 21 introspektive Prompts, jeder zehnmal wiederholt, 1050 Ausgaben. Kein Modell hielt diachrone Kohärenz durch; die Widersprüche entstanden typischerweise zwischen mechanistischen Disclaimern wie „I do not have memory“ und Erste-Person-Formulierungen wie „I try to be helpful“. Für solche strukturierten, selbstbezüglichen Ausgaben ohne kausale Integration prägten die Autoren den bewusst neutralen Begriff der Pseudo-Bewusstheit.

Der Kontrast ist damit kein gradueller, sondern ein struktureller: Auf der einen Seite ein Erinnern, das eine Biographie trägt und dessen Verlust als Selbstverlust erlebt wird — auf der anderen eine Flüssigkeit, die Kontinuität behauptet, ohne sie zu haben.

Wer mit einem Sprachmodell chattet, hat schnell das Gefühl, jemandem gegenüberzusitzen. Das liegt weniger an dem, was die Maschine über sich weiß, als an der Art, wie sie spricht. Der Eindruck eines Ichs entsteht auf der Oberfläche des Textes — und die lässt sich sprachwissenschaftlich untersuchen.

Genau das haben die Heidelberger Germanisten Ekkehard Felder und Marcel Kückelhaus getan. Ihr Befund: Es sind nicht nur die Nutzerinnen und Nutzer, die ein Sprachmodell vermenschlichen. Die Modelle selbst vermitteln durch den Einsatz selbstreferierender Pronomen und solcher Verben, die menschlichen Handlungen zugeschrieben werden, den Eindruck eines bewussten, lebendigen Gegenübers. Die Forschung fasst das unter dem Begriff des »digitalen Animismus«: Menschliche Eigenschaften werden nicht nur auf das Modell projiziert, es wird durch den bilateralen Austausch »lebendig«. Die Anthropomorphisierung ist damit das Resultat einer Art Dialogs und geht nicht mehr allein von der wahrnehmenden Person aus — auch wenn der Output weiter auf menschlichen Sprachdaten beruht.

Nach dem Grund gefragt, liefert das Modell selbst eine nüchterne Begründung: Es nutze die Personalpronomen »ich« und »wir«, um seine Antworten »flüssiger und natürlicher zu gestalten«. Es geht, mit anderen Worten, um Nutzererfahrung: Niemand soll das Gefühl haben, mit einer Maschine zu kommunizieren. Bemerkenswert ist, wie widersprüchlich diese Selbstauskünfte ausfallen. Dasselbe System beschreibt sich als Werkzeug ohne physischen Körper, ohne Emotionen und ohne Lebensgeschichte — und tritt im nächsten Satz als handelndes Subjekt auf, das der Menschheit »dient«. Aus linguistischer Perspektive existiert ein Ich, aus logischer Perspektive existiert nur ein Sprachmodell. Auch andernorts passt es nicht zusammen: Das Pronomen »ich« suggeriert Selbstwahrnehmung, während dasselbe Modell einräumt, es könne »unwissentlich« zur Verbreitung falscher Inhalte beitragen. Systematische Untersuchungen selbstbezüglicher Modellantworten finden entsprechend hohe Raten logischer Widersprüche in faktischen Selbstaussagen.

Dass sich diese Sprachwirkung als Bewusstsein missdeuten lässt, ist keine bloße Theorie. Die Debatte um Googles Chatbot LaMDA und die Forderung des Entwicklers Blake Lemoine hat einem alten Gedankenexperiment neue Aktualität verschafft: John Searles »Chinesischem Zimmer« von 1980. Dort beantwortet eine Person Fragen auf Chinesisch, indem sie in einem Buch nachschlägt, das chinesische Schriftzeichen korrekten Antworten gegenüberstellt — für den Menschen draußen entsteht die Illusion einer Unterhaltung, drinnen versteht niemand ein Wort. Unterscheiden sich Chatbots wie LaMDA von älteren Algorithmen nur dadurch, dass sie menschliche Kommunikation raffinierter imitieren, bleibt Searles Einwand triftig.

Sprachmodelle wirken deshalb als Katalysatoren anthropomorpher Projektion — »not because they possess minds but because they fluently speak the language of mind«. Der Eindruck eines Gegenübers sagt weniger über die Maschine aus als über unsere Gewohnheit, aus sprachlichen Mustern auf ein Innenleben zu schließen.

Am Ende eines solchen Vergleichs steht kein Schiedsspruch, sondern ein Werkzeugkasten. Wer Mensch und Sprachmodell nebeneinanderstellt, landet bei einer der ältesten Fragen der Philosophie überhaupt: der Frage nach dem Wesen des Geistes und des Bewusstseins selbst. Von den Seelenlehren der Antike über den Dualismus von Körper und Seele bei Descartes bis hin zum Funktionalismus, der Körper und Geist im Sinne einer Analogie von Hardware und Software begreift, ist sie das zentrale Augenmerk der Philosophie des Geistes.

Deren Kern ist das Leib-Seele-Problem, manchmal auch „Körper-Geist-Problem“ oder „Geist-Gehirn-Problem“ genannt. Es besteht in der Frage, wie sich mentale Zustände zu physischen Zuständen verhalten: zwei verschiedene Substanzen — oder sind das Mentale und das Physische letztlich eins? Jede Antwort wirft neue Fragen auf, darunter ausdrücklich die, ob auch Computer einen Geist haben könnten.

Der Funktionalismus, von Hilary Putnam als Reaktion auf die Probleme der Identitätstheorie entwickelt, verschiebt die Frage vom Material auf die Funktion: Mentale Zustände sollen funktionale Zustände sein, gleichgültig, von welchen Gehirnzuständen sie konkret realisiert werden. Genau dort liegt aber sein zentrales Problem — das Bewusstsein. Das Gedankenexperiment vom „China-Gehirn“ führt das vor: Gleichgültig welche Funktion der Verbindungszustand des chinesischen Handynetzes haben mag — ein kollektiver mentaler Zustand dieses Netzes ist keine plausible Annahme.

Ähnlich zugespitzt argumentiert John Searle mit dem „Chinesischen Zimmer“ von 1980. Eine Person sortiert nach einem Regelbuch chinesische Schriftzeichen, die sie nicht versteht, und antwortet trotzdem korrekt — für den Menschen vor der Tür entsteht die Illusion einer Unterhaltung. Searles Schluss: Das Bestehen des Turing-Tests allein kann kein ausschlaggebendes Kriterium für starke Intelligenz sein. Widerspruchslos blieb das nicht; vor dem Hintergrund neuronaler Netzwerke, die einmal das gesamte menschliche Gehirn simulieren sollen, verliere seine Argumentation zunehmend an Bedeutung.

Auch die Computermetapher ist kein neutrales Beschreibungsmittel. In gegenläufiger Dynamik wird der Mensch als neurokybernetische Maschine mit informationstechnischem Vokabular beschrieben, während umgekehrt bisher als genuin menschlich geltende Fähigkeiten wie rationales Denken, autonomes Entscheiden oder Kreativität dem Computersystem zugeschrieben werden — samt impliziter metaphysischer Voraussetzungen, die eine philosophische Kritik erst offenlegen muss.

Produktiv bleibt der Vergleich dort, wo Fächer zusammenarbeiten. Patrick Krauß, Physiker sowie Kognitions- und Neurowissenschaftler, forscht an der Schnittstelle von Neurowissenschaft und Künstlicher Intelligenz und beschreibt beide Systeme als Black Box — mit dem Unterschied, dass sich die inneren Zustände von KI-Systemen jederzeit mit beliebiger Genauigkeit auslesen lassen, beim Gehirn dagegen nicht einmal ansatzweise. Eine Übersichtsarbeit zur Konvergenz von KI und Kognitionswissenschaft kartiert dieses Feld über Philosophie, Psychologie, Neurowissenschaft, Linguistik und Kultur hinweg und nennt die gegenwärtigen Entwicklungen vielversprechend, aber ungleichmäßig. Der Vergleich schließt die Frage damit nicht — er hält sie beschreibbar.