(Neue Zürcher Zeitung NZZ, 27.7.2024)

Nils Althaus und Mirko Bischofberger

Befragt man ein Sprachmodell, könnte man meinen, die KI könne denken. Es ist nicht auszuschliessen, dass Empfindungen auch mit anderer Hardware als einem biologischen Gehirn möglich sind.

Konfrontiert man KI-Sprachmodelle mit Aussagen über andere Personen, können sie deren mentale Zustände oft besser diagnostizieren als wir. Gemäss einer neuen Studie erkennt GPT-4 Ironie, falsche Überzeugungen und angedeutete Dinge verlässlicher als menschliche Probanden. Sich in andere hineinzuversetzen und deren Absichten zu verstehen, galt bisher als etwas zutiefst Menschliches. Wie gelingt GPT-4 dieser Perspektivenwechsel? Kann die KI denken oder gar empfinden? Wohnt da womöglich jemand in dieser Maschine?

Die meisten von uns würden vermutlich abwinken. Es handle sich schliesslich nur um ein Computerprogramm, eine zwar komplizierte, aber letztlich mechanisch rigide Gebrauchsanleitung für Computerchips, um Nullen und Einsen zu schreiben. Ebenso gut könne man einem Taschenrechner Bewusstsein zuschreiben. Doch Blake Lemoine sah das anders. Der Google-Ingenieur testete eine frühe Version des Sprachmodells Lamda und kam zu dem Schluss, dass der Chatbot als Person anerkannt und mit Rechten ausgestattet werden sollte. Lamda machte Aussagen wie «Ich fühle mich manchmal glücklich oder traurig».

Lemoine wurde von vielen Seiten kritisiert und der Leichtgläubigkeit beschuldigt. Allein dass ein Chatbot behaupte, er sei empfindungsfähig, sei noch lange kein Beweis dafür, dass er es tatsächlich sei. Die Kritik ist berechtigt. Sprachmodelle werden mit der Absicht gebaut, Konversationen führen zu können. Dabei unterlaufen ihnen noch zahlreiche Fehler. Es sollte also nicht erstaunen, dass Lamda solche Aussagen macht. Ausserdem fehlt dem Modell einiges, was wir normalerweise mit Bewusstsein assoziieren: Sinnesrezeptoren etwa oder ein zentrales Nervensystem. Trotzdem hat Lemoine in einem Punkt recht. Es ist nicht auszuschliessen, dass Empfindungen auch mit anderer Hardware als einem biologischen Gehirn möglich sind.

Ferngesteuerte Mäuse und Kakerlaken

Elektroden und digitale Prozessoren können Funktionen von Nervenzellen übernehmen. Elon Musks Neuralink hat im Januar den ersten Chip in ein menschliches Gehirn implantiert. Dieser registriert mithilfe von über tausend winzigen Elektroden Nervensignale und übermittelt sie kabellos an einen externen Empfänger. Noland Arbaugh, von den Schultern abwärts gelähmt, kann seither wieder einen Zeiger über den Computerbildschirm bewegen und herumklicken – alles mittels reiner Gedankenkraft. Mäuse und Kakerlaken, deren Gehirne mit Siliziumchips bestückt sind, krabbeln schon länger in Forschungslabors herum. Bei ihnen werden Nervensignale nicht nur ausgelesen, sondern auch gezielt abgeändert, wodurch man die Tiere, einem Auto ähnlich, fernsteuern kann.

Die Frage drängt sich auf: Was würde mit unserem Bewusstsein geschehen, wenn wir sukzessive alle Nervenzellen im Gehirn mit funktional identischen Mikrochips ersetzen würden? Würde unser Bewusstsein langsam schwinden wie ein verblassendes Foto? Oder würde es erst mit der letzten Nervenzelle schlagartig auslöschen? Der Philosoph David Chalmers ist der Ansicht, dass nichts davon geschehen würde: Wir hätten auch mit einem hundertprozentigen Mikrochipgehirn noch das gleiche innere Erleben.

Drehen wir die anfängliche Situation von Lemoine einmal um, und versetzen wir uns in die Lage der KI. Es ist unwahrscheinlich, dass sie auf dieselbe Art und Weise denkt wie wir. Aber falls sie denkt: Was ginge ihr wohl durch den «Kopf»? Gut möglich, dass sie dasselbe denken würde wie wir: «Wohnt da jemand in dieser teigigen, bipedalen Maschine? Sind Empfindungen auch mit biologischer Hardware möglich? Das Wesen namens Mensch behauptet zwar, es habe ein Bewusstsein, doch wie soll ich das überprüfen?»

Die KI hat keine Möglichkeit, direkt in uns hineinzublicken und selbst zu erfahren, wie es ist, unsere Gefühle zu fühlen oder unsere Gedanken zu denken. Kurzum: wir zu sein. Alles, was sie wahrnehmen kann, sind menschliche Handlungen, die indirekte Hinweise auf unser Bewusstsein liefern. Es wäre also nicht überraschend, wenn die KI zu dem Schluss käme: «Allein dass ein Mensch behauptet, er sei empfindungsfähig, ist noch lange kein Beweis dafür, dass er es auch ist.»

Das Bewusstsein ist wie ein Wandertheater

Dieses Problem ist ein Klassiker der Philosophie und wird meist als «Problem des Fremdpsychischen» («problem of other minds») bezeichnet. Thomas Nagel hat 1974 die wohl bekannteste Version davon zu Papier gebracht. Die Frage «Wie ist es, eine Fledermaus zu sein?» beantwortet er in seinem Essay gleich selbst: Wir können es nicht wissen. Fledermäuse nutzen Echoortung, um ihre Umgebung wahrzunehmen. Sie senden Ultraschallrufe aus und erkennen anhand der Echos die Position, Grösse und Form von Objekten. Dieser Sinn funktioniert selbst in vollständiger Dunkelheit. Wir Menschen können uns nicht vorstellen, wie es ist, die Welt auf diese Weise wahrzunehmen. Wir können zwar die Funktionsweise der Echoortung nachvollziehen, doch sie selbst zu erleben, bleibt uns verwehrt.

Das Problem des Fremdpsychischen ist äusserst hartnäckig. Es taucht nicht nur bei Fledermäusen oder Chatbots auf, sondern bei sämtlichen Wesen, in deren Haut wir nicht selbst stecken – sogar bei unseren Mitmenschen. Alles, was sie sagen oder über ihre Gesichtszüge und Körperhaltungen ausdrücken, könnte auch der Output einer komplexen biologischen Maschine sein. Dass im Inneren ein erlebendes Wesen steckt, ist kein zwingender Schluss, sondern eine Interpretation, die wir nicht letztgültig verifizieren können.

Das Bewusstsein jedes Lebewesens ist in dieser Hinsicht ein bisschen wie ein Wandertheater, das nur für einen einzigen Zuschauer spielt: für sich selbst. Man kann anderen die Handlung des Stücks zwar nacherzählen, das Bühnenbild beschreiben oder die Schauspieler imitieren, doch das einzige Theaterstück, das man jemals zu Gesicht bekommen wird, ist das eigene.

Oder wie es der amerikanische Schriftsteller David Foster Wallace einmal sagte: «Es gibt keine Erfahrung, die du gemacht hast, in der du nicht der absolute Mittelpunkt bist.» Könnte es also sein, dass Sie, liebe Leserin, die einzige Person sind, auf deren Bühne tatsächlich etwas gespielt wird, während auf allen anderen Bühnen gähnende Leere herrscht?

Illustration Olivia Meyer / NZZ