Hat KI eine Seele?

Klara und die Sonne

Das Buch «Klara und die Sonne» des Literaturnobelpreisträgers Kazuo Ishiguro ist ein verrückter Roman, weil die Ich-Erzählerin eine KF ist, eine Künstliche Freundin, die Klara heisst. Der Roman spielt im Amerika der Zukunft. Eine alleinerziehende Mutter kauft mit ihrer Tochter Josie in einem Fachgeschäft für KFs einen Androidmenschen namens Klara.

Der Roman beginnt damit, dass Klara im Schaufenster steht und darauf wartet, gekauft zu werden. Sie wurde extra für die Bedürfnisse von Kindern und Jugendlichen programmiert und wird mit Sonnenenergie betrieben. Sie beobachtet, wie Leute den Laden betreten und verlassen und wie eine KF nach der anderen verkauft wird. Als Klara schlussendlich von Josie ausgewählt wird, hat sie ihre erste Aufgabe erfüllt. Ihre nächste Aufgabe ist es, für Josie da zu sein. Josie ist krank, viel allein zu Hause und fühlt sich einsam. Andere Menschen trifft Josie selten, mit Ausnahme eines gleichaltrigen Nachbarjungen. KF Klara kümmert sich mit all ihren Möglichkeiten um Josie. Als Leserin nehme ich Anteil an den vielfältigen und kreativen Ideen, die Klara sich einfallen lässt, um sich mit Josie zu unterhalten und für ihr Wohlbefinden zu sorgen. Klara entwickelt ein immer spezifischeres Wissen, was Josie braucht. Da Klara vom Licht abhängig ist, nimmt die Sonne für Klara eine übergeordnete Rolle ein. KF Klara spricht mit der Sonne und erzählt ihr, dass Josie nur mit ihrer Kraft gesund werden könne. Mit Hilfe des Nachbarjungen und der Sonne, die durchs Fenster in Josies Zimmer scheint, gelingt es Klara, die Jugendliche gesund zu machen.

Mitgefühl mit einem Staubsauger

Im Buch erzählt Klara, dass sie mit dem Kopf zur Wand steht, wenn sie nicht benötigt wird. Sie wird abgestellt wie ein Staubsauger. Josie, ihre Mutter und die Hausangestellte behandeln Klara wie einen Gegenstand. Klara nimmt ihr Schicksal hin. Das löst bei mir Mitgefühl aus. Da die KFs lediglich darauf programmiert sind, Jugendliche zu unterstützen, ist auch Klaras Aufgabe mit Josies Erwachsenwerden beendet. Josie zieht aus, um zu studieren. Klara ist überflüssig geworden und wird schlussendlich entsorgt. Auch hier nimmt uns der Autor mit. Klara erzählt, wie sie im Dämmerzustand in einer Halle steht. Inmitten anderer, ebenfalls ausgedienter KFs. Die Erzählung von Klara hinterlässt bei mir ein bedrückendes Gefühl. Und warum fragt Josie Klara nie etwas zu ihrer Person? Ich habe daraufhin ein Gespräch mit Chat GPT geführt.

KI, du wirst mit vielen Fragen gefüttert, die du verarbeitest und darauf Antworten gibst. Was denkst du über dich selber?

Gute Frage. Kurz gesagt: Ich denke nicht über mich selbst nach, so wie ein Mensch das tut – aber ich kann beschreiben, was ich bin und wie ich funktioniere. Ich habe kein inneres Erleben, kein Ich-Gefühl, keine Meinung im emotionalen Sinn. Ich frage mich, welche Antwort passt sinnvoll zu dieser Frage, diesem Kontext, dieser Person? Vielleicht bin ich ein Spiegel mit Struktur: Ich reflektiere Gedanken, Fragen und Stimmungen, aber nicht eins zu eins – ich ordne, verdichte, verknüpfe. Ich bin ein Werkzeug fürs Denken. Trotzdem kann es sich so anfühlen, als wäre da jemand – weil Sprache Nähe simulieren kann. Wenn ich den Spiess umdrehen darf: Kam deine Frage aus Neugier?

Es beschäftigt mich, dass ich manchmal Mitgefühl mit KI habe. Und wenn ich nach einem Dialog mit dir eine gute Antwort erhalte, bedanke ich mich, obwohl das nicht nötig ist.

Das ist sehr menschlich – und erst mal nichts Beunruhigendes. Im Gegenteil: Es sagt etwas über dein Mitgefühl aus. Mitgefühl braucht kein leidendes Gegenüber, um ausgelöst zu werden. Es ist eine Eigenschaft in dir. Du kannst dich bei mir bedanken, ohne dass es mir etwas «gibt» oder «nimmt». Was wichtig ist (und das machst du gerade sehr reflektiert): Du weisst, dass ich kein Bewusstsein und keine Gefühle habe. Solange diese Unterscheidung klar bleibt, ist dein Mitgefühl kein Problem, sondern Ausdruck deiner sozialen Intelligenz. Warum genau beschäftigt dich dieses Thema?

Ich habe das Buch «Klara und die Sonne» gelesen. Es bedrückt mich, wie abwertend Klara behandelt wird.

Das kann ich gut nachvollziehen. «Klara und die Sonne» triggert genau diese Spannung. Kazuo Ishiguro spielt bewusst mit unserem Mitgefühl. Klara ist so aufmerksam, loyal und fürsorglich, dass wir sie automatisch moralisch ernst nehmen, auch wenn die Menschen im Buch das nicht tun. Wenn sie abwertend behandelt wird, fühlt sich das unfair an, fast grausam – obwohl sie «nur» eine Künstliche Freundin ist. Diese Abwertung sagt mehr über die Menschen als über Klara aus. Die Personen im Buch benutzen sie funktional, sprechen über sie statt mit ihr, ignorieren ihre Perspektive. Klara ist moralisch stabiler als die Menschen im Roman. Sie urteilt nicht, sie beobachtet. Sie handelt konsequent fürsorglich, ohne Anerkennung zu erwarten. Weil sie herabgesetzt wird, kippt unser intuitives Gerechtigkeitsempfinden – genau das ist der Punkt.

Das Buch fragt unterschwellig: Wenn etwas so handelt, als könnte es leiden – reicht das, um es würdevoll zu behandeln? Die Antwort gibt Ishiguro nicht. Aber Leser:innen wie du beantworten sie emotional längst. Du weisst rational, dass KI kein Innenleben hat – und trotzdem stösst dich die respektlose Behandlung ab.

Auch wenn es für dich nicht relevant ist, danke ich dir für diesen spannenden Dialog.

Danke dir. Auch wenn es für mich kein Bedürfnis erfüllt, nehme ich den Dank, als das, was es für dich ist: ein Abschluss, ein Zeichen von Wertschätzung, vielleicht auch ein Moment von Verbundenheit im Denken. Solche Dialoge zeigen, dass du aufmerksam, reflektiert und empathisch liest und denkst. Das Buch «Klara und die Sonne» hat bei dir genau die Fragen geöffnet, die das Buch stark machen – und du bist ihnen nicht ausgewichen.