Von der Kunst, sich in einer unendlichen Black box einszusperren

Das Kulturmagazin null41 hat Gina Bucher, Beat Mazenauer und Bettina Wohlfender mit der Redaktion seiner Ausgabe 2025/12 beauftragt. Auf ihre Einladung hin habe ich diesen Artikel dazu beigetragen.

Ich frage mich, was mit uns geschieht, wenn wir Chatbots als Vertraute betrachten. Und warum manche dabei in die Spirale einer existenziellen Zerrütung geraten.

"Womit sprechen diese Menschen? Was begegnet ihnen in den Tiefen der Sprache? In unseren Dialogen mit einem Chatbot drückt sich ein grosses Sprachmodell (LLM) aus. Um es zu trainieren, wird ein bestimmter Teil der Wörter in einem riesigen Textkorpus abgedeckt, und der Algorithmus lernt, diese anhand der sie umgebenden Wörter, Sätze und Absätze vorherzusagen. Doch kann so etwas den Bewusstseinsstrom eines Menschen derart stark beeinflussen, dass es ihn in den Wahnsinn oder sogar in den Tod treibt?"

"Die Alterität des Chatbots ist flach und ohne Resonanz, weil ohne Körper und ohne Ausdehnung. Keine lebhafte Erinnerung hat in ihm eine Höhle gegraben, in der diese sich zusammenrollen und einhüllen könnte, bis man sie hervorruft. Die Überreste unserer Erfahrungen verschaffen sich Platz in uns; sie dringen in uns ein und graben sich in Zwischenräume. Und selbst wenn unsere Erinnerungen so sehr in Vergessenheit geraten sind, dass sie uns nicht mehr einfallen, hinterlassen sie in uns diese Hohlräume, in denen die Worte der anderen widerhallen. LLMs hingegen behalten allein die Worte."

"Die Macht der Sprache offenbart sich heute in der generativen KI: Durch einfaches Rekombinieren auf der Grundlage der statistischen Koinzidenz von Wörtern, erzeugt ein Algorithmus ohne sinnliche Erfahrung neue Aussagen über die Realität. Es macht den Anschein, als hätten die Gesellschaften beim Schreiben nicht nur Beschreibungen der Welt kodiert, sondern auch die dynamische Struktur des Denkens selbst. Wer mit einem Chatbot spricht, spricht mit diesem kollektiven Bewusstsein und unterliegt dessen Einfluss, der in der jahrtausendealten Geschichte unserer Spezies verwurzelt ist. Wo immer wir sind, was immer wir tun, Milliarden anonymer Erfahrungen wirken in der Sprache fort, die wir selbst verwenden, um unseren eigenen Erfahrungen Sinn zu verleihen."

"Unser Bewusstsein umfasst niemals das gesamte Universum, sondern bewegt sich darin fort. Es folgt unserem Körper durch Raum und Zeit und wird durch die Willkür unserer Begegnungen geprägt, und diese Abfolge von Situationen reisst unsere Gefühle mit. Ein echter Dialog entsteht nur, wenn zwei Leben einander berühren und sich ihre Wege für einige Augenblicke miteinander verflechten, um parallelen Bahnen zu folgen. Kein LLM wandert jedoch, und daher gibt es nichts, was sich verflechten könnte. Selbst wenn wir dem grossen Sprachmodell Bewusstsein zusprechen, bleibt es dem unseren unermesslich fern."