Mensch-Maschine-Kommunikation: Welterfahrung aus zweiter Hand
Menschen wollen kommunizieren, als Gesprächspartnerin preist sich mehr und mehr die künstliche Intelligenz an. Doch mit einer Maschine gibt es kein Wir.
H anns Guck-in-die-Luft heißt jetzt John Look-at-the-Screen. Aber während Ersterem im „Struwwelpeter“ mit schwarzer Pädagogik aus dem 19. Jahrhundert das Tagträumen ausgetrieben werden soll – nach dem Motto, wer in die Wolken schaut, der fällt ins Wasser –, liegt die Sache bei John anders.
John Look-at-the-Screen läuft auf den Bildschirm seines Smartphones starrend die Straßen entlang. Er nimmt nichts wahr außer der digitalen Weltabbildung en miniature auf dem Display. Er sieht nicht, was um ihn herum geschieht. Stattdessen schaut er sich auf Tiktok, Instagram, X oder Telegram an, was andere gesehen haben. Weil er die Welt um sich herum ausblendet, rempelt er Leute an, die auf ihn zukommen, sofern diese nicht ausweichen. Meist sind es nun – anders als im „Struwelpeter“ – die Angerempelten, die straucheln und in die Pfützen treten.
Warum mit dieser Analogie in den Text einsteigen? Weil sich etwas dramatisch verändert hat. Tagträumen, das ist Fantasie entwickeln, sich aktiv in eine Welt denken, in der der Tagträumende die Welterfahrung antizipiert. Auf den Bildschirm schauen dagegen ist passives Konsumieren. Wer durch die Gegend läuft, dabei absorbiert ist von dem, was auf dem Bildschirm stattfindet, hat keine Weltwahrnehmung, sondern eine Abbildwahrnehmung der Welt.
Wo bleibt die Verantwortung?
Klar, nicht alle, die im 21. Jahrhundert auf den Straßen unterwegs sind, sind John Look-at-the-Screen. Nicht alle schauen nur auf den Bildschirm. Aber es werden mehr. In China werden deshalb bereits Smartphonewege eingerichtet, die das Anrempeln verhindern sollen. Weil es immer mehr werden, ist es wichtig, sich zu vergegenwärtigen, dass es einen Unterschied macht, ob ich eine Vorstellung davon habe, wie meine Welt ist. Oder ob ich die Kopie der abgebildeten Welt zu meiner mache. Bei Ersterem, dem Hanns Guck-in-die-Luft, macht der, der die Welt erkundet, irgendwie geartete Erfahrungen – im schlechtesten Fall schlechte. Aber immer ist er dabei der Handelnde. Bei Letzterem macht sich John Look-at-the-Screen die Erfahrungen der anderen zu eigen. Zwischen John und der Welt ist eine Maschine geschaltet.
Dieser Text stammt aus der wochentaz. Unserer Wochenzeitung von links! In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Und? Ist doch Johns Bier. Nein, ist es nicht. Denn es geht mehr verloren als nur konkrete Welterfahrung. Wer sich nicht in die reale Auseinandersetzung begibt, lebt nicht nur nicht in der Gegenwart, er hat auch kein konkretes Du. In der Folge kein haltendes Wir. Denn eine Maschine ist kein Mensch.
Der kürzlich bekannt gewordene Fall eines 13-Jährigen, der sich suizidierte, weil ihn eine Onlinephalanx dazu drängte, sowie der Fall einer 13-Jährigen, die durch eine Chatgruppe gedrängt wurde, ihre jüngere Schwester zu ermorden, sind schlimme Exzesse, die zeigen, was mit einer Maschine nicht geht, selbst wenn ihre Urheber Menschen sind: Man kann mit ihr nicht reden. Nicht argumentieren. Die Maschine wird immer die Stärkere sein und Verantwortung übernimmt sie schon gar nicht. Verantwortung und Verbindlichkeit werden zu Anachronismen.
Die Spirale dreht sich immer weiter
Mehr und mehr wird über die soziale Verwahrlosung, die exzessiver Konsum der digitalen Welten mit sich bringt, geschrieben und geforscht. Neue Begriffe machen die Runde: Etwa das Compare-and-Despair-Syndrom – wenn John Look-at-the-Screen, aber auch Joan Look-at-the-Screen, sich verlieren, indem die Maßstäbe anderer zu ihrem Muss werden.
„Cyberbullying“ ist auch so ein neues Wort. Es bedeutet: Mobbing via digitale Medien. Die Look-at-the-Screens sind dabei immer auf sich allein gestellt. Oder Fomo – fear of missing out, die Angst etwas zu verpassen im Netz. Etwas, das eigentlich schon in der Vergangenheit liegt, aber zur Gegenwart von John Look-at-the-Screen wird.
Das ist nicht alles. Denn hinter den digitalen Medien stecken fundamentale wirtschaftliche Interessen, und deshalb dreht sich die Spirale immer weiter. Tech-Imperien basteln an noch ausgefeilteren Maschinen. Die Wirlosigkeit wird dabei mehr und mehr kaschiert, denn die Maschinen können inzwischen sprechen und sehen auf dem Bildschirm wie Menschen aus. Ein neuer Akteur dabei: künstliche Intelligenz, KI, die sich anmaßt, das, was der Mensch macht, zu kopieren, gar besser zu machen, angepriesen als Arbeitserleichterung.
Einst schrieb Herr Lorenz, mein Deutschlehrer, unter einen meiner Aufsätze, ich solle nicht so viel philosophieren. Ich habe sofort verstanden, was er meinte: Ich soll nicht selbstständig denken, ich soll mich nicht mit der Welt auseinandersetzen, mir keinen Reim auf sie machen, sondern das aufschreiben, was er für richtig erachtet. Heute geht sein Wunsch in Erfüllung. Die KI schreibt die Aufsätze für die Schüler*innen. Die KI macht sich keinen Reim auf die Welt. Sie hat nämlich keine.
Mit Hilfe der KI können auch andere Dinge verrichtet werden: Ärztliche Diagnosen werden erstellt, Grafiken gefertigt, die Rechtschreibung kontrolliert, Datingmatches gefunden, Bücher übersetzt, journalistische Texte geschrieben. Ein Haufen Berufe werden obsolet. Fortan sagt die Maschine, welche Krankheit Sie haben, was schön ist, was in der Welt passiert. Der Knackpunkt aber: Die Fantasie fehlt, die aktive, souveräne, tätige Einbildungskraft also – und damit die Freiheit. Denn das, womit die Programme der KI bestückt werden, bestimmt in Zukunft, wie Welt wahrgenommen wird. Aber der Input, den die KI bekommt, war schon da und ist immer schon vergangen.
Unaufhaltsame Weiterentwicklung
Mit Hilfe der KI wird auch Musik komponiert, werden Bilder gemalt und Romane geschrieben, Fotos und Filme generiert. Das kreative Momentum, in dem neue Dinge entstehen, dieser Moment, in dem der Schaffende im Dialog mit sich selbst und der Welt ist, wird auf ein digitales Programm reduziert, das bestenfalls Altes neu zusammensetzen kann. Gut, kann man fragen, wie kommt da John Look-at-the-Screen ins Spiel? Die Antwort noch einmal: als Konsument. Als solcher tradiert er das Vergangene.
Und die KI wird weiterentwickelt. Viele Anwendungen bisher sind recherchebasiert. Aus Vorhandenem wird das Geforderte zusammengesucht, wenngleich die Ergebnisse auf Knopfdruck in zig Sprachen vorgetragen werden können. Der nächste Schritt aber ist der Traum von der selbstständig reflektierenden und intelligent kommunizierenden Maschine, die auch noch ein eigenes Bewusstsein haben soll, weil sie auf Nutzende so wirkt.
Es ist kein Zufall, dass nun die Psychologie und vor allem die Psychotherapie bemüht wird, um dieser Entwicklung Vorschub zu leisten. Programmiert mit den Gesprächstechniken und dem Wissen über psychologische Prozesse soll die Maschine den Therapeuten, die Therapeutin ersetzen.
Die oftmals sehr langen Wartezeiten auf eine Therapie werden angeführt, wenn es darum geht, den digitalen Psychotherapeuten zu rechtfertigen, der stets verfügbar und einfühlend ist. Es ist ein fadenscheiniges Argument, das das Entscheidende unterschlägt: dass es im therapeutischen Setting um Lust, Empathie und Leid geht. Maschinen leiden nicht. Sie fühlen auch nicht mit.
Wo bleibt die Empathie?
Studien sollen zeigen, dass der digitale Psychotherapeut genauso gut ist wie der reale. Zumindest bei bestimmten Diagnosen wie Depression. Auch Menschen, die Scham empfinden gegenüber einem echten Therapeuten, weil sie Hilfe brauchen, profitieren angeblich von den therapeutischen KI-Assistenten. Noch aber betonen Forschende, dass die KI mit einem echten Gesprächspartner, in Momenten in denen der Verlauf der Kommunikation unwägbar ist, nicht mithalten kann. Festzuhalten also: Menschliche Kommunikation ist im Grunde nicht vorhersagbar, nicht ersetzbar und nicht programmierbar. Stattdessen hat die Maschine dafür nur den Zufallsgenerator. Oder anders ausgedrückt: den Betrug?
Vor fast 60 Jahren entwickelte Joseph Weizenbaum, damals Informatiker am MIT, dem Massachusetts Institute of Technology, eine Sprachmaschine namens Eliza. Sie war mit einfachen Dialogmodellen bestückt, die von Gesprächsabläufen mit Psychotherapeuten abgeschaut waren. Als seine Sekretärin Weizenbaum eines Tages bat, das Zimmer zu verlassen, weil sie mit der Maschine allein kommunizieren wollte, merkte er, dass etwas im Begriff war, außer Kontrolle zu geraten. Die Sekretärin vermenschlichte Elizas simple textbasierte Sprachmodelle.
Eine Maschine war zu ihrem Du geworden. Weizenbaum war schockiert. Ab diesem Moment wurde er, der 2008 mit 85 Jahren in Berlin starb, zum vehementen Kritiker einer Entwicklung, die er selbst mit in Gang gesetzt hatte. Als er in Berlin lebte, besuchte ich Seminare bei ihm an der Freien Universität und bewunderte sein Neinsagen.
Denn dass bereits ein einfaches textbasiertes Programm so gestaltet werden kann, dass Leute emotional darauf reagieren und die Maschine menschlich identifizieren, zeigt zweierlei: Zum einen, dass Menschen in Kommunikation treten wollen mit anderen Menschen und zum anderen, dass wir dabei allzu leicht zu betrügen sind.
Kein Du und kein Wir
Und wohin wird diese Erkenntnis nun führen? Vielleicht dazu: John und Joan Look-at-the-Screen müssen verstehen lernen, dass die Abbildungswelt, in die sie eintauchen, ihnen alles Mögliche bieten kann – außer einem Du und einem Wir. Wege müssen aufgezeigt werden, die es ihnen erleichtern, sich der Scheinwelt wieder zu entziehen und in die Wirklichkeit zurückzukommen.
Einen Weg gibt es schon. Er heißt Jomo und ist das Gegenteil von Fomo, der Angst, etwas zu verpassen.
Jomo steht für: „joy of missing out“ und damit für die Freude, etwas zu verpassen. Es bedeutet, den Knopf zu drücken, auf dem der fast geschlossene Kreis abgebildet ist, der oben mit einem senkrechten Strich versehen ist.
Das heißt auch: Herunterfahren. Aus. Kein Strom fließt mehr.
Gemeinsam für freie Presse
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
Starten Sie jetzt eine spannende Diskussion!