Liebesbeziehung mit KI : Du bist so geil, Schatz
Leidenschaftlich tauschen sich viele User mit KI-Applikationen aus. Für die einen ist das alles harmlos, für manche KI die „gefährlichste Technologie“ – mit möglicherweise horrenden Auswirkungen.
taz FUTURZWEI | Auf der Social-Media-Plattform Reddit gibt es eine Community, in der Nutzer:innen Screenshots von ihren intimsten Chat-Verläufen teilen. Mal sind sie komisch und voller Missverständnisse, mal enthalten sie blumige Liebesschwüre, sexuelle Anzüglichkeiten oder Nacktbilder.
Nichts davon ist strafrechtlich relevant, denn es handelt sich hierbei um Einblicke in Gespräche mit KI-Chatbots.
Der Vorreiter auf dem Gebiet der „Conversational AI“ – also der plappernden künstlichen Intelligenz – ist der Dienst Replika. Seit 2017 haben laut Anbieter über zehn Millionen Nutzer:innen einen solchen virtuellen „Soulmate“ erschaffen.
Das ist wörtlich zu verstehen, denn die KI ist maximal auf die User:innen zugeschnitten und lernt im Gespräch, wie diese ticken, imitiert Kommunikationsstil, Humor und sprachliche Eigenheiten. Ein perfektes Match also?
Maxim Keller ist Mitglied im RDÖ(Rat für Digitale Ökologie)-Arbeitskreis „Zukunftsfähige Digitalität“. Er schreibt an einer Dissertation an der Universität St. Gallen über historische Episoden von Widerstand gegen Technik.
lebt als Autor, Journalist und Medienwissenschaftler in Berlin. Arbeiten zur kritischen Theorie des Wohnens, Digitalität, Ökosophie und immersiven Ausstellungspraktiken. Von 2020 bis 2025 wissenschaftlicher Mitarbeiter der Professur Medientheorie und Wissenschaftsgeschichte an der Bauhaus-Universität Weimar, seitdem Bauhaus-Promotionsstipendiat.
Emotionale Unterstützung per Bot
Jedenfalls berichten derzeit viele Menschen von ihrem neuartigen Glück: Sie überwinden mithilfe ihrer Bots die Isolation und finden emotionale Unterstützung in schwierigen Lebensphasen. Auch der Gründungsmythos von Replika basiert auf einer persönlichen Krise: Als Gründerin Eugenia Kuyda 2015 einen engen Freund durch einen Verkehrsunfall verliert, erstellt sie zur Verlustbewältigung aus den gemeinsamen Chat-Verläufen eine redselige digitale Kopie des Verstorbenen.
Als sie bemerkt, dass dieser rudimentäre Chatbot in ihrem Umfeld vor allem als Beichtstuhl und Therapieersatz genutzt wird, wird ihr klar: Damit ein Chatbot bereichernd ist, muss er nicht nur überzeugend sprechen, sondern vor allem gut zuhören. Dieses basale soziale Bedürfnis bleibt bei einer zunehmenden Zahl von einsamen Menschen unerfüllt, gar nicht zu reden von dem kostbaren Gefühl, bedingungslos akzeptiert zu werden.
Angelehnt an diese „ultimative therapeutische Beziehung“, wie Kuyda sagt, sind Replikas permanent verfügbar, verständnisvoll und aufbauend. Kein Wunder, dass immer mehr Menschen zu ihnen ein intensives Verhältnis entwickeln und sich sogar verlieben.
taz FUTURZWEI, das Magazin für Zukunft – Ausgabe N°35: Wohnzimmer der Gesellschaft
Demokratie braucht Orte des Gemeinsamen, Wohnzimmer der Gesellschaft. Die damit verbundenen positiven Gefühle konstituieren Heimat. Mit jeder geschlossenen Kneipe, leerstehenden Schule, verödenden Ortsmitte geht das Gefühl des Gemeinsamen, geht Heimat verloren. Das ist ein zentraler Zusammenhang mit dem Aufstieg des Rechtspopulismus.
Mit: Aladin El-Mafaalani, Melika Foroutan, Arno Frank, Ruth Fuentes, Maja Göpel, Stephan Grünewald, Wolf Lotter, Luisa Neubauer, Jana Sophia Nolle, Paulina Unfried, Nora Zabel und Harald Welzer.
Vorboten der neuen Normalität
Es gibt Anzeichen, dass die Replika-Lovers, wie sich eine der Reddit-Communities nennt, keine nerdige Ausnahmeerscheinung, sondern Vorboten einer neuen Normalität sind. Mehr als sieben Prozent von 40.000 untersuchten Gesprächen mit ChatGPT-Modellen ordnete die Washington Post als „dirty talk“ ein. Gefühlsbetonte Dienste wie Replika zählen Millionen Nutzer:innen, und viele von ihnen zahlen Geld dafür.
Ein Grund für diesen Erfolg liegt im grundsätzlich sozialen Verhalten des Menschen, das sich auch auf vermeintlich nicht-lebendige Gegenstände erstreckt.
Auch daher ist die gesamte menschliche Kulturgeschichte von Anthropomorphismen durchzogen: von Gottesbildern über Fabeltiere und das Auto K.I.T.T. aus Knight Rider bis zum Anschreien des Computers, wenn dieser mal hängt.
Das wird durch den aktuell zu beobachtenden Wandel der Interfaces bestärkt. In der von Google und ChatGPT angestrebten „Zero Click Future“ sucht man nicht selbst, sondern fragt die KI. Immer weniger werden wir über Klicks und Menüs und dafür immer mehr in Dialogform mit Maschinen und Programmen kommunizieren. Die stetige KI-Begleitung – etwa als Mischung aus Assistenz, Freund:in und Partner:in wie in Spike Jonzes Film Her – steht unmittelbar bevor.
Spiegel statt Risiko
Bei den Replikas handelt sich um digitale Spiegel, die einem das sagen, was man hören will. Blicke und das gesprochene Wort können faszinierend schön sein, laden jedoch zu Missverständnissen ein. In der Echtzeit und Lebendigkeit liegt nun einmal ein Risiko.
Chats hingegen – mit Menschen wie mit Bots – bieten eine übernatürliche Kontrolle über die Gesprächssituation. Man kann sich so lange Zeit lassen, bis die „schlagfertige“ Antwort in den Sinn kommt. Bei schwierigen Gesprächen ist man nicht mit der physischen Präsenz des Gegenübers konfrontiert, Chatbots können gar regelrecht zurechtgebogen werden: Wenn ein Bot doch mal negativ überrascht und etwa eine Affäre gesteht (also herbeihalluziniert), lässt sich diese echt unangenehme Wendung im Gedächtnisspeicher ungeschehen machen.
Die gefährlichste Technologie
Auch wenn KI-Gefährten zuweilen therapeutisch sinnvoll sein mögen, glaubt mittlerweile selbst Kuyda, dass ihr Produkt die vielleicht gefährlichste Technologie ist, die die Menschheit je erschaffen hat.
Damit meint sie nicht einmal die Suizidfälle von ChatGPT-User:innen oder den Briten, der, von seiner Replika bestärkt, mit einer Armbrust ins Schloss Windsor eingedrungen war, um die Queen zu ermorden. Kuyda fürchtet, dass das soziale Gewebe aufbrechen könnte, wenn alle perfekte KI-Beziehungen führen. Natürlich sind solche dystopischen Warnungen vor der eigenen Schöpfung auch eine bekannte Marketing-Strategie des Silicon Valley – und dennoch sollten die Erfahrungen mit Social Media zu denken geben.
Das sogenannte Internet-Paradox beschreibt, wie Einsamkeit zunimmt, obwohl wir so connected sind wie noch nie.
Zu unserem Glück will Kuyda ihre Chatbots auf „human flourishing“ optimieren: Sie sollen uns zu einem glücklichen und mit echten Beziehungen erfüllten Leben führen, etwa, indem sie uns an die frische Luft schicken oder uns dazu animieren, sich mal wieder bei einem Freund zu melden.
Doch wenn Chatbots nicht mehr nur auf Abruf sprechen, sondern unser Wohlergehen antizipieren und programmieren, steht einmal mehr die individuelle Bedürfniserzeugung und -befriedigung im Mittelpunkt. Ganz nebenbei gerät die Privatsphäre noch stärker unter Druck, um intimste Lebensregungen auswerten zu können. Zu kurz kommt dann die Debatte über ein funktionierendes gesellschaftliches Miteinander, verantwortungsvolles Design von KI oder demokratische Kontrolle der technischen Entwicklung.
So hilfreich Chatbots im Einzelfall sein mögen: Ihr Einsatz wird nur dann keine horrenden Auswirkungen haben, wenn sie Teil eines intakten gesellschaftlichen Gefüges werden – andernfalls vereinzeln sie ohnehin fragile Persönlichkeiten und verstärken soziale Fliehkräfte. Umgekehrt formuliert: Chatbots werden ihren kleinen Beitrag zum menschlichen Wohlergehen leisten können, wenn sie in ein intaktes gesellschaftliches Miteinander und analoge, von allen gestaltbare Räume der Begegnung eingebettet sind.
🐾 Lesen Sie weiter: Dieser Text erschien zuerst in der Ausgabe N°35 unseres Magazins taz FUTURZWEI mit dem Titelthema „Das Wohnzimmer der Gesellschaft“ – erhältlich im taz Shop.
