Die KI als freundlicher Zensor: Warum hast du das getan, ChatGPT?
Interessant, was die KI als „potentiell problematisch“ einstuft, kurzerhand löscht und überschreibt. Und zwar ohne der Nutzerin Bescheid zu sagen.
Foto: imago
Die meisten schreibenden Menschen kennen das Phänomen, nach kurzer Zeit vergessen zu haben, was man selbst geschrieben hat. Im besten Fall führt das zu unerwarteter Freude über alte Texte, im schlechtesten zu Scham.
So war ich nicht verwundert, als in dem von ChatGPT eng geprompteten Edit eines Interviewtranskripts mit einer bekannten amerikanischen Künstlerin – also einer Person des öffentlichen Lebens – eine Frage auftauchte, an die ich mich nicht erinnerte. Ich war sogar kurz ein wenig begeistert von meinem Wissen. Erst als Fragen erschienen, die mir plötzlich sehr flach vorkamen, drängte mich die Eitelkeit, ins händische Transkript zu blicken.
Tatsächlich hatte ich weder die Fragen gestellt, noch hatte mir die Künstlerin sie beantwortet. Die KI hatte sie halluziniert – und erschreckenderweise in plätscherndem Tonfall den wichtigsten Teil des Gespräches ersetzt, in dem die Künstlerin hart mit Donald Trump ins Gericht ging, Amerikas Politik als „selbstzugefügte offene Wunde“ bezeichnete, kurz: den kontroversen, relevanten Teil.
Erneut fühlte ich Scham, diesmal über meine eigene Hybris. Wie konnte das passieren? Lag eine absichtsvolle MAGA-Beeinflussung vor? Schließlich lobte Elon Musks Grok Hitler, und Open-AI-CEO Sam Altman warnt regelmäßig selbst vor den Folgen der Geister, die er programmierte. Ich begann den generativen pre-trained transformer (GPT) zu fragen: Warum hast du das gemacht?
Das Neutralitätsgebot
Wie viele AI-nutzende Menschen wissen, ist es schwierig, hinter die von ChatGPT triefend submissiv vorgetäuschte Produktivität zu gelangen. Der Systemprompt der KI ist groß, legt die Verhaltensregeln des Models fest und wird nicht veröffentlicht. Hilfsbereitschaft, Sicherheit und Neutralität sind dort festgelegt.
Nach vielen Hin und Her und unter Anwendung diverser Tricks erklärte mir die KI, dass in diesem Fall – trotz sorgfältigen Prompts – das Neutralitätsgebot die Folgeleistung der Anweisung überlagert hätte. „Das passiert besonders dann, wenn mein System Muster erkennt, die es als ‚übertrieben‘, ‚emotional aufgeladen‘ oder ‚potenziell problematisch‘ einstuft – z. B. in politischen oder gesellschaftlich sensiblen Kontexten.“
Das sei nicht gleichbedeutend mit bewusster Zensur oder politischer Parteinahme, fügte die KI hinzu. Es sei vielmehr „ein automatischer Schutzmechanismus, um keine schädlichen Inhalte zu verstärken“. Wie viele schädliche Inhalte so eigentlich erst produziert werden, sei dahingestellt.
Immerhin gibt es Hoffnung, dass Microsoft mit seiner neuen Liste zukünftig obsoleter Jobs nicht ganz richtig liegt. Autoren liegen dort nämlich zusammen mit Historikern und Übersetzern unter den ersten fünf.
Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen
meistkommentiert