Künstliche Intelligenz: Denken wie das verbreitete Mittelmaß
KI ist unvereinbar mit emanzipierten und freiheitlichen Gesellschaften. Dabei handelt sich nicht um einen Designfehler, sondern sie ist so gedacht.
E inige Maschinen müssen zerstört werden, damit sie keine Monster produzieren. Mit diesen Worten fasst Brian Merchant, Autor des Buches „Blood in the Machine“, nicht nur die Handlung von Mary Shelleys „Frankenstein“ zusammen, sondern auch das Wirken der Luddit*innen. Die Luddit*innen, eine Gruppe organisierter Arbeitender, protestierten im Großbritannien des frühen 19. Jahrhunderts mit handfesten Mitteln gegen den kapitalistischen Einsatz von neuartigen Webstühlen.
Linke Bewegungen der Gegenwart sollten es ihnen gleichtun. Das Ziel sind heute nicht mehr die Webstühle protokapitalistischer Fabrikbesitzer, sondern die physischen und immateriellen Manifestationen sogenannter künstlicher Intelligenz (KI). Diese Widerständigkeit fehlt in progressiven Debatten rund um KI. Kritische Stimmen artikulieren stattdessen Forderungen nach regulatorischer Einhegung, Open Source, ethischer Ausgestaltung und ökologischer Nachhaltigkeit.
ist Mitbegründer von Structural Integrity, einem bedürfnisorientierten, digitalpolitischen Kollektiv. Im Juli erscheint sein mit Aline Blankertz verfasstes Buch „Digitale Solidarität“.
Ein aktuelles Beispiel für diese Art von Kritik sind die Worte von Papst Leo XIV. In seiner ersten Enzyklika verglich er die Technologie mit Kernenergie und forderte, sie von Logiken der Zerstörung zu befreien, um das Potenzial von KI zum Wohle der Menschheit zu nutzen: KI müsse entwaffnet werden, damit aus ihr keine Atombombe werde. Diese Art der Kritik ist beispielhaft für die Auseinandersetzung mit KI, die zwar wie eine vehemente Intervention klingt, den Gegenstand der Kritik dabei aber gleichzeitig legitimiert und affirmiert.
Sie benennt viele schädliche Facetten, preist KI gleichzeitig jedoch stets als Innovation mit großem Potenzial, deren Nachteile lediglich Ergebnis der Umstände seien, unter denen sie eingesetzt wird. In progressiven Kreisen ist diese Art der KI-Kritik ebenfalls weit verbreitet. Der Wirtschaftswissenschaftler Tim Menzner warb im Magazin Jacobin dafür, dass die Linke eine eigene Zukunftsvision für KI entwickelt und im Ideas Letter erklärte der Technologiekritiker Evgeny Morozov KI gar zum Gradmesser für einen zukunftsfähigen Sozialismus.
Keine Welt ohne KI?
Überraschend ist allerdings, dass auch die Europäische Kommission sich die Mahnungen des Papstes zu eigen machte. Gegenüber der Katholischen Nachrichten-Agentur teilte ein Sprecher mit: „Wir können der Vision des Heiligen Vaters Papst Leo XIV. und der Notwendigkeit eines soliden Rechtsrahmens für KI nur zustimmen.“ Diese Einhelligkeit sollte alarmieren. Vatikan, progressive Stimmen und Herrschende haben beim Thema KI nicht etwa eine gemeinsame Stimme gefunden. Die Einhelligkeit zeigt lediglich, wie ungefährlich diese Art der Kritik ist.
Sie wirkt radikal, bleibt in ihren Schlussfolgerungen aber so vage und inkonsequent, dass sie keine substanziellen Kursänderungen erfordert. Selbst die Europäische Kommission kann sich gesichtswahrend hinter Worthülsen wie „Regulierung“ und „Werte“ verstecken, während sie, getrieben vom internationalen Konkurrenzdruck, ihre einst als „Goldstandard“ gefeierte Digitalregulierung zugunsten der Wettbewerbsfähigkeit der heimischen KI-Industrie einschränkt.
Das kann sie auch deshalb, weil die gängige Kritik es nicht vermag, KI grundsätzlich infrage zu stellen. Dieses Scheitern ist Symptom dessen, was der Physiker Dan McQuillan im Magazin Vice als „KI-Realismus“ bezeichnete: der kollektiven Unfähigkeit, sich eine Welt ohne KI vorzustellen. Diese Verengung des Horizonts hat Regulierung, Open Source, ethische Einhegung und das pflichtbewusste Sichberufen auf das innovative Potenzial von KI zum Limit dessen gemacht, was progressive Stimmen an Kritik formulieren können.
Das aktuell greifbarste Beispiel von „KI-Realismus“ ist der Vorschlag von Bernie Sanders, die US-amerikanische Öffentlichkeit an den Gewinnen der KI-Konzerne zu beteiligen, indem die US-Regierung 50 Prozent der Aktien von Konzernen wie Anthropic, OpenAI und xAI übernimmt. KI, so der Grundton, ist unvermeidlich. Also kann man auch mitmachen und profitieren. Diese Kritik ignoriert die menschenfeindlichen, gewaltsamen und autoritären Funktionsweisen, die KI ausmachen.
KI ist konservativ
Sie ist inkonsequent, weil sie diese Ebenen zwar benennt, aber nicht die nötigen Schlüsse zu ziehen wagt. Sie ist unsolidarisch, weil sie diejenigen ausblendet, die der Einsatz von KI trotz jeder Regulierung und wohlklingender Ethikrichtlinien weiterhin marginalisiert und unterdrückt. Kurz gesagt: KI ist fundamental unvereinbar mit emanzipierten, egalitären und freiheitlichen Gesellschaften. Nicht weil KI von den falschen Dynamiken geprägt wird, sondern weil die Technologie genau dafür gebaut ist.
KI ist keine neutrale Technologie, die durch Einhegung davor bewahrt werden kann im Sinne der päpstlichen Metapher zur Atombombe zu werden. Sie ist die Atombombe. KI ist keine Zukunftstechnologie und keine Innovation, derer sich linke Bewegungen bemächtigen sollten. Sie ist inhärent konservativ und homogenisierend und damit nicht etwa ein Maßstab für fortschrittliche Gesellschaften, sondern eine Zementierung des Status quo.
Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.
Nur eine fundamentale Ablehnung von KI ist angesichts dieser soziotechnischen Funktionsweise konsequent. Das, was gemeinhin mit KI gemeint ist, sind Systeme der Mustererkennung und Musterreproduktion. Diese Systeme übertragen Muster aus der Vergangenheit auf die Zukunft und beeinflussen individuelles und gesellschaftliches Handeln und Denken. Die Reproduktion von Mustern ist zwangsläufig konservativ, weil die Daten nur Vergangenes abbilden können.
Und sie ist stets exkludierend, weil es eine Illusion ist, gesellschaftliche Vielfalt überhaupt in Daten abbilden zu können. „Eine datafizierte Welt ist eine Welt ohne Subjekte“, schreibt der Sozialwissenschaftler Jathan Sadowski in seinem Buch „The Mechanic and the Luddite“. Diese Entsubjektivierung ist immer gewaltsam. Und weil sie das Fundament jeder Musterreproduktion ist, ist auch KI auf grundlegender Ebene eine gewaltsame und entmenschlichende Technologie.
Nur Reproduktion von Mustern
Diese Gewalt nimmt unterschiedliche Qualitäten an. Im Bereich der Textsynthese tritt sie als eine auf gesammelten Daten beruhende epistemische Gewalt auf. Die statistischen Verfahren im Kern von Textgeneratoren wie etwa ChatGPT errechnen die Wahrscheinlichkeit, mit der ein Wort auf das nächste folgt, um am Ende Sätze zu produzieren, die uns wie menschliche Sprache erscheinen. Die Ergebnisse von ChatGPT sind aber nicht Ausdruck des Verstehens, sondern lediglich eine mathematische Reproduktion von Mustern in datafizierten, auf digitalen Quellen basierenden Textkörpern.
Diese Synthese von Text mittels generativer KI ist immer ein Akt der Reduktion und der Ausgrenzung, weil all jene menschlichen Realitäten unsichtbar gemacht werden, die im Ausgangsdatensatz nicht hinreichend vertreten waren, um sich signifikant auf das Ergebnis auszuwirken. Was dabei herauskommt, ist eine rassistische und patriarchale Homogenisierung von Sprache und der begriffliche Ausschluss marginalisierter Realitäten. Diese Reduktion, teilweise auch Bias genannt, ist funktionsbedingt immer Teil von KI. Sie verengt Sprache und Denken auf das wahrscheinliche Mittelmaß, wie immer es gerade definiert wird.
In anderen Bereichen wird die Gewalt, die in dieser Reduktion liegt, unmittelbar greifbar. Wenn Mustererkennungssysteme Prognosen darüber errechnen, wer wahrscheinlich Sozialhilfebetrug begeht, reduzieren sie die menschliche Individualität auf Datenpunkte. Ein solches System warf 2021 in den Niederlanden Zehntausenden Eltern – ganz überwiegend zu Unrecht – Kindergeldbetrug vor und stufte dabei besonders häufig rassifizierte Eltern als verdächtig ein. Finanzieller Ruin vieler Menschen und der Rücktritt der Regierung waren die Folge.
Dieser Bias lässt sich nicht durch mehr oder genauere Daten beheben. Mehr Daten würden die Gewalt, die in jeder Reduktion von Menschen auf Wahrscheinlichkeitswerte liegt, lediglich weniger sichtbar machen und ihr sogar mehr Plausibilität verleihen. Die Prognosen werden für jene, die in ihnen gefangen werden, nur umso unentrinnbarer. Ihre Zuspitzung findet diese Gewalt in Berechnungen darüber, wo sich im Gazastreifen Menschen aufhalten, deren Tötung per Drohne mit hinreichender Wahrscheinlichkeit den Kriterien einer Kriegsmaschinerie genügt.
Herrschaftsinstrument Kybernetik
Die epistemische, soziale und physische Gewalt von KI ist kein Designfehler und nicht Resultat mangelnder Daten, sondern ihr zentrales Feature. Jede Kritik an KI, die auf der Ebene von Bias, Halluzination und Qualität der Datenbasis stehen bleibt, macht diese Dimension der Gewalt unsichtbar und legitimiert sie damit. Diese Kritik an KI ist nicht neu. Sie richtete sich bereits an computergestützte Feedback- und Kontrollsysteme.
Die Wissenschaft hinter diesen Systemen firmierte unter dem Begriff der Kybernetik und erträumte eine vollständig datafizierte Welt, in der allumfassende Steuerungssysteme ganze Gesellschaften durch allgegenwärtige und gleichzeitig unsichtbare Signale im Gleichgewicht halten. Die Philosophin Anna-Verena Nosthoff („Kybernetik und Kritik“) beschreibt die Kybernetik als Herrschaftsinstrument, das die Beherrschten als Menschmaschinen objektiviert und ihr Verhalten reguliert. Diese kybernetische Qualität prägt auch KI.
Eine konsequente Antwort darauf formulierte die französische Widerstandsgruppe Clodo in den 1980er Jahren. Während in Deutschland Proteste gegen die Volkszählung tobten, verbrannten die Aktivist*innen Datenspeichermedien in den Toiletten von Technikkonzernen. In einem Schreiben der Gruppe vom Februar 1983 heißt es: „Unsere Gesellschaft – kodifiziert, ausgerichtet, kontrolliert – […] in der wir uns wie Züge auf einem Rangierbahnhof aneinanderreihen“ und „in der das Binäre und das Quantitative die Krise lösen sollen – diese Gesellschaft ist unmenschlich.“
Diese Perspektive muss zurück in das Zentrum der Kritik an KI. Für mich sind es die Worte des Humangeografen Thomas Dekeyser („Techno-Negative“), der diese Sicht in seiner Analyse des Wirkens von Clodo am besten auf den Punkt brachte: „Keine Forderungen, nur Flammen.“
Die taz gehört zu 100 Prozent ihren Leser:innen und ist damit nicht nur konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung für taz zahl ich. Unser nächstes Ziel: 50.000 – wir brauchen nur noch 90 Freiwillige, dann haben wir es geschafft! Setzen Sie jetzt ein Zeichen für die taz und machen Sie mit. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert