Ethik in Zeiten der Digitalisierung

Künstliche Dummheit

Was wir brauchen, ist nicht künstliche, sondern moralische Intelligenz, sagt Harald Welzer.

Bild: Benjakon

Von Harald Welzer

„Ich kann mir vorstellen, dass künftig jeder, der ein selbstfahrendes Auto besteigt, in eine App seine moralischen Präferenzen eingeben muss.“ Wenn Sie versuchen, diesen Satz zu entschlüsseln, kommen Sie schnell drauf: Es geht hier um die Frage, ob das selbstfahrende Auto in seiner etwaigen Rolle als verunfallendes Auto lieber eine Gruppe Rentner oder ein Kleinkind überfahren soll, wenn es die Wahl hat.

Das kennen wir: Künstliche Intelligenz kann das nicht allein überlegen, weil sie ja nur rechnende Intelligenz ist und keine moralischen Urteile fällen kann; da muss das Auto erstmal moralisch programmiert werden. Was aber neu ist: Dass die Nutzerin des selbstfahrenden Autos selbst ihre moralische Präferenz eingeben muss, also: lieber Oma weg oder lieber Kind weg. Das ist überraschend. Denn wenn etwa deviante junge Männer mit 180 km/h den Kurfürstendamm herunterbrettern, würde man ja auch nicht akzeptieren, wenn sie zur Begründung angäben, ihre moralische Präferenz sei nun mal Geschwindigkeit und nicht Menschenleben.

Aber nun kommt es: Wer nämlich hat den obigen Satz gesagt? 1.) Jemand, der von Moralphilosophie noch niemals ein Sterbenswörtchen gehört hat? 2.) Jemand, der von den Grundlagen eines Rechtsstaats keinen Schimmer hat? 3.) Ein Start-up-Honk, der die Moralische-Präferenz-App entwickelt hat? Die richtige Antwort ist 4): Der Vorsitzende des Deutschen Ethikrats, ein Professor für Systematische Theologie namens Peter Dabrock. Der Satz findet sich in einem Interview, das in einem Heftchen mit dem Titel Aufbruch Künstliche Intelligenz nachzulesen ist, herausgegeben von Google LLC.

Der gesellschaftliche Diskurs fehlt

Dieses Interview ist symptomatisch für den kompletten gesellschaftlichen Diskurs über Digitalisierung und künstliche Intelligenz. Den zeichnet vor allem aus, dass es ihn nicht gibt. Was es stattdessen gibt: Die demokratisch in keiner Weise legitimierte Setzung, dass „künstliche Intelligenz die Zukunft“ ist, dass es „selbstfahrende Autos“ genauso geben wird wie „Smart Homes“ und „Smart Cities“ und „digitale Bildung“. Mir ist aus Demokratien kein anderer Fall bekannt, in dem eine Technologie mit einer solchen Dreistigkeit flächendeckend implementiert werden soll, ohne dass auch nur eine einzige Bürgerin oder ein einziger Bürger gefragt worden wäre, ob sie oder er es möchte, dass ihre oder seine komplette Lebens- und Arbeitswelt gemäß den Technikfantasien einer machtvollen Männergruppe aus einem sagenumwobenen Ort namens Silicon Valley gestaltet wird. Trotzdem geschieht genau das, und dieser Angriff auf die Voraussetzungen des sozialen Lebens in einer freiheitlichen Gesellschaft geschieht so radikal und schnell, dass seit dem Tod von niemand mehr sagt: „Moment mal – wer will das eigentlich? Und wenn ja, warum?“

Wenn der Vorsitzende des Ethikrats, ein Theologe zumal, es offenbar für gottgegeben hält, dass es selbstfahrende Autos geben soll, die dann eben moralische Probleme aufwerfen, ist der gesellschaftliche Umgang mit dieser invasiven Technologie und, natürlich, den wirtschaftlichen Interessen, die sie so vehement pusht, präzise umrissen: Alles das gibt es nun mal, da müssen sich die Menschen schon unterordnen. Oma oder Kind, das ist hier die Frage. Sonst nichts.

„Der Vormarsch der Digitalisierung sorgt für eine Neudefinition auch des letzten Aspekts unserer eben noch so vertrauten Welt, ohne uns auch nur eine Chance zu lassen, eine durchdachte Entscheidung darüber zu fällen“, Schreibt Shoshana Zuboff in ihrem neuen Buch Das Zeitalter des Überwachungskapitalismus. Und sie vergleicht das, was im Augenblick kulturell und sozial mit unserer Welt geschieht, mit dem Einbruch einer invasiven Spezies in ein Ökosystem, in der sie keine natürlichen Feinde hat. So kann man das sehen: Denn die digitale Spezies stößt ja vor allem deswegen auf keinerlei Widerstand, weil sie Konsum erleichtert und forciert, den Menschen das angestrengte Denken genauso abnimmt wie die anstrengende Freiheit und eine infantile Kultur schafft, die binär durch nur noch zwei Faktoren bestimmt ist: Bedürfnis, Befriedigung. Also, klar: für die, die es sich leisten können. Die, die dazugehören dürfen.

Auch Nullen und Einsen erzeugen Treibhausgase

Die anderen müssen schon noch ein bisschen Rohstoffe aus kongolesischen Minen kratzen und sich mit Elektroschrottfeuern vergiften. Denn auch wenn man all die schicken Smartphones nur streicheln muss wie Aladins Wunderlampe, damit sie alle Schätze der Welt preisgeben und ihre sofortige Lieferung veranlassen: Dass von nichts nichts kommt, gilt leider auch im Zeitalter der künstlichen Intelligenz. Aus Nullen und Einsen lässt sich nichts bauen und antreiben, und anders als Nullen und Einsen erzeugt die notwendige Stoffumwandlung Treibhausgas und Müll, und zwar jede Menge.

Auch darüber gibt es keine gesellschaftliche Debatte: dass die ganze digitale Wunderwelt, all das sagenhaft Innova- und Disruptive, die Smartness und die Gründerness, nur eine aufgepimpte Variante des fossilen Kapitalismus ist. Und zwar eine, die den Energieaufwand und den Umweltverbrauch dynamisch steigert und auch nicht den Furz einer Idee dafür liefert, wie man im 21. Jahrhundert ein Naturverhältnis entwickeln könnte, dass menschliche Freiheit und eine intakte Biosphäre gleichermaßen möglich macht. Und die das Konsumieren zur einzig verbleibenden Form von Subjektivität macht: Ich kaufe, also bin ich.

Und keine einzige Sekunde des Durchdenkens soll mehr in dem kommerziell hinderlichen Raum übrig bleiben, der bislang noch zwischen Bedürfnis und Befriedigung existiert. Genau in dem sah Sigmund Freud übrigens die Wiege der Kultur. Denn es ist ja erst die Fähigkeit zum Triebaufschub, der die menschliche Lebensform bislang von allen anderen unterschied und die fantastische Artenvielfalt von kulturellen Äußerungen und Gestaltungen hervorgebracht hat, die gerade in atemberaubender Geschwindigkeit abnimmt. Starbucks ist überall. Claude Lévi-Strauss hat zutreffend bemerkt, dass die Angleichung der Lebensformen, das Verschwinden der kulturellen Unterschiedlichkeit, nicht eine höhere Organisationsform, sondern eine niedrigere bedeutet. Die ewige Behauptung, dass unsere moderne Welt so komplex geworden sei, dass niemand mehr durchblicke, ist ideologischer Schein. In Wahrheit war die Organisation der Weltgesellschaft noch niemals so niedrig komplex wie heute. Was keineswegs bedeutet, dass auch die soziale Ungleichheit niedrig wäre.

Ein aufgeklärtes Verhältnis zur Technologie muss sich entwickeln

Kurz: Die Probleme des menschlichen Zusammenlebens und des menschlichen Überlebens werden durch Digitalisierung und künstliche Intelligenz voraussichtlich nicht kleiner, obwohl Technik bei ihrer Milderung natürlich durchaus helfen könnte. Aber dazu müsste die gegenwärtige Entwicklung umgedreht werden und man müsste aufhören, sich dumm zu stellen: Denn Technik ist in freien Gesellschaften die abhängige Variable, über Sinn und Zweck ihres Einsatzes befindet sie selbst, die Gesellschaft. Erst so herum ließe sich ein vernünftiges, aufgeklärtes Verhältnis zu einer Technologie entwickeln, die binär strukturierte Probleme gut lösen kann, für alles andere aber nicht taugt. Denn der Zivilisationsprozess ist nicht binär; er besteht in der langsamen, konflikthaften, widersprüchlichen Verminderung der grundsätzlichen Probleme des sozialen Lebens, als da sind: Not, Krieg, Gewalt, Ungerechtigkeit, Ungleichheit, Zerstörung der nichtmenschlichen Welt.

Der Zivilisationsprozess besteht nicht im Problemlösen, sondern in der sukzessiven Annäherung an das bessere Zusammenleben mit der menschlichen und nichtmenschlichen Mitwelt. Dafür braucht es moralische Phantasie, nicht moralische Präferenzapps. Und vor allem: moralische Intelligenz, nicht künstliche.

Mit der ist es, wie man hört, ohnedies nicht so weit her. Das meiste, was so bezeichnet wird, sind statistisch operierende Lernalgorithmen, mit deren Hilfe Ihr Smartphone Ihr Essen besser zu fotografieren lernt, als Sie es angeblich selbst könnten. Naja. So betrachtet lässt sich das gesellschaftspolitische Problem, mit dem wir es im Fall der Implementierungswucht des Digitalen zu tun haben, vielleicht im Welzerschen Gesetz formulieren: Künstliche Intelligenz wächst proportional zur künstlichen Dummheit.