Historikerin über Technikfantasien: „Wir hören so häufig, dass die Maschine alles besser kann“

Fehler machen gehört zum Menschsein, sagt die Historikerin Martina Heßler. Dass wir dagegen an perfekte Maschinen glauben wollen, ist kein Zufall.

Schmeckt sicher gleich noch mal so gut: Ein Roboter des Unternehmens Tesla verteilt Popcorn an Besucher einer Berliner Mall Foto: Christoph Soeder/dpa

taz: Frau Heßler, haben Sie sich heute schon über einen Menschen geärgert?

Martina Heßler: Heute noch nicht, aber gestern. Ich war in Berlin, und wegen der Glätte auf den Gehwegen lief ich ganz am Rande des nicht vereisten Fahrradwegs, entgegen der Fahrtrichtung. Ein Lastenradfahrer kam mir entgegen und steuerte sehr gezielt auf mich zu, obwohl die Straße komplett autofrei war, sodass ich auf den spiegelglatten Bürgersteig hüpfen musste. Das fand ich sehr ruppig – aber vermutlich hatte er sich über mich geärgert. Einem Roboter würde man beibringen, dass er Fußgängerinnen nicht erschrecken soll, auch wenn sie sich auf dem Fahrradweg befinden.

taz: Und über eine Maschine?

Heßler: Ja, über den kaputten Aufzug, denn ich musste meinen Koffer in den vierten Stock tragen; über die E-Mails, die immer wieder zurückkamen, obwohl die Adresse korrekt war; über ein Internetformular, das abstürzte. Ich führe inzwischen ein „Tagebuch des Nichtfunktionierens“, in das ich all diese kleinen, meist nicht sehr bedeutenden Störungen eintrage, weil ich neugierig bin, wie viel alltäglich nicht funktioniert – was man ja oft gar nicht bewusst wahrnimmt und gleich wieder vergisst.

taz: Sie haben auch ein viel beachtetes Buch geschrieben über die „Fehlbarkeit von Mensch und Technologie“ – ist das ein Thema, oder sind es zwei?

Heßler: Es ist ein Thema, da beides so eng miteinander zusammenhängt. Aus zwei Gründen. Einerseits werden seit über 200 Jahren Menschen in einer Weise mit Maschinen verglichen, die sie schlecht aussehen lässt, fehlerhaft eben. Wir hören so häufig, dass die Maschine alles besser kann als die Menschen. Andererseits wirken menschliche und maschinelle Fehler zusammen.

taz: Wie das?

Heßler: Menschliche Fehler, beispielsweise in der Bedienung von Maschinen, führen zum Nichtfunktionieren und zu Störungen. Aktuell sehen wir aber auch, wie KI menschliche „Fehler“ verstärkt, etwa indem sie bei Personalentscheidungen Vorurteile übernimmt und Menschen diskriminiert. Außerdem stehen wir vor einer neuen Situation: Menschen können die Fehler – Halluzinationen – der KI nicht einschätzen. Stimmt das nun oder nicht, was die KI da behauptet?

taz: Wie hat sich unser Verhältnis zu unserer eigenen Unzulänglichkeit gewandelt? Und was hat das mit der Industrialisierung zu tun?

Heßler: Fehler machen gehört zum Menschsein. Historisch hat sich aber verändert, was als Fehler bezeichnet wurde und wie man versuchte, Fehler zu vermeiden. Indem seit Beginn des 19. Jahrhunderts die Maschine zum Maßstab menschlicher Leistungsfähigkeit und menschlichen Verhaltens wurde, entstand eine neue „technologische Fehlerhaftigkeit“ der Menschen.

Bild: privat

Im Interview: Martina Heßler

Jahrgang 1968, Historikerin, forscht seit über 20 Jahren zur Geschichte von Mensch-Maschinen-Verhältnissen, Fehlern und Technikemotionen. Von 2006 bis 2010 Professorin für Kultur- und Technikgeschichte an der Hochschule für Gestaltung Offenbach, dann bis 2019 Professorin für Neuere Sozial-, Wirtschafts- und Technikgeschichte an der Helmut-Schmidt-Universität Hamburg. Seit 2019 Professorin für Technikgeschichte an der TU Darmstadt.

Ihr Buch „Sisyphos im Maschinenraum. Zur Fehlbarkeit von Mensch und Maschine“ (C. H. Beck, München 2025. 297 S., 32 Euro; E-Book 24.99 Euro) war im vergangenen Jahr für den Deutschen Sachbuchpreis und den Bayerischen Buchpreis nominiert.

taz: Wie sah die aus?

Heßler: Die Menschen wurden als fehlerhaft beschrieben, weil sie den Standards der Maschine nicht entsprachen. Im Mittelalter störte es niemanden, wenn Produkte nicht standardisiert und nicht immer gleich waren. Mit der Maschinenarbeit in der Fabrik änderten sich die Erwartungen. Menschen wurden zu Störfaktoren, die nicht in gleicher Weise wie die Maschine präzise und regelmäßig arbeiten können.

taz: Ist’s die Erbsünde, wenn wir beim Einparken anstoßen? Und heißt Perfektion anstreben nicht: sich Übermenschliches anmaßen? Wie viel Religion ist also im Spiel bei unseren Vorstellungen vom fehlerhaften Menschen?

Heßler: Also, wenn wir beim Einparken anstoßen, liegt es daran, dass wir in einem Gefährt sitzen, dessen Grenzen und Umrisse wir nicht vollständig sehen können, weshalb wir gelegentlich anstoßen. Das Auto wurde häufig als Verlängerung des menschlichen Körpers beschrieben, aber diese Verlängerung bedeutet eben auch, dass sie neue Grenzen und Fehler mit sich bringt. Deshalb bekommen wir ja Assistenzsysteme, die das wieder auffangen sollen.

taz: Und die Religion?

Heßler: Im christlichen Glauben befanden sich Menschen im Dilemma, Gottes Ebenbild zu sein, ohne je so vollkommen sein zu können wie Gott. Menschen vergleichen sich in hochtechnisierten, modernen Gesellschaften selten mit Gott, aber dauernd mit Maschinen. Man könnte schon sagen, dass die Maschine die Rolle des perfekten Wesens eingenommen hat, an dem sich die Menschen messen müssen. Häufig findet man auch Zitate, und zwar über 200 Jahre hinweg, die die „Unfehlbarkeit“ oder die „Allwissenheit“, die „Perfektion“ der Maschine bewundern.

Vortrag

„Experten des Nichtfunktionierens? Eine Geschichte technologischer Fehler“: Mo, 9. 2., 20 Uhr, Oberlandesgericht Celle

taz: Technische Überlegenheit, ja Perfektion wird heute vollmundiger denn je behauptet – im Zusammenhang mit der sogenannten künstlichen Intelligenz. Was verbindet das, was im Silicon Valley geglaubt wird, mit den 200 Jahre alten Ideen eines Manchester-Kapitalisten?

Heßler: Ich sehe weniger eine Rückkehr als vielmehr die Kontinuität eines Maschinenglaubens, der historisch gesehen verschiedene Spielarten annimmt. Seit gut 200 Jahren besteht die Vorstellung, Maschinen seien perfekt und könnten vieles oder gar alles besser als Menschen. Dies geht einher mit dem Versprechen, dass die Welt besser werde, wenn wir möglichst viel an Maschinen delegieren. Bei allen unübersehbaren und offensichtlichen ökonomischen Interessen denke ich, dass viele Menschen, gerade im Silicon Valley, der tiefen Überzeugung sind, dass Technik die Welt besser macht, was immer „besser“ heißt.

taz: Der Tech-Konzern Google hatte bis 2018 „Don’t be evil“ in seinem „code of conduct“ stehen. Da tritt das Gute beziehungsweise Bessere noch mal anders auf.

Heßler: Obwohl wir gesellschaftlich einen viel differenzierteren Diskurs über die Potenziale und Probleme der Technik führen, wird oft zu unreflektiert an das Versprechen der Maschinen geglaubt. Aber wenn Elon Musk der Meinung ist, wir bräuchten alle einen Chip im Kopf, um noch mit der KI mithalten zu können, frage ich mich, ob das wirklich eine bessere Welt wäre.