Sicherheitsexperte über Kybernetik: „Über Gott hinwegsetzen“
In seinem Buch „Maschinendämmerung“ beschäftigt sich der Sicherheitsexperte Thomas Rid mit der Ideengeschichte der Kybernetik. Ein Gespräch.
Thomas Rid, geboren 1975, Professor für Sicherheitsstudien, lehrt am Department of War Studies des King's College in London. Bei seinen Veranstaltungen gilt er als der „Cyber-Guy“. Denn Rid beschäftigte sich mit Phänomenen wie dem „Cyberwar“. Das Wort „Cyber“ leitet sich von „Kybernetik“ ab – etwas, womit Rid zunächst nicht viel zu tun hatte. Dann schrieb er eine Ideengeschichte der Kybernetik.
taz: Eigentlich wollten Sie den Begriff Kybernetik von den Mythen befreien?
Thomas Rid: Ich wollte dabei helfen, ihn überflüssig zu machen. Als ich das Buchprojekt aber Informatikern vorgestellt hatte, waren die ganz heiß auf das Thema.
Waren Sie von der Relevanz erstaunt?
Thomas Rid, geboren 1975, unterrichtet am King's College, Department for Wars Studies. Die renommierte Einrichtung beschäftigt sich seit den 1960er Jahren mit Kriegen, Konfliken, Sicherheits- und Verteidigungsfragen. Hier bilden sich Militärs wie auch Angehörige von Geheimdiensten fort. Rid beschäftigt sich mit IT-Sicherheitsfragen.
Soeben erschien von ihm "Maschinendämmerung. Eine kurze Geschichte der Kybernetik". Davor verfasste er verschiedene Bücher und Artikel zum Cyberwar. Zuvor arbeitete Ridan der Hebrew University in Jerusalem, der Johns Hopkins University und der RAND Corporation, einem Militär-nahen Think Tank in Washington.
Ja und dann von der Tiefe der Geschichte. Kybernetik vereint Militär-nahe Forschung mit Gegenkultur, Artilleriefeuer mit LSD. Diese Spannung aus Angst und Hoffnung, aus Unterdrückung und Selbstbefreiung. Dieser extreme Kontrast ist sehr interessant.
Die Kybernetik beginnt als militärischer Forschungsbereich. Was macht Kybernetik insgesamt aus?
Das ist eine historische Frage, weil sie sich in den Jahrzehnten wandelt. Bei Norbert Wiener ging es um Feedback und negatives Feedback.
Das heißt?
Wenn ihr Heizungsregler Zuhause feststellt, es ist zu warm und deswegen die Temperatur drosselt, ist das ein negatives Feedback. Zweite Komponente: Das Verschmelzen von Mensch und Maschine. Wieners Idee war, dass der Pilot und sein Kampfflugzeug eine Einheit werden. Das dritte Element ist das Gleichgewicht, das durch die Feedbacks geschaffen werden soll. Die Lernfähigkeit der Maschine ist dann Prinzip des Ganzen.
Kybernetiker denken Maschinen als Lebensformen?
Norbert Wiener: Der Mathematiker Norbert Wiener begründete das interdisziplinäre Feld der Kybernetik. Er organisierte Treffen mit Neurologen, Psychologen, Anthropologen, Mathematikern und Physikern. Gemeinsam suchten sie nach grundlegenden Gemeinsamkeiten von Maschinen und Lebewesen, die sie in einer Art Theorie vereinen wollten. Diese fanden sie bei Prozessen der Informationsverarbeitung. Maschinen wie Lebewesen, so ihre Kernthese, verarbeiten Informationen nach Mechanismen, die gut mit einem Thermostat erklärbar sind. Die Kybernetik selbst beschreibt sich als Regeltechnik.
Die Prinzipien: Ein Thermostat steuert sich selbst, indem er die Temperatur misst und schließlich regelt und dabei die Heizungsventile öffnet oder schließt. Die Informationen der Temperatur werden durch die Messung der Temperatur zur Regelung des Thermostaten zurückgekoppelt. Ein sich selbst steuerndes System. Die wesentlichen Funktionen der Kybernetik fußen auf dem Dreiklang von Information (Temperatur), Feedback (Rückkopplung der Messung der Temperatur) und Steuerung (gewünschte Temperatur). In andauernden Mess- und Rückkopplungsschleifen steuern sich Systeme selbst und lernen, sich an die Umgebung anzupassen. So entstand die Wissenschaft der Steuerung und Regelung von Maschinen, lebenden Organismen und sozialen Organisationen, als die Kybernetik allgemein gefasst wird.
Die Visionen: In den Visionen der Kybernetiker spielte immer auch der Wunsch eine Rolle, die Grenzen von Maschinen und Lebewesen ganz einzureißen. Technisch hochgerüstete Mischwesen – Cyborgs – tummeln sich in den Utopien, die an mythologische Vorstellungen der Schöpfung von Lebensformen durch den Menschen selbst anknüpfen. Aus diesem Feld differenzierte sich später die Informatik, das Forschungsfeld der Künstlichen Intelligenz heraus. Kybernetiker entwickelten die ersten Computer, wie auch das Internet. In den 1980er Jahren verknüpften die libertär gesinnten Computer-Nerds im Silicon Valley diese Visionen mit der Vorstellung, der Cyberspace würde mit dem Homecomputer dem Individuum grenzenlose Freiheit ermöglichen. Diese Utopie verstärkte sich noch mit der Verbreitung des Internet.
Das Militär: Entwickelt wurde das Feld von Anfang an vom Militär. Schon Wiener stieß auf die Kybernetik bei Überlegungen, eine intelligente Flugabwehr zu berechnen. Er musste angesichts der Geschwindigkeit der deutschen Luftwaffe stets die zukünftigen Positionen der deutschen Jagdflieger berechnen, um sie zu treffen. Die Kybernetik und die aus ihr abgeleiteten Technologien wie der Computer und das Internet wurden allesamt durch das Militär entwickelt und finanziert. (kas)
Wiener schrieb kurz vor seinem Tod ein Buch mit dem Titel „Gott und Golem“. Von Menschen erzeugtes Leben – das ist tief in der jüdischen und griechischen Mythologie verankert. Das erzeugt eine ungeheure Faszination. Wiener wollte die Religion mit einer Maschinentheorie entzaubern. Er erreichte das Gegenteil und verzauberte die Maschinen der Gegenwart. Wir spielen Gott, wenn wir Künstliche Intelligenz erzeugen. Wir haben ein tiefes Bedürfen, Leben zu schaffen, das besser ist als wir. Wir wollen uns über Gott hinweg setzen.
Meinen Sie das, wenn Sie Kybernetik als Ideologie bezeichnen?
Wir projizieren uns selbst in die Maschinen. In den 1940er Jahren galten Computer noch denkende Maschinen. Auf der anderen Seite denken wir auch Menschen von den Maschine her. Ebenso wird der Raum später zum Cyberspace. In all diesen Bereichen schwankt das stets zwischen Angst und Hoffnung. Der Wahrheitsgehalt liegt irgendwo in der Mitte.
Die Angst vor Massenüberwachung fußt auf einer empirischen Grundlage. Diese Gedanken tauchen schon früh als dystopische Visionen auf.
Die einen sagen, Massenüberwachung funktioniert nicht, die anderen kritisieren, wir werden permanent überwacht. Beides geht nicht. Ich denke die Massenüberwachung ist ein Schreckgespenst.
Bei Verschlüsselungstechnik werden vor allem Inhalte verschlüsselt. Doch die Dienste interessieren die Metadaten.
Bei altmodischen Telefonanrufen haben sie recht. Die bergen viele Metadaten. Selbst bei verschlüsselten Emails ist noch klar, wer an wen verschickt. Wenn sie iMessage verwenden, oder WhatsApp, dann haben sie in der Regel aber eine HTTPS-Verbindung und eine End-zu-End-Verschlüsselung oder beides. Wenn Sie dann die Daten von einer dicken Leitung abfangen würden, würden sie sehen, dass sie stark verminderte Metadaten haben. Da fehlen also harte Selektoren, an denen die Dienste interessiert sind. Auch das Timing – wann die Kommunikation stattfindet – verliert an Bedeutung. Weil sie den ganzen Tag bei Apple oder Facebook eingeloggt sind. Der Nutzwert der Metadaten rutscht ab.
Aber Daten werden permanent von uns erzeugt. Mit Smartphone oder bei „sozialen“ Medien. Das wird von Konzernen und Regierungen genutzt, um Informationen zurück zu koppeln und Verhalten der Zukunft zu berechnen. Eine Art kybernetische Steuerung dominiert doch längst unsere Gegenwart?
Meine Antwort wird sie enttäuschen: Die Kybernetik ist der Gegenstand den ich mir anschauen möchte, ich nutze sie selbst jedoch nicht als Instrument. Das ist absolut wichtig, wenn man die Geschichte studiert. Denn die Kybernetik ist extrem verführerisch. Der Gründer von Scientology, Ron Hubbard, war von Wieners Kybernetik inspiriert. Das ist ein paradigmatisches Beispiel für die Verführungskraft. Ich habe in meinem Buch versucht, dieser Kraft zu widerstehen.
Aber die Verführungskraft hat mit der Plausibilität zu tun?
Das ist wie bei einem Schweizer Offiziersmesser: Man kann die Kybernetik für alles mögliche verwenden. Es funktioniert meistens ganz OK. Wenn man aber die Kybernetik auf gesellschaftliche Phänomene anwendet – Cyberkrieg, Massenüberwachung – dann ist genau das Gegenteil der Fall. Die Kybernetik treibt uns in Extremvisionen hinein. Das ist das historische Muster. Die Kybernetik selbst ist also in gewisser Weise gänzlich unkybernetisch, weil sie kein Gleichgewichtszustand erzeugt.
Sie schildern den merkwürdigen Verlauf der Geschichte der Kybernetik. Es entwickeln sich gänzlich gegensätzlichen Strömungen: einerseits die Utopien totaler Freiheit der Cyberpunks, andererseits der Totalitarismus globaler Überwachung. Wie passt das zusammen?
Technik inspirierte Zukunftsvisionen. Die ersten Visionen des Cyberspace kamen mit den ersten Computern auf – und dann stürzten diese Dinger ständig ab. Timothy Leary, der LSD-Guru, erkannte im Cyberspace einen neuen Raum, der sich öffnete. Der Computer ist das LSD der 1980er Jahre. Es ist grotesk, was die Leute damals alles dachten. Aber ich möchte mich nicht darüber darüber lustig machen. Die Kybernetik setzt Ideen und Hoffnung frei. Pionierzeiten sind Zeiten der Visionen. Im Bereich der Künstlichen Intelligenz erleben wir das gerade wieder.
Wenn die Investoren im Silicon Valley Billionen Dollar in Künstliche Intelligenz Dollar investieren, dann ist das eine recht handfeste Angelegenheit, finden Sie nicht? Werden die Ideen der Kybernetik also doch Stück für Stück zu einer Realität?
Wir leben in einer unglaublichen Phase der Menschheitsgeschichte. Noch nie hat sich unser Kommunikationsverhalten in so kurzer Zeit verändert. Gleichzeitig waren die Mehrzahl der Prognosen der Kybernetik falsch. Wir haben eine selektive Wahrnehmung. Wir erinnern uns nur an die richtigen Vorhersagen. Das ist eine wichtige Einsicht. Die meisten Prognosen von heute werden falsch sein.
Die Pentagon-Forschungsbehörde stellte kürzlich einen autonom fahrenden Katamaran vor, der U-Boote ausfindig machen soll. Im vergangenen Jahr warnten tausende von Wissenschaftlern vor autonomen Waffensystemen. Die Automatisierung des Krieges: nur eine fixe Idee?
Ich provoziere Sie mal. Ein autonomes Waffensystem tötet seit langer Zeit Millionen Menschen: Landminen. Sie haben ein hohes Maß an Autonomie, denn sie entscheiden auf Basis eines Eingabeparameters, zum Beispiel eines Gewichts, zu explodieren. Bei netzwerkgesteuerten Drohnen gibt es keinen Grund sie vollständig zu automatisieren, weil man Menschen in die Feedback-Schleife mit hinein nehmen kann. Warum also Entscheidungsautonomie erzeugen, wenn das gar nicht mehr nötig ist? Die Drohne stellt im Vergleich zur Landmine einen ethischen Fortschritt dar. Und der Krieg der Maschinen ist seit dem Zweiten Weltkrieg eine Realität.
Sie selbst arbeiteten auch bei der RAND Corporation, einem Think Tank des US-Militärs. Sind Sie ein Militärberater?
Ich habe davor bei Herfried Münkler studiert und bin durch seine Schule gegangen. Ich hatte nie Berührungsängste, wenn es um Sicherheitskreise und Streitkräfte geht. Das ist am King's College for War Studies in London nicht anders. Wir arbeiten eng mit Militär- und Nachrichtendiensten aus England und den USA zusammen. Gerade wenn es um die Technik geht ist das hochinteressant.
Warum?
Wenn sie sich in diesem Umfeld bewegen sind sie überrascht. Man sieht dann junge Menschen mit schwarzen Kapuzenpullis, aber die organisieren keine Demos, sondern checken sich mit ihren Sicherheitskarten bei den Diensten ein. Bei den Diensten haben sie auch die Gegenkultur verinnerlicht. Snowden ist ein Beispiel dafür.
Ist Snowden Ihrer Ansicht nach ein Verräter oder couragiert?
Leider ist Snowden in seiner Analyse nicht besonders nuanciert. Wenn man sich sein Twitter-Feed anschaut ist das ziemlich grobschlächtig. Genauso grobschlächtig war es auch, undifferenziert all alle diese internen Daten abzugreifen. Er hat eine Art Vorratsdatenspeicherung innerhalb der NSA unternommen und Dokumente heraus gegeben, die schlicht gar nichts mit Freiheitsrechten zu tun haben.
Was meinen Sie?
Wie die NSA iranische oder chinesische Ziele aufklärt zum Beispiel. Dafür gibt es doch die NSA. Das hat nichts in der Öffentlichkeit zu suchen. Er hätte ein paar hundert Dokumente leaken können, die für die Debatte wichtig sind. Es ist also Held und gleichzeitig Verräter.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 40.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert
Müntefering und die K-Frage bei der SPD
Pistorius statt Scholz!
Kampf gegen die Klimakrise
Eine Hoffnung, die nicht glitzert
Altersgrenze für Führerschein
Testosteron und PS
Angeblich zu „woke“ Videospiele
Gamer:innen gegen Gendergaga
Haldenwang über Wechsel in die Politik
„Ich habe mir nichts vorzuwerfen“
Zweite Woche der UN-Klimakonferenz
Habeck wirbt für den weltweiten Ausbau des Emissionshandels