Zukunftsgespräch künstliche Intelligenz: „Ihr Auto fährt Sie ins Gefängnis“

Gerd Gigerenzer ist Psychologe und Risikoforscher. taz FUTURZWEI fragt: Ist künstliche Intelligenz ein Hype?

Bild: Alexander Gehring

Interview: Harald Welzer

taz FUTURZWEI: Shoshana Zuboff vergleicht in ihrem Buch Das Zeitalter des Überwachungskapitalismus die Digitalisierung mit dem Einwandern einer invasiven Spezies in eine Biosphäre, die darauf nicht vorbereitet ist. Können Sie mit so einem Vergleich etwas anfangen, Herr Gigerenzer?

Gerd Gigerenzer: Nein. Was ich beobachte, ist eine ungeahnte Möglichkeit, Tendenzen, die schon immer da waren, zu verstärken, Tendenzen, die eigentlich aus vor-demokratischen Gesellschaften stammen. Wo im dörflichen Leben sowieso jeder jeden beobachtet hat. Das kommt heute wieder. Die Facebook-Communitys sind ja auch wie kleine Dörfer, wo jeder alles wissen möchte, was der andere zu Mittag isst oder gerade trägt. Ich sehe das als eine Entwicklung, über die sich die Stasi sehr gefreut hätte. Oder andere totalitäre Regime.

Ich finde an dieser Metapher mit der invasiven Spezies das Interessante, dass die Gesellschaft gar nicht vorbereitet ist auf das, was passiert. Sie sagen, das hat Strukturanalogien insbesondere zu totalitären Gesellschaften, aber wir sind ja eine Demokratie. Wie ist das zu erklären, dass das alles mehr oder weniger widerstandslos angenommen wird?

Sicher sind für viele Menschen die Bequemlichkeit und der schnelle und kostenlose Zugang zu digitalen Angeboten attraktiv. Auf der anderen Seite muss man auch sagen, dass wir erst seit einiger Zeit wissen, wie viel Daten da wirklich abgezogen werden. Im politischen Bereich hat der Whistleblower Edward Snowden geholfen, das Ausmaß deutlich zu machen. Im kommerziellen Bereich werden auch jede Menge Daten abgezogen, das ist vielen Menschen heute immer noch nicht klar. Wer weiß schon, dass Samsung im Lizenzvertrag für den Endbenutzer explizit warnt, dass man vor dem Smart-TV besser keine persönlichen Gespräche führen sollte, denn die werden alle aufgezeichnet.

Die Bundesrepublik ist ja eine vergleichsweise datensensible Gesellschaft. Trotzdem gibt es eigentlich keine Nervosität in dieser Hinsicht. Sie sind ja auch Unterzeichner der Charta für digitale Grundrechte. Bislang sind aber alle Versuche, eine politische Kommunikation zu dem Thema herzustellen, verpufft. Wie kommt das?

Bei der Bundestagswahl vor einem Jahr gab es den Wahlspruch: Digital first, Bedenken second. Es gibt in großen Bereichen der Politik und der Wirtschaft einen naiven Glauben an Fortschritt durch Big Data, Digitalisierung, künstliche Intelligenz. So hat eine Untersuchung mit über vierhundert Vorstandsmitgliedern von deutschen Firmen bei über neunzig Prozent keinen Anhaltspunkt finden können, dass sie irgendeine Vorbildung hätten in diesem Bereich. Wir müssen uns deshalb die Frage stellen: Gibt es da einen Enthusiasmus von Personen, die nicht genau wissen, worüber sie sprechen?

Man hat nur den ganz starken Verdacht, dass es wahnsinnig bedeutsam ist, was da passiert?

Die wirkliche Frage, die man sich stellen sollte, lautet: Was kann Big Data? Was kann es nicht? Das sind ja auch ganz verschiedene Dinge, über die wir sprechen. Was können Scoring-Systeme wirklich erreichen? Und wo muss man davon ausgehen, dass sie die Ziele gar nicht erreichen können? Das ist wie mit einem Werkzeugkasten. Big Data ist wie ein Hammer und wenn das Problem eine Schraube ist, ist Big Data nicht das richtige Werkzeug. Und: Sind diese Methoden überhaupt besser als das, was wir schon haben? Es nützt ja auch nichts, ein neues Medikament zu entwickeln, wenn es gar nicht besser ist als das, was man schon hat, nur teurer.

Da kommen wir direkt zum Hype um die künstliche Intelligenz. Vielleicht frag ich einfach mal so offen: Wie schätzen Sie denn diesen Hype ein? Hat der irgendeine Realitätshaltigkeit?

Also erst mal: Künstliche Intelligenz ist ein umfassender Begriff für ganz verschiedene Dinge und da gehören zum Teil altbekannte statistische Verfahren dazu. Dann umfasst der Begriff auch selbstlernende Netzwerke, was wieder etwas völlig anderes ist. Wir haben sicher einen Hype, das ist keine Frage. Bei Aufgaben, die sehr gut definiert sind wie Schach, haben wir schon seit einiger Zeit die Situation, dass die Computer besser spielen als sehr gute Schachspieler.

Warum genau?

Wenn es sich um relativ stabile Systeme wie ein Spiel handelt, wo die Regeln morgen genauso sind wie heute, es aber eine Unzahl von möglichen Kombinationen gibt, dann sind künstliche Intelligenzsysteme Menschen überlegen, in der Schnelligkeit und in der Effizienz. Das haben wir bei Go erlebt, aber Go ist eben auch ein Spiel. Nach dem Erfolg von Watson in der TV-Quizshow »Jeopardy« ...

Das KI-Computerprogramm von IBM schlug dort zwei menschliche Champions des Spiels.

... verkündete Ginni Rometty, CEO von IBM: Unser nächster »Moonshot« ist der Gesundheitsbereich. Gesundheit ist natürlich immer ein Ziel, weil da sehr viel Geld fließt. IBM hat jedoch bis heute noch keine einzige Studie vorgelegt, die nachgewiesen hätte, dass Watson wirklich kann, was das PR-Departement von IBM behauptet.

Worüber wir jetzt gesprochen haben, ist eigentlich nicht künstliche Intelligenz, sondern schlicht und ergreifend Maschinenlernen, oder?

Künstliche Intelligenz ist der Überbegriff, Maschinenlernen ist ein Teil davon. Maschinenlernen hat große Fortschritte bei der Bilderkennung und in der Spracherkennung gemacht. Das heißt aber nicht, dass die Systeme besser darin sind als ein Kind. Ich hab eine Spracherkennung in meinem neuen Auto. Lieber Himmel, ich kämpfe jeden Tag damit, es versteht keinen bayerischen Dialekt, obwohl es ein BMW ist.

Die Software ist wahrscheinlich nicht aus München.

Erkennung von einzelnen Wörtern ist eine Sache, Verständnis des Sinns einer Aussage ist eine andere. In den guten alten Zeiten von künstlicher Intelligenz, also in den Siebziger-, Achtzigerjahren, nannte man es das Frame-Problem. Wie kann man einer Maschine all das kausale, intuitive Weltwissen beibringen, das wir eben haben? Das ist heute immer noch nicht gelöst.

Es gibt noch einen anderen Aspekt, der mit dem Weltwissen zu tun hat, aber auch mit Empathie, mit Intuition, den die künstliche Intelligenz überhaupt nicht beherrscht. Man kommt so schnell gar nicht darauf: Die intelligente Maschine hat keine Motivation. Sie können dem Roboter ja keinen Urlaub oder einen Tropfen Öl zusätzlich anbieten.  

Bestimmte Motive, wie Fehler zu minimieren, kann man durchaus programmieren. Jedoch ist eine Maschine kein lebendig gewachsenes System, das von sich aus überleben und sich fortpflanzen möchte. Man kann ihr gut beibringen, Assoziationen zu finden. Das ist auch die Stärke von Big Data. Was aber verdammt schwer ist: kausales Denken. Und was auch schwer ist: mit Vieldeutigkeit umzugehen. Aber es ist wie bei den meisten technischen Entwicklungen, es gibt einen immensen Hype angetrieben von Leuten, die die Technologie verkaufen möchten. Wenn man aber beispielsweise Ausbildungen durchdigitalisiert, läuft man sogar Gefahr, Kompetenzen zu verlieren, die man schon hatte.

Zum Beispiel?

Im Medizinbereich. Ein guter Mediziner muss gute Intuitionen entwickeln, also lernen zu sehen, dass heute mit dem Patienten im Vergleich zum letzten Mal etwas nicht stimmt. Wenn man die Ausbildung in Richtung »digital« macht, muss man sehr aufpassen, dass man diese Fähigkeiten des intuitiven Sehens auch weiterentwickelt.

Technologie wirkt auch immer so, dass sich plötzlich Menschenbilder und Gesellschaftsbilder nach der Technologie formen. Das ist, glaube ich, keine ganz unwesentliche Folge der Digitalisierung, dass man sich selber schon wie ein Algorithmus versteht.  

Ja, oder zum Beispiel überwacht werden möchte.

Wie meinen Sie das jetzt? Durch Ihr bayerisches Auto? Das überwacht Sie ja auch.

Nein, ich meine das so, dass viele Menschen denken, sie fühlen sich sicher, wenn überall Gesichtserkennungskameras installiert sind. Zum Teil ist das auch richtig, zum Beispiel wenn ältere, gebrechliche Menschen, die alleine wohnen, stürzen und ein Computer das direkt dem Arzt meldet. Aber auf der anderen Seite gibt es auch ganze politische Systeme, die daran arbeiten, ihre Bürger ständig zu überwachen. Die chinesische Regierung möchte bis 2020 jedem Bürger einen Superscore zuordnen und das ist nicht ein Wert für Kreditwürdigkeit alleine, wie man ihn bei uns etwa von der Schufa bekommt, sondern da ist alles dabei, was man messen kann, zum Beispiel Strafzettel, die Sie mal bekommen haben, Ihr ganzes soziales Verhalten, mit wem Sie digital kommunizieren, Ihr politisches Verhalten, ob Sie etwa zu viele Nachrichten über Tiananmen Square oder Tibet nachlesen. Es ist ein soziales Kreditsystem.

Diejenigen, die sich angepasst verhalten ...

... erhalten Goodies, und die mit einem niedrigen Wert dürfen nicht mehr die schnellsten Züge benutzen oder nicht mehr fliegen, kriegen schwerer ein Visum oder deren Kinder dürfen nicht auf die besten Schulen. Das wird ein Selbstläufer, jeder kontrolliert jeden, Ihre Kinder werden Sie kontrollieren, wenn Sie da nicht mitmachen und nicht verstehen, warum sie Nachteile haben sollten.

Das perfekteste totalitäre System, was es jemals gegeben hat.

Die Chinesen würden den Begriff »totalitär« nicht verwenden …

Nein, die würden sagen »Harmonie«.

Genau, ein System der Harmonie, ein moralisches System, wo der Einzelne nicht mehr in erster Linie für sich selbst da ist, sondern für die Gemeinschaft. Was kann man dagegen sagen, wenn man Punkte kriegt, seine Eltern zu besuchen? Die chinesische Regierung verkauft das als ein Programm zur Stärkung der Moral der Bürger und gegen Korruption und das ist wahrscheinlich in einem gewissen Sinne auch richtig. Wir haben Berichte, dass rücksichtslose Autofahrer, die früher einfach die Fußgänger nicht über die Straße ließen, jetzt anhalten, weil sie fünf Punkte Abzug bekommen haben. Ich habe ein Interview mit einem gelesen, der hat gesagt: Ja, am Anfang hab ich das gemacht wegen der Punkte, aber jetzt ist es mir in Fleisch und Blut übergegangen. Ich bin ein höflicher Mensch geworden. Was wollen Sie denn mehr?

Super Sache!

Wir haben im Sachverständigenrat für Verbraucherfragen in unserem Gutachten Verbrauchergerechtes Scoring auf die Möglichkeit hingewiesen, dass in Deutschland etwas Ähnliches passiert. Nicht durch die Regierung, sondern durch die kommerzielle Industrie, die auch schon anfängt, alle möglichen Datenbanken zusammenzuführen, sodass man über jede Person ein Identifizier-File hat.

Das ist für Versicherungen interessant.

Nehmen Sie die Telematik im Auto. Eine eingebaute Blackbox ist im Moment noch teuer und daher messen viele Versicherungen Ihr Fahrverhalten mit Ihrem Smartphone. Die Versicherungen sind ganz offen, was sie da scoren, also Geschwindigkeitsübertretungen, abruptes Bremsen oder schnelles Anfahren. Stadtfahrten und auch Nachtfahrten sind ebenfalls negativ bewertet. Im Moment sind das alles Bonusprogramme. Sie können ja nur gewinnen damit. Aber man kann sich überlegen: Wie geht das weiter? In der Zukunft könnte man sich vorstellen, dass die Meldung direkt an die Polizei geht, dass Sie zu schnell gefahren sind, und Ihr Auto Ihnen zeitgleich online einen Strafzettel ausdruckt oder noch besser, den Betrag gleich von Ihrem Konto abbucht.

Oder wenn Sie zu schnell gefahren sind, das Ding einfach nicht mehr weiterfährt. Das Auto kann ja blockiert werden.

Oder es kann Sie in Untersuchungshaft bringen. Ihr Verhältnis zum Auto wird sich verändern.

Wie bei Monopoly: Gehen Sie direkt ins Gefängnis.

Wir brauchen hier eine gesellschaftliche Diskussion über unsere Werte. Wir wissen von den wenigen Studien, die es zum Sozialkreditsystem in China gibt, dass achtzig Prozent dafür sind, und das sind in der Mehrzahl die Gebildeten, nicht die Ungebildeten. Die Ungebildeten sind eher misstrauisch. Wir haben in einer Untersuchung des Sachverständigenrats für Verbraucherfragen den Deutschen auch die Frage gestellt, ob sie ein solches System möchten. Neunzig Prozent sind dagegen. Das heißt aber auch, dass zehn Prozent dafür sind. Bei der Frage nach der Zusammenführung einzelner Datenbanken wie Daten über ihr Gesundheits- und Verkehrsverhalten sind jedoch bis zu dreißig Prozent dafür. Das ist der Weg zum Superscore. Wir haben auch gefragt: Sind Sie dafür, dass Ihr Auto Geschwindigkeitsübertretungen direkt an die Polizei weiter meldet? Fünfundzwanzig Prozent der Deutschen sind dafür.

Das ist sehr bedenklich in einer Autofahrernation.

Das sind natürlich meistens Benutzer von öffentlichen Verkehrsmitteln.

Es gibt eine Entwicklung, dass man pausenlos alles bewerten soll.

Deswegen ist es etwas naiv zu denken: »Ja, diese Chinesen, was die da machen, seltsames Volk.« Wenn man nicht bemerkt, dass man selbst etwas Ähnliches tut und sich darüber freut, wenn man jetzt mehr Friends hat in seinem sozialen Netzwerk oder mehr Likes.

Zu unserer Vorstellung von einer freiheitlichen Gesellschaft passt das alles doch nicht?

Die staatliche Version passt nicht zu unserer Demokratie. Aber die Experimentierfreudigkeit im Vorgehen der chinesischen Regierung ist bemerkenswert und anders, als wir in der Demokratie das machen würden. Das Sozialkreditsystem wird derzeit in etwa vierzig Städten erprobt, wobei die einzelnen Städte verschiedene Wege versuchen, um es umzusetzen, sodass am Ende das Beste gefunden werden kann. Diese Experimentierfreudigkeit wird wahrscheinlich in einem ersten Schritt dazu führen, dass die Harmonie erhöht wird, das moralische Verhalten der Menschen »verbessert« wird und dass es auch einen weiteren ökonomischen Aufschwung geben wird.

Inwiefern?

Die Menschen werden nicht ihre Zeit verschwenden beim Videospielen, sondern mehr für die Gemeinschaft einbringen. Zweiter Schritt des möglichen Szenarios: Es wird Nachahmer geben von Staaten, die ähnlich strukturiert sind, also durch autoritäre Strukturen gekennzeichnet sind und die jetzt erkennen, dass es im 21. Jahrhundert eine digitale Alternative zur Demokratie gibt: das Einparteiensystem ohne den ökonomischen Niedergang, den man im Kommunismus oft hatte. Man kann ein digitales Softwareprogramm einkaufen und die Hardware dazu, um ein System zu haben, das der Bevölkerung genügend Anreize, aber auch dem Staat genügend Überwachung bietet, um die eigenen Bürger effizient zu machen. Und die mögen das am Ende auch noch.

Welche Länder sind Kandidaten für Sie?

Können Sie sich ausdenken: Thailand, Singapur, Nordkorea, aber auch Ungarn, Türkei, Polen. Oder viele afrikanische Staaten, wo die Chinesen sowieso effektivere Entwicklungshilfe leisten, als es vom Westen oft passiert. Und das könnte jetzt dann im dritten Schritt unseres möglichen Szenarios dazu führen, dass unsere Demokratien feststellen, dass sie im Vergleich zu dieser neuen Regierungsform der digitalen sozialen Kontrolle zu langsam sind im Entscheiden, dass sie zu ineffizient sind und zu oft mit uninformierten Entscheidungen zurechtkommen müssen, etwa dem Brexit. Die Frage ist, ob unsere Demokratie diese Konkurrenz überleben wird.

Wenn man nun eine Zukunft konstruieren würde, wo die demokratischen Gesellschaften die Digitalisierung einhegen. Was wären dann die Positiva, die das für unsere Welt bringt?

Meine Tochter hat jetzt gerade ein Jahr in Delhi verbracht, hier bieten digitale Medien eine wunderbare Möglichkeit, um persönlich in Kontakt zu bleiben. Auch in der Wissenschaft hat Technologie massive Vorteile, es gibt die Digitalisierung von ganzen Bibliotheken, sodass man heute Information sehr schnell suchen und finden kann.

Vieles von einer solchen Entwicklung ist nicht nur denkbar, sondern schon angelegt. Es geht mit Wucht in unsere Form von Gesellschaft rein, verändert die Verkehrsform, verändert die Kommunikation, verändert sogar die Selbstbilder. Was kann man denn jetzt politisch tun, um die Demokratie auch in Zeiten der Digitalisierung zu bewahren?

Der Sachverständigenrat für Verbraucherfragen hat dazu in seinen Gutachten mehrere Vorschläge gemacht. Etwa die kommerzielle Zusammenführung von Scores in Deutschland genau zu verfolgen und zu prüfen, inwieweit die neue europäische Datenschutz-Grundverordnung ausreichend ist, das zu verhindern. Bis hin zu ganz konkreten Vorschlägen, die den Menschen helfen, in einer digitalen Welt nicht so von außen gesteuert zu werden. Viele Menschen akzeptieren die allgemeinen Geschäftsbedingungen und klicken diese einfach weg, da diese viel zu lang und unverständlich sind. Warum führt man nicht die Regel ein, dass diese maximal fünfhundert Wörter lang sein dürfen und klar angeben, wohin die eigenen Daten übermittelt beziehungsweise verkauft werden. Man könnte von politischer Seite viel tun.

Wo aber ist der Hebel, um ein Momentum herzustellen für eine zivilgesellschaftliche Bewegung, die Politik unter Druck zu setzen in der Lage wäre?

Wir brauchen mehr Wähler, aber auch politische Parteien, welche für die Rechte der Menschen eintreten, digitale Technologien nutzen zu können, ohne in kommerzieller oder staatlicher Überwachung zu enden. Beispielsweise hat die SPD eine Chance laufen lassen, die sie gehabt hätte. Es war Martin Schulz, der die digitale Charta im europäischen Parlament vorgestellt hat. In seinem Wahlkampf kam das Thema nicht mehr vor.

Wird es noch eine Trendwende geben oder marschiert das Digitale durch?

Digitalisierung hat, wie andere technologische Revolutionen, das Potenzial, unsere Psyche, unsere Wünsche und unser soziales Leben zu verändern. Die Frage ist daher: Wie stark? In welche Richtung? Und: Wollen wir das zulassen? Statt die Dinge laufen zu lassen, brauchen wir eine Wertediskussion.