„Dann lieber Totalüberwachung“

PROPHEZEIUNG Angenommen man weiß, jemand wird einen Mord begehen. Was macht man? Ihn mit einer Drohne überwachen? Tom Hillenbrand und Marc Elsberg schreiben Romane über eine Zukunft, in der sich menschliches Verhalten vorhersehen lässt. Die Zukunft scheint ihnen nah

Tom Hillenbrand

■ Sein Leben: 1972 als Thomas Hillenbrand geboren, besuchte er die Holtzbrinck-Journalistenschule und arbeitete bei Spiegel Online und der Financial Times Deutschland. 2011 erschien sein erster Kriminalroman. Er lebt in München und liest selbst kaum Krimis.

■ Sein Werk: In seinem Roman „Drohnenland“ (2014) entwirft Hillenbrand eine Zukunft, in der Computer die Fahndung übernehmen und Flugroboter jedes Wimpernzucken überwachen. In anderen Krimis wie „Teufelsfrucht“ (2011) ermittelt ein Sternekoch.

GESPRÄCH JOHANNES GERNERT UND DANIEL SCHULZ FOTOS THOMAS DASHUBER

sonntaz: Herr Elsberg, in Ihrem Roman „Zero“ wissen soziale Netzwerke so viel über Menschen, dass sie deren Handlungen manipulieren können. Kürzlich wurde bekannt, dass Facebook manchen Nutzern in den USA mehr positive Nachrichten angezeigt hat, um herauszufinden, ob sie davon bessere Laune kriegen. Haben Sie da Angst vor sich selbst bekommen?

Marc Elsberg: Nein, aber es war ganz amüsant zu lesen, wie aktuell das alles ist. Das Experiment, das bekannt wurde, ist zwei Jahre alt, wer weiß, was in der Zwischenzeit noch alles passiert ist. Kürzlich erst meldete Google, sie hätten eine Hacker-Einheit namens Zero gebildet. So heißt die Gruppe in meinem Buch.

Herr Hillenbrand, in den USA investieren große Unternehmen wie Amazon und Facebook gerade in das Geschäft mit Drohnen, auch die Europäische Union ermutigt dazu. In Ihrem Roman „Drohnenland“ sehen Drohnen immer und überall, was Menschen tun. Wie weit ist diese Zukunft entfernt?

Tom Hillenbrand: Als Amazon oder DHL propagiert haben, dass man mit Drohnen Bücher oder andere Sachen ausliefern könnte, wurde auch den Massen klar, dass sich da unter der Oberfläche in den vergangenen Jahren extrem viel getan hat. Wenn man sich ansieht, wie viele Drohnen es weltweit gibt, auch im Militär, und wie stark die Preise gefallen sind, dann ist es keine Hellseherei anzunehmen, dass die sich noch mehr durchsetzen werden.

In „Drohnenland“ ist der Einzelne durch die Spuren, die er hinterlässt, so vorhersehbar, dass die Polizei Führungszeugnisse für die Zukunft errechnet.

TH: Nach dem Motto: Aufgrund seiner sozialen Kontakte liegt für diesen Menschen die Wahrscheinlichkeit eines Raubüberfalls in den nächsten zehn Jahren bei neunzig Prozent. Jetzt müsste man sich mal vorstellen, wir wüssten: Sie werden nächste Woche mit fünfundneunzigprozentiger Wahrscheinlichkeit einen Mord begehen.

ME: Was machen wir jetzt mit Ihnen?

TH: Sagen wir mal, wir machen nichts. Sie haben ja noch nichts getan. Erst wenn Sie etwas getan hätten, könnte man Sie belangen. Sie morden also, obwohl man es ahnt, und am nächsten Tag steht in der Bild-Zeitung: Die Polizei hat es gewusst. Das passiert genau ein Mal. Danach werden alle weggesperrt, auf die diese Prognose zutrifft.

Aber verhindert nicht genau die Prognose ihr Eintreffen?

TH: Das ist ein interessantes Paradox. Indem wir es beobachten, verändern wir die Situation. Für die Allgemeinheit ist das aber viel zu kompliziert. Wenn Sie die Leute auf der Straße fragen: Sollten wir handeln, wenn wir von jemandem mit einer hohen Wahrscheinlichkeit wissen, dass er eine schwere Straftat begehen wird? Alle werden sagen: ja!

ME: Klar, neunzig Prozent der Leute werden sagen: Sperr ihn weg.

TH: Jeder bekommt dann eine Drohne hinterhergeschickt oder einen Sozialarbeiter. In den USA gibt es schon das sogenannte predictive policing.

ME: In bestimmten US-Gefängnissen werden manche Häftlinge gar nicht mehr vor die Untersuchungskommission gelassen, weil ihre Muster voraussagen, dass sie in, sagen wir mal, achtzig Prozent der Fälle in drei Jahren wieder rückfällig werden.

TH: Die werden aussortiert.

ME: Das hieße aber nur, dass von hundert achtzig rückfällig werden – und zwanzig nicht. Man weiß bloß nicht, wer die zwanzig sind. Die sind schuldig gesprochen, ohne schuldig zu sein.

Sie suggerieren, den Mord präventiv zu verhindern, sei der falsche Ansatz. Was wäre der richtige?

ME: Darüber müssen wir diskutieren. Und zwar schnell, bald ist es so weit.

TH: Straftaten sind nur das Extrembeispiel. Theoretisch könnte ich in zwanzig Jahren sagen: Diese Schriftstellerei ist so fad, ich will Löwenzähmer werden. Dann spuckt mir der Computer aus: Auf Basis deiner bisherigen Erfahrung hast du eine Chance von exakt fünf Prozent, ein erfolgreicher Löwenzähmer zu sein. Heute sagt einem das nur die eigene Mutter. Wenn dir aber der Chef erklärt, aufgrund bestimmter Daten wirst du auf Abteilungsleiterebene mit sehr hoher Wahrscheinlichkeit scheitern, wäre das eine Welt, in der die Daten uns in der Vergangenheit festketten. Darf man diese Daten also ewig benutzen? Oder muss man sie ab und zu löschen, vergessen?

ME: Technisch wäre es möglich, ein Verfallsdatum einzubauen.

TH: Jeder hat irgendein blödes, kompromittierendes Bild. Wenn so was wieder hochgespült wird, müssen wir uns vielleicht einen lockereren Umgang mit unserer Vergangenheit angewöhnen. Das wäre sehr undeutsch.

Mark Zuckerberg, der Facebook-Chef, argumentiert: Soziale Normen ändern sich. Irgendwann wirst du im Bewerbungsgespräch schief angeschaut, wenn es keine Partybilder gibt, die dich besoffen zeigen.

ME: Sind Sie zu verklemmt, oder was? Sozial inkompetent?

TH: Hast du etwa noch nie einen Porno gedreht?

Nutzen Sie privat Facebook oder Twitter?

TH: Alles.

Posten Sie Urlaubsbilder?

TH: Nein.

ME: Nein.

Trainieren Sie sich datenstrategisches Verhalten an, das mögliche Konsequenzen einkalkuliert, weil das, was Sie heute tun, schon morgen gegen Sie verwendet werden kann?

TH: Bevor ich Krimiautor wurde, habe ich als Journalist gearbeitet. Da war ich mal für die Deutsche Telekom zuständig. Damals schon haben mir meine Kontakte aus dem Unternehmen gesagt: Ich spreche gern mit Ihnen, aber dafür muss ich mir erst ein Prepaid-Handy von E-Plus besorgen. Ich dachte: Jetzt knallt ihr aber völlig durch. Jahre später hat sich herausgestellt, dass das eine gute Idee war, weil die Telekom tatsächlich ihre Handylisten abgeglichen hat mit Journalistennummern, um die Maulwürfe im Unternehmen zu finden.

Welche Konsequenzen haben Sie gezogen?

TH: Alles, was sensibel war, kam auf einen Block und der wurde eingeschlossen. Natürlich hätte dann noch jemand durch fünf Türen einbrechen können. Aber nicht digital. Digital ist flüchtig. Eric Schmidt von Google ist ja sehr für den Satz kritisiert worden, wenn man nicht wolle, dass bekannt werde, dass man etwas tut, solle man es besser lassen. Inzwischen ist das fast so. Ich bin immer erstaunt, wie viele Kinder und Wohnungseinrichtungen ich auf Facebook sehe. Das geht alles nie, nie wieder weg. Das muss man sich klarmachen.

Wir haben alle Smartphones.

TH: Die schlimmste Wanze von allen.

Mal darüber nachgedacht, sie abzuschaffen?

ME: Nee!

TH: Schwierig, ’ne? Ich hab mal Facebook deinstalliert. Und Programme, bei denen ich das Gefühl hatte, zwanghaftes Verhalten entwickelt zu haben und zu häufig reinzuschauen. Aber so ohne Telefon und E-Mail …

ME: Ich müsste ja alles abschalten. Meine Daten werden seit Jahren gesammelt. Kreditkarten, Bankkarten.

TH: Ein Navi im Auto?

ME: Ich bin wahnsinnig viel unterwegs in Deutschland, ich kenne mich da nirgends aus. Wie soll ich ohne Navi fahren? Ich müsste auf eine Karte schauen, neben mir auf dem Beifahrersitz, und hätte wahrscheinlich schon hundert Unfälle gebaut.

TH: Ein Falk-Faltplan? Dann lieber Totalüberwachung!

Marc Elsberg

■ Sein Leben: 1967 als Marcus Rafelsberger in Wien geboren, studierte er Industriedesign und wurde Strategieberater und Kreativdirektor für verschiedene Werbeagenturen. Er kolumnierte für die Zeitung Standard und debütierte 2000 mit einem Roman.

■ Sein Werk: In seinem Thriller „Zero“ (2014) verspricht das allwissende soziale Netzwerk FreeMe, die Leben seiner Mitglieder zu optimieren, bis manche sterben. Eine Hackergruppe kämpft dagegen. „Blackout“ (2012) war Elsbergs erster Bestseller.

ME: Wie soll ich mich alledem denn entziehen? Wenn ich heute in einem Supermarkt bin, glaubt da ernsthaft jemand, die Kameras halten nur nach Taschendieben Ausschau? Die arbeiten längst mit Gesichtserkennung und schauen sich an, welches Produkt ich mir genauer ansehe, gleichen das mit meinen Handydaten ab und erstellen daraus Profile. Um dann nächste Woche die blauen T-Shirts da hin zu hängen, wo die Leute sie auch wirklich sehen und kaufen wollen.

TH: Der Deutsche ist da halt auch wahnsinnig aufgeregt. Sebastian Haffner, glaube ich, sagt, die spezifische Dummheit des Deutschen fußt nicht auf einem Mangel an Intelligenz, sondern einem Übermaß an Emotion. Es ist immer alles sehr hysterisch. Wenn so ein Umräumen von T-Shirts den Unternehmen hilft, ihren Umsatz zu steigern, ist mir das völlig wurscht. Das Schlimmste, was Unternehmen wollen, ist mir noch eine Lebensversicherung zu verkaufen oder noch mehr T-Shirts. Die wollen kein totalitäres System errichten. Es gibt Staaten, die das wollen, aber nicht Nike oder Apple.

In einer Szene aus „Drohnenland“, Herr Hillenbrand, will der Kommissar den Algorithmen entkommen, die seine Wege prognostizieren. Er versucht, unkalkulierbar zu werden. Denken Sie manchmal ähnlich, wenn Sie sich im Netz bewegen?

TH: Ich verschlüssele, gehe aber trotzdem davon aus, dass alles mitgelesen wird. Natürlich deformiert das eine Gesellschaft, wenn es fast keine privaten Räume mehr gibt. Jeder darf zwar sagen, was er möchte. Es wird nur alles irgendwo gespeichert. Aber wer sagt denn, dass dieses Land in dreißig Jahren noch ein Rechtsstaat ist? Das ist das Szenario, vor dem ich die meiste Angst habe. Wenn ein totalitäres Regime über vierzig Jahre Daten verfügt, ist es leicht zu sagen: Linksabweichler, Schwule, die identifizieren wir jetzt mal alle.

ME: Es muss nicht mal ein totalitäres Regime sein, wenn man sich anschaut, wie sich Wertvorstellungen in Demokratien verändert haben. Vor siebzig Jahren durfte man als Homosexueller in einer westlichen Demokratie seine sexuelle Orientierung nicht ausleben. Wir reden auch nicht nur vom Internet. Die Daten sind ja überall, auf Kundenkarten, in Dateien von Datensammelkonzernen wie Axciom. Ich versuche das immer mit dem Beispiel des Wasserglases zu zeigen. Wir sind alle so durchsichtig wie die Wassertropfen in einem Glas. Aber wenn ich jetzt versuchen würde, mich dem zu entziehen, also beschließe, eine Luftblase zu sein, wen sehe ich denn dann besser? Auch der Verweigerer ist als solcher längst durchschaubar. Vielleicht sogar durchschaubarer.

TH: Wie der spanische Herr, der seine Hypothek nicht abstottern konnte und darum gegen Google geklagt hat. Jetzt kennt ihn jeder.

Er wollte verhindern, dass Google weiterhin den Link zu einem Zeitungsartikel zeigt, in dem es um ihn und die Pfändung einer Immobilie geht. Seit Kurzem können auch wegen dieses Mannes Löschanträge bei Google gestellt werden. Haben Sie was löschen lassen?

ME: Es würde nichts daran ändern, dass es irgendwo einen Haufen Profile über mich gibt.

TH: Google löscht es auch nicht. Die nehmen es bloß bei google.de aus der Trefferliste. That’s it. Bei google.com bleibt es.

ME: Was interessant ist: Wir sind gezwungen, auf diese Technologien zu reagieren. Wie kann ich das unberechenbare Teil in dieser berechenbaren Welt sein?

Die Menschheit arbeitet ja eigentlich seit Urzeiten darauf hin, das Unberechenbare auszuschalten, durch Gebete, später durch Versicherungen. Warum haben wir Angst vor der Abschaffung des Zufalls?

TH: Eine diverse Gesellschaft, darüber gibt es durchaus ernstzunehmende anthropologische Studien, scheint ein relativ hohes Innovationspotenzial zu haben. Das wird wahrscheinlich nicht besser, wenn man alles misst und alle auf die gleiche Höhe stutzt. Insofern halte ich den Zufall für erhaltenswert. Ich glaube auch nicht, dass er sich so einfach ausschalten lässt. Vielleicht fangen die Computer irgendwann an zu entscheiden, ohne dass wir das steuern können.

ME: Es werden jetzt schon Programme angewendet, deren Entscheidungen Menschen nicht mehr nachvollziehen können. Lernende Programme, die bald selbst eigene Programme entwickeln werden. Es ist aber schwierig, da den Zufall einzubauen. Letztendlich bewegen sich solche Programme zwischen eins und null. Es gibt kaum echte Zufallsgeneratoren, trotz verschiedenster Versuche, etwa mit Sonnenpartikeln, die relativ zufällig auf die Erde treffen. Für Verschlüsselungen beispielsweise wird der Zufall ja gebraucht. Auch da ist es schwierig, ihn zu integrieren, weshalb man manchmal zufällig mit den Fingern übers iPad wischen soll.

TH: Wobei ich gar nicht weiß, ob es wirklich zufällige Bewegungen gibt.

Warum ist es so schwierig, den echten Zufall maschinell zu erzeugen?

ME: Das Unberechenbare ist eben nicht berechenbar.

Man könnte bei manchen Entscheidungen eine Münze werfen, um unberechenbarer zu werden.

ME: Ich glaube, dass der Mensch zu einem gewissen Grad unberechenbar bleibt. Bei diesen Voraussagen reden wir von Wahrscheinlichkeiten, nie von hundertprozentigen Sicherheiten. Dieser Rest Unsicherheit ist das Unberechenbare. Der Anteil wird natürlich schrumpfen.

Bis die Unsicherheit getilgt ist?

ME: IT-Fachleute sagen: Dem maschinellen System ist Normierung in die Gene geschrieben. Je beherrschender es wird, desto weniger wird es Kreativität und Neuerungen schaffen. Es wird sich nicht mehr verbessern können. Aber irgendwann wird klar werden, dass das notwendig ist. Dann wird das verrückte Moment wieder wichtiger werden.

TH: Die Technologie wird uns außerdem helfen. Der Kommissar in „Drohnenland“ besitzt einen Privatizer, ein Gerät, das so viel Stördaten erzeugt, dass es ihn eine Zeit unsichtbar macht. So könnte man sich eine Software vorstellen, die in meinem Namen sinnlos Webseiten besucht oder behauptet, bei Amazon in meinem Namen hundert Paar Strapse bestellt zu haben. Die also wieder dafür sorgt, dass mein Datensatz geschrottet wird, diffuser, unsauberer wird. Solche Strategien gibt es schon. Es ist ein technologisches Wettrennen.

Können sich damit in Zukunft nur noch Hacker wehren, eine technologisch versierte Elite?

ME: Sich zu wehren, ist sehr schwierig. Ich kenne einen Programmierer, der für Rüstungskonzerne oder die Finanzindustrie arbeitet. Der hat früh erkannt, was da passiert. Schon vor zwanzig Jahren fing er an, falsche Spuren zu legen. Als es aber vor einigen Jahren darum ging, einen großen Auftrag eines Rüstungsunternehmens zu bekommen, haben die gesagt: Wir können Ihnen das nicht geben, wir wissen über Ihren Chefentwickler zu wenig. Der wahre Hack muss ein sozialer Hack sein und kein technischer.

Zum Beispiel?

ME: Was das Netz angeht, gibt es sicher ein paar simple Methoden, um Konzerne zu ärgern. In Deutschland hat ja jeder das Recht, Auskunft über seine Daten zu erlangen. Hunderte Unternehmen sammeln diese Daten. Auf der Seite selbstauskunft.net kann man sie anfordern. Man hat das Recht, die Daten korrigieren zu lassen, wenn welche falsch sind, was häufiger passiert. Das geht meist noch nicht automatisiert. Da müssen die Unternehmen jemanden hinsetzen, um das von Hand zu erledigen. Jetzt stelle man sich mal vor, dreißig Millionen Deutsche lassen ihre Daten korrigieren. Die Firmen müssten Hunderte oder Tausende Leute damit beschäftigen.

Es wäre ein Ausdruck der Macht von Ad-hoc-Schwärmen.

ME: Es bräuchte eine breite Bewegung, eine breite Diskussion. So wie zu Zeiten der Demokratisierung sich Parteien gebildet haben, zu Zeiten der Industrialisierung Gewerkschaften. Wo der Einzelne in der Masse dann doch plötzlich etwas bewegen konnte.

TH: Tja, die Piraten waren wohl nix.

ME: Die haben das definitiv nicht auf die Reihe gebracht, das muss man leider sagen. Es ist ja auch schwierig, die Bedrohungen bei dem Thema für die Leute erlebbar zu machen. Bei meinem Vorgängerthriller „Blackout“ war es für mich sehr einfach, eine Fallhöhe herzustellen. Du schaltest den Strom ab, die Leute haben nichts mehr zu fressen und zu trinken und krepieren. Das ist für jeden recht einfach nachzuvollziehen. Die unmittelbare Gefahr in so einer Online-Geschichte darzustellen, ist wesentlich schwieriger. Davon aber lebt nun einmal ein Thriller, von der körperlichen, physischen, psychischen Bedrohung.

„Keine Zivilisation ohne soziale Stabilität. Keine soziale Stabilität ohne individuelle Stabilität“

ALDOUS HUXLEY, „SCHÖNE NEUE WELT“ (1932)

„Wer die Vergangenheit kontrolliert, kontrolliert die Zukunft: Wer die Gegenwart kontrolliert, kontrolliert die Vergangenheit“

GEORGE ORWELL, „1984“ (1949)

„Willst du einen Mann politisch nicht verstören, zeig ihm nicht zwei Sichtweisen. Zeig ihm eine. Besser keine“

RAY BRADBURY, „FAHRENHEIT 451“ (1953)

„Wer den Göttern auffällt, den zerstören sie. Mach dich klein und du entrinnst der Missgunst der Mächtigen“

PHILIP K. DICK, „DAS ORAKEL VOM BERGE“ (1962)

„Cyberspace. Eine gemeinsame Halluzination, die Milliarden Anwender täglich erfahren“

WILLIAM GIBSON, „NEUROMANCER“-TRILOGIE (1985–1988)

„Geheimnisse sind Lügen. Teilen heißt mitfühlen. Datenschutz ist Diebstahl“

DAVE EGGER, „THE CIRCLE“ (2013)

Manchmal müssen Sie in dieser Post-Snowden-Welt den Eindruck kriegen, die Realität überholt Ihre Fiktion. Ist Science Fiction da überhaupt noch möglich?

ME: Mein Buch „Zero“ ist keine Science-Fiction, im Wesentlichen ist das Gegenwart. In „Zero“ gibt es ein Unternehmen, das einem erlaubt, seine Daten selbst zu verwerten, im Gegensatz zu Facebook oder Google. Solche Unternehmen drängen gerade zu Dutzenden auf den Markt.

TH: Eine Erwartungshaltung ist ja oft, Science-Fiction sei eine futurologistische Prognose. Es ist aber weder ein Prognoseinstrument, noch will es eines sein. Es ist immer nur ein Ausschnitt, eine Ableitung. Es ist keine fortgeschriebene Zukunft. Man könnte mein Buch sogar als Paralleluniversum lesen.

In Ihren Büchern sind Computer, die Vorhersagen über das menschliche Verhalten treffen, mächtig. Aber es gibt immer einen mächtigen Mann, der sie dann doch kontrolliert. Heißt das, Sie haben keine Angst vor der Herrschaft der Maschinen, sondern vor der des Menschen?

ME: Jein. Momentan beginnen wir schon, die Kontrolle zu verlieren. Kein einzelner Mensch weiß, wie der Google Page Rank die Treffer anordnet. Das System ist längst zu komplex. Dadurch, dass immer mehr Programme, die immer komplexer werden, immer mehr Dinge regeln, haben wir die Übersicht jetzt schon verloren.

TH: Google etwa hatte das Problem, dass die Zeit nicht auf all seinen über die Welt verteilten Servern gleich war. Selbst kleinste Abweichungen erzeugen da größte Probleme. Deswegen haben sie neue Server mit einer eigenen Cäsiumuhr entwickelt. Das ist ein so komplexes kybernetisches System, dass einzelne Programme die Steuerung übernehmen. Das kann ein Mensch alles gar nicht, weil …

ME: … alles viel zu schnell läuft, viel zu komplex …

TH: … ja, weil wir hier von Millisekunden reden. Das System ist inzwischen so komplex, dass es keinen mehr gibt, der den kompletten Überblick hat.

ME: Das sind Systeme, die für unsere Sinne nicht mehr überschaubar sind.

TH: So wie das Wetter. Ein komplexes System. Ab und zu ärgert man sich drüber, man kann es nur nicht ändern.

ME: Aber es sitzt nicht einer da oben und sagt, auf die beiden haue ich jetzt einen Blitz hinunter, weil die mir nicht passen …

TH: … na, das wäre noch zu diskutieren.

An welche Zukunft glauben Sie denn? An eine, in der Menschen mit intelligenten und halbintelligenten Maschinen koexistieren?

ME: Daran muss ich nicht glauben, das tun wir heute bereits.

TH: Würden Aliens die Welt von oben betrachten, hat mal jemand gesagt, würden sie zumindest in der sogenannten westlichen Welt lauter Menschen sehen, die alle so kleine Rechtecke in der Hand haben. Die Menschen tun, was die Rechtecke ihnen sagen. Wenn das Rechteck piept, halten sie es an ihr Ohr. Wenn es ihnen den Weg zeigt, folgen sie. Als Alien könnte man auf die Idee kommen, dass das eine Symbiose ist und diese Dinger die Menschen steuern. Alles eine Frage der Sichtweise.

■ Johannes Gernert, 34, ist sonntaz-Redakteur und hat seine Daten schon untersucht: taz.de/snowden

■ Daniel Schulz, 35, ist sonntaz-Redakteur und war noch nie bei Facebook

■ Thomas Dashuber, 42, ist Fotograf in München und hat ein Smartphone, hätte aber lieber keins