Chatkontrolle in der EU: Das verdächtige Bild
Ein Mann schickt auf ärztlichen Wunsch ein Foto seines Kindes, dann ermittelt die Polizei. Der Fall aus den USA ermöglicht Lehren für Europa.
Es ist eine Geschichte, die den Spruch „Wer nichts zu verbergen hat, hat nichts zu befürchten“ auf den Kopf stellt: Eltern entdecken bei ihrem Kind eine Infektion im Genitalbereich. Es ist Wochenende, Pandemie, und so weist das Pflegepersonal des telefonisch kontaktierten ärztlichen Dienstes die Eltern an, vorab Fotos zu schicken, die ein:e Ärzt:in zügig begutachten kann. Das daraufhin verschriebene Antibiotikum wirkt schnell. Zwei Tage nachdem der Vater die Fotos aufgenommen hat, erhält er eine Nachricht, dass Google seine Accounts gesperrt hat. „Harmful content“ lautet die Begründung: schädliche Inhalte. Googles Algorithmen haben seine Fotos als Missbrauchsbilder identifiziert, die Polizei startet daraufhin Ermittlungen.
Die New York Times hat diesen und einen ähnlichen Fall vor wenigen Tagen aufgeschrieben und die Recherche schlägt gerade hohe Wellen. Denn auch wenn der Fall sich in den USA zugetragen hat – in Deutschland wäre so etwas ebenso möglich. Auch hier scannen einige Anbieter von Cloud- und E-Mail-Diensten hochgeladene Inhalte. Und in Zukunft könnten derartige Fälle – harmlose Bilder, aus denen ein schwerer Verdacht entsteht – noch zunehmen: Denn die EU plant, dass auch Messenger-Dienste wie Whatsapp oder Signal dazu verpflichtet werden können, Inhalte auf mutmaßliche Missbrauchsabbildungen zu scannen. Dafür müssten Anbieter, die eine Ende-zu-Ende-Verschlüsselung anbieten, diese entweder brechen – oder die Inhalte vor dem Upload auf dem Endgerät der Nutzer:innen scannen. Der Widerstand gegen die Pläne ist groß, die ungelösten Probleme sind zahlreich: Was etwa, wenn autoritäre Staaten die Technologie nutzen, um nach unliebsamen politischen Inhalten suchen zu lassen? LGBTQIA+-Inhalte in Ungarn etwa?
Dementsprechend lädt der New-York-Times-Fall dazu ein, es sich einfach zu machen: mit dem Finger zu zeigen auf die Tech-Giganten mit ihrer problematischen Marktmacht und den intransparenten Algorithmen. Zwar wurden die Ermittlungen in dem beschriebenen Fall wieder eingestellt. Aber die Google-Konten des Betroffenen bleiben laut dem Bericht gesperrt – genau wie sein Mobilfunkanschluss, den er auch über Google bezogen hatte. Für Menschen, die von Mails über Musik bis zu Fotos und Kalendereinträgen ihr Leben einem Anbieter anvertrauen oder diesen gar nutzen, um sich bei anderen Diensten anzumelden, ist das ein echtes Problem. Eines, das Google-Nutzer:innen keineswegs exklusiv haben, bei Apple ist der goldene Käfig noch viel stabiler. Man kann auch mit dem Finger zeigen auf die Politik, die Big Tech zu wenig wirksame Maßnahmen entgegenstellt. Und das wäre alles richtig. Aber es reicht nicht. Denn in dieser Geschichte gibt es noch mehr Protagonisten, aus deren Verhalten sich einiges lernen lässt.
Dem Vater in dem eingangs beschriebenen Fall wurde zum Verhängnis, dass er seine Fotos und Videos – wie Android das den Nutzer:innen nahezu aufzwingt – in die Google-Cloud lud. Vermutlich wäre es ähnlich gelaufen, hätte er die Bilder per Gmail verschickt, denn auch hier scannt Google. Man kann das gut finden und im Sinne des Kinderschutzes, oder problematisch, weil damit immer wieder Unschuldige ins Visier geraten und alle Nutzer:innen unter Generalverdacht gestellt werden. Aber unabhängig davon: Wer sensible Daten von Dritten (und nichts anderes sind Bilder von unbekleideten Kindern, auch wenn es die eigenen sind) auf so angreifbaren Endgeräten wie Smartphones speichern will, sollte sich das besser zweimal überlegen. Smartphones können gehackt werden (gerade veraltete Android-Versionen), verloren gehen, geklaut werden und nicht immer sind die darauf befindlichen Daten dann vor dem Zugriff Unbefugter geschützt.
Medienbildung vorantreiben
Ja, das ist eine unbequeme Position in Zeiten, in denen Menschen dazu tendieren, etwas zu fotografieren, bevor sie es sich auch nur angeschaut haben. Und das eigene Verhalten zu überdenken und gegebenenfalls auf Gewohntes zu verzichten, ist nie leicht. Aber vielleicht lässt sich mit der eigenen Reflexion auch gleich Medienbildung verbinden: Die Kinder damit vertraut zu machen, dass sie gefragt werden, bevor man ein Foto von ihnen macht. Und die Antwort dann auch zu respektieren.
In dem US-Fall kam erschwerend hinzu, dass es um Gesundheitsdaten ging. Gesundheit, das ist für viele im Tech-Bereich das nächste große Ding, von smarten Kontaktlinsen bis zu Big Data. Google sammelt schon heute Gesundheitsdaten. Und wie üblich muss es dabei nicht gleich um konkrete Absichten gehen, sondern erst mal darum, alles zu nehmen, was man kriegen kann. Was eines Tages daraus wird? Das werden wir sehen. Wir, das sind auch alle, die schon mal Symptome gegoogelt haben, ein medizinisches Dokument von oder an einen Gmail-Account verschickt oder ein Foto von dem komischen Leberfleck gemacht haben, das dann in die Cloud synchronisiert wurde. Oder ganz andere Dinge, von denen wir uns heute noch nicht einmal ausmalen können, dass sie im Gesundheitsdatenkontext relevant werden. Wahrscheinlich werden Dienste wie Google in 30 Jahren eine umfassendere Krankheitshistorie eines Menschen präsentieren können, als es die Akte der eigenen Ärztin vermag, die schließlich nur einen Ausschnitt kennt.
Klar ist: „Wer nichts zu verbergen hat, hat nichts zu befürchten“ wird ein Klassiker bleiben aus dem großen Märchenbuch der Überwachungsliebhaber:innen. Je weniger Menschen ihn glauben, desto mehr Nutzen und desto weniger Schaden wird die Digitalisierung schaffen.
Links lesen, Rechts bekämpfen
Gerade jetzt, wo der Rechtsextremismus weiter erstarkt, braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit Polylux. Das Netzwerk engagiert sich seit 2018 gegen den Rechtsruck in Ostdeutschland und unterstützt Projekte, die sich für Demokratie und Toleranz einsetzen. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Noch bis zum 31. Oktober gehen 50 Prozent aller Einnahmen aus den Anmeldungen bei taz zahl ich an das Netzwerk gegen Rechts. In Zeiten wie diesen brauchen alle, die für eine offene Gesellschaft eintreten, unsere Unterstützung. Sind Sie dabei? Jetzt unterstützen
