Juristin über KI in der Polizeiarbeit: „Belanglosigkeiten können reichen, verdächtigt zu werden“

Das Hamburger Polizeirecht muss nach der Klage einer taz-Redakteurin geändert werden. Simone Ruf hält auch den neuen Entwurf für verfassungswidrig.

Landet sofort in einer Datenbank: abfotografierter Personalausweis Foto: Frank Molter/dpa

taz: Nach Ihrer erfolgreichen Verfassungsklage hat der Hamburger Senat einen neuen Vorschlag für das Polizeirecht vorgelegt. Der Entwurf schaffe den Spagat zwischen Freiheit und Sicherheit, findet der Polizeibeauftragte des Bundestages, Uli Grötsch (SPD). Sehen Sie das auch so?

Simone Ruf: Die Regelung zur automatischen Datenauswertung durch die Polizei geht zulasten der Freiheit und zugunsten einer vermeintlichen Sicherheit. Dabei ist gar nicht erwiesen, welchen Mehrwert die Datenanalysesysteme der Polizei haben. Es gibt immer nur Anek­doten dazu, dass mit der Software in bestimmten Bundesländern Täter gefasst oder Taten verhindert wurden. Und über die Fehlerquote wissen wir nichts.

taz: Um was für eine Software handelt es sich?

Ruf: In einigen Bundesländern wird die US-amerikanische Software Palantir verwendet. Damit können verschiedene polizeiliche Datenbanken zusammengeführt und analysiert werden. Der Hersteller wirbt damit, dass es sich um eine Anwendung mit künstlicher Intelligenz handelt. Damit werden sehr viele Verknüpfungen zwischen den vorhandenen Daten hergestellt.

taz: Ist das nicht sinnvoll? Bei der Bekämpfung des Rechtsextremismus wurde ja etwa bemängelt, dass die eine Polizeibehörde nicht wusste, was die andere tat.

Im Interview: Simone Ruf

31, ist Juristin und Verfahrens­koordinatorin bei der Gesellschaft für Freiheitsrechte (GFF). Außerdem ist sie Co-Chefin des Center for User Rights gegenüber Online-Platt­formen.

Ruf: Grundsätzlich sollte der Informationsaustausch zwischen den Behörden gewährleistet sein. Aber wie oft hilft die Software gerade nicht weiter oder führt zu einem falschen Ergebnis? Zugleich gehen damit massive Grundrechts­eingriffe einher, insbesondere ein großes Risiko, dass Personen, die noch nie einen Anlass zu polizeilichen Maßnahmen gegeben haben, ins Visier geraten. Die Polizei hat durch ihre Vorgangsverwaltungssysteme von fast allen Menschen Daten. Dort landet man auch, wenn man einen Verkehrsunfall hatte oder das Fahrrad geklaut wurde und man das angezeigt hat. Wenn diese Einträge mit anderen Daten verknüpft werden und per Software nach Mustern gesucht wird, kann man schnell selbst ins Visier geraten. Dann können schon belanglose Merkmale ausreichen, um verdächtigt zu werden. Denn wie die KI zu ihren Einschätzungen kommt, ist letztlich eine Blackbox und kann am Ende von Be­am­t*in­nen nicht nachvollzogen werden.

taz: Sollte es so eine automatische Datenanalyse gar nicht geben?

Ruf: Aus einer politischen Perspektive würde ich sagen, sie sollten nicht eingesetzt werden, solange nicht wissenschaftlich erwiesen ist, dass sie wirklich einen Nutzen haben. Aus einer rechtlichen Perspektive hat das Bundesverfassungsgericht klargestellt, dass solche Befugnisse geschaffen werden können, aber unter ganz strengen Voraussetzungen.

taz: Was gehört zu diesen Voraussetzungen?

Ruf: Unter anderem der Grundsatz der Zweckbindung. Für einen bestimmten aktuellen Zweck dürfen nur Daten zusammengeführt und analysiert werden, die man auch für diesen Zweck hätte erheben dürfen. Daten aus schwerwiegenden Grundrechtseingriffen dürfen nicht verwendet werden, um lapidare Gefahren abzuwehren, weil man sie dafür nicht hätte erheben dürfen. Das muss technisch-organisatorisch abgesichert werden. Der Hamburger Gesetzgeber sieht das zwar vor, aber ohne eine ausreichende Anleitung für die Verwaltung, die das umsetzen muss. Das wäre aber zwingend, weil es um Grundrechtseingriffe geht.

taz: Wie muss man sich so eine technische Absicherung vorstellen?

Ruf: Das System muss erkennen, welchen Zwecken Daten zugeordnet sind, und je nachdem, um was für eine Art von Ermittlung es sich handelt, erhält der einzelne Polizist einen mehr oder weniger umfangreichen Zugriff. Ein Problem ist, dass dabei auch auf die erwähnten Vorgangsdaten zugegriffen werden soll. Zwar sollen nach der Neuregelung die Vorgangsdaten Unbeteiligter ausgesondert werden. Allerdings kann bei den Vorgangsdaten nicht zwischen Beteiligten und Unbeteiligten unterschieden werden. Sie sind ein Hilfsmittel zur internen Verwaltung, bei dem nicht festgelegt ist, wie Personen einzuordnen sind. Deswegen bleibt eigentlich nur die Möglichkeit, die Vorgangsdaten insgesamt nicht einzubeziehen.

taz: Wenn man die Vorgänge rausnimmt: Was bleibt denn dann noch übrig?

Ruf: Die ganzen anderen Datenbanken. In dem Gesetzentwurf sind ganz verschiedene Datenbestände aufgezählt: Falldaten, Auskunftssysteme, Daten aus der Telekommunikationsüberwachung, Daten aus Asservaten, also zum Beispiel aus USB-Sticks. Das Vorgangsdatensystem ist nur ein Teil der polizeilichen Arbeit, aber neben den Verkehrsdaten eines, in dem sehr viele Daten von Unbeteiligten stecken.

taz: Wer stellt sicher, dass sich die Polizei an die Regeln hält?

Ruf: Es wäre wichtig, eine datenschutzrechtliche Aufsicht zur Pflicht zu machen. Der Datenschutz kompensiert, was Betroffene nicht an individuellem Rechtsschutz haben. Die bekommen es im Zweifel gar nicht mit, ob sie analysiert werden. Bei anderen polizeilichen Maßnahmen ist der Hamburgische Datenschutzbeauftragte verpflichtet, mindestens alle zwei Jahre zu kontrollieren. Bei der Datenanalyse ist das bisher nicht vorgesehen. Die Kontrolle wäre viel effektiver, wenn daraus eine Pflicht würde.

taz: Was ist gut an dem Gesetzentwurf?

Ruf: Es ist gut, dass die Eingriffsschwellen etwas höher gesetzt wurden. Vorher war das sehr offen formuliert. Man wusste gar nicht, wie viele oder eher wie wenige Anhaltspunkte die Polizei eigentlich braucht, um automatisiert Daten analysieren zu dürfen. Die Eingriffsschwelle ist jetzt immer noch zu niedrig, aber immerhin klarer. Es ist gut, dass das System nicht an das Internet angebunden ist. Man kann sich vorstellen, dass nicht nur die Daten analysiert werden, die bei der Polizei vorliegen, sondern man das komplette Netz mit hereinnimmt. Das wäre ein extremer Eingriff und verfassungsrechtlich wohl kaum vertretbar. Es ist gut, dass das explizit ausgeschlossen wurde.

taz: Aber wenn ich als Polizist ermittle, werde ich doch alle Quellen nutzen …

Ruf: Das sind zwei unterschiedliche Sachen: Natürlich recherchiert die Polizei im Internet. Aber das geschieht nicht automatisiert. Ebenfalls positiv ist, dass keine Daten aus Online-Durchsuchung und heimlicher Wohnraumüberwachung dabei sind. Aber auch da hätte man weitergehen können, weil heimliche Wohnraumüberwachung und Online-Durchsuchung fast nie stattfinden, und anderes viel öfter: Telekommunikationsüberwachung, Observationen, verdeckte Ermittler. Daten hieraus werden nicht ausgeschlossen.

taz: Wenn der Gesetzentwurf so durchgehen sollte: Werden Sie eine erneute Klage unterstützen?

Ruf: Wir werden den veränderten Entwurf ausführlich prüfen und behalten uns vor, ein weiteres Mal zu klagen. In meinen Augen ist der Gesetzentwurf, so wie es jetzt aussieht, nicht verfassungskonform.