Karlsruhe zu hessischem Polizeigesetz: Polizei-KI wird etwas eingeschränkt

Das Bundesverfassungsgericht beanstandet das hessische Polizeigesetz, lässt aber eine Neuregelung zu. Bis Herbst hat die Landesregierung dafür Zeit.

Bei „Hessendata“ muss die Polizei Hessen nochmal nachbessern   Foto: Boris Roessler/dpa

Karlsruhe taz | Die hessische Regelung zur automatisierten Auswertung von Polizeidaten ist verfassungswidrig. Das entschied an diesem Donnerstag das Bundesverfassungsgericht. Die Eingriffsbefugnis erlaube der Polizei zu viel, ohne hohe Eingriffsschwellen zu benennen. Es komme nicht darauf an, dass davon bisher kaum Gebrauch gemacht wurde.

Seit 2017 nutzt das schwarz-grün regierte Hessen eine Software der CIA-nahen US-Firma Palantir zur Abwehr künftiger Gefahren. Im Original heißt die Software „Gotham“, in Hessen lautet der Name „Hessendata“. Eine Norm im hessischen Polizeigesetz erlaubt seit 2018 diese „automatisierte Datenanalyse“. In Hamburg und NRW gibt es ähnliche Normen, die aber nur in NRW auch genutzt werden. Bayern hat mit Palantir bereits ebenfalls einen Vertrag geschlossen. Andere Bundesländer können und wollen sich dem Vertrag anschließen.

Hessendata erlaubt eine schnelle Analyse von Informationen und Zusammenhängen. Wer kennt wen? Wer war wann wo? Dabei werden keine neuen Daten erhoben, sondern nur die Daten genutzt, die bei der hessischen Polizei bereits vorliegen. Er­mitt­le­r:in­nen müssen nicht mehr sieben Datentöpfe abfragen und dann die Treffer zusammenführen, das macht nun Hessendata.

Rund 14.000 Mal pro Jahr wird das Programm genutzt. Die von der Gesellschaft für Freiheitsrechte (GFF) koordinierten Klä­ge­r:in­nen (darunter die taz-Journalistin Katharina Schipkowski) hielten die polizeigesetzlichen Regelungen für unverhältnismäßig. Ihre Verfassungsbeschwerde hatte nun Erfolg.

Das Gericht stellt Verhältnismäßigkeit infrage

Auch wenn nur Daten analysiert werden, die bereits bei der Polizei vorhanden sind, werteten die Rich­te­r:in­nen dies als Eingriff in das Grundrecht auf informationelle Selbstbestimmung, weil die Polizei so neue Erkenntnisse gewinnen kann. Entscheidende Frage war, ob dieser Eingriff zu rechtfertigen ist.

Die Rich­te­r:in­nen halten das grundsätzlich für möglich. Schließlich fallen bei Ermittlungen zu Terror und Organisierter Kriminalität immer mehr Daten an, die nur noch automatisiert und nicht mehr manuell ausgewertet werden können. Entscheidend war wie stets bei staatlichem Handeln die Verhältnismäßigkeit.

Je problematischer ein Eingriff, desto konkreter muss die Gefahr und desto wichtiger das bedrohte Rechtsgut sein, so der Karlsruher Maßstab. Besonders problematisch seien Maßnahmen, die fehlerträchtig sind und die Gefahr von Diskriminierungen mit sich bringen oder die Persönlichkeit tief ausforschen. Problematisch sei auch, wenn softwaregestützte Verknüpfungen überhaupt nicht nachvollzogen werden können, wie etwa bei selbstlernenden Systemen der künstlichen Intelligenz.

Es gehe nicht um Praxis, sondern Möglichkeit des Eingriffs

All das wird vom Bundesverfassungsgericht aber nicht verboten, sondern an das Vorliegen einer „konkretisierten Gefahr für besonders gewichtige Rechtsgüter“ gebunden. Dieser Anforderung wird das hessische Polizeigesetz aber nicht gerecht. „Die Befugnisse lassen die automatisierte Verarbeitung unbegrenzter Datenbestände mittels rechtlich unbegrenzter Methoden zu“, kritisierten die Rich­te­r:in­nen und erklärten die entsprechende Norm daher für verfassungswidrig.

Dass derzeit weder künstliche Intelligenz eingesetzt noch das gesamte Internet ausgewertet wird, rette die Norm nicht, denn es gehe nicht um die Praxis, sondern um die „Möglichkeit“ des Eingriffs. Hessendata kann in begrenzten Ausnahmefällen noch bis 30. September genutzt werden. Spätestens bis dahin muss der hessische Landtag eine Neuregelung beschließen.