Überwachung und digitale Sicherheit: Europäische Gesichtserkennung für brasilianische Schulkinder
Eine slowakische Software scannt täglich Hunderttausende Kinder in Paraná. In Europa sind solche Systeme kaum denkbar – exportiert werden sie trotzdem problemlos.
Der Unterricht an 1.700 Schulen im südbrasilianischen Bundesstaat Paraná beginnt mit einem Ritual: Die Lehrkraft öffnet eine App, fotografiert das Klassenzimmer, und in Sekunden gleicht ein Algorithmus die Gesichter mit einer biometrischen Datenbank ab. Wer erkannt wird, gilt als anwesend. Seit 2023 ist diese Gesichtserkennung in Paraná im Einsatz, um täglich fast eine Million Kinder zu identifizieren.
Doch das System irrt. Eine Lehrerin erzählt von einer Schülerin, die im Unterricht war, sich aber in der App als abwesend fand. „Ich markiere sie nicht als abwesend“, habe der Lehrer gesagt. „Das macht die Kamera.“ Für manche Familien ist so ein Fehler fatal. Denn die Sozialleistung Bolsa Família hängt vom Schulbesuch der Kinder ab. In Paraná werden diese Daten weitgehend von einem Algorithmus erzeugt.
Entwickelt wurde die Software von dem slowakischen Unternehmen Innovatrics. Das kann eine Recherche von Investigate Europe zeigen, die in Deutschland exklusiv in der taz erscheint. In der EU wäre ein vergleichbarer Einsatz hochproblematisch. Schwedens Datenschutzbehörde verhängte 2019 ein Bußgeld gegen eine Schule, die 22 Schüler:innen per Gesichtserkennung erfasst hatte. Die Begründung: Kinder könnten der biometrischen Überwachung nicht frei zustimmen, weil das Machtgefälle zu groß sei. Im französischen Marseille stoppte ein Gericht im Jahr 2020 zwei Pilotprojekte an Schulen aus ähnlichen Gründen.
Der Text ist Teil der Sonderbeilage der taz panterstiftung zum Tag der Pressefreiheit am 3. Mai, die zusammen mit der wochentaz erschienen ist. Das Oberthema ist Technologie und Pressefreiheit. Die Publikation wird nur durch Spenden finanziert. Vielen Dank für Ihre Unterstützung! Alle Texte aus der Beilage erscheinen auch auf taz.de im Schwerpunkt Pressefreiheit.
Die EU hat mit der DSGVO und dem KI-Gesetz von 2024 Gesichtserkennung streng reguliert, aber nicht grundsätzlich verboten. Der Export der Technologie in Drittstaaten ist nicht beschränkt. Das Europäische Parlament hatte ein Ausfuhrverbot für in der EU als „inakzeptabel“ eingestufte Systeme gefordert, konnte sich aber nicht durchsetzen.
Caitlin Bishop von Privacy International verweist darauf, dass Brasiliens Datenschutzgesetz dem europäischen ähnelt: „Aber bei der Durchsetzung gibt es ein riesiges Problem.“ Die zuständige Behörde verhängt Sanktionen erst seit 2023.
In Paraná trieb der frühere Bildungsminister Renato Feder, zuvor Tech-Unternehmer, die Digitalisierung der Schulen voran. 2022 unterzeichnete die staatliche IT-Firma Celepar einen Vertrag mit dem brasilianischen Dienstleister Valid, der Innovatrics ins Boot holte. Innovatrics wirbt mit 80 Prozent Zeitersparnis beim Aufruf der Anwesenheitsliste und dass Eltern stets den Status ihres Kindes einsehen können. Das Unternehmen erhielt 2018 und 2019 rund 200.000 Euro EU-Forschungsgelder für biometrische Bildanalyse.
Paraná-System in Lissabon getestet
Eine Studie ergab 2025 eine Trefferquote von 91,1 Prozent, weniger als die vertraglich zugesicherten 95 Prozent. Laut einer Umfrage halten acht von zehn Lehrkräften das System für weniger effektiv als den klassischen Namensaufruf. Paranás Bildungsbehörde erklärt, die Nutzung sei für Lehrkräfte freiwillig, Schüler:innen könnten ohne Nachteile widersprechen, und technische Fehler führten nicht automatisch zum Abwesenheitseintrag. Vor Einführung sei eine Datenschutz-Folgenabschätzung erstellt worden. Die IT-Firma Celepar verweist auf „mehrere Sicherungsebenen“, manuelle Korrekturmöglichkeiten und die ständige Anpassung des Algorithmus.
Bei einer Million erfasster Kinder täglich können auch kleine Fehlerquoten Zehntausende betreffen. Zwar ist bisher kein Fall dokumentiert, bei dem eine fälschliche Abwesenheit direkt zum Verlust von Bolsa-Família-Zahlungen geführt hätte. Möglich sei dies aber, warnen Lehrkräfte. Im April 2025 klagte ein Staatsanwalt gegen die Landesregierung, das Urteil steht noch aus. Paranás Bildungsbehörde erklärte, das System entspreche dem Datenschutzrecht.
Inzwischen nutzen 7 von Brasiliens 27 Bundesstaaten Gesichtserkennung an Schulen. 2024 wurde das Paraná-System drei Monate lang an einer Privatschule in Lissabon getestet. Portugals Datenschutzbehörde leitete eine offizielle Untersuchung ein, genutzt werde das System nicht mehr. Innovatrics und Ex-Bildungsminister Feder reagierten nicht auf Anfragen, Valid lehnte eine Stellungnahme ab.
Dieser Beitrag entstand in Kooperation mit dem AI Accountability Network des Pulitzer Center.
Nico Schmidt ist Journalist bei Investigate Europe in Berlin. Leonardo Coelho ist freier Journalist in Brasilien.
Gemeinsam für freie Presse
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert