heute in bremen: „Ein System, das wir Menschen gestaltet haben“

Foto: privat

Julia Gundlach, 28, ist Managerin des Projekts „Ethik der Algorithmen“ bei der Bertelsmann-Stiftung.

Interview Lotta Drügemöller

taz: Frau Gundlach, Sie arbeiten im Projekt zur „Ethik der Algorithmen“. Was soll das für eine Ethik sein?

Julia Gundlach: Wir müssen sicherstellen, dass ethische Grundlagen auch beim Einsatz von digitalen Hilfsmitteln wie Algorithmen geschützt bleiben. Aktuell verbinden Menschen mit KI und Algorithmen oft Utopien oder Dystopien – wir wollen ein differenziertes Bild darstellen. Algorithmen können gemeinwohlorientiert eingesetzt werden – aber dafür braucht es ein paar Voraussetzungen.

Wie muss so ein ethischer Algorithmus gestaltet sein?

Algorithmen sind keine fremdgesteuerten Systeme, sondern ein Werkzeug, das von Menschen gemacht und gestaltet werden kann. Unser Projekt hat deshalb die sogenannten AlgoRules aufgestellt, neun Regeln für die ethische Entwicklung von Algorithmen. Es sind Empfehlungen für den gesamten Prozess ihrer Entwicklung sowie für ihren Einsatz. Denn Fehler können sowohl in den Zielvorgaben stecken, als auch in den Daten, im Code und in der Interpretation der Ergebnisse. Um dies zu vermeiden, müssen alle beteiligten Akteure sensibilisiert und aufgeklärt werden.

Können Sie mir ein praktisches Beispiel nennen?

Bei der Kitaplatzvergabe geht es zum Beispiel um die Frage, ob die Vergabe mithilfe von Algorithmen schneller und gerechter durchgeführt werden kann. Dabei spielt jedoch nicht nur der Algorithmus eine Rolle, sondern hauptsächlich die soziale Einbettung. Das bedeutet, dass es einen einheitlichen Kriterienkatalog geben muss, der festlegt, nach welchen Aspekten Kinder bevorzugt aufgenommen werden. Da kann die Wohnortnähe eine Rolle spielen oder der Umstand, dass bereits ein Geschwisterkind in derselben Kita ist. Der Algorithmus schlägt auf dieser Basis nur vor, welche Kinder angenommen werden sollten. Entscheiden tun immer Menschen.

Was sind denn dann die Vorteile von Algorithmen, wenn die Kitaleitungen weiter selbst entscheiden?

Algorithmen sind Hilfsmittel, die den Prozess für Eltern und Kita-Einrichtungen deutlich vereinfachen. Die Platzvergabe verkürzt sich von Monaten zu Tagen. Der Prozess kann auch fairer und transparenter werden. Es braucht jedoch realistische Erwartungen an Technologie: Entscheidend bei all dem ist, dass die Beteiligten verstanden haben, was der Algorithmus kann und eben auch nicht kann.

Vortrag „Algorithmen fürs Gemeinwohl?!“ im Rahmen des digitalen pädagogischen Fachtags „Der Mensch und seine Daten“ der Landeszentrale für politische Bildung und des Service-Bureaus Jugendinformation

Die Macht, sich für bestimmte Kriterien beim Algorithmus zu entscheiden, scheint mir aber groß. Wer hat die – ein paar IT-ler?

Wertegebundene Entscheidungen dürfen sich nicht hinter Technologie verstecken oder in die Hände von einzelnen IT-lern gelegt werden. Alle Betroffenen sollten mitentscheiden – je nach Anwendungskontext: Wirtschaftsvertreter*innen, staatliche Akteure und die Zivilgesellschaft. Eine der Forderungen für gemeinwohlorientierte Algorithmen ist, dass sie von möglichst diversen Teams gestaltet werden. Sonst können sich die diskriminierenden Faktoren verstärken.

Was passiert dann konkret?

Beispielsweise wurde für die Personalauswahl einer großen US-amerikanischen Firma ein Algorithmus entwickelt. Es stellte sich heraus, dass das System Bewerbungen von Frauen systematisch aussortiert hat. Der Algorithmus entschied auf Basis von Daten der bestehenden Belegschaft, die hauptsächlich aus Männern bestand. So machte der Algorithmeneinsatz die bereits existierende Diskriminierung transparent. Da zeigt sich, dass Algorithmen ein datenbasierter Rückspiegel unserer Gesellschaft sind.