Ethikerin über Daten und KI

„Der Markt muss reformiert werden“

Datenwirtschaft dient bisher zu wenig dem Gemeinwohl. Christiane Woopen will sie nach den Prinzipien der sozialen Marktwirtschaft regulieren.

Eine Software zeigt Profile von Menschen und Autos

Digitale Überwachung in China: Lebenschancen nach dem Scoring-System verteilen Foto: reuters

taz: Frau Woopen, warum brauchen wir eine Datenethikkommission?

Christiane Woopen: Das Leben der einzelnen Menschen und der Gesellschaft wird von Daten und technologischer Steuerung in allen Bereichen geprägt. Das führt einerseits dazu, dass wir effizientere Prozesse und innovative Produkte haben, es führt aber auch dazu, dass sich bestimmte Dinge paradigmatisch ändern – da müssen wir die rechtlichen Regelungen weiterentwickeln, um unsere grundlegenden Werte wie Freiheit und Gerechtigkeit zu erhalten und zu befördern.

Was bedeutet das?

Es werden im Hintergrund Daten aus Bereichen zusammengeführt, die zuvor getrennt waren. Soll der Preis, den ich für eine Hotelübernachtung bezahle, von meinem Wohnort oder der Marke meines Computers abhängig sein, von dem aus ich das Hotel buche? Oder: Wenn Sie früher einen Hosenanzug kaufen wollten, haben Sie sich auf den Weg gemacht und ihn in unterschiedlichen Geschäften gesucht. Heute werden Sie auf Ihrem Bildschirm von dem Hosenanzug gefunden, während Sie eigentlich Zeitung lesen, weil Unternehmen aus Daten, deren Herkunft und Bewertung Sie nicht überschauen, ein persönliches Profil von Ihnen erstellt haben und dies für ihre kommerziellen Zwecke nutzen. Derselbe Mechanismus kann, wie wir es bei Wahlen gesehen haben, zu manipulativen Zwecken genutzt werden.

Was bedeutet die Digitalisierung für unseren Alltag?

Sie hat etwa Auswirkungen darauf, wie jeder Einzelne sein Leben und wie die Gesellschaft Debatten führt. Zum Beispiel in den sozialen Medien. Man kann sich problemlos anonym äußern, also ohne dafür Verantwortung zu übernehmen. Akteure können massenweise Nachrichten verschicken, die von Chatbots kommen. Bei Telefonanrufen kann man sich nicht mehr sicher sein, ob man mit einem automatisierten System spricht oder einem Menschen. Wir brauchen mehr Transparenz, Kontrollierbarkeit und Selbstbestimmung, um den Einzelnen zu schützen.

Im Netz hinterlässt jeder Datenspuren. Macht Ihnen das Angst?

Früher, in der Feudalgesellschaft, lag die Macht bei denen, die über Ländereien verfügten, in der Industriegesellschaft bei denen, die die Produktionsmittel besaßen. Und jetzt manifestiert sich in der Kapitalgesellschaft ein Machtwechsel hin zu denen, die über Daten und Technologien verfügen. Das führt zu einer Monopolisierung und damit zu einer vermeintlichen Deutungshoheit einiger weniger Akteure über das, was für unser aller Leben wünschenswert ist. Wir brauchen dringend eine Auseinandersetzung mit der Frage, wer in welchem Ausmaß von den Gewinnen aus der Verwertung von Daten profitieren sollte. Die derzeitigen Geschäftsmodelle scheinen mir nicht ausreichend dem Gemeinwohl und dem gesellschaftlichen Zusammenhalt zu dienen.

ist Kovorsitzende der Daten­ethikkommission der Bundesregierung. Diese soll bis Herbst 2019 Vorschläge erarbeiten

Solche Technologien vereinfachen aber unser Leben.

Die Chancen, die eine wissenschaftlich fundierte Auswertung qualitativ guter Daten bietet, sind großartig. Ich sehe vielfältige Ansatzpunkte. Aber wir müssen darauf achten, dass wir den Fortschritt zum Beispiel in der Arbeitswelt so gestalten, dass wir Menschen Arbeitsplätze bieten, wo Technik und Mensch sinnvoll zusammenarbeiten können.

Ist die Digitalisierung nicht eine wunderbare Chance, allen Menschen echte Teilhabe zu ermöglichen?

Man kann bei Youtube Vorlesungen hören. Wir können Menschen in entlegenen Landstrichen Zugang zu medizinischer Versorgung gewährleisten, wenn sie sich online in die Sprechstunde beim Arzt einwählen, ohne das Haus zu verlassen. Über digitale Medien können wir Menschen, die vorher am Arbeitsmarkt keine Chance hatten, Möglichkeiten eröffnen. Das alles kann das Leben vereinfachen und Perspektiven eröffnen.

Aber?

Wir müssen etwa die Menschen, die in der Plattformökonomie arbeiten, schützen – zum Beispiel was ihren Zugang zu sozialen Sicherungssystemen angeht. Die Institutionen unseres Arbeitsmarkts zur Sicherung der Arbeitsrechte funktionieren hier zu einem erheblichen Teil nicht und müssen weiterentwickelt werden. Es muss auch klar sein, wer die Verantwortung beim Einsatz automatisierter Systeme wie den selbstfahrenden Autos trägt.

Die irische Datenschutzbehörde DPC nimmt nach dem Hackerangriff auf Facebook Ermittlungen gegen das Netzwerk auf. Sie will untersuchen, ob sich Facebook an die Datenschutzgrundverordnung gehalten hat. Mehrere Sicherheitslücken in der Software hatten das Eindringen ermöglicht. Mindestens 50 Millionen Nutzer waren betroffen. Facebook, dessen Europazentrale in der Republik Irland sitzt, droht eine Strafe von bis zu 4 Prozent seines Jahresumsatzes.

Der digitale Markt wird von wenigen – vor allem US-amerikanischen – Firmen beherrscht. Für wie bedrohlich halten Sie das?

Der Markt muss dringend neugestaltet werden, und zwar nach den Prinzipien der sozialen Marktwirtschaft. Es darf beispielsweise nicht sein, dass einige wenige durch die Programmierung der Suchmaschine und unter dem Diktat werbegesteuerter Geschäftsmodelle darüber entscheiden, welche Informationen wir unmittelbar bekommen, und welche nicht oder allenfalls mühsam. In einer Demokratie muss Vielfalt gewährleistet sein. Sie darf nicht von einigen wenigen Daten- und Technologiemonopolen ausgebremst werden.

Das Geschäftsmodell dieser Konzerne ist der gläserne Mensch. Und die Nutzer*innen lassen sich darauf ein.

Das stimmt, aber gleichzeitig wächst das Unbehagen darüber und das lähmende Gefühl der Machtlosigkeit. In unserem Kulturkreis besteht immerhin das starke Bewusstsein über die Bedeutung von Freiheit, Selbstbestimmung, Gerechtigkeit und Privatsphäre. Das ist hoffentlich ein Treiber für mehr Technologieentwicklung und Angebote auf dem Markt, die Datensouveränität unterstützen. Große Sorgen aber machen mir die Entwicklungen in China. Dort will der Staat Bürger anhand eines Scoring-Systems bewerten und ihnen gemäß dem Score Lebenschancen zuteilen, also etwa die Möglichkeit zu reisen, den gewünschten Job zu bekommen, Versicherungen abzuschließen oder aber auch die Kinder auf eine bestimmte Schule schicken zu können. Eine Gegenbewegung aus der Mitte der Gesellschaft heraus scheint es dort nicht zu geben. Die Daten­ethikkommission befürwortet technologischen Fortschritt und Innovation mit dem Ziel, die individuellen Entfaltungsmöglichkeiten, den gesellschaftlichen Wohlstand sowie die Solidarität im Rahmen einer freiheitlich demokratischen Grundordnung zu fördern.

.

Bitte registrieren Sie sich und halten Sie sich an unsere Netiquette.

Haben Sie Probleme beim Kommentieren oder Registrieren?

Dann mailen Sie uns bitte an kommune@taz.de

Ihren Kommentar hier eingeben