Ethikerin über Daten und KI: „Der Markt muss reformiert werden“

Datenwirtschaft dient bisher zu wenig dem Gemeinwohl. Christiane Woopen will sie nach den Prinzipien der sozialen Marktwirtschaft regulieren.

Digitale Überwachung in China: Lebenschancen nach dem Scoring-System verteilen Foto: reuters

taz: Frau Woopen, warum brauchen wir eine Datenethikkommission?

Christiane Woopen: Das Leben der einzelnen Menschen und der Gesellschaft wird von Daten und technologischer Steuerung in allen Bereichen geprägt. Das führt einerseits dazu, dass wir effizientere Prozesse und innovative Produkte haben, es führt aber auch dazu, dass sich bestimmte Dinge paradigmatisch ändern – da müssen wir die rechtlichen Regelungen weiterentwickeln, um unsere grundlegenden Werte wie Freiheit und Gerechtigkeit zu erhalten und zu befördern.

Was bedeutet das?

Es werden im Hintergrund Daten aus Bereichen zusammengeführt, die zuvor getrennt waren. Soll der Preis, den ich für eine Hotelübernachtung bezahle, von meinem Wohnort oder der Marke meines Computers abhängig sein, von dem aus ich das Hotel buche? Oder: Wenn Sie früher einen Hosenanzug kaufen wollten, haben Sie sich auf den Weg gemacht und ihn in unterschiedlichen Geschäften gesucht. Heute werden Sie auf Ihrem Bildschirm von dem Hosenanzug gefunden, während Sie eigentlich Zeitung lesen, weil Unternehmen aus Daten, deren Herkunft und Bewertung Sie nicht überschauen, ein persönliches Profil von Ihnen erstellt haben und dies für ihre kommerziellen Zwecke nutzen. Derselbe Mechanismus kann, wie wir es bei Wahlen gesehen haben, zu manipulativen Zwecken genutzt werden.

Was bedeutet die Digitalisierung für unseren Alltag?

Sie hat etwa Auswirkungen darauf, wie jeder Einzelne sein Leben und wie die Gesellschaft Debatten führt. Zum Beispiel in den sozialen Medien. Man kann sich problemlos anonym äußern, also ohne dafür Verantwortung zu übernehmen. Akteure können massenweise Nachrichten verschicken, die von Chatbots kommen. Bei Telefonanrufen kann man sich nicht mehr sicher sein, ob man mit einem automatisierten System spricht oder einem Menschen. Wir brauchen mehr Transparenz, Kontrollierbarkeit und Selbstbestimmung, um den Einzelnen zu schützen.

Im Netz hinterlässt jeder Datenspuren. Macht Ihnen das Angst?

Früher, in der Feudalgesellschaft, lag die Macht bei denen, die über Ländereien verfügten, in der Industriegesellschaft bei denen, die die Produktionsmittel besaßen. Und jetzt manifestiert sich in der Kapitalgesellschaft ein Machtwechsel hin zu denen, die über Daten und Technologien verfügen. Das führt zu einer Monopolisierung und damit zu einer vermeintlichen Deutungshoheit einiger weniger Akteure über das, was für unser aller Leben wünschenswert ist. Wir brauchen dringend eine Auseinandersetzung mit der Frage, wer in welchem Ausmaß von den Gewinnen aus der Verwertung von Daten profitieren sollte. Die derzeitigen Geschäftsmodelle scheinen mir nicht ausreichend dem Gemeinwohl und dem gesellschaftlichen Zusammenhalt zu dienen.

Im Interview: Christiane Woopen

ist Kovorsitzende der Daten­ethikkommission der Bundesregierung. Diese soll bis Herbst 2019 Vorschläge erarbeiten

Solche Technologien vereinfachen aber unser Leben.

Die Chancen, die eine wissenschaftlich fundierte Auswertung qualitativ guter Daten bietet, sind großartig. Ich sehe vielfältige Ansatzpunkte. Aber wir müssen darauf achten, dass wir den Fortschritt zum Beispiel in der Arbeitswelt so gestalten, dass wir Menschen Arbeitsplätze bieten, wo Technik und Mensch sinnvoll zusammenarbeiten können.

Ist die Digitalisierung nicht eine wunderbare Chance, allen Menschen echte Teilhabe zu ermöglichen?

Man kann bei Youtube Vorlesungen hören. Wir können Menschen in entlegenen Landstrichen Zugang zu medizinischer Versorgung gewährleisten, wenn sie sich online in die Sprechstunde beim Arzt einwählen, ohne das Haus zu verlassen. Über digitale Medien können wir Menschen, die vorher am Arbeitsmarkt keine Chance hatten, Möglichkeiten eröffnen. Das alles kann das Leben vereinfachen und Perspektiven eröffnen.

Aber?

Wir müssen etwa die Menschen, die in der Plattformökonomie arbeiten, schützen – zum Beispiel was ihren Zugang zu sozialen Sicherungssystemen angeht. Die Institutionen unseres Arbeitsmarkts zur Sicherung der Arbeitsrechte funktionieren hier zu einem erheblichen Teil nicht und müssen weiterentwickelt werden. Es muss auch klar sein, wer die Verantwortung beim Einsatz automatisierter Systeme wie den selbstfahrenden Autos trägt.

Im Visier: Facebook

Die irische Datenschutzbehörde DPC nimmt nach dem Hackerangriff auf Facebook Ermittlungen gegen das Netzwerk auf. Sie will untersuchen, ob sich Facebook an die Datenschutzgrundverordnung gehalten hat. Mehrere Sicherheitslücken in der Software hatten das Eindringen ermöglicht. Mindestens 50 Millionen Nutzer waren betroffen. Facebook, dessen Europazentrale in der Republik Irland sitzt, droht eine Strafe von bis zu 4 Prozent seines Jahresumsatzes.

Der digitale Markt wird von wenigen – vor allem US-amerikanischen – Firmen beherrscht. Für wie bedrohlich halten Sie das?

Der Markt muss dringend neugestaltet werden, und zwar nach den Prinzipien der sozialen Marktwirtschaft. Es darf beispielsweise nicht sein, dass einige wenige durch die Programmierung der Suchmaschine und unter dem Diktat werbegesteuerter Geschäftsmodelle darüber entscheiden, welche Informationen wir unmittelbar bekommen, und welche nicht oder allenfalls mühsam. In einer Demokratie muss Vielfalt gewährleistet sein. Sie darf nicht von einigen wenigen Daten- und Technologiemonopolen ausgebremst werden.

Das Geschäftsmodell dieser Konzerne ist der gläserne Mensch. Und die Nutzer*innen lassen sich darauf ein.

Das stimmt, aber gleichzeitig wächst das Unbehagen darüber und das lähmende Gefühl der Machtlosigkeit. In unserem Kulturkreis besteht immerhin das starke Bewusstsein über die Bedeutung von Freiheit, Selbstbestimmung, Gerechtigkeit und Privatsphäre. Das ist hoffentlich ein Treiber für mehr Technologieentwicklung und Angebote auf dem Markt, die Datensouveränität unterstützen. Große Sorgen aber machen mir die Entwicklungen in China. Dort will der Staat Bürger anhand eines Scoring-Systems bewerten und ihnen gemäß dem Score Lebenschancen zuteilen, also etwa die Möglichkeit zu reisen, den gewünschten Job zu bekommen, Versicherungen abzuschließen oder aber auch die Kinder auf eine bestimmte Schule schicken zu können. Eine Gegenbewegung aus der Mitte der Gesellschaft heraus scheint es dort nicht zu geben. Die Daten­ethikkommission befürwortet technologischen Fortschritt und Innovation mit dem Ziel, die individuellen Entfaltungsmöglichkeiten, den gesellschaftlichen Wohlstand sowie die Solidarität im Rahmen einer freiheitlich demokratischen Grundordnung zu fördern.

Comments

[mowgli]

Wieso beruhigt es mich eigentlich nicht, wenn sich die Kovorsitzende einer Kommission der deutschen Regierung ernsthafte Sorgen um die „Entwicklung in China“ macht, während sie sich für „unserem Kulturkreis“ auf das angeblich „starke Bewusstsein der Bürger“ verlässt, das „hoffentlich“ als „Treiber“ wirkt, der für mehr „Angebote auf dem Markt“ sorgt?

Vielleicht, weil in „unserem Kulturkreis“ auch früher schon Märkte versagt haben? Vielleicht, weil es die Europäer waren, von denen die Chinesen das Siegen erst gelernt haben? Vielleicht, weil die „Geschäftsmodelle“ der „Großen“ in unserem „Kulturkreis“ noch nie auf Gemeinwohl und gesellschaftlichen Zusammenhlt“ ausgelegt waren, sondern immer nur auf maximales Wachstum und die damit verbundene maximale Macht?

Ob nun im Feudalismus, in der Industriegesellschaft oder in der Technologiegesellschaft - immer war Gewalt eine der wesentlichsten Komponenten im Zusammenleben der Menschen. Und das wird vermutlich auch so bleiben, denn sie ist integraler und offenbar unverzichtbarer Teil dessen, was wir Kultur nennen. Das ist in China, nicht sehr viel anders als im „Westen“. Der Westen tut nur (noch) ein wenig vornehmer. Aber das kann sich ändern, wenn Chinesen plötzlich mehr „Erfolg“ (Macht) haben aufgrund ihrer (noch) etwas größeren Unverfrohrenheit.

Nein, niemand, der Macht hat, wird jemals freiwillig darauf verzichten. Macht ist schließlich das Einzige, was unter solchen Umständen eine relative Sicherheit verspricht. Sie dient schließlich der Abschreckung.

Kein Wunder, dass diese Kommissions-Dame lieber auf China zeigt als auf die Bundesregierung. China hat schlicht noch sehr viel weniger Macht über ihr Leben als, sagen wir, die Kanzlerin oder der Heimatminister.