Informatikprofessorin über Algorithmen: Kabelbündel fürs Grobe

Für das Überprüfen unerwünschter Inhalte wollen Firmen künstliche Intelligenz einsetzen. Informatikprofessorin Joanna Bryson erklärt, warum das gut ist.

Soll das menschliche Gehirn nicht ersetzen, sondern die Arbeit erleichtern: künstliche Intelligenz. Im Bild: das Kunstwerk «Bion» des US-amerikanischen Künstlers Andrew H. Fagg Foto: dpa

taz: Frau Bryson, immer mehr Unternehmen wollen in ihrer Arbeit vermehrt auf künstliche Intelligenz setzen: Facebook und Google, um extremistische Inhalte einzudämmen, die New York Times, um ihre Kommentarfunktion zu moderieren. Was ist damit gemeint?

Joanna Bryson: Manche Dinge, die im Internet geteilt werden, sind so schrecklich, dass sie nie ein Mensch zu Gesicht bekommen sollte. Irgendjemand muss diese Inhalte aber prüfen und entfernen. Künstliche Intelligenz ist sehr gut darin, große Mengen von Inhalten zu durchsuchen – die Suchmaschine Google tut schließlich nichts anderes. Maschinen für diese Aufgabe zu benutzen hat also zwei Vorteile: Erstens sind sie schnell und effektiv. Zweitens ersparen sie Menschen eine schreckliche Aufgabe.

Wie kann die künstliche Intelligenz erkennen, welche Inhalte unerwünscht sind?

Sie kann ziemlich gut raten, um was für eine Art von Post es sich handelt. Bei Kommentaren kann sie prüfen, ob Schimpfwörter enthalten sind. Oder – was für die New York Times wichtig sein könnte, bei der Masse an Kommentaren –, wie qualitativ hochwertig ein Beitrag ist. Es gibt schon Programme, die mit Hilfe von Machine-Learning-Methoden Highschool-Aufsätze benoten können.

Beim Machine Learning identifiziert die Maschine anhand vieler Beispiele komplexe Regeln, die sie dann auf neue Inhalte anwenden kann. Für Google und Facebook geht es zum Beispiel darum, terroristische Videos zu finden.

Genau, mit Videos funktioniert das sehr gut, vor allem bei Terrorismus: Denn der ist eine einzige riesige Propagandamaschine. Die Terroristen wollen Menschen überzeugen, sich ihnen anzuschließen, also dreht sich in ihren Videos viel um Identifikation mit einer Gruppe. Diese wird wiederum gestärkt durch bestimmte Stilmittel, Sprüche, Symbole, die sich ständig wiederholen. Das macht es einer Maschine ziemlich leicht, sie zu erkennen. Trotzdem machen die Maschinen Fehler. Es sollte also immer die Möglichkeit geben, Einspruch gegen die Entscheidung einzulegen.

Bild: University of Bath

Im Interview: 

Joanna Bryson ist Informatikprofessorin an den Universitäten Princeton und Bath. Sie beschäftigt sich mit natürlicher und Künstlicher Intelligenz (KI) und deren ethischen und gesellschaftlichen Auswirkungen.

Die meistens sozialen Netzwerke haben bereits solche Revisionsmechanismen. Die New York Times betont außerdem, dass die Maschinen nur beim groben Vorsortieren helfen sollen. In einem zweiten Schritt soll ein Mensch die Entscheidung prüfen.

Auch Menschen sind nicht perfekt. So oder so ist es eine gruselige Vorstellung: Einerseits sollen die Betreiber der Plattformen Verantwortung für die Inhalte übernehmen. Andererseits: Möchte man wirklich, dass ein soziales Netzwerk entscheiden kann, was gesagt werden darf und was nicht? Sollte die Regierung das entscheiden? Wir müssen uns als internationale Gemeinschaft überlegen, wer in welchem Ausmaß diese Kontrollfunktion übernehmen soll.

Forscherinnen von Google und Microsoft haben gerade eine Initiative gegründet, um diskriminierender künstlicher Intelligenz auf die Schliche zu kommen. Ist es nicht eigentlich besser, wenn solche Entscheidungen von Algorithmen getroffen werden, weil sie objektiver sind?

Sie stellen die Frage genau falsch herum. Sie dürfen sich die Maschine nicht als objektiv vorstellen, nicht einmal als Akteur. Die Maschine ist nichts als ein Werkzeug. Jemand schreibt ein Programm und damit auch Regeln, die die Maschine anwendet. Und wenn die Maschine anhand menschlicher Entscheidungen lernt, übernimmt sie die Vorurteile. Mein Team und ich haben in einem Aufsatz in der Science gezeigt, dass Algorithmen die selben Vorurteile reproduzieren wie Menschen. Sie benachteiligen etwa Menschen mit fremd klingenden Namen. Der Unterschied zum Menschen ist: Die Mechanismen sind leichter zu überprüfen.

Es gibt aber ExpertInnen, die die Prüfbarkeit mancher Algorithmen in Frage stellen. Gerade wenn eine Maschine selbstständig lernt, sind die Regeln, die sie identifiziert, oft so komplex, dass sie für Menschen schwer zugänglich sind.

In gewisser Weise ist das richtig, aber die große Aufregung darüber ist nicht gerechtfertigt. Es stimmt, dass bei manchen Lernverfahren viele Details zusammenspielen, die für Menschen nicht immer zugänglich sind. In diesen Fällen kann die Entscheidung der Maschine etwa so undurchschaubar werden wie die eines Menschen. Das heißt aber nicht, dass man die Maschine nicht prüfen kann. Man kann ihre Arbeit beobachten und ihre Ergebnisse überprüfen. Und man kann den zugrunde liegenden Programmcode betrachten und gewisse Einstellungen verändern, um sich anzusehen, wie das die Resultate beeinflusst. Das kann man bei menschlichen Entscheidungen nicht.

Der deutsche Justizminister Heiko Maas hat ein Transparenzgebot für Algorithmen vorgeschlagen. Halten Sie es für sinnvoll, dass Unternehmen ihre Algorithmen offenlegen?

Europa ist definitiv ein Vorreiter, was die Gesetzgebung im Technikbereich angeht, und ich halte es für sehr wichtig, sich darüber Gedanken zu machen. Ob man die Algorithmen für alle zugänglich machen sollte, ist eine andere Frage. Schließlich sind sie für viele Firmen so etwas wie Geheimrezepte, die sie von anderen Wettbewerbern abheben. Aber das heißt nicht, dass man sie nicht regulieren sollte. Ich stelle mir eher einen Verifizierungsprozess wie im Medizinbereich vor. Auch Medikamente brauchen eine Zulassung, bevor sie auf den Markt kommen. Künstliche Intelligenz hat auf unsere Gesellschaft einen Einfluss, der mindestens so groß ist wie der von Medikamenten.

Halten Sie künstliche Intelligenz für eine Bedrohung?

Die Menschen verwechseln Technologie mit Mathematik. Mathematik ist etwas, das perfekt und unendlich sein kann, eine Abstraktion wie in Platons Höhlengleichnis. Technologie ist ein physischer Prozess in der echten Welt, sie braucht Zeit, sie braucht Energie, sie braucht Platz, Serverkapazität, Arbeitsspeicher für die Berechnungen. Deswegen werden wir nie eine perfekte künstliche Intelligenz haben. Es gibt in der Evolution ja auch nicht das perfekte Tier.

Einige bekannte UnternehmerInnen, darunter Elon Musk und Stephen Hawking, warnen vor einer „Singularität“, davor, dass der Moment kommen wird, ab dem Maschinen klüger werden als der Mensch und selbst noch schlauere Maschinen erschaffen können, womit ihre Intelligenz exponentiell ansteigt.

Ja, es gibt ein paar wirklich kluge Menschen, die davon total überzeugt sind. Ich weiß nicht, was da los ist, vielleicht ist es nur ein guter Weg, Aufmerksamkeit zu erzeugen. Ich glaube jedenfalls nicht, dass eine übermächtige künstliche Intelligenz entstehen wird, die uns alle umbringen will. Aber es gibt natürlich Gefahren: Vielleicht muss ein Computer einmal eine Aufgabe lösen, und die Lösung scheint uns völlig akzeptabel zu sein; aber der Lösungsweg, den er errechnet, beinhaltet Zwischenschritte, deren Risiko wir gar nicht abschätzen können. Das ist übrigens eine ziemlich akkurate Beschreibung dessen, was auf der Erde geschehen ist, seit wir Menschen aufgetaucht sind.

Wie meinen Sie das?

Sehen Sie sich die letzten zehntausend Jahre der Menschheitsgeschichte an. Bis zu dem Zeitpunkt, als die Schrift erfunden wurde, gab es mehr Makaken als Hominiden auf dem Planeten. Jetzt haben wir dieses exponentielle Wachstum, plötzlich sind wir sieben Milliarden Menschen. Das ist eigentlich großartig, denn es zeigt, dass wir sehr gut darin sind, zusammenzuarbeiten. Das Problem ist nur: Niemand hat sich je hingesetzt und gesagt: „Hey, lasst uns alle anderen Säugetiere ausrotten.“

Aber genau das tun wir, und für die längste Zeit wussten wir es nicht einmal. Künstliche Intelligenz ist nicht das Problem, wir sind das Problem. Es gibt auch keinen Kampf zwischen Mensch und Maschine, denn Maschinen sind ein Teil von uns. Wir müssen einfach lernen, uns über unser Handeln bewusst zu werden. Von daher: Die Argumentationslinie, dass Intelligenz immer gefährlicher wird, ist richtig. Aber die Singularität ist schon vor zehntausend Jahren passiert.

Comments

[Joanna Bryson]

Even outside of technology there is a debate about these kinds of terms. I think whenever a machine (or organism) converts perception to action it is worthy of notice, so I call this "intelligence". When an intelligence can modify itself (that is, learn) I call it "cognitive". But this is bending folk-concepts to a technical use for the purpose of communicating fine points. Of course you can find people who when they say "intelligent" mean "conscious" or "human" or "moral" or many other things. Science though is about taking concepts apart so we can be precise.

[80336 (Profil gelöscht)]

@Joanna Bryson:

I have read your statements with great pleasure, and I would like to thank you very much for the clarification of the terms.

[80336 (Profil gelöscht)]

Mit dem Begriff "Intelligenz" wird Lernfähigkeit bezeichnet, mit " Lernfähigkeit " die Fähigkeit, auf der Ebene "Einzelfall" diesen als einen solchen zu erkennen. Was besagt, dass jeder behandelte Einzelfall eine erstmalig auftretende "Ausnahme" ist, und diese als eine solche auch behandelt. Insofern beschäftigt sich "Intelligenz" ausschließlich mit der adäquaten Behandlung von "Ausnahmen", denn alles andere wäre nur Wiederholung einer vorgegebenen Simplifizierung auf Grundlage einer Formel, welche ex cathedra Bedeutung und Wichtigkeit einer Sache formularisiert, und nichts darüber hinaus kann, als eben diese anzuwenden.

 

Was da irrtümlich "Intelligenz" genannt, um darüber zu punkten, und die Leute in ehrfurchtsvollem Erstaunen zu halten, ist nichts weiter als eine eindeutige Handlungsvorschrift zur Lösung eines ganz bestimmten Problems mittels Ausschluss aller weiteren damit verbundenen und existierenden Problemstellungen. Mit anderen Worten: ein Wiederkäuer mit Scheuklappen, vom Algorithmus "Garbage in, garbage out" betrieben.