Wenn Software Entscheidungen trifft: Verwirrte Algorithmen

Menschen sind oft unglaublich berechenbar – aber ganz plötzlich dann wieder nicht. Das macht es manchmal ganz schön kompliziert.

Aktienkurse sind durch KI prognostizierbar, wäre da nicht die menschliche Komponente Foto: Frank Rumpenhorst/dpa

Manchmal reichen zwei Wörter, um maximal zu verwirren. „Use Signal“, twitterte Tesla-Gründer Elon Musk am 7. Januar. Woraufhin ein Aktienkurs in die Höhe schoss. Allerdings nicht der Kurs der Messenger-App Signal, die Musk meinte. Hinter der App steht eine Stiftung, da gibt es weit und breit keinen Aktienkurs. Sondern von Signal Advance, einer Medizintechnikfirma, was irgendwie auch in die Zeit passt.

Schon vor zehn Jahren fiel auf: Kommt ein Film mit der Schauspielerin Anne Hathaway in die Kinos, dann steigt der Aktienkurs des Unternehmes Berkshire Hathaway. Warum? Weil ein Teil des Aktienhandels mittlerweile über Algorithmen abgewickelt wird. Und künstliche Intelligenzen sind zwar mitunter schon recht gut, aber längst noch nicht perfekt im Verstehen von Texten.

Analysieren die KIs also Texte, in denen der Begriff Hathaway gemeinsam mit als positiv gelernten Wörtern vorkommt, wie „großartige Leistung“, lösen sie den Kauf von Aktien aus. Könnte ein Tipp sein für ambitionierte Gründer:innen, die gerade auf der Suche nach einem Firmennamen sind.

Das Ding ist: Menschen sind oft unglaublich berechenbar – aber ganz plötzlich dann wieder nicht. Zum Beispiel beim Einkaufen. Anhand der Wettervorhersage und des Spielplans der Fußball-Männer-Bundesliga kann ein selbstlernender Algorithmus recht zuverlässig die Nachfrage nach Bier und Grillgut prognostizieren. Unter Berücksichtigung länderspezifischer Besonderheiten natürlich, wie einer zu erwartenden Bevorratung mit Bier und Erdbeer-Pop-Tarts angesichts eines sich nähernden Hurrikans an der US-Küste. Ja, das Leben als KI in der Einkaufsplanung einer Supermarktkette könnte so einfach sein. Aber dann ist weder ein Hurrikan im Anflug noch El Niño, nicht einmal ein Gewitter. Und plötzlich kaufen die Leute wie verrückt Nudeln, Klopapier und Desinfektionsmittel. Wie soll man da mitkommen?

Elon Musk setzt in Tesla-Fahrzeugen selbst viel auf KI. Die soll bei selbstfahrenden Autos etwa Verkehrssituationen vorhersagen. Wenn da nur nicht diese unberechenbaren Menschen wären! Vor allem Menschen, die andere Fahrzeuge steuern und Verkehrsregeln mitunter eher als unverbindliche Empfehlung verstehen. Bei den Herstellern überlegt man schon, selbstfahrende Autos etwas aggressiver zu programmieren, damit sie im Berufsverkehr nicht ewig vor dem Kreisverkehr warten.

Wie lange es wohl dauert, bis ausreichend defensive selbstfahrene Autos unterwegs sind, um die menschlichen Fah­re­r:in­nen zur Rücksichtnahme zu bewegen? Lange wahrscheinlich. Zumindest länger, als die Fahrzeug-KI Wettervorhersagen und Spielpläne auswertet und die Insassen direkt zum Supermarkt mit dem größten Grillgut-Bestand bringt.

Comments

[Expat]

Ich würde das Beispiel im Artikel eher als "maschinelles Lernen" bezeichnen. Im Kontext von Nachrichten und Meldungen ist das der Bereich Natural Language Processing. Hakelt noch ein bischen, aber die Modellierung wird immer besser.

Autonomes Fahren ist ein anderes Thema, da geht es viel um Computer Vison, Objekterkennung- und Klassifizierung in Echtzeit. Dafür gibt es vortrainierte Modelle mit teilweise erstaunlicher Präzision.

Ein spannendes Thema...

[danny schneider]

"Und künstliche Intelligenzen sind zwar mitunter schon recht gut, aber längst noch nicht perfekt im Verstehen von Texten."

Leider hat der Autor nicht verstanden was eine KI ist oder tut: KI ist ein Art "Brute-Force" Algorithmus für statistische Schätzungen. In Klammern deshalb weil der Anteil an "Brute-Force" variabel ist.

Kurz man wirft Daten hinein und man bekommt eine Schätzung (z.B. 87,236517%) wie gut die Daten mit einem Datensatz aus den Trainigsdaten übereinstimmt.

D.h. bei Anne Hathaway kommt halt raus: 63.69863% Berkshire Hathaway

Dann hat ein Mensch noch einen Schwellenwert von 62,5% hinterlegt und schon macht das Programm für Börsenprognosen: Berkshire Hathaway wurde gerade in sehr vielen Tweets genannt!

KI ist eines nicht: Intelligent!

[PS007]

Die Entscheidungen der KIs gehen ja selbst als Datenbasis in die nächste Modellierung mit ein. Der menschliche Faktor wird immer kleiner.