Giga-Geschäft außer Kontrolle

Tech-Riesen wie Google brauchen billige Arbeits­kräfte, die ihre KI-Programme trainieren. Die Personal­rekrutierung lagern sie aus. Im Netz floriert der Schwarzmarkt

Il­lus­tra­tio­n: Elé­o­no­re Roedel

Von Michael Bird und Nathan Schepers (Text) und Eléonore Roedel (Illustration)

Ein Post in einer Facebook-Gruppe, es geht um das Training von KI-Modellen für Batteriemanagement-Systeme. Das Versprechen, das der Text gibt: Schnelles Geld, von zu Hause aus verdient.

„Make over $1000 weekely working on remote jobs … Learn how to Get ready to tasks accounts, different profiles, BMS, extensions, free training, proxies … Guarantee earning … “

Solche Anzeigen sind typisch für die Gig Economy, in der kleine Aufträge kurzfristig an Freelancer („Gigworker“) vermittelt werden. Die mil­liar­den­schweren Konzerne, meistens aus den USA, rekrutieren auf diesem Weg weltweit Arbeitskräfte. Die Anzeigen tauchen in LinkedIn-Nachrichten oder Social-Media-Feeds auf und locken mit flexiblen Arbeitszeiten, maximalen Freiheiten, kostenlosen Schulungen, garantierter Bezahlung und der Chance, im KI-Sektor einen Fuß in die Tür zu bekommen.

Das Jobangebot aus der Facebook-Gruppe ist nachlässig formuliert, es enthält zum Beispiel den Rechtschreibfehler „weekely“ statt „weekly“. Seriöse Stellenanzeigen sehen normalerweise anders aus. Die Anzeige enthält außerdem ein Bild, auf dem ein Screenshot von einem Outlier-Konto zu sehen ist. Outlier ist im Silicon Valley ansässig und Teil des 13,8 Milliarden Dollar schweren Unternehmens Scale AI, das sich auf Datenannotierung und KI-Training spezialisiert hat.

Zu den Kunden von Scale AI gehören in Europa ansässige Firmen wie die Unternehmensberatungsriesen Accenture, SAP und Deloitte, die US-Tech-Giganten Meta, OpenAI, Anthropic und Microsoft sowie das Weiße Haus und die US-Armee. Outlier selbst verrät nicht, wer zu seinen Kunden gehört, aber aus Dokumenten geht hervor, dass Google und Meta darunter sind. Durch das Bild lässt die Anzeige vermuten, dass Outlier eines der Unternehmen ist, für das Interessenten arbeiten können.

Bei einem näheren Blick auf ähnliche Posts mit Jobangeboten in Feeds und Gruppen bestätigt sich der Eindruck: Die Beiträge stammen nicht von Personalvermittler*innen. Hinter den Posts verbirgt sich ein Handel mit Gigwork-Konten, mit denen Datenannotations- und KI-Training-Aufträge akquiriert werden können. Gehandelt wird nicht nur mit Outlier-Konten, sondern auch mit Konten von ähnlichen Unternehmen wie CrowdGen, Echolabs und Prolific.

Wir sind der Spur dieser Anzeigen gefolgt, um herauszufinden, wer hinter ihnen steckt. Dabei haben wir einen ganzen Schwarzmarkt entdeckt.

Damit Menschen sich mit Chat-Bots über ­beliebige Themen unterhalten können, müssen die entsprechenden KI-Modelle erst mit ­Daten gefüttert werden, zum Beispiel mit ­Texten oder mit Aufforderungen, die Gigworker erstellt haben. ­Hunderttausende von diesen Arbeitskräften erledigen manuell kleine Aufgaben zum „Training“ von ­KI-Anwendungen bei großen Tech-Unter­nehmen.

Die Nachfrage nach diesen Arbeitskräften ist so groß, dass Unternehmen wie Outlier auf der ganzen Welt nach ihnen suchen. Sie zahlen dann die landesüblichen Honorare. Die Unterschiede zwischen der Bezahlung von Auftragnehmern aus dem Globalen Süden und denjenigen aus Europa oder den USA sind enorm.

Zum Personalmanagement setzen KI-Unternehmen automatisierte Verfahren ein, denen die Ar­beit­neh­me­r*in­nen folgen müssen, um auf deren Plattformen Konten anlegen und Geld verdienen zu können. Sie geben ihren Namen, ihre Adresse und ihre Telefonnummer an und verifizieren die Nummer über einen Bestätigungslink. Dann werden die Personalausweis- und Steuernummern verlangt, und schließlich legen die Gigworker die Zahlungsmethode fest, meistens PayPal. Sobald ein Konto verifiziert ist, sind die Ar­bei­te­r*in­nen „einsatzbereit“.

Durch dieses Anmeldeverfahren können Menschen in Ländern mit niedrigem Einkommen das System überlisten, indem sie sich ein Konto beschaffen, das mit einem Land mit einem höheren Einkommen verknüpft ist. Dazu benötigen sie nur die persönlichen Daten zum Beispiel von Europäer*innen.

Dieses Schlupfloch machen sich wiederum Menschen zunutze, die auf Facebook mit Konten handeln. Auf der einen Seite können Menschen aus dem Globalen Süden, aus Indien oder von den Philippinen, Konten aus Europa oder den USA kaufen und ein westliches Honorar erhalten. Auf der anderen Seite können Kon­to­in­ha­be­r*in­nen in den USA oder Europa Gigworker aus dem Globalen Süden damit beauftragen, ihre Arbeit zu erledigen. Sie teilen sich dann das Geld.

Der oben zitierte Facebook-Post enthielt einen WhatsApp-Link, der in verschiedenen Profilen und unterschiedlichen Gruppen auftauchte, dazu einen Screenshot mit dem angeblichen Verdienst und dem Kommentar: „Das nenne ich pures Glück.“ Der Link führte zu einer WhatsApp-Gruppe namens „Remotask Accounts“, benannt nach einem Schwesterunternehmen von Outlier, das ein Teil von Scale AI ist und sich auf Datenannotierung spezialisiert hat. Die Gruppe steht nicht offiziell mit Remotasks in Verbindung.

Ein Mann mit einer kenianischen Telefonnummer ist der Administrator der Messaging-Gruppe. Er behauptet, verifizierte und einsatzbereite Outlier-Konten anbieten zu können, die mit den USA, Kanada und den Philippinen verknüpft sind.

Wir interagierten in der Gruppe unter dem spanischen Pseudonym „Bartolome“ und verwendeten eine spanische Telefonnummer. Bartolome wurde direkt von einem „Felix“ kontaktiert, der ebenfalls eine kenianische Nummer hat. Felix war auf der Suche nach einer Person in Spanien, die ihm ein Outlier-Konto einrichtet, das er nutzen (oder vielleicht weiterverkaufen) kann.

Unternehmen wie Outlier sind verpflichtet, für sie tätige Ar­beit­neh­me­r*in­nen einer „Know Your Customer“-Prüfung (KYC) zu unterziehen. Nach demselben Prinzip überprüfen Banken riskante Kund*innen, um Betrug vorzubeugen. Normalerweise verknüpfen die Unternehmen bei der KYC Konten mit lokalen Telefonnummern, Adressen und Personalausweis- und Steuernummern.

Felix brauchte jemanden mit einer spanischen Telefonnummer und einem spanischen Ausweis, um ein Konto für ihn zu eröffnen. Bartolome hatte so einen Ausweis und einen spanischen Wohnsitz. Felix fragte ihn nach persönlichen Daten wie der Adresse und Telefonnummer. Zwar ist Felix physisch in Kenia ansässig, aber um sich für das Outlier-Konto anzumelden, braucht er einen spanischen Wohnsitz-Proxy („residential proxy“).

Ein Wohnsitz-Proxy ist eine Alternative zu einem virtuellen privaten Netzwerk (VPN). VPNs werden verwendet, um reale Standorte im Internet zu verbergen, zum Beispiel um auf regional gesperrte Inhalte von Streaming-Diensten zugreifen zu können. Der Datenverkehr wird dann über IP-Adressen abgewickelt, die einem VPN-Dienstanbieter gehören. Da solche Adressen aber inzwischen bekannt sind, lassen sich VPNs leicht identifizieren. Online-Arbeitsplattformen sind verpflichtet, Identitäten und Standorte zu überprüfen. Wenn die Kon­to­in­ha­be­r*in­nen ­kommerzielle VPNs verwenden und entdeckt werden, werden sie gesperrt, um Betrug zu verhindern.

Eine Alternative zu VPNs sind Wohnsitz-Proxys, die wie VPNs funktionieren, aber zusätzlich mit einer Wohnadresse verknüpft sind. Felix wollte die Anti-Betrug-Systeme von Outlier austricksen, die speziell nach VPNs suchen, und dazu sein neues Outlier-Konto mit dem spanischen Wohnsitz und der Telefonnummer von Bartolome eröffnen.

Bartolome erhielt vom Outlier-Verifizierungssystem eine SMS mit einer Anmeldebestätigung. Er sollte seinen Personalausweis hochladen. An dieser Stelle brachen wir das Experiment und den Kontakt zu Felix ab.

Der Trick, Outlier-Konten mit fremden europäischen Telefonnummern und Ausweisen zu eröffnen, scheint sich herumgesprochen zu haben. Felix behauptete, täglich zehn gefälschte Konten zu verifizieren. Die Gruppe, in der er Bartolome gefunden hat, bestand aus etwa 1.000 Mitgliedern. Einige Mitglieder solcher WhatsApp-Gruppen gehören wahrscheinlich zu kriminellen Netzwerken.

Unser Alter Ego Bartolome wechselte die Rolle und versuchte, sich ein Outlier-Konto zu beschaffen, mit dem andere für ihn arbeiten würden. So traf er auf „Rehan“.

Auch Rehan hat eine kenianische Nummer und bietet in Indonesien und auf den Philippinen Outlier-Konten mit EU-Daten an. Er wollte ein Konto verkaufen, das angeblich 35 Dollar pro Arbeitsstunde abwirft und schon mit einem Wohnsitz-Proxy verifiziert sei. Outlier sei derzeit die beste Plattform. Bartolome zeigte sich interessiert. Rehan verlangte für die Zugangsdaten 70 Dollar, zu zahlen über die Kryptobörse Binance oder den Dienst AirTM.

Auf Binance zahlte Bartolome 70 Dollar auf Rehans Konto „Escobar Crypto“ ein. Dann fragte er Rehan nach den Kontodaten. Rehan weigerte sich, sie herauszugeben, und meinte, Bartolome brauche noch ein Plug-in gegen Betrug, das er ihm für weitere 30 Dollar geben könne. Bartolome überwies die 30 Dollar auf Binance. Aber Rehan wollte nochmal 50 Dollar. Es kam zu einem Streit, der übersetzt ungefähr so ablief:

Rehan: Wenn ich die 50 Dollar habe, ist es ein Deal, Mann.

Bartolome: Ich hab schon gezahlt, was wir vereinbart hatten.

Rehan: Ja Mann, ich werd auch liefern. Warum bist du so unhöflich, Mann.

Bartolome: Ich bin weder unhöflich noch wütend. Ich will nur die Daten bekommen.

Rehan: Du weißt doch, wie viel das Konto wert ist, Mann. Mach’s nicht so schwierig.

Bartolome: Wenn du mir die Daten nicht gibst oder mir das Geld zurückzahlst, hast du mich abgezockt. Ich würde jetzt gern bekommen, wofür ich bezahlt habe.

Rehan: So macht man keine Geschäfte, Mann.

Bartolome: Ich will nur, dass du dich an unsere Vereinbarung hältst, das ist alles.

Rehan: Ich warte aber noch auf das Geld, Mann.

Bist du noch da, Mann?

Willst du die Kontodaten noch haben?

Bartolome war nicht gewillt, die 50 Dollar an Escobar Crypto zu überweisen, und beließ es dabei. Da aber plötzlich in der WhatsApp-Gruppe bekannt war, dass Bartolome eine spanische Nummer und einen spanischen Ausweis hat, fragte ihn ein anderes Mitglied, ob er sich nicht an einem Kreditkartenbetrug beteiligen wolle – das Ziel sei eine spanische Supermarktkette.

Gigworker, vor allem aus Europa und Nordamerika, erhalten immer wieder E-Mail-Anfragen von Gigworkern aus dem Globalen Süden: Sie schlagen ihnen vor, Arbeit über deren Konten abzurechnen und ihnen dafür einen Teil ihres besseren Honorars zu überlassen. Es ist ein koloniales Modell im digitalen Zeitalter: Europäische Bür­ge­r*in­nen können ihren Status und Wohnsitz nutzen, um fürs Nichtstun bezahlt zu werden, während Auf­trag­neh­me­r*in­nen im Globalen Süden für die ganze Arbeit nur einen Bruchteil erhalten. Der Schwarzmarkt spiegelt bloß ein legales Geschäftsmodell wider: In den USA ansässige Unternehmen beuten weltweit die Arbeitskraft billiger Ar­bei­te­r*in­nen aus, um KI-Modelle zu trainieren.

Wir führten ein zweites Experiment durch. Unter dem rumänischen Pseudonym „Tudor“ veröffentlichten wir in einer Facebook-Gruppe eine Anzeige für Outlier-Gigworker, da Outlier in den Gruppen am häufigsten erwähnt wird. Tudor versprach Interessenten, ihnen 40 Prozent von den Honoraren zu überlassen. Mitglieder der Facebook-Gruppe schrieben daraufhin Nachrichten.

Gigworker in den USA oder Europa beauftragen Menschen aus dem Globalen Süden damit, ihre Arbeit zu erledigen

Sanjib aus Indien hatte kein Interesse an der Arbeit, sondern bot Tudor für 25 Dollar Zugang zu einem indischen Outlier-Konto an. Kaum jemand ist an indischen Konten interessiert, da die Bezahlung zu schlecht ist, aber Sanjib wollte es trotzdem versuchen.

Tudor schrieb noch mit sechs anderen Interessenten, alle waren aus Kenia. Viele Outlier-Gigworker kommen aus dem ostafrikanischen Land, was daran liegen könnte, dass die Outlier-Schwesterfirma Remotasks dort sehr umtriebig gewesen war, bis sie im März 2024 alle Geschäfte in Kenia einstellte. Viele Menschen dort arbeiteten auf diesen Plattformen. Alle, mit denen Tudor Kontakt hatte, sagten, dass sie die regionalen Sperren der Plattform durch einen Wohnsitz-Proxy umgehen würden.

Victor sagte, dass er über englischsprachige Outlier-Konten große Sprachmodelle trainiere. Seine Spezialgebiete seien Mathematik, Chemie, Biologie „und mehr“. Außerdem sei er sehr erfahren. Als Tudor nach Beweisen fragte, verwies Victor auf ein Konto aus Kanada, mit dem er schon gearbeitet habe. Jetzt kämen aber keine Aufträge mehr rein. Als Tudor ihn fragte, wie es ihm gelungen sei, die regionalen Sperren zu umgehen, erklärte Victor, dass minderwertige Arbeitsergebnisse zu gesperrten Konten führen würden, seine Arbeit aber einwandfrei sei. VPNs verwende er nicht, sondern einen Proxy. Das Angebot von Tudor fand er nicht schlecht, für die Arbeit über das kanadische Konto erhalte er aber 50 Prozent.

Jonathan aus Nairobi beschrieb sich als Experten für mathematische Problemlösungen. Auch er arbeite hauptsächlich für Outlier, zuletzt über ein italienisches Konto. Als Beweis schickte er Bilder, die Daten, Projektnamen und die IP-Adresse des italienischen Proxys enthielten, die er für den Kontozugang verwendet hatte.

Mugo aus Kenia behauptete, „Projektleiter/Koordinator“ bei Remotasks zu sein, was unwahrscheinlich ist, da das Unternehmen ja seine Präsenz in Kenia eingestellt hat. Mugo sagt, er leite ein Team von Gigworkern, habe aber immer wieder Probleme, weil Outlier seine Konten als betrügerisch einstufe.

Mugo: Du suchst nach Leuten, die für Outlier arbeiten? Ich hab ein sehr fähiges Team an der Hand.

Tudor: Was können sie übernehmen und wo wohnen sie?

Mugo: Alles Mögliche: Mathe, Physik, Chemie oder KI-Training. Sie sind in Kenia, ich hab mit ihnen schon für Outlier gearbeitet, aber mir fehlen gerade Konten.

Tudor: Wo ist das Problem? Wird es schwieriger, für Outlier zu arbeiten?

Mugo: Ja, weiß nicht genau, warum sie ständig meine Konten sperren. 40 Konten von mir haben sie gesperrt.

Tudor: Kann’s an den Proxys liegen?

Mugo: Nein, da bin ich mir sicher. Du hast also Arbeit?

Tudor: Ich muss mal schauen.

„Rehan“ verlangte für die Zugangsdaten 70 Dollar, zu zahlen über die Kryptobörse Binance oder den Dienst AirTM

Mugo: Wenn du Arbeit hast, immer her damit.

Gigworker in Europa haben eine Veränderung bei Outlier bemerkt. Ein amerikanischer Student in Deutschland, der für Outlier arbeitet, berichtet, dass das Unternehmen verdächtige Konten schneller zu sperren scheint. Es untersuche auch aktiv die Betrugsfälle auf Facebook.

Wir haben Outlier um eine Stellungnahme dazu gebeten, wie das Unternehmen sicherstellt, dass Aufträge wirklich von Personen bearbeitet werden, die sich auf der Plattform angemeldet haben. Außerdem haben wir gefragt, ob das Unternehmen Maßnahmen dagegen ergreift, dass Clickworker im Zuge ihrer Arbeit mit mutmaßlichen Kriminellen in Kontakt geraten, die auf sensibles Material zugreifen könnten.

Outlier hat nicht direkt auf unsere Fragen geantwortet. Ein Sprecher lässt in einer Erklärung mitteilen, dass auf der Plattform ein „vielschichtiges“ und „zuverlässiges“ System strenger technischer Schutzmaßnahmen Betrug vorbeuge. Alle Mitwirkenden müssten ihre Identität verifizieren, bevor sie Aufträge annehmen können. Konten, auf denen verdächtige Aktivitäten festgestellt werden, würden umgehend geprüft und nötigenfalls gesperrt. Die Schutzmaßnahmen entsprächen den Branchenstandards und würden kontinuierlich geprüft und verbessert, um rechtzeitig auf et­waige Risiken zu reagieren.

Doch das scheint nicht ausreichend zu sein. Diese Recherche zeigt: Wenn KI-Unternehmen wie Meta oder Google das Training von großen Sprachmodellen an Unternehmen wie Outlier auslagern, weitet das die Lieferkette aus, ein potenzieller Schwarzmarkt entsteht.

In der Gig Economy war eine gemeinsame Kontonutzung auf der ganzen Welt schon immer üblich. Mehrere Familienmitglieder können über ein einziges Konto arbeiten und so ihren Beitrag zum gemeinsamen Haushaltseinkommen leisten. Ein ganzer Trupp an Arbeitskräften kann zu einem einzigen Konto gehören.

Manche Lebensmittelkuriere und Uber-Fahrer*innen vermieten ihre Konten. Ein Gigwork-Experte, der anonym bleiben möchte, sagt dazu: „Das hilft vor allem Mi­gran­t*in­nen ohne Papiere, da sie keine legale Arbeit bekommen können. Teilweise machen die Kon­to­in­ha­be­r*in­nen damit Geld, manchmal ist es aber ein Zeichen der Solidarität und niemand muss dafür bezahlen. Vor allem im Vereinigten Königreich scheint das unter Kurieren weit verbreitet zu sein.“

In Südamerika ist das Teilen von Konten gängige Praxis, sagt ein anderer Insider. Solche Konten können sogar als eine Art Währung funktionieren: Platt­form­nut­ze­r*in­nen geben manchmal ein wertvolles Konto ab, um Schulden zu begleichen.

Dieses Prinzip haben sich weltweit Gruppen zu eigen gemacht, die damit Geschäfte machen. Unsere Recherchen legen nahe, dass das Outsourcing von KI-Training direkt kriminellen Netzwerken in die Hände spielen könnte. Die Unternehmen wissen schlicht nicht mehr, wer an ihren Projekten arbeitet.

Diese Recherche wurde mit Unterstützung des Stipendiums Algorithmic Accountability Reporting Fellowship von AlgorithmWatch ermöglicht.