Noyb klaagt Scale AI aan bij de AP om AI-trainers

Privacyorganisatie noyb heeft dinsdag vijf AVG-klachten ingediend tegen het Amerikaanse Scale AI. Eén daarvan ligt bij de Nederlandse Autoriteit Persoonsgegevens, de andere bij de Franse CNIL, de Italiaanse Garante en de Oostenrijkse Datenschutzbehörde, waar noyb twee klachten neerlegde. De organisatie deed het onderzoek samen met Intérêt à Agir, DIPLab en Reversing.Works.

Wie Outlier is

Scale AI is het bedrijf achter Outlier, een platform dat freelancers koppelt aan bedrijven die hun AI-modellen willen laten trainen. Die mensen schrijven prompts, beoordelen antwoorden en annoteren data. Volgens noyb werken er meer dan 900.000 mensen voor het platform. Als bekendste klanten noemt de organisatie Meta, OpenAI, xAI, Google, Anthropic en de Amerikaanse overheid.

Dat is geen niche. Noyb wijst erop dat wereldwijd al meer dan veertig miljoen mensen hun werk via platforms georganiseerd krijgen, en dat de AI-industrie zwaar op die constructie leunt. Modellen achter ChatGPT, Gemini en Grok worden mede getraind door mensen die uitvoer met de hand nakijken.

Trackers op de werkplek

De kern van de klacht is wat er op de apparaten van die werkers gebeurt. Uit de technische analyse van de onderzoekers blijkt volgens noyb dat er, zolang iemand op het Outlier-platform werkt, trackers van onder meer TikTok, LinkedIn en Facebook worden geplaatst, plus die van enquêteplatform Sprig en data-analysebedrijf Datadog. Die sturen elke paar seconden gegevens naar derden: IP-adressen, contactgegevens, unieke identifiers en informatie over de bezochte pagina. Die data kan vervolgens voor gerichte advertenties worden gebruikt.

Daarnaast moeten werkers zich volgens noyb meermaals biometrisch verifiëren via het bedrijf Persona. Daarbij maken ze video-opnames van hun gezicht en uploaden ze hun identiteitsbewijs. Scale AI zegt zelf dat dit identiteitsfraude voorkomt en dat het bedrijf er de vaardigheden van werkers mee kan controleren.

Juridisch voert noyb twee punten aan. Scale AI zou geen geldige wettelijke grondslag hebben om trackers op de apparaten van zijn werkers te zetten, en het bedrijf zou zich niet houden aan het beginsel van dataminimalisatie: er wordt meer verzameld dan voor het werk nodig is.

"Platformwerk lijkt een vruchtbare bodem voor een heel nieuw type toezicht op de werkvloer", zegt Thomas Le Bonniec, socioloog bij DIPLab, in de verklaring van noyb. "Dit zou in elke andere arbeidsvorm in de Europese Unie als onacceptabel worden gezien. Dit systeem gedijt alleen door het bewuste gebrek aan transparantie."

Wat er nu gebeurt

Noyb vraagt de toezichthouders om onderzoek te doen en Scale AI een boete op te leggen. De klachten zijn openbaar: noyb heeft de Nederlandse, Franse, Italiaanse en twee Oostenrijkse versies in geredigeerde vorm op zijn site gezet, samen met een rapport van DiPLab over toezicht op de werkvloer bij AI-trainingsplatforms.

Hoe lang de AP erover doet, is niet bekend.