Het 'smerige mensenwerk' achter de race naar betere AI
Terwijl datacentra over heel de wereld overuren maken voor AI-tools als ChatGPT en Gemini, zijn het mensen die de modellen moeten 'trainen' om geen schokkende of illegale content te produceren. Maar over dat cruciale mensenwerk hoor je zelden iets. "Ik moest teksten lezen over de verkrachting van kinderen."
"Een van de sterkste mythes over AI is dat het volledig automatisch is", zegt de Amerikaanse onderzoeksjournalist Karen Hao. Om een tool als ChatGPT te trainen, krijgt het systeem daarachter enorm veel data om van te leren, inclusief data met bijvoorbeeld geweld en seksueel misbruik. Mensen moeten dat filteren en labelen om chatbots te leren wat onveilige of zelfs illegale data is.
Nieuwsuur spreekt een Keniaanse man die daarvan zo getraumatiseerd raakte dat zijn zwangere vrouw bij hem wegging.
Mophat Okinyi werkte via een tussenbedrijf voor OpenAI in een kantoor in de Keniaanse hoofdstad Nairobi. Daar moest hij teksten over soms extreem heftige onderwerpen beoordelen, zoals kannibalisme of verkrachting van kinderen.
Okinyi is niet de enige die dit soort klachten heeft, zegt Hao. Ze publiceerde dit jaar het boek Empire of AI - over onder meer OpenAI, het bedrijf achter ChatGPT. "Het woord 'imperium' is de beste historische vergelijking voor de enorme macht van AI-bedrijven. Ze verbruiken een enorme hoeveelheid energie, kapitaal en talent."
Het labelen van data is daar onderdeel van, schrijft ze. Westerse techbedrijven laten dat onder meer doen via tussenbedrijven in lagelonenlanden zoals Kenia, Ghana of de Filipijnen. Daar staan kantoren waar mensen teksten en beelden moeten bekijken. Eerder modereerden ze daar vooral sociale media, nu trainen ze er ook AI-systemen.
Schokkende teksten
"Als ik thuiskwam na werk en mijn dochter zag, kreeg ik flashbacks van teksten over mensen die gestoorde dingen met kinderen doen", vertelt Okinyi. "Ik probeerde haar daarom te vermijden, waardoor er een enorme kloof ontstond tussen mij en mijn dochter."
Okinyi werd steeds meer paranoïde en zijn gedrag veranderde zo sterk dat zijn zwangere vrouw hem verliet. Dat is inmiddels drie jaar geleden, maar Okinyi heeft nog steeds last van een posttraumatische stressstoornis.
"Het is niet precies bekend hoeveel mensen wereldwijd dit moderatiewerk doen en onder welke omstandigheden", zegt Tom Hegarty. Hij werkt bij een ngo die mensen als Okinyi juridisch bijstaat.
"Rond contentmoderatie en data-labelen hangt een waas van geheimhouding. Betrokkenen worden vaak gedwongen geheimhoudingsverklaringen te tekenen. Maar op basis van de data-labelers en moderators die ik heb gesproken, zou ik zeggen dat het behoorlijk representatief lijkt."
In deze video vertelt Hao meer over haar boek over OpenAI. "Ik ontdekte de quasireligieuze bewegingen die in Silicon Valley zijn ontstaan. Ze denken dat er een manier is om AI zo ver te ontwikkelen dat het net zo slim of slimmer wordt als wij - en dat brengt ons óf naar het paradijs, óf naar de hel.":
In Kenia liep eerder een rechtszaak tegen techgigant Meta over de rechten van contentmoderators en data-labelers, waarna Meta uit Kenia vertrok. In Ghana lijken nu opnieuw moderators voor Meta te werken. De ngo van Hegarty bereidt daar nu een nieuwe rechtszaak voor.
Het is belangrijk dat kritiek op techbedrijven een podium krijgt, vindt Hegarty. "OpenAI wil dat hun chatbot voelt als magie, dat er geen smerig mensenwerk aan te pas komt. ChatGPT moet voelen als een toverdoos, maar dat is het natuurlijk niet."
Okinyi is inmiddels betrokken bij een Afrikaanse vakbond voor contentmoderators. Hij deelt zijn ervaringen over de hele wereld en dringt bij Keniaanse politici aan op betere werkomstandigheden. Zo zijn de salarissen daar inmiddels iets omhooggegaan. "Het is nog niet wat we zouden willen", zegt Okinyi. "Maar we zien tenminste veranderingen. Dat betekent dat onze stemmen worden gehoord."
Reactie OpenAI
De contentmoderatie, zoals OpenAI het zelf noemt, is "belangrijk werk dat bijdraagt aan de veiligheid van modellen en gebruikers", zegt een woordvoerder van het techbedrijf tegen Nieuwsuur.
"We streven ernaar een veilige en positieve werkomgeving te creëren voor iedereen die betrokken is bij de ontwikkeling van onze technologie, inclusief degenen die in dienst zijn van onze leveranciers."