Am 15. April waren Joan Kinyua, Präsidentin der Data Labeler Association, Dr. Milagros Miceli, Researcher am Weizenbaum Institut und bei DAIR und Julia Kloiber, Mitgründerin von SUPERRR bei einem Fachgespräch im Deutschen Bundestag. Der Titel: Die Arbeitsbedingungen von Data Labelern.
Die Sitzung fand vor dem Ausschuss für Digitales und Staatsmodernisierung, sowie dem Ausschuss für Arbeit und Soziales statt. In diesem Blogpost veröffentlichen wir die Eingangsstatements der Expertinnen.
-----
Statement Joan Kinyua:
My name is Joan Kinyua. I live in Nairobi, Kenya. I am a university graduate, the president of the Data Labelers Association, and I am one of the humans behind AI. I am here representing over a 1000 data workers who are part of the Data Labelers Association.
For eight years, I worked as a data labeler, training the systems you interact with every day here in Germany. I entered this field with hope, dreaming of a future in tech. But that dream became a nightmare that left me with panic attacks and social anxiety.
My job was to teach AI how to see and understand the world. I labelled roads for self-driving cars – including the streets of Berlin – I tagged household items for robotic vacuum cleaners, and reviewed sensitive data like medical records, financial documents, photos of private apartments and even passports. At times, I was asked to upload images of my own child into these systems.
I worked long hours from my living room, on my own equipment, constantly waiting for tasks. On some days, I would spend as many as 20hrs per day working or on standby. For five hours of work, I could earn as little as two cents of a US Dollar. I had no contract, no health insurance, no social protection, and if a task was rejected by the client, I was often not paid at all.
Then the work became darker. I was asked to write graphic descriptions of violence, including against children, while raising a child of my own. I reviewed images of dead bodies. No one explained why. No one prepared me. Everything was hidden behind secrecy and non-disclosure agreements. The psychological toll stays with you. My working conditions violated my human right to a fair wage, a decent living, safe and healthy working conditions and reasonable limitation of working hours.
And I am not alone. Across this industry, workers are losing their health, their homes, their stability. Many develop post traumatic stress disorder. Many simply disappear from the system, replaced, without notice. That is how I lost my job. Two days before my daughter’s first birthday, my account with the platform Remotasks was terminated without explanation. I was never paid what I was owed.
That moment changed everything. I decided to fight back. In February 2025, together with a group of workers I founded the Data Labelers Association. We are the largest worker-led organization of data workers.
I am here to remind you: You see AI, but you do not see us.
You do not see the mothers uploading images of their children for uncertain pay. You do not see the endless unpaid hours, the rejected tasks, the nights spent refreshing platforms in the hope of getting a task. You do not see educated young people treated as disposable.
But we are here. And we have demands:
We demand that you legislate enforceable labor standards for AI data work done in Germany and outsourced to countries like mine, that you mandate fair pay benchmarks, maximum exposure limits to harmful content, and employer-funded mental health support, with independent audits and penalties for non-compliance. Establish worker protection and accountability mechanisms. Create a national registry of AI employers, require transparency in outsourcing chains, guarantee the right to organize, and set up a grievance and redress system with legal backing and enforcement power.
I am here representing thousands of data workers like myself who demand that you, the members of the German parliament, take responsibility and enforce legislation that protects our human rights.
-----
Statement Milagros Miceli
Ich wünschte, ich könnte sagen, dass mich etwas von dem, was Fr. Kinyua gerade geschildert hat, überrascht. Doch als Forscherin, die seit fast einem Jahrzehnt Datenarbeit untersucht, muss ich leider festhalten: Niedrige Löhne, unbezahlte Arbeitszeit, Lohnraub, fehlende Sicherheit und psychische Belastungen sind kein Einzelfall, sondern ein konstantes Muster.
Ich spreche hierbei bewusst von Datenarbeit, einem Begriff, den ich vor einigen Jahren geprägt habe, um grundsätzlich vier Aufgaben zu konzeptualisieren:
Erstens die Trainingsdaten die gesammelt bzw. generiert werden.
Zweitens werden diese Daten klassifiziert und gelabelt. Zum Labeling gehört auch Content Moderation für Social Media.
Später, wenn die Modelle trainiert sind, validieren Datenarbeiter*innen algorithmische Outputs und korrigieren Fehler.
Und viertens: Wenn Systeme nicht funktionieren oder noch nicht existieren, werden Arbeiter*innen angewiesen, sich als KI auszugeben. Vor Kurzem haben wir die Geschichte eines Datenarbeiters veröffentlicht, dessen Aufgabe es war, sich als eine KI-Girlfriend auszugeben, während die Nutzer glaubten, mit einem Chatbot zu sprechen.
Alle diese Aufgaben sind grundlegend für KI-Technologien. Eine Studie aus 2019 zeigt, dass Datenarbeit rund 80% der Arbeitsstunden in der Entwicklung von KI-Systemen ausmacht. Das heißt: ohne Datenarbeiter*innen gibt es keine KI.
Die Weltbank schätzt, dass weltweit zwischen 150 und 430 Millionen Menschen in der Datenarbeit tätig sind. Ein erheblicher T eil davon arbeitet in Europa, viele davon auch hier in Deutschland. Es wäre daher ein Fehler, zu glauben, dass Fr. Kinyuas Schilderungen nur in weit entfernten und ärmeren
Ländern auftreten. Viele Datenarbeiter*innen leben und arbeiten auch in Städten wie Essen, Hamburg und hier in Berlin. 2024 habe ich im Europäischem Parlament eine Studie zur Datenarbeit in EU-Ländern, inklusive Deutschlands, vorgestellt. Zwei Drittel der Befragten verfügten über einen höheren Bildungsabschluss– vom Bachelor bis hin zur Promotion. Dieser Anteil steigt sowohl in Kenia als auch in Lateinamerika auf fast 80 %. D.h., Datenarbeiter*innen sind hochqualifiziert und treffen Entscheidungen, die die Funktionsweise von
KI direkt beeinflussen. Dennoch wird ihre Tätigkeit oft als gering qualifizierte Arbeit, als Nebenverdienst oder als Übergangslösung dargestellt. Diese Darstellung ist unzutreffend und erzeugt eine Sicht auf Datenarbeit, in der Prekarisierung gerechtfertigt wird.T ech-Unternehmen verdienen Milliarden auf dem Rücken der Datenarbeiter*innen. Die Diskussion sollte sich darauf konzentrieren, wie sie durch Outsourcing-Strategien und Plattformisierung Arbeiter*innen prekarisieren und als austauschbar behandeln.
Lassen Sie mich das noch einmal ganz deutlich sagen: Es gibt keine KI ohne Datenarbeit. Wenn wir in Deutschland die Entwicklung von KI-T echnologien fördern möchten, müssen wir unbedingt bessere Bedingungen für Datenarbeiter*innen schaffen.
------
Statement Julia Kloiber
Ich zitiere: „Noch toxischer als die Inhalte waren meine Arbeitsbedingungen. Mein Arbeitsalltag fühlte sich an wie ein soziales Experiment: ein Raum mit abgeklebten Fenstern und permanente Überwachung. Immer wieder hörte ich von Menschen die Angst davor hatten, sich krank zu melden oder zum Arzt zu gehen. Ich bekam den Eindruck, dass hier gezielt Menschen in vulnerablen Lebenssituationen eingestellt wurden, weil sie sich nicht wehren können. Was ich sah ist eine Entmenschlichung der Arbeiterinnen. Wenn Künstliche Intelligenz die Zukunft ist, stehen uns sehr düstere Zeiten bevor.“ das sind die Worte einer Datenarbeiterin über ihren Job, hier in Deutschland. Sie war für ein Outsourcing-Unternehmen tätig, dass große Sprachmodelle für einen amerikanischen Social-Media-Konzern trainiert hat.
Die reichsten Unternehmen der Welt investieren hunderte Milliarden an Euro in Künstliche Intelligenz und lagern gleichzeitig wichtige Arbeit an Drittfirmen aus, statt für faire Löhne und gute Arbeitsbedingungen zu sorgen. Ein weitgehend unbekannter Sektor wächst damit rasant: Schätzungen zufolge wird der Datenannotationsmarkt bis 2034 über 10 Milliarden Dollar Umsatz erreichen.
Die KI-Tools die unter diesen Bedingungen entwickelt werden, nutzen viele von uns täglich.
Auch deutsche Unternehmen lassen Daten von Drittfirmen annotieren. Welche Firmen genau, das muss man mühsam recherchieren, denn der Sektor ist von Intransparenz geprägt.
Um Menschenrechtsverletzungen und Ausbeutung zu unterbinden, müssen die Lieferketten von digitalen Dienstleistungen offengelegt werden. Lieferkettengesetze müssen wirksam durchgesetzt und dürfen nicht abgeschwächt werden. Bei der Umsetzung der Corporate Sustainability Due Diligence Directive darf es keine keinen Rückschritt beim Schutz von Menschenrechten geben.
Nicht nur Arbeitsrechte werden verletzt, sondern auch der Datenschutz. Joan und ihre Kolleg:innen sehen täglich Kontoauszüge, medizinische Unterlagen, Ausweise oder Fotos aus Privatwohnungen. Daten, die so niemals auf ihren Bildschirmen und in Trainingsdaten landen dürften. Auch ihre eigenen Datenschutzrechte werden missachtet. Arbeiter:innen sollen private Fotos ihrer Kinder und Familien für das Training bereitstellen.
Man muss nicht ins Ausland schauen, um Missstände zu finden. Vor drei Jahren habe ich in diesem Gremium über die Arbeitsbedingungen in der Content Moderation gesprochen. Sie sind die Putzkräfte unserer Demokratie. Schlecht bezahlt, gesundheitlich gefährdet und kaum anerkannt. Hier in Deutschland.
Sie fordern heute wie damals von der Politik:
Einen speziellen Gesundheitsschutz, wie wir ihn beispielsweise aus der Polizeiarbeit kennen. Darunter fallen Trauma-Prävention, Gefährdungsbeurteilung, Ruhezeiten und Pausen, und Expositionsbegrenzungen. Denn wer den digitalen Raum schützen soll, darf dabei nicht psychisch zugrunde gehen.
Die Arbeiter:innen fordern auch die Anerkennung als Ausbildungsberuf. Das stärkt sowohl die Beschäftigten als auch die Qualität der Arbeitsergebnisse.
Abschließend möchte ich sagen: Es ist ein wichtiges Zeichen, dass wir heute vor zwei Ausschüssen sprechen, die die Themen Digitales und Arbeit abdecken. Wie wir am Beispiel KI sehen, greift beides unmittelbar ineinander. Ich wünsche mir, dass nicht nur hingeschaut, sondern auch gehandelt wird. Denn, und ich hoffe, das ist Konsens in diesem Gremium: Unsere digitale Zukunft darf nicht auf Ausbeutung fußen.