Content Moderatoren

“Menschliche Filter für das Grausamste, was es gibt” — Sie löschen gewalttätige Bilder, Videos und Chats aus den Sozialen Medien. Sie machen die Plattformen sicher, aber arbeiten selbst unter unsicheren Bedingungen. Jetzt begehren sie auf – weltweit

Sie arbeiten für TikTok, Facebook, Twitter und Co. Im Englischen werden sie auch “Cleaner” genannt, Reinigungskräfte, die den Dreck aus dem Internet fegen. Und so prekär oftmals die Situation von Reinigungskräften ist, sind auch die Arbeitsbedingungen von Content Moderatoren mehr als problematisch: Sie arbeiten im Verborgenen, dürfen über ihre Arbeit nicht sprechen, werden psychologisch kaum unterstützt, obwohl sie täglich zehntausende Posts, Bilder und Videos voll Gewalt und Hass ansehen und löschen müssen. Und sie werden schlecht bezahlt.

Daran wollen die Content Moderatoren jetzt etwas ändern. In Deutschland und zuletzt in Kenia haben sie sich auf drei grundsätzliche Forderungen verständigt: Sie fordern gleiche Bezahlung, denn viele von ihnen arbeiten für Subunternehmen der großen Plattformen zu deutlich schlechteren Bedingungen. Sie fordern das Recht, sich gewerkschaftlich zu organisieren. Bei TikTok in Deutschland haben die Beschäftigten im vergangenen Jahr mit Unterstützung von ver.di bereits einen Betriebsrat gegründet. Und sie fordern regulären Gesundheitsschutz für ihre Psyche. Hikmat El-Hammouri, ver.di-Gewerkschaftssekretär und Mitorganisator des ersten Treffens von Content Moderatoren in Deutschland sagt: “Content Moderatoren sind ein menschlicher Filter für das Grausamste, was es gibt.”

2018 war es einem Team des Westdeutschen Rundfunks gelungen, Beschäftigte in Manila auf den Philippinen vor die Kamera zu bekommen. Dort säubern zehntausende Content Moderatoren tagtäglich bis zu 12 Stunden das Netz von Vergewaltigungsbildern, Enthauptungsvideos, Selbstverletzungen, brutalem Rassismus, Kindesmissbrauch, verstörenden Kriegsbildern, Pornographie, kurzum von allem, was sonst nur in illegalen Dark Rooms im weltweiten Netz zu finden ist.

Hunderttausende Moderatoren, Milliarden Nutzer

Weltweit löschen schätzungsweise mehrere Hunderttausend Content Moderatoren im Internet Inhalte, die der Rest der Welt nicht zu sehen bekommt. Sie alle verändert diese Arbeit, belastet sie, bis sie auf die Bremse treten und aussteigen. Einer der Content Moderatoren in der WDR-Dokumentation sagt, er habe in einer Schicht 25.000 Inhalte sichten müssen. An die meisten Bilder könne er sich nicht mehr erinnern, doch einige Videos hätten sich in seine Seele gefressen. Unter anderem ein Live-Video von einem Selbstmord, das er erst stoppen durfte, als der Selbstmörder baumelnd am Strick um sein Leben kämpfte – es hätte ja auch jemand sein können, der sich nur einen Spaß erlaubt.

Ali, einer der Content Moderatoren, der zur ver.di-Veranstaltung im März gekommen und dessen Name hier geändert ist, löscht seit vier Jahren für eine der großen Social-Media-Plattformen in Berlin Inhalte. Ali ist aus Afghanistan nach Deutschland gekommen und ist auch wegen seiner Sprachkenntnisse gefragt. Über die Bildschirme von Content Moderatoren flimmern Bilder aus der ganzen Welt und in nahezu alle Sprachen. Laut Zahlen des Statistischen Bundesamtes vom November 2022 nutzen derzeit 4,6 Milliarden, also über die Hälfte der Weltbevölkerung, aktiv die Sozialen Medien.

“Unser Job ist wichtig und hart, aber auf uns wird herabgeblickt.”
Rose, Content Moderatorin

Seit Ali das Netz von Gewaltbildern befreit, ist ihm seine Vergangenheit in Afghanistan nahezu täglich in seinen Träumen wieder präsent. “Ich habe immer mit vielen Videos zu tun, die hart sind, eine Menge Selbstverletzungen”, sagt er. Bei ihm würden sie Bilder von der Gewalt in seiner Heimat wachrufen. Ali sagt: “Mit der Zeit ging es mir gesundheitlich immer schlechter. Wir machen die Plattformen zu einem sicheren Ort, aber für uns sind es keine sicheren Orte. Sehr viele Inhalte bedrohen unsere psychische Gesundheit.” Er habe das Gefühl, jeden Tag aufs Neue einen Test bestehen zu müssen.

Rose, ebenfalls Content Moderatorin und beim Berliner Treffen dabei gewesen, sagt: “Unser Job ist wichtig und hart, aber auf uns wird herabgeblickt.” Weder würden sie so behandelt noch so bezahlt, wie sie es verdient hätten. Wertschätzung ist das Wort, das in aller Welt unter den Content Moderatoren fällt. Die Social-Media-Plattformen haben sie frühzeitig outgesourct in Billigfirmen, die schlecht bezahlen und so gut wie keinen Gesundheitsschutz bieten.

Gewerkschaftsgründung in Afrika

In Kenia haben am 1. Mai, am Internationalen Tag der Arbeit, im Mövenpick Hotel in Nairobi rund 180 Content Moderatoren die erste afrikanische Gewerkschaft für Content Moderatoren gegründet, die Content Moderators Union of Africa. Bisher arbeiten die afrikanischen Content Moderatoren für Stundenlöhne von 1,50 bis 2,20 US-Dollar, viele leiden durch die Gewaltbilder, die sie löschen, unter einem Posttraumatischen Belastungssyndrom.

Als das Abstimmungsergebnis für die Gründung der Gewerkschaft im Mövenpick verlesen wurde, jubelten sie, Konfetti flog durch den Konferenzsaal. Als hätten sie ihren Kampf gegen Sama, das Facebook-Subunternehmen, für das sie arbeiten, schon gewonnen. Arbeiteten (!) muss es inzwischen heißen. Denn unmittelbar nach der Gewerkschaftsgründung wurden alle beteiligten Content Moderatoren entlassen und auf eine Schwarze Liste gesetzt.

Deshalb rufen die afrikanischen Content Moderatoren jetzt zu Spenden auf: “Wir haben Facebook vor Gericht verklagt, aber trotz gerichtlicher Anordnungen, dass unsere Gehälter weitergezahlt werden müssen, behalten Facebook und Sama unsere Gehälter ein. Deshalb können wir uns die Miete nicht mehr leisten, unsere Familien nicht ernähren und nicht einmal für uns selbst sorgen”, heißt es in ihrem Aufruf.

Algorithmen gegen Gewalt?

Als Elon Musk im November 2022 auch bei Twitter in den USA massenhaft Content Moderatoren entließ, waren Fachleute alarmiert, sie befürchteten einen rapiden Anstieg von Hass und Hetze auf der Plattform. Social-Media-Plattformbetreiber wie Elon Musk oder Marc Zuckerberg von Meta (Facebook) glauben, in der Zukunft würde allein Künstliche Intelligenz (KI) die Aufgabe der Content Moderatoren übernehmen. Das KI bereits zum Einsatz kommt, bestätigen viele Content Moderatoren. “Doch”, sagt Ali, “ohne uns kommt kein Algorithmus gegen die Gewalt im Netz an.” Das Berliner Treffen von Content Moderatoren und die Gewerkschaftsgründungen in Afrika sind daher ein Anfang und wichtiger Schritt, um die Sozialen Medien, aber vor allem die Arbeitsbedingungen ihrer Moderatoren besser und sicherer zu machen.

Die WDR-Dokumentation “The Cleaners” kann auf der Seite der Bundeszentrale für politische Bildung angesehen werden. Die afrikanischen Content Moderatoren können hier unterstützt werden. Dieser Beitrag ist eine Übernahme aus ver.di-publik, mit freundlicher Genehmigung der Redaktion.