Verbote stoppen

Forschende schlagen Alarm: Staaten sollen Social-Media-Verbote stoppen

Regierungen und Parlamente weltweit sollen ihre Pläne für Social-Media-Verbote nicht weiter verfolgen. Das fordern mehr als 400 Forscher*innen aus 29 Ländern in einem offenen Brief. Sie wollen zuerst prüfen, ob Alterskontrollen überhaupt wirksam und sicher sind.

Nachdem Australien im Dezember ein Social-Media-Verbot für unter 16-Jährige eingeführt hat, wollen zahlreiche Staaten das auch. In Deutschland läuft die Debatte ebenso heiß. Jetzt wollen Hunderte Forscher*innen aus den Bereichen Technologie, IT-Sicherheit und Privatsphäre die Notbremse ziehen.

In einem offenen Brief warnen sie eindringlich vor den negativen Folgen eines Social-Media-Verbots und den damit verbundenen flächendeckenden Alterskontrollen im Netz. Es fehle ein klares Verständnis dafür, was diese Kontrollen anrichten können – für „Sicherheit, Privatsphäre, Gleichberechtigung“ und die „Autonomie“ aller Menschen.

Die Einführung von Alterskontrollen ohne weitere Forschung sei „gefährlich und gesellschaftlich nicht hinnehmbar“, schreiben die Forscher*innen auf Englisch. Sie fordern deshalb ein Moratorium für Social-Media-Verbote. Das heißt: Regierungen und Parlamente sollen ihre laufenden Vorhaben stoppen und vorerst keine Verbote erlassen.

Unterschrieben haben das Wissenschaftler*innen aus 29 Ländern, darunter sind viele EU-Staaten, die USA, UK, Kanada, Südkorea und die Türkei. Aus Deutschland haben sich rund 70 Fachleute dem Aufruf angeschlossen. Der offene Brief passt zu einem fachübergreifenden Chor aus Warnungen: Auch Expert*innen aus unter anderem den Bereichen Kinderschutz, Pädagogik und Menschenrechten haben Bedenken gegenüber einem Social-Media-Verbot oder lehnen es ab.

Nachteile von Alterskontrollen gewiss, Vorteile ungewiss

Gleich zu Beginn des Offenen Briefs stellen die Forscher*innen klar: „Wir teilen die Sorgen über die negativen Auswirkungen, die schädliche Online-Inhalte auf Kinder haben.“ Aber sie befürchten, dass Regulierung ohne sorgfältige Abwägung der Risiken „mehr Schaden als Nutzen“ bringen könnte.

• Erstens: Es ist nicht sicher, ob ein Social-Media-Verbot die erhofften Vorteile bringt. Die Forschenden mahnen, es gebe keine wissenschaftlichen Belege dafür, dass ein Verbot positive Auswirkungen auf die psychische Gesundheit von Minderjährigen hätte. Umgekehrt brächten soziale Medien positive Effekte: mehr soziale Kontakte, weniger Einsamkeit, sichere Räume für marginalisierte Gruppen. Alterskontrollen seien „keine Garantie dafür, dass Minderjährige keine schädlichen Online-Inhalte abrufen“. Stattdessen würden Betroffene die Kontrollen umgehen oder zu unregulierten Alternativen abwandern.
• Zweitens: Es ist sicher, dass Alterskontrollen Nachteile bringen. So musste die Team-Software Discord kurz nach Einführung von Alterskontrollen ein Datenleck eingestehen: Demnach hatten Kriminelle wohl Zugriff auf 70.000 Ausweisdaten von Menschen, die Discord ihr Alter nachgewiesen haben. Solche Nachweise mit amtlichen Dokumenten würden außerdem Menschen ausschließen, warnen die Forschenden, etwa undokumentierte Einwandernde, Asylsuchende, Reisende aus dem Ausland – oder Nutzer*innen, die Aufgrund einer Leseschwäche die neuen Hürden nicht überwinden können. Alternative Verfahren, in denen Software das Alter von Nutzer*innen einschätzt, sogenannte KI, seien „bekanntlich fehleranfällig“.
• Drittens: Alterskontrollen schaffen eine gefährliche, zentralisierte Infrastruktur. „Wer festlegt, welche Altersschranken gelten sollen, und wer sie durchsetzt, erhält einen enormen Einfluss darauf, welche Inhalte im Internet für wen zugänglich sind“, warnen die Forschenden. In den falschen Händen könnte diese Infrastruktur auch für Zensur genutzt werden, etwa für queere Inhalte. Gerade bei technologisch komplexen Lösungen könnten Abhängigkeiten zu wenigen Tech-Konzernen wie Google oder Apple entstehen.

Appell für Regulierung statt Verbote

Mit Blick auf Alterskontrollen kommen die Forscher*innen deshalb zum Fazit: „Der Einsatz ist nur dann gerechtfertigt, wenn nachgewiesen wird, dass der Nutzen die möglichen Schäden deutlich überwiegt.“ Es brauche vertiefende Forschung, bevor Staaten entsprechende Regeln flächendeckend ausrollen.

Fürs Erste regen die Forschenden an, sich lieber den Ursachen zu widmen. Konkret nennen sie algorithmisch optimierte Feeds sozialer Medien. Durch ihre enorme Sogwirkung fällt es vielen Menschen schwer, das Handy lange aus der Hand zu legen. Die Regulierung von Feeds wäre den Forschenden zufolge unmittelbarer wirksam und würde Plattformen für Kinder und Erwachsene gleichermaßen sicherer machen.

Solche suchtfördernden Mechanismen bei TikTok hat etwa die EU-Kommission bereits festgestellt, zumindest vorläufig. Grundlage ist das Gesetz über digitale Dienste (DSA). Das laufende Verfahren kann sich allerdings in die Länge ziehen, und TikTok dürfte sich juristisch wehren. Zugleich hat die EU-Kommission ein Expert*innen-Gremium rund um Alterskontrollen einberufen, das bis Sommer Ergebnisse vorlegen soll.

Sebastian Meineck ist Journalist und seit 2021 Redakteur bei netzpolitik.org. Zu seinen aktuellen Schwerpunkten gehören digitale Gewalt, Databroker und Jugendmedienschutz. Er schreibt einen Newsletter über Online-Recherche und gibt Workshops an Universitäten. Das Medium Magazin hat ihn 2020 zu einem der Top 30 unter 30 im Journalismus gekürt. Seine Arbeit wurde mehrfach ausgezeichnet, unter anderem zweimal mit dem Grimme-Online-Award sowie dem European Press Prize.Kontakt: E-Mail (OpenPGP), Sebastian Hinweise schicken | Sebastian für O-Töne anfragen | Mastodon. Dieser Beitrag ist eine Übernahme von netzpolitik, gemäss Lizenz Creative Commons BY-NC-SA 4.0.