Trügerische Transparenz

Demnächst werden im Internet neue Symbole und Hinweise auftauchen. Am Sonntag treten weite Teile der KI-Verordnung in Kraft, und mit ihr neue Pflichten für die Kennzeichnung synthetisch generierter Inhalte. Ob Texte, Bilder, Video- oder Audiomaterial: In vielen Fällen müssen Anbieter, die KI-erstellte Inhalte in die Welt pusten, ausweisen und dokumentieren, ob und inwieweit bei der Erstellung Roboter im Spiel waren.

Grundsätzlich soll dies Desinformation eindämmen und zugleich das öffentliche Vertrauen steigern, wie es die EU-Kommission darlegt. Dazu sollen neben der Kennzeichnungspflicht sowie in KI-Inhalte eingewobene Markierungen auch weitere Ansätze beitragen. Nutzer:innen müssen etwa transparent darüber informiert werden, wenn sie mit einem KI-Chatbot und nicht mit einer realen Person sprechen, beispielsweise in Supportfällen. KI-Anbieter müssen zudem offenlegen, wenn sie automatisiert Emotionen oder, auf Basis biometrischer Daten, etwa das Alter oder Geschlecht zu erkennen versuchen.

Die Regeln stammen aus der EU-Verordnung zur Künstlichen Intelligenz (AI Act), die seit ihrer Verabschiedung vor gut zwei Jahren schrittweise in Kraft tritt. Abschließende Details dazu, wen die Kennzeichnungspflicht genau trifft und welche Inhalte auf welche Art markiert werden müssen, hat die Kommission indes erst kürzlich veröffentlicht. Gleich vorneweg: Private Nutzer:innen, die ihre Weihnachtskarten oder Mails von KI-Tools erstellen lassen, sind von den Auflagen ausgenommen. Sie gelten abgestuft für die Anbieter von KI-Modellen („Provider“) sowie für berufliche Nutzer:innen, die solche Modelle im Einsatz haben („Deployer“).

Detailliertes Regelwerk mit Löchern

Trotz des etwas spät nachgereichten Feinschliffs kommen die Regeln nicht überraschend, viele Unternehmen oder gleich ganze Branchen bereiten sich seit geraumer Zeit darauf vor. Nicht von ungefähr hat etwa die deutsche Musikindustrie jüngst angekündigt, Logos für gänzlich oder teilweise mit KI generierte Musikstücke einzuführen. Selbst wenn dies manche Expert:innen als ersten Schritt bewerten, der Hörer:innen Orientierung geben kann, wird auch Kritik laut: Schließlich verschwimmen im Produktionsprozess zunehmend die Grenzen, sodass sich mitunter nur schwer festhalten lässt, was menschliche Handarbeit und was synthetischer Output ist.

Genau diese Grauzonen sollen die Leitlinien aufhellen helfen. Das mit zahlreichen Beispielen garnierte, 51 Seiten lange Papier stellt einigermaßen klar, was von den Regeln erfasst wird und was nicht. Solange ein KI-System lediglich dazu eingesetzt wird, um unterstützende Editier-Funktionen zu nutzen oder die Bearbeitung das Ausgangsmaterial nicht substanziell verändert, entfällt die Logo-Pflicht. Dies gilt etwa, wenn eine KI-gestützte Grammatikprüfung über einen Text gelassen oder ein Video-Clip in ein neues Seitenformat umgerechnet wird.

Ebenfalls ausgespart bleiben Inhalte, bei denen offensichtlich sein sollte, dass sie nicht echt sind. Wenn in einem Werbeclip etwa zwei Mäuse über die Vorzüge einer bestimmten Käsesorte diskutieren, muss dies nicht ausdrücklich als künstlich generiert ausgewiesen werden. Anders bei KI-manipulierten Bildern, die etwa zwei echte Fußballer vor einem Stadium zeigen, die dort so nie standen: Dies gilt als Deep Fake und muss, um Desinformation zu vermeiden, entsprechend markiert werden.

Transparenz nur ein Baustein

Grundsätzlich sei die Kennzeichnungspflicht ein „sinnvoller Baustein, um mehr Transparenz in Bezug auf veröffentlichte Inhalte zu schaffen“, sagt Raphael Fischer, der an der Technischen Universität Dortmund zu solchen Fragen geforscht hat. Vertrauen entstehe allerdings nicht allein durch ein solches Label, sondern vor allem auch durch „Transparenz und Nachvollziehbarkeit von KI-Systemen und einen verantwortungsvollen Umgang mit dieser mächtigen Technologie“, so Fischer. KI-Labels könnten die Frage beantworten, ob KI eingesetzt wurde, „allerdings nicht, ob das Ergebnis korrekt, fair oder zuverlässig ist oder wie und wofür die Inhalte erstellt wurden.“

Forschung zeige, dass Kennzeichnungen vor allem als Orientierungshilfe wahrgenommen werden. „Sie können den Einstieg in eine informierte Bewertung erleichtern, sind aber kein Garant für Vertrauen oder Glaubwürdigkeit“, sagt Fischer. Zwar ließe sich im Idealfall auf einen Blick erkennen, ob KI an der Erstellung eines Inhalts beteiligt war. Doch Labels ersetzen „weder eine kritische Bewertung des Inhalts selbst noch schaffen sie Transparenz zur Funktionsweise oder Auswirkungen von KI“, so Fischer.

Hinzu kommt, dass die EU zwar entsprechende Icons vorgeschlagen hat, diese aber nicht verbindlich sind. Anbieter können also weiter eigene Süppchen kochen und beliebige eigene Kennzeichnungen verwenden, solange sie im Rahmen des KI-Gesetzes bleiben. Das gibt ihnen Spielraum bei der Gestaltung, untergräbt aber den größten Vorteil von Standardisierung: „Nutzende sollten nicht für jede Plattform ein neues Kennzeichnungssystem erlernen müssen“, sagt Fischer.

„Wenn Unternehmen parallel eigene Labels oder Symbole einführen, besteht die Gefahr eines Flickenteppichs, der auch eine gezielte Täuschung ermöglicht, wie zum Beispiel bei Bio-Zertifikaten oder Vertrauens-Siegeln“, warnt der Forscher. Für ein abschließendes Urteil ist es aber noch zu früh. „Wie stark die Icons tatsächlich wahrgenommen werden und das Verhalten beeinflussen, wird sich erst im praktischen Einsatz zeigen“, sagt Fischer.

Ansatz mit Grenzen

Ohnehin merkt man dem KI-Gesetz an, dass es sich um die Grenzen des eigenen Ansatzes bewusst ist: Im Blick hat es hier ein Ökosystem von Anbietern, die sich im Großen und Ganzen an die Regeln halten, um bei Verstößen drohenden Millionenstrafen aus dem Weg zu gehen. Gegen Desinformationskampagnen, die etwa Zweifel an Demokratien oder am Klimawandel säen, werden diese Regeln nichts ausrichten.

Auch die Entscheidung, digitalen Wasserzeichen oder KI-Detektoren eine verhältnismäßig untergeordnete Rolle zuzuweisen, zeigt in diese Richtung. Solche Ansätze wurden vor nicht allzu langer Zeit noch heiß debattiert – mit dem Ergebnis, dass die Technik unzuverlässig ist und KI-Fälschungen zugleich immer raffinierter werden. Ganz außen vor ist das Thema jedoch nicht: Vom Gesetz erfasste KI-Inhalte müssen in einem maschinenlesbaren Format preisgeben, dass eine KI ihre Finger im Spiel hatte.

Auch hier werden sich bösartige Akteure von den Regeln wohl nicht abschrecken lassen. Legitime Online-Dienste können diese Informationen jedoch zumindest theoretisch nutzen. Vorstellbar sind etwa soziale Netzwerke, die auf Wunsch KI-generierte Inhalte ausblenden oder Musik-Streamingdienste, auf denen Nutzer:innen „AI Slop“ aus ihren Playlisten verbannen können.

Medienkompetenz wichtiger denn je

Sich allein auf die Labels zu verlassen, greift aber zu kurz und kann sogar kontraproduktiv sein, wie die Forschung zeigt. Schließlich gibt ein KI-Label keine Auskunft darüber, ob ein Inhalt richtig oder falsch ist. Einer Studie zufolge können KI-Labels etwa dazu beitragen, dass Nutzer:innen falschen Inhalten mit KI-generierten Bildern seltener glauben. Zugleich ließ sich jedoch das Phänomen beobachten, dass falsche, aber ungekennzeichnete Inhalte eher als wahr eingeschätzt wurden, während wahre Inhalte mit KI-Labeln häufiger angezweifelt wurden.

„Ob die geplanten Kennzeichnungen der richtige Weg sind, wird sich noch herausstellen müssen“, sagt Rainer Rehak vom Weizenbaum-Institut: „Transparenz ist ja kein Selbstzweck“. Grundsätzlich sei die Grundmotivation unterstützenswert, denn letztendlich gehe es um „Authentizität, Orientierung und Verantwortlichkeit von Interaktion, ob direkt oder mediiert“, sagt Rehak. Hierbei sei reine Transparenz „natürlich der naheliegenste und vergleichsweise einfachste Weg“, so der Wissenschaftler – jedenfalls im Vergleich zu den Ansätzen, die er bevorzugt hätte, nämlich „weitergehenden Produktbeschränkungen, konkreteren Systemgestaltungsvorgaben oder oder auch klaren Verboten“.

So weit wollte die EU indes nicht gehen. Ähnlich den unzähligen KI-Produkten, die in den vergangenen Jahren aus dem Boden geschossen sind, gleichen die neuen Transparenzregeln eher einem Experiment, wie sich diese Technologie in die Gesellschaft integrieren lässt. „Die KI-Verordnung soll ja explizit KI ermöglichen, und jetzt müssen wir erst einmal damit umgehen“, sagt Rehak.