Smartphone als elektronische Fußfessel

Katika Kühnreich, Politikwissenschaftlerin und profilierte Forscherin über das chinesische “Social Credit System” zur Kontrolle aller Individuen im Reich der Mitte hat heute im Rahmen des CCC-Kongress einen bemerkenswerten Vortrag über die Bedeutung der “Künstlichen Intelligenz” und ihrer Rolle für die von den US-Tech-Oligarchen angestrebte Kontrolle der US- Medien und weiterer westlichen Gesellschaften – Elon Musks Werbung für die AfD z.B. – gehalten. Wir wollen diesen hier wiedergeben. Hier zunächst ihr Beitrag in: “Uns das Grungesetz aneignen” Band 2, Grundrechte in der digitalen Gesellschaft” Zur Wirkung von Smartphones bzw. wie sich die “Smartphone-Gesellschaft” von ihren Idealen der Emanzipation entfernt und buchstäblich Menschen elektronisch versklavt. Vor dem Hintergrund der Gesetzgebung in Australien hochaktuell:

Freiheit und „Smart“phone
– Von der informationellen Selbstbestimmung zur elektronischen Fußfessel

Von Katika Kühnreich

Das Grundgesetz (GG) ist üblicherweise kein gängiges Thema in der deutschen Öffentlichkeit. Zum 75. Jahrestag im Mai 2024 änderte es sich: In Medien und Politik war das GG für kurze Zeit ein zentrales Thema. Fast keine Aufmerksamkeit erhielt dagegen ein anderes wichtiges Datum, das knapp ein halbes Jahr zuvor seinen 40. Jahrestag erlebt hat, eines der wichtigsten Urteile des Bundesverfassungsgerichts (BVerfG) bezüglich Menschenrechten und Digitalisierung: Das Recht auf informationelle Selbstbestimmung.

In Bezug auf eine damals gegen die geplante Volkszählung eingereichte Klage beschied das BVerfG direkt aus Artikel 1 (die Menschenwürde) und 2 (Unverletzlichkeit der Freiheit) des Grundgesetzes abgeleitet die Existenz eines Rechts von Bürger*innen auf Kenntnis über Daten, die über sie gesammelt und gespeichert werden.

Angesichts der Digitalisierung im Jahr 2024 stellt sich die Frage, inwieweit dieses theoretisch bestehende Recht auf eine digitale Selbstbestimmung heute noch umsetzbar und in der Realität lebbar ist. Denn anders als 1983 sind die meisten von uns inzwischen im wahrsten Sinne des Wortes ins Netz gegangen – oft ohne zu wissen, wer das Netz, in dem wir uns und unsere Daten bewegen, betreibt. Und meist ohne sich generell über die Tragweite der Datafizierung im Klaren zu sein. Oder über die möglichen Auswirkungen unseres Handelns in der digitalen Welt für eine immer mehr von Maschinen und denen, die sie lenken, bestimmten Zukunft.

Dieser Essay stellt der im Verfassungsgerichtsurteil von 1983 garantierten informationellen Selbstbestimmung die digitale Realität der heutigen Zeit entgegen. Hierfür wird neben der staatlichen und individuellen Ebene insbesondere die der privaten Wirtschaft in den Blick genommen. Die gesellschaftlichen Auswirkungen der derzeitigen Digitalisierung werden im Verlauf betrachtet und Fragen nach der Bedeutung von Ethik, Ideologie und gesellschaftlichem Zusammenhalt gestellt.

• Herrschaft und Daten

Jede Herrschaft benötigt Informationen. Sogenannte Volkszählungen oder Zensus zählen zu den Möglichkeiten, Informationen über die im Herrschaftsbereich lebenden Personen und deren Zusammenhänge flächendeckend zu erheben. Mit der Fähigkeit, die erlangten Informationen zu verarbeiteten, steigt die Macht der Herrschaft, welche sich zum Vorteil, aber immer auch zum Nachteil von verschiedenen gesellschaftlichen Gruppen auswirken kann.

Durch das Aufkommen von egalitären Gesellschaftsideen und der Zurückdrängung von autoritären Herrschaftsmodellen im 18. und 19. Jahrhundert wurde die Idee einer Beschränkung von aristokratischer Herrschaft und der großen Kirchen in Europa verbreitet. Zugleich wurden Konzepte der Privatsphäre und der allgemeinen Menschenrechte sowie des Laizismus aufgestellt und durch die aufkommenden sozialrevolutionären Gesellschaftstheorien wie Liberalismus, Anarchismus und Sozialismus weiterentwickelt. Auch wurde die von Männern dominierte Machtausübung während der französischen Revolution von kämpfenden Frauen wie Olympe de Gouges in Frage gestellt, die 1791 die „Erklärung der Frau und Bürgerin“ veröffentlichte.

Durch die Verbreitung von revolutionären und libertären Gedanken wurde die Hoffnung auf eine bessere Existenz verbreitet und durch Aufstände und neue Realitäten andere Gesellschafts- und Herrschaftsformen geschaffen. Und mit ihnen auch die Wurzeln moderner Staaten: Macht wurde mit Legitimation verbunden, beschränkt und von der Kirche getrennt, die Bevölkerung wurde zum Souverän erklärt und der Schutz des einzelnen Menschen auch vor dem Staat beschlossen.

Europa wandelte sich in eine Sammlung von sich demokratisch oder republikanisch nennenden Ländern, auch wenn in einigen von ihnen Königshäuser zumindest formell an der Spitze der Staaten standen. Auch außerhalb des „alten Kontinents“ brachen Kämpfe um Macht und Selbstbestimmung aus. Die Gedanken von egalitären Gesellschaften verbreiteten sich nicht mehr nur über Reisende, sondern – wie schon die Idee des Protestantismus mittels der Technik des Buchdrucks – mit Hilfe der neuen Technologien per Eisenbahn und Dampfer, sie summten über die Drähte der Telegraphen. Gleich dem Aufkommen des Protestantismus reichten die Gedanken von Freiheit und einem besseren und vielleicht sogar guten Leben, um unzählige Individuen sich zu Massen verbinden zu lassen, die die Adergeflechte der alten Herrschaft angingen, verstopften, zerstörten, um eine neuere, bessere Welt für sich und andere aufzubauen.

Doch anders als von vielen gehofft, bewegten sich Gesellschaften nicht in einer unaufhaltsamen Evolution hin zu einer immer freieren und gleichberechtigteren Form des Zusammenlebens, sondern erlebten Disruptionen unterschiedlicher Arten.

Jede Gesellschaftsform hat ihre Probleme. Nach Befreiungsbewegungen und ihren Schwierigkeiten glitzerten für manche die autoritären Gesellschaftsordnungen wieder verführerisch. Und das simple Versprechen von Nationalist*innen, über eine wertvolle Identität qua Geburt zu verfügen, versprach gleichzeitig die Zugehörigkeit zu einer starken gesellschaftlichen Gruppe. Zu einer Gemeinschaft, die sich der eigenen Einschätzung nach von anderen abgrenzt und sich über diese erhebt.

Mit dem Aufkommen dieser neuen autoritären Herrschaftsformen, die Menschen als lenkbare Massen begriffen, wurden die universellen Rechte wieder aufgelöst. In Herrschaftsformen wie dem Faschismus wurden Menschen zu ungleichen Wesen erklärt, die ungleiche Rechte hatten. Macht konnte wieder durch Herkunft begründet werden. Statt des Werts des einzelnen Menschen wurde eine Massenidentität via Nationalität oder anderer Gruppenidentitäten, die sich explizit gegen andere richtete, gebildet. Auch der Liberalismus und Sozialismus bildeten autoritäre Formen aus.

Zwei Weltkriege zerfurchten Landschaften und Leben. Nach ihnen bildeten zwei der rivalisierenden Ideologien Blöcke heraus, zwischen denen kaum ein dritter möglich war. Nach dem Untergang des Sowjet-Sozialismus verkündete der US-amerikanische Neokonservative Francis Fukuyama nichts Geringeres als das Ende der Geschichte.

• Informationsbeschaffung und -auswertung

Die staatliche Informationsbeschaffung und -auswertung wurde durch die Verstädterung, den Einsatz von Technologie sowie einer Umformung der Verwaltung im 19. Jahrhundert vereinfacht.

Die Erfindung der Lochkarte war ein technologischer Durchbruch, deren Zeichenanzahl pro Zeile sich bis heute noch an Terminals oder E-Mail-Systemen zeigt. Die Vereinfachungen der Datenauswertung wurden von autoritären Staaten schnell eingesetzt, um Menschen zu quantifizieren. Einen grausamen Höhepunkt erreichte die Verwendung der Lochkartensysteme im industriellen Massenmord ganzer Bevölkerungsgruppen durch das faschistische Deutschland.

Nach der Befreiung Deutschlands durch die Alliierten finden sich im GG verschiedene Ideen, durch die ein erneutes Abrutschen in den Faschismus verhindert werden sollte. Gleichzeitig starteten die neugegründete Bundesrepublik und die Deutsche Demokratische Republik als Schauplätze des Ost-West-Konflikts.

• Zur gesellschaftlichen Situation in Westdeutschland 1983

Die ursprünglich für 1981 geplante und dann für 1983 angekündigte Volkszählung in Westdeutschland traf auf eine durch lokale und internationale Ereignisse zu großen Teilen politisierte Bevölkerung. Der Ost-West-Konflikt war mit der Stationierung von Mittelstreckenwaffen bis in entlegene Gebiete wie den Hunsrück spürbar geworden, die Erweiterung der Frankfurter Startbahn West, feministische Kämpfe, eine entstehende Hausbesetzer*innenszene und der Ausbau der Atomkraft waren nur einige Brennpunkte der politischen Bewegungen. Nach den Notstandsgesetzen waren die vor allem gegen die RAF geschriebenen „Terroristengesetze“ von einem starken Staat durchgesetzt worden, der seine Feinde links sah. Während sich die Wehrsportgruppe Hoffmann quer durch Westdeutschland mordete, hing in jeder Bank ein Fahndungsplakat mit den Konterfeien von RAF-Mitgliedern. Die von Horst Herold geförderten Möglichkeiten der Datenauswertung bei der Suche nach Terrorverdächtigen ließen viele freiheitlich denkende Menschen erschauern.

Die 1945 von den Alliierten beendete Nazidiktatur war noch keine 40 Jahre vergangen, und nicht wenigen war die Macht durch Daten und die Vernichtung von in Nummern verwandelte Menschen bewusst. So hatten in den 1960ern ehemalige KZ-Gefangene zusammen mit Auszubildenden und Studierenden gegen die angekündigten Notstandsgesetze protestiert. Die in der Volkszählung vom Staat verlangten Daten erschienen vielen zu weitgreifend und wurden als weiterer Schritt auf dem Weg zur gläsernen Bürger*in gesehen, die einem immer stärker werdenden Staat mehr und mehr ausgeliefert war.

Dies waren einige Bestandteile der politisch-gesellschaftlichen Gemengelage, in der die Klage gegen die Erhebung und Auswertung der Volkszählung eingelegt wurde. Angesichts der politisch angespannten Lage in Westdeutschland und des staatlichen Repressionsdrucks gegen links-emanzipatorische politische Bewegung kam es im Widerstand gegen die Volkszählung zu einer breiten sozialen Bewegung.

• Das „Volkszählungsurteil“ – Das Grundrecht auf informationelle Selbstbestimmung (BVerfG 1983)

Teile der Bewegung griffen zum Mittel der Klage. Im Urteil wurde zwar die Volkszählung nicht unterbunden, aber die Klagenden erreichten den Bescheid eines Grundrechts auf informationelle Selbstbestimmung durch das Verfassungsgericht:

„1. Unter den Bedingungen der modernen Datenverarbeitung wird der Schutz des Einzelnen gegen unbegrenzte Erhebung, Speicherung, Verwendung und Weitergabe seiner persönlichen Daten von dem allgemeinen Persönlichkeitsrecht des GG Art 2 Abs. 1 in Verbindung mit GG Art 1 Abs. 1 umfaßt. Das Grundrecht gewährleistet insoweit die Befugnis des Einzelnen, grundsätzlich selbst über die Preisgabe und Verwendung seiner persönlichen Daten zu bestimmen.“

Es ist, auch international gesehen, ein bahnbrechendes Urteil, welches bis heute besteht.

Bedauerlicherweise wurde es aber nie zu einem Primat von Regierungspolitik oder zu einem in weiten Teilen der Bevölkerung präsenten Urteil. Und da Urteile nicht qua ihrer Existenz Betroffene vor Schaden schützen, wird im folgenden Abschnitt erörtert, welche Auswirkung und Beschränkungen das Urteil bis heute hat.

Einschränkend wird zu Beginn darauf verwiesen, dass es sich bei dem Begriff der Selbstbestimmung an sich um einen wenig eindeutigen handelt, der Jurist Jörn Lamla etwa verweist auf die Ambiguität: „Der Begriff ‘Selbstbestimmung’ ist insofern widersprüchlich, als gesellschaftlich bedingt ist, was als Freiheit des Individuums erscheint und diesem sozial oder sogar als Wesenszug zugeschrieben wird.“ Zudem verweist Lamla auf das Machtgefälle zwischen dem Individuum und den Daten sammelnden Instanzen: „Angesichts der Asymmetrie von Kontrollpotenzialen und der Dezentrierung, die die Lebensführung unter den neuen soziotechnischen Bedingungen der Datenökonomie erfährt, sollte Selbstbestimmung nicht länger als Sache einzelner Bürgerinnen und Bürger betrachtet werden.“

Trotz allem hat die Entscheidung, das Recht des einzelnen Menschen über die Übermittlung und Verwendung seiner Daten höchstrichterlich zu beschließen, (theoretisch) große Auswirkungen. Interessant ist, zu beobachten, wie das theoretisch existierende Recht in einer zu immer größerer Datenintensität entwickelten Realität verblasste. Um dies zu verdeutlichen, wird im folgenden Abschnitt auf die Möglichkeiten der Datenerfassung eingegangen.

• Datenerfassung damals und heute

Stellt man den damaligen Stand der Datenerhebung, -zusammenführung und -auswertung dem derzeitigen gegenüber, handelte es sich bei der Volkszählung von 1983 bzw. 1987 aus heutiger Sicht um eine geringe Menge Daten. Jedoch kann eine Bewertung der Gefahr, die von Daten ausgehen kann, nicht nur anhand deren schierer Quantität getätigt werden. Auch die aus heutiger Sicht wenigen, die in der Volkszählung erhoben wurden, waren zur Kategorisierung von Individuen auf verschiedenen Ebenen geeignet. Desweiteren muss hervorgehoben werden, dass diese Daten zwar von einem Staat erhoben, aber deren Verarbeitung zumindest zum Teil von privatwirtschaftlichen Unternehmen geleistet wurden, die somit Zugriff auf die Daten hatten. Dieser Umstand wird hervorgehoben, da der Staat (zumindest theoretisch) durch eine Legitimationspflicht gegenüber seinen Bürger*innen organisatorisch gebunden ist – die „freie Wirtschaft“ jedoch nicht.

Genau wie Staaten sammeln auch Wirtschaftsunternehmen personenbezogene Daten über Bürger*innen, die für sie Konsument*innen sind. Datenerhebung an sich ist nichts zu Verurteilendes oder die Freiheit des Individuum Beschränkendes – gegen das Sammeln von Klimadaten wie Pegelständen wird kein*e Datenschützer*in etwas einzuwenden haben. Anders stellt es sich in Bereichen dar, die das Individuum oder Menschengruppen betrifft. Hier ist einfach zu veranschaulichen, weshalb „Datenschützer*in“ eine inkorrekte Bezeichnung ist. Denn es werden nicht die Daten, sondern die Grundrechte der Menschen vor Diskriminierung geschützt. „Datenbasierter Menschenschutz“ wäre evtl. der bessere Ausdruck.

Nun verfügt Westdeutschland seit 1983 und das vereinigte Deutschland seit 1990 über das Recht aller Bürger*innen, über die über sie erhobenen Daten informiert zu sein und auch darüber bestimmen zu können.

Betrachtet man aber die über in Deutschland lebenden Menschen existierenden Datensammlungen und das real gering existierende Wissen über die eigenen Rechte, könnte man zu dem Schluss kommen, dass dieses Recht extrem wenig Auswirkungen hat.

Denn die Erfassung und -verarbeitung personenbezogener Daten hat sich seit den 1980ern auf extrem viele Bereiche unseres alltäglichen Lebens ausgebreitet. Inzwischen kann kaum noch ein Schritt ohne Datenerfassung getätigt werden, es sei denn, man befindet sich in einer abgeschiedenen Gegend ohne Funkmastabdeckung und frönt dort einem Lebensstil, der wenige Kontaktpunkte mit der Außenwelt hat. Denn inzwischen erzeugen die meisten Interaktionen Datenspuren. Kommunikation, Konsum, Fortbewegung. Datenspuren, die oft sehr intime Einblicke in die Erzeuger*innen und oft auch deren Umfeld geben. Die meisten Menschen in diesem Land sind von Computern umgeben, die ständig Datenfluten an uns unbekannte Stellen übermitteln. Kommunikation findet meist nicht mehr direkt und exklusiv von Mensch zu Mensch, sondern über Maschinen vermittelt und oft an viele Adressat*innen oder als Nebenbeschäftigung statt.

Vergleicht man die Anzahl an Daten der Volkszählung von 1983 und die wenigen Instanzen, die über Zugriffsrechten verfügten, mit den Datenlawinen, die heute bei dem Besuch einer durchschnittlichen Webseite oder der Einrichtung eines Programms („App“) auf einem sogenannten Smartphone entstehen, mögen sie gering erscheinen. Von den Informationen, die Menschen von sich aus preisgeben, um Bilder von sich und anderen über Dienste wie METAs „Instagram“ zu präsentieren oder sich bei sogenannten „Dating-Apps“ zur Partner*innen- bzw. Sexvermittlung zu registrieren, ganz zu schweigen.

Wer analog und datensparsam leben möchte, muss sich, trotz dem theoretisch vorhandenen Recht auf digitale Selbstbestimmung, auf viele Einschränkungen gefasst machen und unbedingt über eine tadellose Gesundheit verfügen. Denn selbst Termine bei Einrichtungen des Gesundheitswesens lassen sich oft nur noch digital buchen, viele öffentliche und private Stellen sind nicht mehr telefonisch erreichbar und als zusätzliche Einschränkung laufen Anrufe inzwischen auch umgewandelt über das Internet. Zudem kann das Individuum so sehr wie es möchte auf seine Privatsphäre achten – dies kann in einem Schlag durch andere und deren Veröffentlichungen im Netz zunichte gemacht werden.
In Deutschland existiert ein theoretisches Recht auf informationelle Selbstbestimmung, aber kein Recht auf ein analoges Leben.

• Steigende Bereitschaft zur Datenfreigabe und schwindender Widerstand

Seit Jahren ist es ein Faszinosum für mich, dass es in den 1980er zu derart spektrenübergreifenden und weitreichenden Protesten und Widerständen gegen die Erhebung privater Daten kam und sich eine große soziale Bewegung mit den unterschiedlichsten Ausrichtungen und Aktionsformen bildete. Und es heute so wenig Contra gegen die Erhebung von gigantischen Datenmengen, insbesondere durch den ständigen Begleiter, das sogenannte Smartphone (Smarp) gibt.

Die letzten großen Proteste gegen Datenerhebung und -auswertung gab es während der Snowden-Enthüllungen 2013 und dem Facebook-Cambridge-Analytica-Skandal. Diese Proteste führten aber nicht zum Zusammenbrechen von Diensten wie WhatsApp oder einem anderen Datenverhalten in weiten Teilen der Bevölkerung, sondern verebbten.

Es ist ein Beispiel von vielen, welches zeigt, dass Wissen über Überwachung. nicht dazu führt, das Verhalten von Individuen en masse zu ändern. Welche Entwicklungen führten in den 1980ern also dazu, dass sich die Wahrnehmung des Bedrohungspotentials in Bezug auf Daten und das Verhalten einer breiten Mehrheit in diesem Land so grundlegend verändert hatten?

Zum einen lagen die 1980er mit 40 – nicht 80 – Jahren sehr viel näher an der Zeit der Nazidiktatur als heute. Und die Nutzung von Zahlen, Nummern und Statistiken durch Nationalsozialist*innen sowie ihrer eigenen Datenverarbeitung war eine der Grundlagen zum ersten industriellen Massenmord der Welt. Es konnte somit der Schluss gezogen werden, in Datenerfassung auch eine gefährliche und tödliche Seite zu sehen.

Dieser Umstand erklärt aber nicht, weshalb teilweise dieselben Menschen, die in den 1980ern gegen die Volkszählung auf die Barrikaden gingen, heute ein sogenanntes Smartphone ständig mit sich herumtragen und auf Facebook oder anderen Plattformen Profile auf den irreführend als „Soziale Medien“ genannten Instanzen pflegen. Und „Apps“ auf ihren Smarps haben, die man getrost als Mini-NSA bezeichnen könnte, da sie Zugriffe auf Mikrophone, Kameras, Kontakte, Standorte und oft noch mehr haben. Oder sich zusätzlich kommerzielle Spion*innen unter weiblichen Namen wie “Alexa”, „Siri“ oder „Cortana“ als allgegenwärtige Spionin ins private Wohnumfeld holen. Die sich gegen staatliche Überwachung wehrten, sich nun aber eine elektronische Fußfessel mit Streichelfunktion in die Hosentasche holten.

• Wehrlosigkeit gegen unsichtbare Gefahren

Ein weiterer Grund kann in dem Umstand gesehen werden, dass es sich bei digitaler Überwachung um etwas handelt, was wir mit unseren Sinnen nicht wahrnehmen können: Es steht keine Person hinter uns und liest unsere Nachrichten mit, den meisten von uns folgt niemand auf der Straße oder stoppt uns, um unsere Taschen zu durchsuchen, kein Knacken und Knistern weist uns auf ein Abhören unserer Gespräche hin.

Während unsere Körper uns vor schlechten Gerüchen und zu großer Nähe von Unbekannten warnen, sind Menschen gegenüber hilflos gegenüber Gefahren, vor denen keiner unserer Sinne Alarm schlägt. Radioaktive Strahlung ist ein Beispiel für diese Unfähigkeit. Es dauerte Jahrzehnte, bevor Menschen begriffen, dass es sich dabei um eine tödliche Instanz handelt. Und ihre Gefahr wird bis heute von bestimmten Personengruppen unterschätzt oder aus wirtschaftlichen Interessen kleingeredet.

Unsere Perzeptibilität warnt uns nicht vor digitaler Überwachung, wodurch sich diejenigen, die sie einsetzen, extreme Vorteile sichern. Denn das nächtliche Sirren eines Moskitos oder der Anblick einer Winkelspinne flößt den meisten Menschen mehr Angst ein als die gigantischen Datensammlungen über sie und die darauf fußenden Versuche, ihr Verhalten zu ändern.

• Kultureller Wandel und ein Gerät der gewalttätigen Beziehung

Eine weitere Erklärung, die für die grundlegende Veränderung gegenüber bezüglich Privatheit und Datenschutz genutzt werden kann, ist die eines kulturellen Wandels. Seit den 1970ern hat sich in weiten Teilen der Bevölkerung die Einstellung zu diesen Themen geändert. Die Zusammenhänge zwischen dem Recht auf Privatsphäre als Grundlage möglichst freier Gesellschaften und dem Schutz vor Überwachung als Garant ebendieser gehören nicht mehr zum Allgemeinwissen.

Die in den 1970ern eingesetzte Veränderung im sogenannten Westen, der Sicherheit im Diskurs vor der Freiheit Vorrang zu geben, schien mit den links-emanzipativen Bewegungen in Westdeutschland, zu denen die Volkszählungsproteste zählten, kurz abgeflacht, um danach aber wieder zu erstarken. Einen gigantischen Schub erhielt diese Entwicklung mit dem 11. September 2001 und den nach den Anschlägen auf das World Trade Center erlassenen Überwachungsgesetzen und -praktiken. Überwachung wird von Vielen nicht mehr als Bedrohung wahrgenommen, sondern als Sicherheit missverstanden.

Eine weitere Änderung betrifft eine Verschiebung der Verantwortlichkeit in westlichen Staaten. Während Arbeitslosigkeit als Teil des fordistischen Kapitalismus begriffen werden konnte, setzte sich ab ca. den 1980ern die Sichtweise durch, Arbeitslosigkeit als Versagen des Individuums zu begreifen. Das Individuum wurde in vielen Sichtweisen vom System getrennt, ob im (Neo-) Liberalismus, in dem vom Tellerwaschenden zur Millionär*in aufgestiegen werden konnte oder in den stark Zulauf bekommenden esoterischen Strömungen, in denen Menschen Probleme nicht im System, sondern den eigenen Einstellungen suchten. Auch die Problemlösung wurde oft abseits vom System oder gesellschaftlicher Gruppen auf der Individualebene gesucht.

Trotz alledem wurden die politischen Systeme sowohl im Osten als im Westen in ihrer Theorie und Praxis mit sozialen Kämpfen aus der Bevölkerung konfrontiert. In beiden Sphären wurden diese als Bedrohung von Machtstrukturen wahrgenommen. Technologische Überwachungsmöglichkeiten entfalten bis heute für viele Innenministerien und “Sicherheits”behörden einen verführerischen Lockruf. Immer neue technische Mittel vom Großen Lauschangriff über die Rasterfahndung bis zum Einsatz geheimdienstlicher Mittel wie der Handyortung, Funkzellenabfrage und dem IMSI-Catcher oder der Vorratsdatenspeicherung von Telefonnummern und IP-Adressen wurden seitdem z.T. ohne Rechtsgrundlage vorangetrieben. Wo Gesetze beschlossen wurden, wie im Fall des NRW-Staatstrojaners und beim Großen Lauschangriff sowie der Vorratsdatenspeicherung, wurden sie nach entsprechenden Klagen vom BVerfG oder dem EuGH wieder aufgehoben. Im Falle der Online-Durchsuchung formulierte das BVerfG das Grundrecht auf Vertraulichkeit und Integrität informationstechnischer Systeme – wie das Volkszählungsurteil direkt abgeleitet aus Artikel 1 und 2 GG. Neue Versuche starten permanent, wie Chat-Kontrolle und Quick-Freeze zeigen.

Doch nicht nur Polizei und Geheimdienste sehen in Datensammlungen und Überwachungstechnologien ein Füllhorn an Möglichkeiten. Auch die Wirtschaft trat an, die sich bietenden oder zu schaffenden Möglichkeiten zu nutzen, um “bessere” Konsumenten zu schaffen, indem man sie ausspionieren und aufgrund dieser Daten lenken kann.

Das Volkszählungsurteil von 1983 wurde weder von der Wirtschaft noch von der Politik als Leitlinie gesehen, nach der sich Wirtschaft und Gesetzgebungen zu richten hätten. Vielmehr wurde in der Folge der Datenschutz bzw. Grundrechtsschutz immer wieder als “Wirtschaftshemmnis” diffamiert.

Wäre er konsequent durchgesetzt worden, hätten Firmen wie Alphabet/Google oder Meta/Facebook nie in diesem Land groß werden können. Die Deutsche Post hätte sich nicht neben der Bertelsmann-Arvato-Tochter AZ Direct zu einem der großen heimischen Datenhändler*innen entwickeln können und Firmen wie Boniverse wären kaum existent.

• Macht, Kontrolle, Vertrauen und Selbstbestimmung

Anhand von Zitaten des Urteils soll im Folgenden die Realität des Urteils überprüft werden.

Im Mittelpunkt der grundgesetzlichen Ordnung stehen Wert und Würde der Person, die in freier Selbstbestimmung als Glied einer freien Gesellschaft wirkt.

Menschliche Gesellschaft hat Macht, Kontrolle, Vertrauen und Eigen- und Fremdbestimmung als Bestandteile. Aussagekräftig ist, inwieweit Macht(-strukturen) transparent und für wen und wie zugänglich sind.

Im Gegensatz zu den oberen Zeilen aus dem 1983er Urteil ist in der derzeitigen Digitalisierung das Abschöpfen, Sammeln und Auswerten von Daten auf zuvor unmöglichen Ebenen möglich und sowohl national als auch international zu einem neuen Macht- und Marktfaktor geworden. Dass diese Macht vorhanden ist, wird selten bestritten. Wie diese Macht zustande kam, wird dagegen seltener betrachtet.

Im Bezug auf viele Prozesse in der derzeitigen Digitalisierung wird oft von „Black Boxes“ gesprochen, insbesondere im Hinblick auf die Prozesse, die durch Algorithmen und zunehmend auch die sogenannte künstliche Intelligenz bestimmt werden. In der sozialwissenschaftlichen Systemtheorie und der Kybernetik spricht man von „Black Boxes“, sobald nicht der Vorgang selbst, sondern nur der Ein- und Ausgang (Input/Output) betrachtet werden sollen.

In der heutigen Zeit sprechen wir umgangssprachlich in zwei unterschiedlichen Zusammenhängen von Black Boxes: In der genannten, in der der Vorgang entweder unbekannt ist oder unbeachtet bleiben soll, und im Hinblick auf Überwachung – dort dienen Black Boxes dem Aufzeichnen und Überwachen von den Vorgängen in Flugzeugen, Schiffen, Zügen und zunehmend auch in privaten Fahrzeugen, in denen technische Vorgänge und zum Teil auch menschliche Stimmen aufgezeichnet werden, um im Falle eines Unfalls diesen besser herleiten zu können.

Festzuhalten ist, dass mit Black Box etwas beschrieben wird, was wir nicht verstehen (sollen) und/oder etwas, was uns überwacht. Die Black Box der Digitalisierung, der Algorithmen und KI bieten uns beides. Unter dem Aspekt der Machtausübung betrachtet bieten sie die Möglichkeit, Prozesse nicht nur unserer Kontrolle, sondern unserem Verständnis und somit unserer Mitbestimmung zu entziehen.

• „Black Box“ vs. freie Gesellschaft

Das Urteil zur informationellen Selbstbestimmung könnte die Bürger*innen vor der Nutzung ihrer Daten für Black Box Systeme schützen. Denn das BVerfG versuchte in seinem Urteil einen Schutz auch in einer damals vorstellbaren Zukunft auszudehnen.

Diese Befugnis bedarf unter den heutigen und künftigen Bedingungen der automatischen Datenverarbeitung in besonderem Maße des Schutzes. Sie ist vor allem deshalb gefährdet, weil bei Entscheidungsprozessen […] heute mit Hilfe der automatischen Datenverarbeitung Einzelangaben über persönliche oder sachliche Verhältnisse einer bestimmten oder bestimmbaren Person (personenbezogene Daten […] technisch gesehen unbegrenzt speicherbar und jederzeit ohne Rücksicht auf Entfernungen in Sekundenschnelle abrufbar sind. Sie können darüber hinaus […] mit anderen Datensammlungen zu einem teilweise oder weitgehend vollständigen Persönlichkeitsbild zusammengefügt werden, ohne dass der Betroffene dessen Richtigkeit und Verwendung zureichend kontrollieren kann. Damit haben sich in einer bisher unbekannten Weise die Möglichkeiten einer Einsicht- und Einflußnahme erweitert, welche auf das Verhalten des Einzelnen schon durch den psychischen Druck öffentlicher Anteilnahme einzuwirken vermögen.

Die Realität sieht bedauerlicherweise anders aus: Die Datenspuren des Individuums werden sowohl von Staaten als auch der Wirtschaft genutzt, um das zukünftige Verhalten zu berechnen. Egal, ob es um eine Kreditwürdigkeit, eine Wahlentscheidung oder das nächste Video auf Plattformen wie Youtube oder TikTok geht: Vergangene Datenspuren werden genutzt, um das zukünftige Verhalten zu berechnen und Menschen auf dieser Grundlage zu manipulieren.

Der Umstand, dass sich ein Großteil der Gesellschaft inzwischen über algorithmisch gesteuerte privatwirtschaftliche Medien informiert, hat Gesellschaften in Ost und West stark verändert. Erste Auswirkungen im Westen wurden im Brexit und der ersten Trump-Wahl ersichtlich, aber auch das Erstarken von Rechtsextremist*innen kann auf deren professionelle Nutzung der sogenannten Sozialen Medien [SocMe] zurückgeführt werden.

Auch die Auseinandersetzungen über den durch den Terror der Hamas vom 7.10.2023 neu aufgeflammten Nahost-Konflikt können nicht ohne SocMe als Informationsgrundlage analysiert werden. Die weiteren Auswirkungen einer auf privatwirtschaftlich-algorithmisch gesteuerten Informationen basierenden Gesellschaft erleben wir zurzeit. Und der Scheitelpunkt ist noch lange nicht erreicht.

Bezieht man Black Boxes auf Theorien freier, selbstbestimmter Gesellschaften, zeigt sich schnell der Widerspruch. Theorien freierer Gesellschaften sind auf Mitbestimmung auf der Grundlage des Verständnisses für die eigene Situation und die politischen Strukturen und Vorgänge gekennzeichnet. Das Urteil wollte dies auch in der Zukunft schützen. „Black Boxes“ stehen dem entgegen.

Von Seiten der Wirtschaft wird argumentiert, diese Nicht-Offenlegung sei notwendig, da es sich bei Algorithmen um „geistiges Eigentum“ handele, welches sie erarbeitet hätten und schützen müssten. Tatsächlich fußt jedoch dieses „Eigentum“ oft auf Grundlagenforschung von mit öffentlichen Geldern geförderten Universitäten.

Dem entgegen enthält das Gebot der informationellen Selbstbestimmung die Möglichkeit, selbst zu bestimmen, folglich über die Möglichkeit einer Wahl verfügen zu können.

Individuelle Selbstbestimmung setzt aber – auch unter den Bedingungen moderner Informationsverarbeitungstechnologien – voraus, daß dem Einzelnen Entscheidungsfreiheit […] gegeben ist, sich auch entsprechend dieser Entscheidung tatsächlich zu verhalten.

Betrachtet man die Realität, werden heute im Gegensatz zu 1983 eine Vielzahl an Prozessen durch Algorithmen bestimmt. Von gesundheitlichen Aspekten, Versicherung, Krediten bis zum sogenannten „predictive policing“, übersetzt etwa mit „vorhersagender Polizeiarbeit“ und den Einschätzungen zum Terrorismus. Selbst wenn zurzeit die sogenannte KI in vielen Bereichen noch außen vor ist, wie lange das so bleibt, hängt von Lang- oder Unmut der Bevölkerung ab.

Wer nicht mit hinreichender Sicherheit überschauen kann, welche ihn betreffende Informationen in bestimmten Bereichen seiner sozialen Umwelt bekannt sind, und wer das Wissen möglicher Kommunikationspartner nicht einigermaßen abzuschätzen vermag, kann in seiner Freiheit wesentlich gehemmt werden, aus eigener Selbstbestimmung zu planen oder zu entscheiden. Mit dem Recht auf informationelle Selbstbestimmung wären eine Gesellschaftsordnung und eine diese ermöglichende Rechtsordnung nicht vereinbar, in der Bürger nicht mehr wissen können, wer was wann und bei welcher Gelegenheit über sie weiß. Wer unsicher ist, ob abweichende Verhaltensweisen jederzeit notiert und als Information dauerhaft gespeichert, verwendet oder weitergegeben werden, wird versuchen, nicht durch solche Verhaltensweisen aufzufallen.

Wenn es zu den Zielen einer Gesellschaft gehört, dass die sie bildenden Individuen über freie Willensbildung und die Möglichkeit, die sie betreffenden Vorgänge verstehen und beeinflussen zu können, verfügen, laufen die Entwicklungen der derzeitigen Digitalisierung zu diesen diametral. Statt dass es, wie es bis in die 1990er von Techno-Enthusiast*innen oft geträumt, durch die Digitalisierung und den immer größer werdenden Zugang zu Computern es zu einem größtmöglichen Maß an Wissenszuwachs und Mitbestimmung gekommen wäre, sind diese Träume an der Realität zerschellt. Diese Entwicklungen verunmöglichen Vertrauen des Individuums in digitalisierte Prozesse.

• Computer und Ideologie – Kybernetik

Die Ideologie, die hinter vielen Entwicklungen, die wir als Digitalisierung verstehen, steht, ist die Kybernetik. Ursprünglich erdacht, um Massenbombardements zu begegnen, hat sie eine der einflussreichsten Denkweisen der letzten Jahrhunderte hervorgebracht. Eine Denkweise, die, verkürzt gesagt, alles inklusive des Menschen als maschinelle und zu beeinflussende Prozesse oder Transmitter sieht. Der richtige Reiz bringt die richtige Reaktion hervor.

Die Kybernetik hat eine faszinierende Geschichte hinter sich und ist die Wurzel vieler technologischer Entwicklungen. Das Konzept der künstlichen Intelligenz entstammt der Kybernetik, die Gamifizierung, eine Verlagerung von Computerspielfunktionen in das reale Leben, geht über den Behaviourismus auf sie zurück.

Ebenso kann man das Mantra von Fortschritt, Geschwindigkeit und Komfort, mit dem uns viele Fallen als erstrebenswerte Orte verkauft werden, auf die Kybernetik zurückführen. Im Bereich der Werte und Ethik zeigt die Kybernetik hingegen Leere.

Das Urteil von 1983 hingegen bespricht demokratische Werte. Es versucht, aus der Nazidiktatur lernend grundlegende Funktionen der Demokratie zu schützen und Schutzräume für bürgerliche Beteiligung und gesellschaftlichen Dissens zu erhalten.

Wer damit rechnet, daß etwa die Teilnahme an einer Versammlung oder einer Bürgerinitiative behördlich registriert wird und dass ihm dadurch Risiken entstehen können, wird möglicherweise auf eine Ausübung seiner entsprechenden Grundrechte (Art. 8, 9 GG) verzichten. Dies würde nicht nur die individuellen Entfaltungschancen des Einzelnen beeinträchtigen, sondern auch das Gemeinwohl, weil Selbstbestimmung eine elementare Funktionsbedingung eines auf Handlungs- und Mitwirkungsfähigkeit seiner Bürger begründeten freiheitlichen demokratischen Gemeinwesens ist.

Die Kybernetik hingegen, auf die sowohl im Kapitalismus als auch im Staatssozialismus abwechselnd große Hoffnungen in ihre Qualitäten als Staatswerkzeug gesetzt wurden, steuert in eine andere Richtung. In der Kybernetik wird der Mensch als Transmitter gesehen, nicht als freies Wesen. Korrekt angesteuert liefert dieser Transmitter die gewünschten Ergebnisse. Nicht unbedingt durch Zwang, sondern gerne durch einfache Manipulation. Das kommerzielle Internet und insbesondere SocMes sind gamifiziert und stupsen („nudgen“) uns so nur in die gewünschte Richtung. Kein Zwang – sondern das Versprechen auf Belohnung für das gewünschte Verhalten.

Doch nicht nur im Westen ist die Kybernetik abseits einer öffentlichen Debatte zu einer einflussreichen Weltsicht geworden: Einen guten Einblick zu dem Einfluss der Kybernetik auf das chinesische politische Denken und besonders die sogenannten Social Credit Systeme verfasst Samantha Hoffman in ihrer Arbeit „Programming China“.

• Heute im „Westen“ – Misstrauen dem Staat gegenüber, Unbesorgtheit der Wirtschaft gegenüber?

Das Urteil von 1983 kann so gelesen werden, dass das Individuum die Macht über seine Daten erhält und behält, autonom über seine Daten verfügen kann. So wird es ermächtigt, frei und ohne Befürchtungen denken und agieren zu können.

Freie Entfaltung der Persönlichkeit setzt unter den modernen Bedingungen der Datenverarbeitung den Schutz des Einzelnen gegen unbegrenzte Erhebung, Speicherung, Verwendung und Weitergabe seiner persönlichen Daten voraus.

Dass im oberen Abschnitt schon gegen das unbegrenzte Erheben von Daten argumentiert wird, ist weise, denn die Erfahrung zeigt, dass Daten, die erhoben werden, auch genutzt werden. Staatlichen Datensammlungen wird im Westen oft eher mit Misstrauen begegnet als privatwirtschaftlichen. Was daher interessant ist, da der Staat sich vor den Bürger*innen legitimieren muss, die Privatwirtschaft nicht. Staatliche Datensammlungen könnten besser kontrolliert sein als privatwirtschaftliche. So wollte der hessische Verfassungsschutz die NSU-Akten für 120 Jahre als geheim einstufen lassen. Aufgrund von Protesten wurde der Zeitraum später auf 30 Jahre verkürzt und 2023 dem Kabarett-Journalisten Böhmermann zugespielt und von ihm und seinem Team veröffentlicht. Das vom hessischen Verfassungsschutz angestrengte Verfahren wurde 2024 eingestellt.

Daten, die vorhanden sind, werden vom Staatsapparat schnell gegen Bürger*innen eingesetzt. Die zu Beginn der Corona-Zeit erhobenen Daten in Gastronomien wurden schnell von der Strafverfolgung eingefordert.

Zurzeit gibt es auf der EU-Ebene eine Initiative zur Abschaffung der Ende-zu-Ende-Verschlüsselung. Als ein Hauptargument wird, wie schon bei anderen Versuchen der Vorratsspeicherung in unterschiedlichen Formen, der Schutz von Kindern vor sexualisierter Gewalt angeführt. Dass dieses Argument nicht schlüssig ist, haben Studien belegt. Zudem zeigt die Erfahrung, dass die erlangten Daten später gegen vieles eingesetzt werden, nicht nur gegen die Verbreitung von der Darstellung von Gewalt an Kindern. Die verharmlosend „Chat-Kontrolle“ genannte Aufhebung der Verschlüsselung bedeutete das Ende vieler vertraulicher Kommunikation im Internet und darüber hinaus ein Außerkrafttreten der Unschuldsvermutung. Ein Vorreiter von maschineller Überwachung der privaten Kommunikation seiner Kund*innen ist Google/Alphabet, die bereits seit Beginn den Inhalt von G-Mail nach Schlüsselbegriffen durchsuchen. Ein Fakt, der sich nicht als abschreckend für die Nutzenden erwies.

• Digitalisierung als kultureller Prozess und Wandel

Die heutige Digitalisierung ist ein gesellschaftlicher Prozess, dessen ideologisches Rückgrat die Kybernetik ist. Somit liegt ihr das Menschenbild eines Transmitters zugrunde. Dieses ist wiederum die Grundlage für das Bild der Gesellschaft, welches in der Kybernetik, ob bewusst oder unbewusst, vertreten wird: Es ist das Bild einer gesteuerten Gesellschaft, keiner, in der freie Menschen ebenbürtig über eine bessere Gegenwart und Zukunft verhandeln. Ein Gesellschaftsentwurf, den das Volkszählungsurteil als nicht mit der Verfassung vereinbar bezeichnet. Eine Entwicklung hat sich seit 2007 wie ein Katalysator für digitale Prozesse erwiesen und beeinflusst uns Menschen auch höchst emotional, da wir über es die Verbindung zu geliebten Menschen halten, es unser Fenster zur Welt ist, aber auch der Spion in unserer Tasche, den wir ständig berühren: Das sogenannte Smartphone (Smarp), unsere private Streichelwanze.

Die irische Forscherin Maria Farrell verglich in ihrem Vortrag auf dem Forum Alpbach 2018 das Verhältnis vieler Menschen zu Smarps mit dem in einer gewalttätigen Beziehung: Liebe ohne Vertrauen. Die Autorin ergänzt: Liebe ohne Vertrauen sowie ohne das Verständnis von Funktion und der Macht des Geräts plus Abhängigkeit.

Auch in gewalttätigen Beziehungen glauben die Beteiligten, aufeinander angewiesen zu sein bzw. nicht ohne einander zu können. Farrell zog einen faszinierenden Vergleich zu der toxischen Beziehung, den ein Großteil der Menschen zu ihrer Maschine entwickelt haben. Der Spion, den wir lieben, den wir bei uns tragen, die Wanze, über die fast jede Information über uns abfragbar ist, aber die uns emotional so nah ist, da wir sie ständig streicheln. Die wir in die intimsten Momente unseres Lebens einbeziehen.

Auch wenn in Bezug auf Datenfreigabe und Überwachung oft von einer „Freiwilligkeit“ der zu Nutzer*innen degradierten Bürger*innen gesprochen wird, ist gerade dieser Begriff in Frage zu stellen. Die Bedeutung von Freiwilligkeit ist, dass eine Handlung im Bewusstsein von Konsequenzen, unter Abwägung von Vor- und Nachteilen, ausgeübt wird.

In der heutigen Digitalisierung verhält es sich andersherum: Die meisten Menschen sind sich nicht im Klaren darüber, welche Daten sie freigeben und was auf der Grundlage dieser Daten mit ihnen schon heute geschehen kann. Von einer Zukunft ganz zu schweigen. Ihnen ist nicht bewusst, dass Standortdaten, ihre Bewegungen, aber auch Interessen, Leidenschaften, Gewohnheiten zu Persönlichkeits- und Konsumentenprofilen verarbeitet und z.B. für personalisierte Werbung und Nachrichten genutzt werden. Aber Werbung ist nicht das Ziel. Die abgeschöpften Daten bilden die Grundlage für etwas, was Shoshana Zuboff „Überwachungskapitalismus“ nennt. Da diese Daten aber dazu genannt werden, unsere Ansichten und unser Verhalten zu ändern, ist der Ausdruck „Manipulationskapitalismus“ zutreffender.

Menschen werden in digitale Irrgärten und Spiegelkabinette gelockt und manipuliert. Die Gamifizierung ist nur eine Technik, mit der Menschen zur Teilnahme an Lebenszeit fressenden Datensystemen verführt werden.
Lockmittel sind oft das, was in der entfremdeten Gesellschaft fehlt: Mittels Versprechen von sozialer Zugehörigkeit, von Lob, Rückhalt, Ablenkung oder sexueller Erfüllung wird das in der Krise befindliche Individuum ins klebrige Netz gelockt.
Dass es sich dabei um eine sehr Ressourcen fressende Art der Ablenkung handelt, kann hier nur am Rande erwähnt werden. Würden wir die Energie, die benötigt wird, um den täglichen Konsum von Instagram, Youtube, WeChat oder Twitch zu ermöglichen, in Form von Holz mit uns herumschleppen, würden wir vielleicht bewusster konsumieren.

• Lehren aus dem Volkszählungsurteil

Das Urteil zur informationellen Selbstbestimmung ist ein gutes Beispiel für eine gesetzliche Regelung, die versuchte, weitblickend die Gesellschaft in Form ihrer Individuen zu schützen. Aber fatalerweise auch dafür, dass sie weder im Bewusstsein vieler Betroffener verankert, noch gesellschaftlich getragen wird. Als bloße Schriftzeichen ergeben Gesetze keinen Schutz. Fehlt die gesellschaftliche Vernetzung, die den schriftlich verankerten Schutz einfordert, entspricht der Schutz des Gesetzes dem bloßen Halten einer Packung Sonnenmilch.

Ein Gesetz schützt niemanden, wenn es den Betroffenen nicht bekannt und bewusst ist und zudem das Bewusstsein in legislativen, exekutiven und judikativen Ebenen fehlt, es auch gegen wirtschaftliche Interessen konsequent durchzusetzen. Fehlt die gesellschaftliche Vernetzung, Rechte einzufordern, gleichen selbst schützend gemeinte Gesetze verstaubten Spinnweben. Von ihren Erbauer*innen für eine Funktion gemacht und errichtet, aber ungepflegt zur Nutzlosigkeit verkommen.

Eine Gesellschaft, die ein Angestellten-Verhältnis zur Regierung pflegt, die motzt, aber oft nicht handelt, die sich nicht vernetzt, sondern von der Wirtschaft erdachten Mustern folgt, wird nie eine solidarische sein. Im Gegenteil erschafft man so Herrschaft und Beherrschte. Etwas, was auch vielen Politiker*innen zupasskommt. Eine zersplitterte Bevölkerung, die sich zu Neid- und Identitätskämpfen anstecken lässt, statt diejenigen zu konfrontieren, die sie und ihre Rechte beschränken.

Gesellschaftliche Gruppen werden von Boulevard-Medien und den digitalen gern gegeneinander aufgehetzt. So gab es in den letzten Jahren in Deutschland hunderte rassistische Brandanschläge, Asylsuchende und Zuwander*innen werden vom rechten Rand bis in den Boulevard als Bedrohung des gesellschaftlichen Wohlstandes stilisiert. Nach dem Bekanntwerden der Cum-Ex-Affäre, in der den öffentlichen Kassen Milliarden gestohlen wurden, folgte hingegen kein Brandanschlag auf die Schlafstätten der Täter*innen und ihrer Kinder.

Das Fehlen von positiver gesellschaftlicher Organisation zeigt sich bis in den Gesetzgebungsprozess. Solange die Wirtschaft besser organisiert ist, als es die gesellschaftlichen Gruppen sind, wird sie es sein, die Gesetze und deren Interpretation sehr viel stärker beeinflusst. Solange Institutionen die existenten Regeln nicht nutzen, um ein nachhaltiges gesellschaftliches Miteinander im Sinne des Urteils von 1983 zu fördern, sondern Wege für das Entstehen von Monopolen ebnen, werden sie die Bürger*innen als ausspionierbare und manipulierbare Masse sehen und nutzen. Das Urteil zur informellen Selbstbestimmung ist bedauerlicherweise ein gutes Beispiel hierfür.

• Ausblick auf den Bereich der sogenannten künstlichen Intelligenz

Seit einiger Zeit wird die Diskussion um den Bereich der sogenannten künstlichen Intelligenz erweitert. Inwieweit es sich bei dem Besprochenen wirklich um etwas handelt, was mit diesem Namen benannt werden kann, zu erörtern, fehlt in dieser Abhandlung der Raum. Da die Begriffe zu oft inkorrekt verwendet werden, verweise ich immer gern auf Katharina Zweigs Veröffentlichungen zum Thema.

Um den Bereich der künstlichen Intelligenz bzw. von sogenannten Großen Sprachmodellen/Large Language Models (LLM) aber zumindest anzusprechen, möchte ich auf die folgenden Punkte verweisen: Bei LLM handelt es sich nicht um künstliche Intelligenz, sondern um etwas, was die US-amerikanischen Linguistin Emily Bender als „Stochastischen Papageien“ bezeichnet. Bei den meisten Diskussionen wird der Begriff der Intelligenz nicht definiert, was eine Grundlage wäre, um in eine Diskussion eine Abgrenzung zur neuen, künstliche Intelligenz genannten Technologie zu eröffnen.

Erschreckend ist die Reaktion vieler Menschen auf die geschickt benannte Technologie: Schnell werden ihr zuerst menschliche („die KI sieht/ glaubt/ meint“) bis schnell auch gottähnliche Kräfte zugesprochen. Es passiert auf immens größerer Stufe, was Joseph Weizenbaum schon nach der Programmierung von ELIZA entdeckte und wovor er Zeit seines verbleibenden Lebens warnte.

Zu gerne glauben Menschen an Wunder und einfache Lösungen. Die aktuellen Diskussionen um die sogenannte KI und die durch sie erwünschten Verbesserungen erscheint vielen wie eine seltsam verwaschene Wiederholung der Diskussionen um „das Internet“, „die Blockchain“ und andere Technologien, auf die so viel projiziert werden konnte.

• Der Gott aus der Büchse

Die Idee eines Deus ex Machina ist seit dem antiken Griechenland belegt. Und diese Hoffnung auf einen Gott, der plötzlich erscheint und alle Probleme löst, kann in der aktuellen Berichterstattung und Erwartungshaltung um KI einfach beobachtet werden. Doch statt diese zu konfrontieren, können an der KI-Diskussion die Träume und Albträume von Individuen und Gruppen abgelesen werden.

Ein Paradox in all den Wünschen und Hoffnungen, die auf Technologie projiziert werden, ist die Annahme, dass der Mensch an sich und in seinen Taten fehlerhaft ist, wobei gleichzeitig in großen Teilen der Menschheit der Traum existiert, dass durch Menschen erschaffene Maschinen die Lösungen aller Probleme seien.

Inwieweit künstliche Intelligenz tatsächlich etwas ist, nach dem die Menschheit streben sollte, ist eine Diskussion, die breit geführt werden sollte. Und idealerweise so, wie in dem Urteil von 1983 vorgesehen. Frei, ohne dass Informationen algorithmisch auf uns zugeschnitten wurden und ohne Angst haben zu müssen, welche Auswirkungen die eigenen Äußerungen in einer kybernetisch regulierten Zukunft haben werden.

Das Urteil von 1983 eröffnete uns Chancen auf eine freiere Zukunft, deren Möglichkeiten nicht genutzt wurden. Aber nur, weil in der Vergangenheit falsch in eine kybernetisch regulierte Digitalisierung abgebogen wurde, bedeutet es nicht, dass es so bleiben muss. Das Urteil ist auch durch soziale Bewegungen beeinflusst worden. Wenn wir solche wieder stärken, können wir das kybernetische Steuer und seine energiefressenden hohlen Ablenkungswelten wie SocMe außer Kraft setzen.

Das hieße ein Ende vom mentalen Angestelltenverhältnis zu Staat und Gesellschaft. Es bedeutet Partizipation und Eigenbeteiligung. Es bedeutet einen Abschied von alten Erzählungen und einen Start in etwas Unbekanntes.

Eine freiere und nachhaltigere Zukunft sollte es uns wert sein. Denn wir haben eine Welt zu verlieren.

Literatur:
Appel, Roland, and Wolfgang Raab. ‘Parteilos, Aber Nicht Machtlos: Jungdemokraten und der Volkszählungsboykott 1987’. In: Grundrechte Verwirklichen – Freiheit Erkämpfen 100 Jahre Jungdemokrat*innen: Ein Lesebuch über Linksliberale und Radikaldemokratische Politik von Weimar bis ins 21. Jahrhundert 1919-2019, edited by Roland Appel and Michael Kleff, First edition., 753–67. Baden-Baden: Academia, 2019.
Bauman, Zygmunt, Didier Bigo, Paulo Esteves, Elspeth Guild, Vivienne Jabri, David Lyon, and R. B. J. Walker. ‘After Snowden: Rethinking the Impact of Surveillance’. International Political Sociology 8, no. 2 (June 2014): 121–44. https://doi.org/10.1111/ips.12048.
Beckedahl, Markus: ‘Wie nennen wir denn jetzt das neue Grundrecht?’ in: Netzpolitik.org https://netzpolitik.org/2008/wie-nennen-wir-denn-jetzt-das-neue-grundrecht/ 28.02.2008. Zugegriffen am 16. Juli 2024.

Black, Edwin. IBM and the Holocaust: The Strategic Alliance between Nazi Germany and America’s Most Powerful Corporation. 1st ed. New York: Crown Publishers, 2001.
CCC Stellungnahme zum ITSIG2: „Sicherheit Gestalten Statt Unsicherheit Verwalten”’. https://www.ccc.de/de/updates/2021/stellungnahme-zum-itsig2. Zugegriffen am 16. Juli 2024.
Fukuyama, Francis. ‘The End of History?’ The National Interest, no. 16 (1989): 3–18. https://www.jstor.org/stable/24027184.
Gesellschaft für Informatik (GI). ‘Die Vorratsdatenspeicherung geht, „Quick Freeze“ kommt’, 7 October 2022. https://gi.de/themen/beitrag/die-vorratsdatenspeicherung-geht-quick-freeze-kommt.
Golem.de. ‘Polizei Nutzt Corona-Kontaktlisten Nach Straftat’. Polizei nutzt Corona-Kontaktlisten nach Straftat, 6 July 2020. https://www.golem.de/sonstiges/zustimmung/auswahl.html?from=https%3A%2F%2Fwww.golem.de%2Fnews%2Fhamburg-polizei-nutzt-corona-kontaktlisten-nach-straftat-2007-149482.html.
Hoffman, Samantha R. ‘Programming China: The Communist Party’s Autonomic Approach to Managing State Security’. Thesis (University of Nottingham only), 13 December 2017. http://eprints.nottingham.ac.uk/48547/.
Kühnreich, Katika. ‘Social Credit, Sicherheit und Freiheit’. In Social Credit Rating: Reputation und Vertrauen beurteilen, edited by Oliver Everling, 209–26. Wiesbaden: Springer Fachmedien, 2020. https://doi.org/10.1007/978-3-658-29653-7_11.
Kühnreich, Katika. ‘Soziale Kontrolle 4.0? Chinas Social Credit Systems’. Blätter für Deutsche und Internationale Politik. 2018. https://www.blaetter.de/ausgabe/2018/juli/soziale-kontrolle-40-chinas-social-credit-systems.
Kurz, Constanze: ‚Erklärung zur Vorratsdatenspeicherung: „Eingriff in die Privatsphäre von Millionen Menschen“‘ auf Netzpolitik.org https://netzpolitik.org/2016/erklaerung-zur-vorratsdatenspeicherung-eingriff-in-die-privatsphaere-von-millionen-menschen/ Zugegriffen am 16. Juli 2024.
Lamla, Jörn: Selbstbestimmung und Verbraucherschutz in der Datenökonomie, S. 49f. in: Aus Politik und Zeitgeschichte 24-126 Datenökonomie https://www.bpb.de/shop/zeitschriften/apuz/292351/selbstbestimmung-und-verbraucherschutz-in-der-datenoekonomie/
Lyon, David. ‘The Snowden Stakes: Challenges for Understanding Surveillance Today’. Surveillance & Society 13, no. 2 (2 July 2015): 139–52. https://doi.org/10.24908/ss.v13i2.5363.
Pedersen, Esther Oluffa. ‘Arguments for the Normative Validity of Human Rights. Philosophical Predecessors and Contemporary Criticisms of the 1789 French Declaration of Human and Civic Rights | Nordicum-Mediterraneum’, 30 September 2016. https://nome.unak.is/wordpress/volume-11-no-3-2016/conference-proceeding-volume-11-no-3-2016/arguments-normative-validity-human-rights-philosophical-predecessors-contemporary-criticisms-1789-french-declaration-human-civic-rights/.
Rid, Thomas. Rise of the Machines: A Cybernetic History. First edition. New York: W. W. Norton & Company, 2016.
Solon, Olivia, and Emma Graham-Harrison. ‘The Six Weeks That Brought Cambridge Analytica Down’. The Guardian, 3 May 2018, sec. UK news. https://www.theguardian.com/uk-news/2018/may/03/cambridge-analytica-closing-what-happened-trump-brexit.
tagesschau.de. ‘“Böhmermann-Leaks” zu hessischen NSU-Akten: Justiz stellt Ermittlungen ein’. tagesschau.de. Accessed 9 July 2024. https://www.tagesschau.de/inland/regional/hessen/boehmermann-leaks-ermittlungen-eingestellt-100.html.
Weizenbaum, Joseph. ‘ELIZA — a Computer Program for the Study of Natural Language Communication between Man and Machine’. Communications of the ACM 26, no. 1 (January 1983): 23–28. https://doi.org/10.1145/357980.357991.
Will, Markus. ‘Zahlen, bitte! Die Lochkarte: Mit 80 Zeichen wegweisend in die EDV’. News. heise online. Heise Online, 15 January 2019. https://www.heise.de/hintergrund/Zahlen-bitte-Die-Lochkarte-Mit-80-Zeichen-wegweisend-in-die-EDV-4274778.html.
Zuboff, Shoshana, Norma Möllers, David Murakami Wood, and David Lyon. ‘Surveillance Capitalism: An Interview with Shoshana Zuboff’. Surveillance & Society 17, no. 1/2 (31 March 2019): 257–66. https://doi.org/10.24908/ss.v17i1/2.13238.
Zuboff, Shoshana. Das Zeitalter des Überwachungskapitalismus. Translated by Bernhard Schmid. Frankfurt am Main New York: Campus Verlag, 2018.