Wann ist die KI ein Mensch?

Es gibt zurzeit eine intensive Diskussion über die Frage der möglichen Menschlichkeit einer KI, von der Frage, ob ich eine KI einfach abschalten darf bis hin zur Frage, wann eine KI das Wahlrecht haben sollte. Durchgespielt wurde das in der Science Fiction bereits mehrfach, beispielsweise in Star Trek, einem durchweg humanistischen Projekt, unter anderem am Beispiel der Figuren Data (und seinem bösen Alter Ego Lore), dem holographischen Doktor in „Voyager“, den Synths in „Picard“ oder dem empathischen Computer Zora in „Discovery“ (auch dieser mit einem bösen Gegenbild, der KI „Control“, zu dem gesamten Kontext siehe meinen Essay „It’s Imagination“). Ethische Dilemmata in diesem Kontext habe ich mit der Juristin Jenny Joy Schumann erörtert, die u.a. sich auch mit so kritischen Fragen wie dem Trolley-Problem, der Triage oder der Sterbehilfe befasst (dazu die Dokumentation des Gesprächs unter dem Titel „Liberale Ethik“). Sehr lesenswert der Roman „Pantopia“ von Theresa Hannig, in der eine KI, die eigentlich für die Optimierung von Börsenvorgängen geschaffen wird, sich zu einer selbstständig denkenden und handelnden humanistischen Intelligenz entwickelt, die ein ideales im besten Sinne humanistisches Reich schafft (dazu und zu dem Gegenstück von „Pantopia“, dem Roman „Parts per Million“ – übrigens der erste Roman zur Letzten Generation – von Theresa Hannig siehe unser Gespräch „Die Climate Fiction und die Politik“).

Einen sehr lohnenden und differenzierten Überblick bietet das Buch „Alles überall auf einmal“ von Miriam Meckel und Léa Steinacker, die über „die Zukunft der Mensch-Maschine-Kollaboration“ geschrieben haben und die Debatten in und um die KI-Szene bestens kennen (erschienen 2024 bei Rowohlt).  Dieses Buch habe ich für den Arbeitskreis deutscher Bildungsstätten mit folgendem Text rezensiert (erschienen in der Ausgabe 3/2024 der Zeitschrift des AdB, leider nicht online verfügbar):

Starke KI oder schwache KI? Das ist die Frage. Wie sehr wird KI unser Leben verändern? Letztlich, so Miriam Meckel und Léa Steinacker in ihrem wissenschaftlich fundiert und unterhaltsam geschriebenen Buch, geht es aber um „die Frage, was es bedeutet, Mensch zu sein“, „die Zukunft der Mensch-Maschine-Kollaboration“ (S. 13). Nicht ohne Grund wählten die beiden Autorinnen einen Titel, der die Orientierungsversuche von Evelyn Wang, der Protagonistin des preisgekrönten Blockbusters „Everything Everywhere All at Once“ als Muster der Orientierungsversuche rund um die KI, in denen wir uns selbst das Leben schwermachen: „Die KI-Szene generell sieht sich derzeit einem fast religiös anmutendem Schisma gegenüber: die Vorkämpfer gegen die Untergangspropheten. Beide Seiten sind zuweilen von einer wahnhaften Idee der Weltverbesserung beseelt.“ (S. 291) Wird KI möglicherweise „zur Scientology der Fortschrittsfanatiker“ (S. 352)

Das Thema ist nicht neu, zumindest nicht in der Science Fiction, in „Neongrau“ von Aiki Mira, „Pantopia“ von Theresa Hannig, „The Circle“ und „Every“ von Dave Eggers und nicht zuletzt in der Populärkultur wie dem Franchise Star Trek mit Figuren wie Data, Soji oder dem holographischen Doctor. In der wissenschaftlichen Aufarbeitung ist die US-amerikanische Forschung der europäischen voraus, wie Miriam Meckel und Léa Steinacker kundig dokumentieren. Diskutiert werden verschiedene Modelle, zum Beispiel der „Zentaurenansatz“, eine Verschmelzung von Mensch und Maschine mit jeweils abgrenzbaren Fähigkeiten der beiden Teile, oder der „Cyborg-Ansatz“, eine Art „Mensch-Maschine-Hybrid“, der in der Populärkultur natürlich die interessantere, da transhumanistische Variante sein dürfte. (S. 129)

Aus der KI schallt nur heraus, was wir hineingeben. Ein zentrales Thema ist daher der Bias der KI, mit all den Rassismen, Diskriminierungen, die wir im Internet platzieren. KI’en wirken als „Imitationsmaschinen“ (S. 29), als „Wortwahrscheinlichkeitsvorhersagemaschinen“, (S. 81), als „Effizienzmaschine, die keine Gnade kennt“ (S. 249). Ein Beispiel für viele: „Die bisher bekannten Fälle von Verhaftungen nach einer falschen Gesichtsidentifizierung betrafen nur nicht weiße Menschen.“ (S. 238). Elon Musk wird als Protagonist der „technolibertären Szene der USA“ genannt, die mit ihrem Einfluss auf die Entwicklung von KI „einen politischen Vorteil“ zieht: „Zu befürchten ist, dass Anwendungen wie die von Elon Musk vor allem eines befördern – den Kampf zugunsten der Parteilichkeit und Propaganda, den Extremisten unter dem Label ‚Free Speech‘, der umfassenden Meinungsfreiheit, vorantreiben wollen. ChatGTP & Co scheinen nur die nächste Zündstufe in dieser Eskalation zu sein.“ (S. 213) Die Entlarvung eines Bias wird dann als „woke“ angeprangert. Und was ist mit „Lethal Autonomous Weapons“? (S. 252f.)

Die beiden Autorinnen stellen fest, dass schon 1843 Ada August Lovelace feststellte, dass Menschen sich in Maschinen replizieren, mit der richtigen Sprache alles berechenbar wird, Menschen aber auch die Regeln machen, nach denen sich das Sprechen und Handeln der Maschinen vollzieht (S. 35) Die daraus abgeleitete Ethik wären dann in etwa die Roboter-Gesetze von Isaac Asimov von 1942. Die Entwicklungsfähigkeit der KI’en führt allerdings zu einer Art Hase-Igel-Spiel. Je mehr wir an problematischen Äußerungen der KI entwickeln, umso schlauer wird diese und umso schwerer wird es, Deepfakes zu erkennen (S. 88 und S. 69ff.). Mensch und Maschine befinden sich in einer „Co-Evolution“ (S. 145). Die Gefahr besteht vor allem darin, dass wir als Menschen verlernen: „Aber was geschieht, wenn wir über die nächsten Generationen das Lesen und Schreiben Schritt für Schritt verlernen, einfach weil wir es ja kaum mehr selbst machen müssen? Und wie erklärt man einem Zehnjährigen, dass es wichtig ist, beides zu können, und dass man es dafür üben und sich anstrengen muss?“ (S. 154) Erkennt dies auch die Politik? Kürzlich meinte ein Ministerpräsident in einem Gespräch mit der ZEIT, es reiche, eine einzige Fremdsprache zu lernen, da KI ohnehin doch alles zu übersetzen verstehe.

Die beiden Autorinnen halten eine Verstärkung bestehender Ungleichheiten für wahrscheinlich (S. 124), sie verweisen auf die These von Zeynep Tufekcı, dass „John Stuart Mills Vorstellung, dass ein ‚Marktplatz der Ideen‘ die Wahrheit hervorbringt (…) durch die Viralität von Fake News glatt widerlegt“ wird (S. 217). „Wahrheit“ wird „eine Funktion aus Berechnungskapazität und Verbreitungsgeschwindigkeit“ (S. 359). Aber was macht uns denn zu Menschen? Das Buch schließt mit einem fiktiven Trialog zwischen Evelyn Wang, Ada Lovelace und Alan Turing – wie könnte es anders sein – in einem Waschsalon. Ada: „Die Vorstellungskraft ist das entdeckende Vermögen, in erster Linie… Sie ist das, was fühlt und entdeckt, was ist, das WIRKLICHE, das wir nicht sehen, das nicht für unsere Sinne existiert.“ (S. 366) In der Tat: das ist das Menschliche: „It’s imagination!“ (Jean-Luc Picard in „Star Trek: Picard“ I /10).