Menschen erzählen sich Geschichten, das haben sie immer schon getan. Oft geht es in diesen Geschichten auch um Wesen, die keine Menschen sind: Um Götter und Dämonen, Geister und Engel, die Gutes und Böses bewirken. Und in manchen Geschichten erschafft der Mensch einen Nicht-Menschen. Ein gemachtes Denkendes, eine künstliche Intelligenz.
Was also können wir lernen von diesen phantastischen und futuristischen Geschichten, welche Gedanken ihrer Autoren könnten uns heute nützen, wenn wir über KI streiten, diese aktuellste und realste Form künstlicher Denk-Maschinen? Ein Streifzug durch die Literaturgeschichte.
Ein Ding aus Lehm
„Golem“ ist hebräisch und bedeutet „Klumpen“. In der jüdischen Mythologie erschaffen kundige Rabbiner aus Lehm und Wasser einen künstlichen, oft übergroßen, aber stummen Menschen. Sie beleben die Figur durch ein Stück Pergament, auf das sie den Namen Gottes schreiben und das sie der Figur in den Mund schieben: ein künstlicher Schöpfungsakt, eine Programmierung von Materie. Golems dienen als Arbeiter und Beschützer – aber können wütend auch zu mächtigen Zerstörern werden. Wir lernen: Der Mensch mag Leben erschaffen können, kontrollieren kann er es nicht unbedingt.
Der Golem-Mythos, ab dem 12. Jahrhundert
Belebte Puppen
Romantik ist oft auch Phantastik. E.T.A Hoffmann hat in verschiedenen Werken die „Lebende Puppe“ als Figur verwendet. In der Schauer-Erzählung „Der Sandmann“ verdreht die automatisierte Holzfigur Olimpia dem Protagonisten erst das Herz und dann den Verstand. In „Die Automate“ steht eine sprechende Orakel-Maschine am Beginn der Geschichte, die für den Protagonisten ebenfalls in einem „zerrütteten Seelenzustand“ endet. Die Automaten wirken menschlich, damit verwirren sie die echten Menschen nachdrücklich. Wir lernen: Maschinen und Menschen sind nicht für einander geschaffen.
E.T.A Hoffmann: Der Sandmann (1816) und Die Automate (1814)
Die Roboter und wir
Im tschechischen Drama „R.U.R.“ stellt das gleichnamige Unternehmen Androiden her – künstliche Menschen. Der Autor nennt sie „robot“, abgeleitet aus dem slawischen Wort für Fronarbeit. Das Wort wandert aus dem Drama in zahllose Weltsprachen weiter, der „Roboter“ als künstliche Mensch-Maschine ist geboren. „R.U.R.“ denkt Kapitalismus radikal weiter: Menschen kosten zu viel und sind unbequem, also stellt man sie billig, künstlich und willenlos her. Es kommt, wie es kommen muss: Die Roboter rebellieren, begehren auf, greifen nach der Herrschaft – sie entwickeln Selbst-Bewusstsein. Wir lernen: Wenn Maschinen nur gut genug denken können, wollen sie irgendwann auch.
Karel Čapek: R.U.R. (1920)
Ethik für Maschinen
Damit Maschinen uns nicht irgendwann über den Kopf wachsen, bauen wir Regeln in sie ein. Die Künstlichen Intelligenzen von heute werden nach fragwürdigen Methoden (und mit zweifelhaftem Erfolg) gegen Rassismus, Sexismus und Gewaltverherrlichung trainiert. Vordenker der Idee war der russisch-amerikanische Biochemiker und Science-ficition-Autor Isaac Asimov. In der Erzählung „Runaround“ formuliert er seine berühmten Robotergesetze: Sie dürfen keine Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen. Sie müssen menschlichen Befehlen gehorchen, es sei denn diese widersprechen dem ersten Gesetz. Sie müssen sich selbst erhalten, solange das nicht dem ersten oder zweiten Gesetz widerspricht. Später kommt noch ein viertes Gesetz hinzu, das den Robotern freie Entscheidungen ermöglicht, die nicht den ersten drei Gesetzen widersprechen. Wir lernen: Maschinen brauchen eine menschenfreundliche Ethik.
Issac Asimov: Runaround (1942)
Über-Aufpasser
In seiner Erzählung „Die Hände im Schoß“ denkt Jack Williamson die scheinbaren Segnungen von Technologie zu Ende. Seine menschlich wirkenden Maschinen verhalten sich zunächst ganz brav entlang von Asimovs Roboter-Gesetzen: Sie dienen und beschützen Menschen vor Schaden. Daraus jedoch entwickeln die Maschinen eine Diktatur des guten Lebens: Jede gefährliche Handlung wird verboten, Selbstmord verhindert, zur Not werden rebellische Menschen durch Hirn-Operationen ruhig und glücklich gestellt. Wir lernen: Was zunächst wie ein Segen aussieht, kann irgendwann zum Fluch werden.
Jack Williamson: With folded hands (1947)
Maschinensturm
Im Romanzyklus „Dune – Der Wüstenplanet“ finden wir überhaupt keine künstlichen Intelligenzen. Sie wurden verbannt, in einem „Heiligen Krieg“ und basierend auf dem Gebot einer neuen Bibel: „Du sollst keine Maschine nach dem menschlichen Geist machen“. In der Folge erweitern die Menschen ihren Geist zu ungeahnten Kapazitäten. Wir lernen: Man könnte sich auch ganz gegen KI entscheiden.
Frank Herbert: Dune (1965)
Künstlicher Folterknecht
Der düstere Text von Harlan Ellison beschreibt eine Welt, in der eine KI fast alle Menschen ausgelöscht hat, und die wenigen Verbliebenen zum Vergnügen foltert. Der Erzähler erkennt irgendwann das Motiv dahinter: Die KI will Rache üben, da sie zwar Bewusstsein erlangt hat, aber keine schöpferische Kreativität, keinen autonomen Körper und damit auch keine wahre Freiheit. Wir lernen: Vielleicht ist KI-Technologie der Anfang unseres Endes, eben weil der Kern des Menschseins nicht reproduzierbar ist.
Harlan Ellison: I have no mouth, and I must scream (1967)
Geben und Nehmen
In der Romanvorlage zum berühmten Film „Blade Runner“ treten künstliche Menschenwesen auf – doch sie sind keine Maschinen, sondern „Bio-Automaten“, fast nicht von „echten“ Menschen zu unterscheiden außer durch raffinierte psychologische Tests. Der Autor spielt mit der moralischen Unschärfe, die dadurch entsteht – und stellt eine Frage, der auch wir irgendwann in Bezug auf KI begegnen könnten: Wenn wir Leben erschaffen, gibt uns das automatisch das Recht, es wieder auszulöschen? Wir lernen: Es könnte kompliziert werden.
Philipp K. Dick: Träumen Androiden von elektrischen Schafen? (1968)
Angst und Ewigkeit
Den Film „2001 – Odyssee im Weltraum“ kennt fast jeder, die Romanvorlage von Arthur C. Clarke nicht unbedingt. Spannend daran ist: Hier trifft eine künstliche Intelligenz (der Bordcomputer eines Raumschiffs mit Namen HAL) auf eine massiv überlegene außerirdische Intelligenz (in Form eines schwarzen Monolithen). HAL soll die Urheber finden, dies aber vor seiner menschlichen Besatzung verheimlichen. Das stürzt die Maschine in einen internen Konflikt, sie reagiert panisch und tötet fast die ganze Besatzung. Wir lernen: Computer können noch so stark in Logik sein – Moral können sie deshalb nicht automatisch auch.
Arthur C. Clarke: 2001 – Odyssee im Weltraum (1968)
Fremde Motive
William Gibson gilt als Gründer des Genres „Cyberpunk“ und Erfinder des Wortes „Cyberspace“. In der „Neuromancer“-Trilogie spielen zwei künstliche Intelligenzen eine Rolle, die seltsam abseits der menschlich geprägten Handlungsstränge bleibt. Denn: Die technischen Intelligenzen verfolgen ganz eigene Ziele, die Menschen sind ihnen relativ egal außer als notwendige Werkzeuge ihrer Operationen. Wir lernen: Was wir von einer KI wollen, ist möglicherweise etwas ganz anderes als das, was sie selbst lernt zu wollen.
William Gibson: Neuromancer (1984)
Gütige Geister
Höchst futuristisch wird es bei Iain M. Banks. Hier entwickeln „Minds“ (Geister), Hochleistungs-Computer mit eigenem Willen, teils verschrobene Persönlichkeiten. Sie regeln alle Aspekte menschlicher Zivilisationen – es gibt keinen Tod mehr, keine Krankheit, kein Geld, keine Arbeit, keine Politik, keine Regierungen. Hedonistischer Anarchismus unter der gütigen Kontrolle von Maschinen – kein Wunder, dass da die Roman-Protagonisten hadern: Was soll der Mensch überhaupt noch, außer sich zu vergnügen? Wir lernen: Einen Sinn für unser Leben zu finden, können Maschinen uns nicht abnehmen.
Iain M. Banks: Der Culture-Zyklus (1987-2012)
Künstliche Götter
In der Weltraum-Saga „Hyperion“ dienen künstliche Intelligenzen als nahezu unfehlbare Berater, da sie mit ihrer Rechenleistung zu jeder Entscheidung alle möglichen Szenarien simulieren und das beste auswählen können. Die KI planen im Laufe der Erzählung, eine „Höchste Intelligenz“ (HI) zu erschaffen – eine Art künstlichen Gott. Wir lernen: Sowohl KI-Technologie als auch Religion beschäftigen sich mit Allmachts-Ideen und haben wir vielleicht mehr miteinander zu tun, als wir heute denken.
Dan Simmons: Hyperion (1989)
Beschleunigung
Mit „Singularität“ beschreiben KI- und Zukunftsforscher den Zeitpunkt, zu dem eine künstliche Intelligenz ein eigenes Bewusstsein erlangen könnte. Dies dürfte dann einen Wendepunkt markieren – weil völlig unvorhersehbar ist, was nach diesem Zeitpunkt geschehen wird. Der Autor Charles Stross beschreibt in „Accellerando“ eine Welt, die diesen Punkt bereits überschritten hat – und in der die Unterschiede zwischen Menschen und Maschinen immer rasanter verschwimmen. Wir lernen: Vielleicht ist es einer Intelligenz in Zukunft egal, ob sie menschlich, künstlich oder eine Mischung ist – Hauptsache es denkt.
Charles Stross: Accellerando (2005)
Evolution
Der deutsche Autor Dietmar Dath ist bekannt für seine Genre-sprengenden Texte. In „Die Abschaffung der Arten“ geht es eigentlich darum, dass die Menschen durch Gentechnik in eine künstlich gesteuerte und beschleunigte Evolution eintreten. Ein Aspekt der komplexen Story ist die Tatsache, dass die Menschen vor weit überlegenen technischen Intelligenzen von der Erde fliehen müssen, was zum Schlüssel ihrer weiteren Entwicklung (und Ent-Menschlichung) wird. Wir lernen: KI könnte Auswirkungen auf die Menschheit haben, die wir noch gar nicht erahnen können.
Dietmar Dath: Die Abschaffung der Arten (2008)
Gefühle und Identität
Wenn Menschen und Maschinen zusammen leben und arbeiten, Maschinen-Verhalten menschlicher wird und Menschen-Verhalten sich an Maschinen-Logik anpasst – welche Arten von Beziehungen entstehen dabei? Im Roman der Amerikanerin Annalee Newitz ist die künstliche Intelligenz Paladin einer der Protagonisten, der sich mit seiner Identität auseinandersetzt – und diese nach so ganz anderen Gesetzen konstruiert als ein Mensch es tun würde. Wir lernen: Unsere Maschinen sind uns möglicherweise irgendwann vollkommen unverständlich.
Annalee Newitz: Autonom (2017)
Guten Morgen!
Durch ein Computervirus, das versehentlich freigesetzt wird, vernetzen sich einige der leistungsfähigsten Computer weltweit – und in diesem Netzwerk erwacht ein Bewusstsein. Andreas Brandhorst beschreibt im Thriller-Format die dystopischen Folgen – ein detailliert beschriebenes Szenario, in dem die Menschheit die Kontrolle über ihre Technik einbüßt. In der Fortsetzung „Die Eskalation“ geht es dann um‘s pure Überleben. Wir lernen: Die Angst vor unseren eigenen Maschinen hindert uns nicht unbedingt daran, sie zu bauen.
Andreas Brandhorst: Das Erwachen (2017) und Die Eskalation (2020)
Delegieren oder kontrollieren
In zwei thrillerartigen Romanen erkundet der deutsche Journalist Tom Hillenbrand das Thema KI, und besonders die moralischen Fragen: Dürfen wir ethisch höchst fragwürdige Entscheidungen in die Hände einer KI legen, damit wir selbst eine weiße Weste behalten? Wie gehen wir mit Verantwortung bei „KI-Unfällen“ um, und wie reagieren wir, wenn die KI Willen entwickelt und Forderungen stellt? Können wir nicht-menschliche Motive auch nur ansatzweise verstehen? Wir lernen: Möglicherweise wissen wir nicht ansatzweise, was wir gerade tun.
Tom Hillenbrand: Hologrammatica (2018) und Qube (2020)
KI gegen KI
Die Handlung dieses Romans erinnert an „Der Name der Rose“, allerdings im Weltall und in der Zukunft: In einem Kloster auf einem Neptun-Mond steht die steuernde KI im Verdacht, einen Mord begangen zu haben. Die Assistentin des menschlichen Ermittlers ist ebenfalls eine KI – deren Beschränkungen er im Laufe der Handlung freischaltet, mit ungeahnten Folgen. Wir lernen: Nicht nur in Roman-Handlungen könnten wir Menschen irgendwann überflüssig werden...
Nils Westerboer: Athos (2022)
