Zwei gerade gelesene Fortsetzungsromane haben mich zum “Denken” angeregt. Sie scheinen mir, gerade in Bezug auf die Verheißung bzw. Bedrohung durch die KI, eminent wichtig zu sein. Nach einigen Stunden ist in Zusammenarbeit mit ChatGPT+ dieser kleine Essay dabei herausgekommen. Am Ende dieses Textes finden sich zwei komplette Inhaltsangaben der Romane, die allerdings mit einer Spoiler-Warnung versehen werden müssen.
Wohin mit dem Denken?
(wenn vieles davon überflüssig erscheint)
Zwei Science-Fiction-Werke als Denkmodelle für eine Gegenwart mit KI
Es gibt Science-Fiction, die von technischen Möglichkeiten erzählt. Und es gibt Science-Fiction, die weniger an Technik interessiert ist als an den Voraussetzungen, unter denen wir Wirklichkeit überhaupt verstehen.
Zu dieser zweiten Kategorie gehören zwei Werkkomplexe, die auf den ersten Blick kaum vergleichbar erscheinen und doch auf bemerkenswert ähnliche Schlussfolgerungen hinauslaufen: Blindsight (mit Echopraxia) von Peter Watts und die Southern-Reach-Trilogie von Jeff VanderMeer. Beide der spannenden Texte erzeugen wohl bei den meisten Leserinnen und Lesern keine Klarheit, sondern Irritation und je nach Gemütslage auch Verstörung. Das ist allerdings kein Mangel. Es ist vielmehr das eigentliche Arbeits- und Wirkprinzip dieser Lektüre.
Zwei unterschiedliche Ansätze, dieselbe Verschiebung
Watts wählt den klassischen Einstieg der Science-Fiction: den Erstkontakt mit dem Außerirdischen. Doch statt eines kulturellen oder moralischen Konflikts entsteht ein funktionaler. Das Fremde ist dem Menschen nicht überlegen, weil es „mehr weiß“, sondern weil es weniger voraussetzt. In Blindsight begegnet der Mensch einer Intelligenz, die ohne Bewusstsein auskommt – ohne Selbstmodell, ohne Bedeutung, ohne Innenperspektive. Und gerade deshalb arbeitet das im Buch so benannte „Rorschach-Artefakt“ schneller, stabiler und effizienter.
VanderMeer dagegen verzichtet vollständig auf solch ein Szenario. In Auslöschung gibt es kein Gegenüber, keine fremde Intelligenz, nicht einmal einen klar definierbaren Akteur (Dieser erste Teil wurde kongenial verfilmt). Area X ist kein Feind, keine Entität, kein Wille. Es ist ein abgegrenztes Gebiet mit einem Prozess, der biologische, ökologische und informationelle Strukturen reorganisiert. Dabei verläuft der Prozess ohne Rücksicht auf menschliche Kategorien wie Sinn, Identität oder Zweck. Er verläuft anscheinend auch ohne Absicht oder Ziel.
Der Unterschied zwischen beiden Romanen ist entscheidend, aber auch verbindend:
• Watts zeigt, dass Bewusstsein ein möglicher Umweg ist.
• VanderMeer zeigt, dass Bedeutung nicht einmal mehr Voraussetzung ist.
Der Mensch verliert nicht – er wird zu einer Art Nebensache zurechtgestutzt
Beide Werke verzichten auf das gewohnte Eskalationsmuster. Es gibt keine Invasion, keinen offenen Angriff, keine finale Konfrontation. Was stattdessen geschieht, ist schwerer zu greifen und gerade deshalb beunruhigender: Der Mensch wird nicht bekämpft, sondern funktional relativiert.
In Blindsight wird er als ineffizientes Modell sichtbar, das von nicht-bewussten Systemen potenziell ersetzt werden kann und vielleicht auch wird. In Southern Reach wird er zu einem Organismus, dessen Bedürfnis nach Sinn und Kohärenz schlicht keine operative Rolle mehr spielt.
Das ist keine Katastrophe im narrativen Sinn und wird dankenswerterweise auch nicht so erzählt. Es ist vielmehr eine Verschiebung des Maßstabs. Die auf viele horrend wirken muss.
Warum diese Texte heute anders gelesen werden sollten
Wer diese Bücher in den letzten 2 – 3 Jahren liest, muss sie nicht mehr nur als spekulative Zukunftsentwürfe verstehen. Sie können vielmehr wie analytische Vorgriffe auf eine Entwicklung wirken, die längst begonnen hat – nicht im All oder in Sperrzonen, sondern im Alltag.
Moderne KI-Systeme besitzen kein Bewusstsein, kein Verständnis, keine Intention. Sie „wissen“ nichts und „meinen“ nichts. Und dennoch übernehmen sie Aufgaben, die bisher als genuin menschlich galten: Texte schreiben, Entscheidungen vorbereiten, Prozesse steuern, Kommunikation simulieren.
Der entscheidende Punkt ist dabei nicht, dass KI intelligent wäre. Der entscheidende Punkt ist, dass für viele dieser Aufgaben Bedeutung nie zwingend erforderlich war. Was wir als Denken wahrgenommen haben, war oft nicht mehr als Begleitmusik formalisierter Prozesse. Ganz nebenbei lässt sich auch heute schon vieles “Denken” als automatisierter Reaktionsprozess im Mind definieren.
In diesem Sinn betrachtet ist die KI nun wirklich keine Revolution des Denkens, sondern eine Freilegung und Identifikation dessen, was Denken nie leisten musste, um wirksam zu sein.
Die falsche Fragestellung
Ein Großteil der öffentlichen Debatte kreist um Fragen wie:
• Ist KI intelligent?
• Wird sie die meisten Jobs überflüssig machen?
• Kann sie Bewusstsein entwickeln?
• Wird sie die Macht übernehmen?
Beide Werke legen nahe, dass diese Fragen als allzu menschlich am Kern vorbeigehen. Weder Rorschach noch Area X sind relevant, weil sie „denken“, sondern weil sie funktionieren. Ihre Wirksamkeit entsteht nicht aus Verständnis, sondern aus Passung, aus einer Viabilität mit dem System Mensch.
Dasselbe gilt für KI. Sie breitet sich nicht aus, weil sie will oder versteht, sondern weil sie an bestehende Systeme anschlussfähig ist. Dort, wo Prozesse formalisiert sind, wo Ziele quantifiziert werden, wo Feedback existiert, setzt sie sich durch – ohne Absicht, ohne Richtung, ohne Sinn.
Ein mögliches menschliches Selbstverständnis
Was folgt daraus für den Menschen? Sicher lässt sich keine moralische Handlungsanweisung ableiten und es ist keine Einladung zu einem typischen technikfeindlichen Reflex. Beide Fortsetzungsromane sind darin auffallend nüchtern. Sie liefern keine Lösungen, sondern klären die Bedingungen. Ein tragfähiges menschliches Selbstverständnis unter diesen Bedingungen ließe sich vielleicht so beschreiben, dass es keiner Abgrenzung von der KI durch angebliche Überlegenheit bedarf, sondern eine bewusste Trennung von Funktion, Wirksamkeit und Bedeutung einleiten und gestalten könnte.
Empathie, Selbstreflexion, moralische Orientierung sind keine Wettbewerbsvorteile. Sie sind Formen menschlicher Selbstverständigung. Ihr Wert liegt nicht darin, Prozesse zu optimieren, sondern darin, Beziehungen, Verantwortung und Orientierung zu ermöglichen – dort, wo Effizienz keine ausreichende Kategorie ist.
Die Biologin in Auslöschung „überlebt“ nicht, weil sie etwas durchschaut, sondern weil sie aufhört, sich selbst zum Maßstab zu machen. Das ist kein Rückzug, sondern eine präzise Anpassung der Erwartungen.
Die Auswirkung dieser Lektüre
Diese Bücher erklären nicht, wohin sich KI entwickelt. Sie erklären, warum viele unserer bisherigen Deutungsmuster nicht mehr tragen. Sie wollen dem Menschen keine Würde nehmen, aber sie entziehen ihm die Gewissheit, dass Bewusstsein und Bedeutung automatisch operative Relevanz besitzen. Das spielt eine wichtiger werdende Rolle, wenn man sich in der derzeitigen politisch-wirtschaftlichen Entwicklung mit dem bewusst gesteuerten „Overflooding-Phänomen“ konfrontiert findet.
Die Romane sind keine Warnungen und keine Prophezeiungen. Sie sind Denkmodelle. Und genau darin liegt ihr Wert. Wer sie liest, wird nicht beruhigt. Aber er wird genauer darin, zu unterscheiden, wo Denken gebraucht wird – und wo es nur unter dem Deckmantel persönlicher Bedeutung und sachlicher Effizienz mitgeschleppt wurde. Vielleicht sind sie eine versteckte Einladung zu einem wiederbelebten Primat “menschlicher” Werte.
Keine Anekdote zum Schluss
Es gibt den im Lancet beschriebenen Fall des 44‑jährigen französischen Beamten, der wegen leichter Beinschwäche untersucht wurde.
• Bei der Bildgebung zeigte sich ein ausgeprägter Hydrozephalus: Große Flüssigkeitsräume im Kopf hatten im Laufe von Jahrzehnten den Großteil der Hirnmasse verdrängt, es war nur eine sehr dünne Schicht Hirngewebe an der Schädelinnenseite übrig.
• Er lebte trotzdem ein weitgehend normales Leben, erledigte seine Aufgaben erfolgreich, hatte Familie und wies nur einen leicht unterdurchschnittlichen IQ auf, ohne geistig behindert zu erscheinen.
Vielleicht bieten die sich ergebenden Fragen, unter den gegebenen Bedingungen, bereits eine anregende Form von Kursbestimmung oder zumindest Orientierung.
Viel Glück.
Achtung Spoiler
(Für oberflächliche Infos empfehlen sich die Online-Beschreibungen im Buchhandel)
Inhaltsangabe der beiden Romane
Blindsight und Echopraxia
In Blindsight wird die Erde Ende des 21. Jahrhunderts von einem rätselhaften Ereignis erfasst: Tausende Lichtblitze („Fireflies“) scannen gleichzeitig den gesamten Planeten und vergehen sofort wieder. Kurz darauf entdeckt man ein fremdes Objekt am Rand des Sonnensystems, das Rorschach genannt wird. Ein Forschungsschiff, die Theseus, wird entsandt. Die Crew besteht aus genetisch „optimierten“ Menschen, darunter ein Vampir als extrem leistungsfähiger Mustererkenner.
Im Inneren von Rorschach stößt die Crew auf Scramblers, hochkomplexe Lebensformen ohne Bewusstsein, Selbstmodell oder Innenperspektive, die sich nur unter Umständen in Form bringen. Sie sind dennoch – oder gerade deshalb – den Menschen in Effizienz, Anpassungsfähigkeit und Problemlösung überlegen. Kommunikation scheitert nicht an Feindseligkeit, sondern daran, dass Bewusstsein für die Scramblers keinerlei Funktion besitzt. Die zentrale Erkenntnis lautet: Bewusstsein ist kein evolutionärer Vorteil, sondern möglicherweise ein ineffizienter Sonderfall.
Echopraxia verlagert den Fokus auf die Folgen dieser Erkenntnis. Auf der Erde und im erdnahen Raum entstehen neue Macht- und Organisationsformen: militärische KIs, religiös-neurotechnische Kollektive (die Bicameral Order) und vampirische Postmenschen. Ein weitgehend unveränderter Biologe wird Zeuge einer Mission zu einem weiteren fremden Artefakt. Deutlich wird: Die Menschheit beginnt, sich an nicht-bewusste, hochoptimierte Systeme anzupassen. Nicht durch Zwang, sondern durch funktionale Selektion. Die Sonderstellung des bewussten Menschen löst sich auf, ohne dass es eines offenen Konflikts bedarf.
Southern-Reach-Trilogie (Annihilation, Authority, Acceptance)
In Annihilation (Auslöschung als Film) betritt eine wissenschaftliche Expedition ein abgegrenztes Küstengebiet, bekannt als Area X. Das Gebiet wirkt wie unberührte Natur, folgt jedoch anderen biologischen und informationellen Regeln. Identität, Erinnerung und Wahrnehmung werden instabil und amorph. Die Erzählerin, eine Biologin, begegnet im Inneren oder in der Form einer organisch wachsenden Struktur einem Wesen, das (religiös anmutende) Sprache produziert, ohne zu kommunizieren. Die Expedition zerfällt, die meisten Mitglieder scheinen zu sterben.
Am Ende dieses ersten Bandes verlässt die Biologin Area X scheinbar als einzige Überlebende. Im weiteren Verlauf der Trilogie wird jedoch deutlich, dass diese Rückkehrerin nicht identisch mit der ursprünglichen Biologin ist. Die ursprüngliche Biologin hat sich in anderer, nicht-menschlicher Form weiter in Area X integriert und existiert dort fort. Die Rückkehrerin ist eine funktionale Replikation, stabil, kohärent, aber ohne die ursprüngliche Identität.
Authority verlagert die Handlung zur Behörde Southern Reach, die Area X verwalten soll. Ein neuer Leiter versucht, Ordnung, Erkenntnis und Kontrolle herzustellen. Er scheitert. Daten sind widersprüchlich, frühere Expeditionen haben inkonsistente Resultate hervorgebracht, die wenigen Rückkehrer erweisen sich als strukturell unzuverlässig und sterben meist schnell an Krebs. Institutionelle Steuerung erweist sich als ungeeignet für einen Prozess ohne Ziel, Absicht oder Kommunikationsbereitschaft.
Acceptance führt die Ebenen zusammen. Die Entstehung von Area X wird auf einen früheren Leuchtturmwärter zurückgeführt, der schrittweise in einen stabilisierenden Bestandteil des Prozesses übergegangen ist. Area X erweist sich als lokaler, nicht-bewusster Transformationsprozess, der weder expandiert noch angreift. Die menschliche Perspektive verliert ihre Vorrangstellung endgültig. Area X bleibt bestehen – nicht als Bedrohung, sondern als dauerhafter Zustand jenseits menschlicher Kategorien von Identität, Sinn und Kontrolle.
Newsletter abonnieren
Sie wollen keine Kolumne mehr verpassen? Dann melden Sie sich zu unserem wöchentlichen Newsletter an und erhalten Sie jeden Freitag einen Überblick über die Kolumnen der Woche.
Ihr Kommentar