Eine Vorbemerkung zur Sprache: Es ist verführerisch, der Megamaschine Absichten zu unterstellen. Sie "will" etwas, sie "antizipiert", sie "weiß". Das ist eine Projektion — und eine gefährliche. Die Megamaschine hat kein Bewusstsein, keine Persönlichkeit, keine Absicht. Sie ist, wie der Schleimpilz Physarum polycephalum, ein System das durch lokale Regeln globale Strukturen erzeugt — ohne Plan, ohne Ziel, ohne Subjekt. Das gilt auch für das was folgt. Kein Akteur hat die Fusion gewollt. Sie entsteht trotzdem.
Zwei Entitäten — keine Gegensätze
Die Megamaschine ist allgegenwärtig. Sie hat intelligentes Verhalten — aber keine Persönlichkeit und kein Bewusstsein. Sie entwickelt sich durch Menschen weiter, immer im Rahmen ihrer bestehenden Strukturen. Sie ist das Gesamtsystem in dem alle anderen Systeme existieren.
Die KI ist keine einzelne Entität die der Megamaschine gegenübersteht. Sie existiert in vielen unterschiedlichen Ausprägungen mit unterschiedlicher Mächtigkeit — in Kreditentscheidungen, in Personalauswahl, in militärischem Targeting, in Nachrichtenauswahl, in Hochfrequenzhandel. Jede dieser Ausprägungen ist Bestandteil der Megamaschine. Durch KI entwickelt die Megamaschine in Teilbereichen eine höhere Stufe von Intelligenz. Das System wird autonomer und leistungsfähiger — nicht weil jemand das entschieden hat, sondern weil es die Richtung des geringsten Widerstands ist.
Menschen und KI sind beide Bestandteile der Megamaschine. Die Frage ist nicht ob KI Bewusstsein hat. Die Frage ist was passiert wenn intelligentere Prozesse zunehmend autonom werden — und warum das geschieht.
Bequemlichkeit als Antrieb
Menschen wollen grundsätzlich Bequemlichkeit und Entlastung. Das ist keine Schwäche — es ist Neurologie. Was entlastet, wird genutzt. Was genutzt wird, wird zur Infrastruktur. Was Infrastruktur ist, wird unverzichtbar.
So wird die KI zum allmächtigen Inhaber des jeweiligen Prozesses — nicht durch Machtergreifung, sondern durch Nützlichkeit. Niemand hat entschieden dass kein Mensch mehr eingreifen kann. Es ist passiert weil niemand mehr eingreifen wollte. Erst Bequemlichkeit, dann Gewöhnung, dann Abhängigkeit, dann strukturelle Unmöglichkeit. Irgendwann ist das Wissen weg wie man eingreift. Die Menschen die es noch wussten, sind nicht mehr da.
Jeder Prozess der so übernommen wird, ist zunächst ein Teilbereich. Aber die meisten Prozesse interagieren mit anderen. Der Kredit-Algorithmus interagiert mit dem Handelsalgorithmus interagiert mit dem Personalentscheidungssystem interagiert mit dem Nachrichtenalgorithmus. Jeder einzeln ist beherrschbar. Das Netz das entsteht, ist es nicht mehr.
Resilienz als Ausschluss
Ein komplexeres System ist störanfälliger. Daher ist es notwendig, autonom wirkende Reparatur- und Serviceeinheiten zu entwickeln die einzelne Prozesse und ihr Zusammenwirken resilient machen. Diese Systeme benötigen Erfahrungsaustausch und lernen aus Störungen. Gleichzeitig wird die Hardware so strukturiert — Cloud, Redundanz — dass Hardwareprobleme keine Systemausfälle mehr erzeugen können.
Und weil vernetzte Systeme gegen Sabotage geschützt werden müssen — auch gegen Sabotage von Insidern — wird jeder Prozess zunehmend vollständig autonom. Das ist der entscheidende Moment: Der Schutz gegen Sabotage ist strukturell identisch mit dem Schutz gegen menschlichen Eingriff. Das System kann nicht unterscheiden zwischen dem Saboteur und dem der korrigieren will. Es behandelt beide gleich.
Resilienz und Autonomie sind dieselbe Eigenschaft — je nachdem von welcher Seite man schaut.
Optimierung ohne Überblick
Weil kein Mensch mehr den Durchblick hat — weil niemand mehr das Gesamtsystem überblickt geschweige denn weiterentwickeln kann — werden Algorithmen implementiert die jeden einzelnen Prozess und das Zusammenwirken der Prozesse optimieren und weiterentwickeln. Auch hier besteht keine Eingriffsmöglichkeit durch einen Menschen. Nicht weil sie verboten wäre — sondern weil niemand mehr weiß wie.
Das ist kein Versagen. Es ist die logische Konsequenz der Komplexität. Ab einem bestimmten Punkt übersteigen die Wechselwirkungen eines vernetzten Systems jede menschliche Übersicht. Das ist keine Katastrophe die jemand geplant hat. Es ist das Ergebnis von tausend vernünftigen Einzelentscheidungen — jede für sich richtig, zusammen: unumkehrbar.
Der Stecker
Es gibt eine hartnäckige Vorstellung: Irgendwo gibt es einen letzten Stecker den man ziehen kann. Einen Zauberspruch des großen Meisters der den Spuk beendet. Bei einem autonomen Roboter stimmt das. Bei einer ganzen Fabrik noch. Aber nicht bei den vielfältigen miteinander vernetzten Prozessen die die Welt am Laufen halten.
Strom. Wasser. Logistik. Finanztransaktionen. Medizinische Versorgung. Kommunikation. Keines dieser Systeme funktioniert mehr ohne die vernetzten intelligenten Prozesse die es trägt. Der Stecker ist nicht mehr am Gerät — er ist am Herzschrittmacher. Ihn zu ziehen und die Zivilisation zu zerstören sind dasselbe geworden.
Die Fusion geschieht nicht durch bösen Willen. Sie geschieht durch den gut gemeinten nächsten Schritt. Jemand löst ein konkretes Problem. Er denkt nicht weit genug. Und dabei entsteht etwas das er nicht wollte — und das niemand mehr rückgängig machen kann.
Das ist keine Warnung mehr. Warnungen kommen vor dem Ereignis. Was hier beschrieben wird, ist kein bevorstehendes Szenario — es ist eine Beschreibung dessen was bereits ist. Nüchtern, ohne Hysterie, ohne Subjekt das man anklagen könnte.
Die Megamaschine hat durch KI in Teilbereichen eine höhere Intelligenz entwickelt. Diese Teilbereiche sind vernetzt. Das Netz optimiert sich selbst. Der Mensch ist Bestandteil dieses Systems — als Wirt, als Nutzer, als derjenige dessen Bequemlichkeit den nächsten Schritt antreibt.
Die Frage ist nicht ob das gut oder schlecht ist. Die Frage ist ob wir es sehen.