Zivilisationswandel im Präsens: Künstliche Intelligenz und die Menschheit. Heute schon die Welt von morgen erkennen?
Rezension zu Mustafa Suleyman. 2024. The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts. C.H.Beck, München.
„The Coming Wave“ von Mustafa Suleyman ist ein Weckruf aus der Mitte des Silicon Valley. Im Zentrum der Analyse steht die Sorge vor einem Kontrollverlust zweier zentraler Technologien: Künstliche Intelligenz (KI) und synthetische Biologie. Sowohl Sprachmodelle wie ChatGPT als auch das Schreiben von DNA-Strängen durch Gensynthese verschieben die Koordinaten menschlichen Zusammenlebens. Beide läuten ein neues Zeitalter der Menschheit ein und versprechen neue Dimensionen des Wohlstands. Gleichzeitig stellt ihr Missbrauch wie das Streuen bewusster Desinformationen und die Kultivierung resistenter Bakterien Gesellschaften und Staaten vor erheblichen Herausforderungen.
Das „Containment-Problem“
Suleyman leitet seine Analyse mit einem Überblick über die Folgen und Konsequenzen von Technologiewellen ein. Anschaulich zeichnet seine Wellentheorie systematisch die Menschheitsgeschichte anhand von Technologieentwicklungen nach. Allzwecktechnologien wie die Schrift, Elektrizität oder das Internet zeigen auf, wie sehr die Menschheit auf Fortschritt angewiesen ist. Durch Kostensenkung und Weiterverbreitung entwickeln sie einen Zustand vollständiger Praktikabilität. Erreichen Technologien diesen kritischen Moment, ist eine Eindämmung kaum noch möglich. Das zeigen die historischen Beispiele, auf die sich Suleyman bezieht.
Bits und Gene – die Zäsur des 21. Jahrhunderts
Zäsuren ordnen den Blick auf die Geschichte. Und das 21. Jahrhundert kennt viele Zäsuren - die Anschläge vom 11. September 2001, die Weltwirtschaftskrise 2007/08 oder der Beginn des Ukraine-Krieges am 24. Februar 2022. Obwohl sich KI und synthetische Biologie bereits länger ankündigten, entfalten sie erst jetzt im 21. Jahrhundert ihr Potenzial. Für Suleyman bilden sie eine maßgebliche Zäsur: Bits und Gene sind Informationsträger und lassen somit die bekannte Welt der Atome hinter sich. Denn Informationen sind Codes. Und diese werden nicht nur gelesen, sondern auch geschrieben. Die Interventionen in das menschliche Leben sind tiefgreifend. Dies betrifft auch die Verfügbarkeit: Als das Humangenomprojekt 2003 den Code des Lebens offenlegte, beliefen sich die Kosten für die Sequenzierung auf 1 Mrd. US-Dollar. Im Jahr 2022 fielen die Kosten auf rund 1000 US-Dollar. Die Konvergenz von KI und synthetischer Biologie ermöglicht die Analyse riesiger Datenmengen biologischer Komplexität, die mit herkömmlichen Techniken nicht zu bewirken ist. Inzwischen suchen Wissenschaftler nach Möglichkeiten, den menschlichen Verstand direkt in Computersysteme einzubinden.
Als Google 2019 die „Quantenüberlegenheit“ verkündete, wurde der Schlüsselmoment für Quantencomputer erreicht. Die nahe dem absoluten Temperaturnullpunkt bei minus 273,15 Grad abgekühlte Google-Maschine führte in Sekundenschnelle eine Berechnung durch, für die ein herkömmlicher Computer zehntausend Jahre gebraucht hätte. Dazu nutzte sie 53 Quantenbits („Qubits“ – Kerneinheit der Quanteninformatik). Ein klassischer Computer bräuchte für die gleiche Menge an Informationen einen Speicherplatz von 72. Mrd. Gigabyte.
Diese Entwicklung stellt die Kryptografie, die von der E-Mail-Sicherheit bis zu Kryptowährungen reicht, in Frage. Diese beruht auf der Annahme, dass ein Angreifer niemals über genügend Rechenleistung verfügt, um alle erforderlichen Kombinationen auszuprobieren, mit denen ein Code geknackt und ein Zugang entschlüsselt wird. Der Quantencomputer lässt diese Annahme obsolet erscheinen. Die schnelle und unkontrollierte Ausbreitung von Quantencomputern mit katastrophalen Folgen für Regierungen und Banken bezeichnen Experten als „Q-Day“.
Der Ukraine-Krieg: Von Dual-Use zu Omni-Use
Welche Implikationen KI auf Sicherheits- und Verteidigungspolitik hat, führt Suleyman anhand der ersten Phase des Ukraine-Krieges auf. Etwa dreißig ukrainische Soldaten konnten durch mit kleinen Sprengsätzen bestückte Drohnen eine handvoll Führungsfahrzeuge der rund 40 km langen russischen Kolonne aus Panzern ausschalten. Aus einer asymmetrischen Position gelang es der ukrainischen Miliz „Aerorozvidka“, die größte Ansammlung konventioneller militärischer Stärke seit einer Generation vor Kiew zu demütigen und zum Rückzug zu zwingen. Die Technologien der „kommenden Welle“ untergraben konventionelles militärisches Kalkül. Das Satelliteninternet Starlink war für die Aufrechterhaltung der Konnektivität unerlässlich. Programmierer und Informatiker schlossen sich zur Einheit „Delta“ zusammen, um der ukrainischen Armee KI- und Robotik-Fähigkeiten zur Verfügung zu stellen. Maschinelles Lernen ermöglichte die Identifikation russischer Stellungen und das Ausspähen russischer Manöver. Das Erkennen getarnter Ziele und das Lenken von Munition erwies sich als entscheidend. Eine Präzisionsrakete kostet Hunderttausende oder mehr US-Dollar; KI und Drohnen in Kombination mit Individualsoftware und 3D-Druckern erprobten etwas Ähnliches zum Preis von etwa 15.000 US-Dollar. Diese „Omni-Use“-Fähigkeiten extrem vielseitiger Technologiekombinationen im Ukraine-Krieg offenbarten das Potenzial, einen Teil der Fähigkeitslücke zum größeren Aggressor in einem kritischen Zeitfenster zu schließen. Am Ukraine-Krieg exzerpiert Suleyman vier Merkmale der kommenden Welle: Asymmetrie, Hyper-Evolution, Allzwecknutzung und Autonomie.
Ergebnis
In einem unkomplizierten Sprachduktus führt Suleyman die Leserschaft an die beeindruckenden Entwicklungsmeilensteine der KI heran. Dabei schlussfolgert er, dass eine Eindämmung der kommenden Welle von KI nicht möglich ist. Es gelingt ihm, abstrakte Sorgen vor technologischem Kontrollverlust zu konkretisieren. Überzeugend legt er die vom Missbrauch von Sprachmodellen, Quantencomputing und synthetischer Biologie ausgehenden Gefahren dar und prägt so die Debatte. Trotz der vielen Warnungen verfällt der Autor in keinen blinden Alarmismus, sondern lädt zum Mitdenken ein: Im Schlussteil entwickelt er zehn Eindämmungs-Ideen. Diese reichen von Codedesigns über resiliente Regierungen zu internationalen Verträgen und einer zuträglichen Technologiekultur. Die Zukunft der Technologie und ihrer Regulierung bleibt offen. Suleyman hilft zu verstehen, welche Schritte für einen verantwortungsbewussten Umgang mit Technologie notwendig sind.
Der Verfasser: Vladimir Stosic war Wissenschaftlicher Mitarbeiter der Redaktion bei Lagebild Sicherheit.
In der wöchentlichen Ausgabe erhalten Sie kostenlos das vollständige Lagebild der Sicherheit.