Das Buch „The Coming Wave“ von Mustafa Suleyman: Was rollt da auf uns zu?
Der britische Autor Mustafa Suleyman blickt in „The Coming Wave“ auf eine eher dystopische Zukunft mit der Künstlichen Intelligenz.
Innerhalb der nächsten zehn Jahre, so schreibt Mustafa Suleyman in seinem Buch „The Coming Wave“, muss die Menschheit mit radikalen Veränderungen rechnen: mit einer ganz neuen Verteilung von Bildung, Wohlstand und Macht. Rasend schnell bewege sich eine Welle auf die Menschheit zu: Die Künstliche Intelligenz könnte in Verbindung mit weiteren Neuerungen, etwa auf den Gebieten Biotechnologie, Quantencomputing und Robotik, die Gesellschaft in kurzer Zeit auf den Kopf stellen. Gefährdet könnten sein die liberale Demokratie, der funktionierende Nationalstaat, jedes einzelne Individuum. Wenn neue Technologien günstig und für jeden Menschen leicht verfügbar werden, seien die Folgen kaum mehr absehbar. Sogar die Vorrangstellung des Menschen sieht der Autor womöglich bedroht. Die kommende „Welle“: Sie könne zur großen, existenziellen Bedrohung für die menschliche Spezies werden. Ist das Science-Fiction? Oder technikkritische Schwarzmalerei, was Suleyman auf rund 380 Seiten formuliert?
Ganz und gar nicht, findet der Autor selbst, der 2010 das KI-Start-up DeepMind mitgründete, das von Google übernommen wurde. Mittlerweile arbeitet Suleyman bei Microsoft als CEO einer neu geschaffenen KI-Einheit. Die Szenarien, die der Brite in seinem Buch entwirft, sind Möglichkeiten, die eintreffen könnten, und die – auch wenn die Wahrscheinlichkeit ihres Eintreffens gering ist – aufgrund ihrer fatalen Folgen unbedingt unsere Aufmerksamkeit erforderten. Es gehe darum, „sich der Realität dessen, was auf uns zukommt, ganz offen zu stellen“.
Suleymans These: Der technische Fortschritt entwickelte sich in der Menschheitsgeschichte in Innovations-Wellen, in der mehrere Erfindungen zu erweiterten menschlichen Möglichkeiten führten. Zur ersten Welle der Zivilisation gehöre etwa der Faustkeil, mit dem Tiere effizienter getötet und zerlegt sowie Feinde bekämpft werden konnten.
Weitere Erfindungen und Werkzeuge des „Homo technologicus“: der Webstuhl, die Druckerpresse, die Elektrizität ... Die Auswirkungen der Erfindungen seien schon zu früheren Zeiten nicht absehbar gewesen; die Druckerpresse „löste die wissenschaftliche Revolution und die Reformation aus“, schreibt Suleyman – und das sei im Vergleich noch ein harmloses Beispiel. Was uns mit der kommenden Welle bevorstehe, sprenge alles bisher Dagewesene: Sie treffe uns mit ungeahnter Wucht.
Es handle sich nämlich um ein „Supercluster, ein evolutionärer Ausbruch wie die kambrische Explosion, die intensivste Eruption neuer Arten in der Erdgeschichte, mit vielen tausend potenziellen neuen Anwendungen“. Teile der Welle befeuerten und beschleunigten sich gegenseitig, „manchmal mit extremer Unvorhersehbarkeit und Entflammbarkeit“. In ihrer dramatischsten Form, so schreibt der Autor, „könnte die kommende Welle letztlich bedeuten, dass die Menschheit nicht mehr an der Spitze der Nahrungskette steht. Der Homo technologicus könnte am Ende von seiner eigenen Schöpfung bedroht werden.“
Dabei sieht Suleyman in den technischen Durchbrüchen eigentlich ein großes Potenzial: Sie könnten etwa helfen, Lebensmittel unter unerträglichen klimatischen Bedingungen anzubauen, Naturkatastrophen rechtzeitig zu erkennen, die Gesundheitsvorsorge zu verbessern oder den Übergang zu erneuerbaren Energien zu ermöglichen. Nur: Um von den positiven Aspekten zu profitieren, ohne in eine Dystopie zu steuern, brauche es eine vernünftige Regulierung. Das Problem dabei: Die Welle sei schon jetzt eigentlich nicht mehr einzudämmen.
Das Buch
Mustafa Suleyman, Michael Bhaskar: The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts. Aus dem Englischen von Andreas Wirthensohn. C.H. Beck, 2024. 377 S., 28 Euro.
Während andere KI-Expertinnen und -Experten mittlerweile davon ausgehen, dass es einen baldigen KI-Winter geben wird, in dem sich die Technik nicht weiter entwickelt – alles nur ein (böser) Traum! – ist sich der Autor von „The Coming Wave“ sicher, dass sich die Technologie derzeit in einer Übergangsphase befinde. Sie sei nicht mehr nur einfach ein Werkzeug, sondern werde das Leben gestalten und mit der menschlichen Intelligenz konkurrieren – und sie übertreffen.
Meine news
Seine Thesen untermauert Suleyman glaubhaft mit Beispielen aktueller Entwicklungen: In der Landwirtschaft beispielsweise würden KI-betriebene Roboter und Drohnen schon längst eingesetzt; von der Überwachung von Viehbestand oder in Gewächshäusern, von der Aussaat bis zur Palettierung. Schon lange sind „smarte“ Geräte – Lautsprecher, Uhren, Smartphones – Teil des menschlichen Alltags. Jedes Detail des Lebens werde irgendwo aufgezeichnet. Der einzige Schritt, der noch ausstehe, sei die „Zusammenführung dieser unterschiedlichen Datenbanken zu einem einzigen integrierten System: ein perfekter Überwachungsapparat des 21. Jahrhunderts“, schreibt Suleyman. „Das ist keine ferne Dystopie.“
Der Rolle des Staates und der Bedeutung von Nationen in Fragen der Eindämmung und des Handlings von KI widmet der Autor einen eigenen Teil des Buchs. Der Staat lebe von Vertrauen und Stabilität, die sich vor allem durch soziale Mobilität erhalte. Ungleichheit hingegen sei ein Katalysator für Instabilität. Schon heute wackele das Gebilde, die Staaten seien nicht bereit für eine Herausforderung von der Dimension dieser anrollenden Welle.
Suleyman sieht eine Entwicklung in Richtung von zwei Polen kommen: Das eine Extrem seien „Zombie-Regierungen“ liberal-demokratischer Staaten, die funktionell ausgehöhlt seien. Der andere Pol: Techno-Diktaturen. Möglich sei auch eine Fragmentierung und Dezentralisierung von Gesellschaften, was eine „zersplitterte, tribalistische Welt“ zur Folge habe, in der kleine Gruppen Zugang zu neuesten Technologien hätten. Es komme möglicherweise zu Sezessionsbestrebungen und Rebellionen.
Das könnte alles Grund genug sein, die Hände über dem Kopf zusammenzuschlagen, doch Suleyman warnt davor: In einem Technik-Pessimismus bestehe eine weitere große Gefahr, weil die Möglichkeit bestehe, Risiken mit „einer Art technologisch aufgeladenem Autoritarismus“ zu begegnen, was mit einer massiven Überwachung einhergehe. Dennoch sei nicht zu verleugnen, dass die KI in den nächsten zehn Jahren der größte Machtverstärker der Geschichte sein werde. Und sie werde auch selbst Macht ausüben: KI-Systeme könnten über öffentliche Gelder, Energienetze, Kraftwerke, über Bildungs- und Medienprogramme entscheiden. „So könnte eine KI beispielsweise als ein riesiges, staatenübergreifendes System agieren, als ein einziges Allzweckprogramm, das Hunderte von Millionen Menschen regiert.“
Das ist also die schöne neue Welt? Das Buch ist ein zugleich fundierter, packend geschriebener, besorgniserregender und aufrüttelnder Blick in eine mögliche nahe Zukunft. Immerhin hat Suleyman im letzten Teil seines Werks noch zehn wertvolle Vorschläge zur Eindämmung beziehungsweise zum Standhalten der Welle parat: Es brauche beispielsweise eine Art „Apollo-Programm“ zur KI-Sicherheit, zudem müsse es die Möglichkeit geben, die KI physisch einzuschließen beziehungsweise auszuschalten. Es brauche einfach mehr Expertise, auch in der KI-Ethik, und es sollten vor allem KI-kritische Expertinnen und Experten (wie er selbst) an der Weiterentwicklung der Technik arbeiten. Es müsse bessere wirtschaftliche und politische Anreize geben, damit Unternehmen verantwortungsvoll an und mit der KI arbeiteten, außerdem wäre trotz des Wettkampfs um neueste Erfindungen eine selbstkritischere Fehlerkultur angebracht. Es fehlten außerdem Volksbewegungen; Menschen, die gegen KI-Entwicklungen demonstrierten. Man kann „The Coming Wave“ als Warnung lesen – und als Anstoß, die Entwicklungen selbst noch aufmerksamer zu beobachten.