Inzwischen sollte klar sein, dass KI wie ein „Entscheide-selbst-dein-Abenteuer“-Buch ist, bei dem jeder Pfad in die Katastrophe führt. Explodierende Kohlenstoffemissionen und ökologischer Kollaps? Weiter zu Seite 37. Weitere mögliche Ergebnisse sind einige oder alle der folgenden: Das Platzen der Blase, das eine Finanzkrise auslöst; Massenarbeitslosigkeit durch Automatisierung; das Ende der Demokratie und der Aufstieg autoritärer Überwachungsstaaten; fanatische Kulte, die glauben, dass ein Mustererkennungsalgorithmus bewusst ist; Terroristen, die verheerende Biowaffen entwickeln; Nationen, die autonome Waffen einsetzen, die auf Zeitskalen operieren, die Menschen nicht erfassen können; Nationen oder Terroristen, die die unzähligen Systeme hacken, auf die wir uns verlassen; oder eine KI, die, ob bewusst oder nicht, Ziele verfolgt, die mit dem menschlichen Wohl kollidieren.
Sich vorzustellen, dass Persönlichkeiten wie Elon Musk, OpenAIs Sam Altman, Palantirs Peter Thiel oder Trumps Technologieberater Marc Andreessen uns in eine utopische Zukunft ökologischer Harmonie, sozialen Friedens und endloser Freizeit führen, erfordert eine derart extreme Selbsttäuschung und Schmeichelei, dass nur ein von ChatGPT geschriebenes Entscheide-selbst-dein-Abenteuer sie heraufbeschwören könnte.
Es gibt eine wachsende, wenn auch längst überfällige Erkenntnis, dass wir auf eine Katastrophe zusteuern, zusammen mit Rufen, langsamer zu machen, zu regulieren oder sogar alles anzuhalten, während wir es herausfinden. Diese Rufe kommen nicht nur von Aktivisten, sondern von einer breiten Mischung aus Politikern, Experten und Big-Tech-Insidern, die zu vielfältig ist, um sie zu ignorieren – von Bernie Sanders bis Bill Gates, der kürzlich sagte: „Wenn jemand einen glaubwürdigen Plan hätte, die KI-Fortschritte weltweit zu verlangsamen, würde ich ihn wahrscheinlich unterstützen.“ Er ist nur der neueste Insider, der zugibt, was das KI-Unternehmen Anthropic Anfang dieses Sommers anerkannt hat, als es ein „Bremspedal“ forderte. Selbstregulierung der Branche wird nicht funktionieren. Wenn es eine Pause geben soll, muss sie von außen auferlegt werden.
Trotzdem ist ein internationales Abkommen traurigerweise unwahrscheinlich. KI ist wie Atomwaffen und folgt derselben Logik: Jeder Akteur wird gedrängt, dieses rücksichtslose Rennen zu laufen, mit der einzigen Rechtfertigung, dass man nicht der Gnade des Gewinners ausgeliefert sein will. Die beste Chance, die Dinge zu verlangsamen, scheint zu sein, dass ein Akteur einen kritischen Engpass kontrolliert und einen Grund hat, ihn zu schließen. Interessanterweise hält die EU eine solche Karte – und hat sogar ein Motiv, sie auszuspielen, wenn sie es wagt.
Bild in voller Größe ansehen
Die Fabrik des taiwanesischen Chip-Herstellers TSMC in Nanjing, China. Fotografie: Sipa US/Alamy
Das niederländische Technologieunternehmen ASML ist dank seiner Produktion von Extrem-Ultraviolett-Lithografiemaschinen (EUV) das wertvollste Unternehmen Europas. Diese sind für die fortschrittlichste Chip-Herstellung der Welt unerlässlich und einer der wenigen möglichen Engpässe für die gesamte KI-Industrie. ASML hat die Technologie und die komplexe Lieferkette gemeistert, die für den Bau dieser 400-Millionen-Dollar-Maschinen erforderlich sind, die Muster auf Silizium ätzen, indem sie Licht auf eine Wellenlänge von 13,5 Nanometern fokussieren (etwa 1/10.000stel der Breite eines menschlichen Haares). Ohne seine Maschinen gibt es keine Chips; ohne Chips keine weiteren Rechenzentren. Das betrifft alles, von der 265-Milliarden-Dollar-Investition des taiwanesischen Chip-Herstellers TSMC in zukünftige Fertigungsanlagen (bekannt als „Fabs“) bis zu den 7 Billionen Dollar an Rechenzentren, die die Branche bis 2030 weltweit bauen soll (hauptsächlich in den USA). Ohne weitere Rechenzentren, die diese aktuellen und nächsten Generationen von Chips nutzen, würde das exponentielle Wachstum der KI – und ihr Risiko – zum Stillstand kommen.
Aus diesem Grund verhängt die US-Regierung extraterritoriale Exportkontrollen gegen ASML und blockiert den Verkauf seiner fortschrittlichsten EUV-Maschinen an China, um dessen Chip-Herstellungsfähigkeiten zu verlangsamen. Indem die USA diese Beschränkungen ASML auferlegt haben, haben sie ihre eigene Schwäche an diesem Engpass offengelegt: So sehr Europa von (letztlich ersetzbaren) Finanz- und Softwarediensten aus den USA abhängt, hängt die Zukunft aller chipbasierten Technologie vollständig von ASML ab. Ein direktes Verbot der Exporte von ASML-Maschinen würde die globale KI-Industrie praktisch dazu zwingen, auf der Stelle zu treten oder zu joggen. Die daraus resultierende Chip-Knappheit und Verlangsamung der KI-Entwicklung würde den Regulierungsbehörden Zeit geben, mit der Technologie Schritt zu halten, den Gesetzgebern Zeit, alles von Urheberrecht bis Steuerrecht zu aktualisieren, und den Gesellschaften Zeit, echte Debatten über die Rolle zu führen, die KI in unserem Leben spielen soll.
Warum sollte die EU so etwas tun? Nicht nur aus humanistischen Gründen, sondern aus eigennützigen. Im besten Fall würde ein pauschales Exportverbot zu einer Neuorganisation der Lieferkette führen und mehr wichtige Entscheidungen unter EU-Kontrolle bringen – wo sie der Aufsicht des einzigen Akteurs unterliegen würden, der gezeigt hat, dass er KI umfassend regulieren wird. Natürlich ist der beste Fall eine Dehnung: Es ist wahrscheinlicher, dass die USA Vergeltung üben würden, indem sie ASMLs Zugang zu US-basierten Lieferanten blockieren. Aber selbst wenn das geschähe, wäre es immer noch im Interesse der EU, eine solche Konfrontation zu provozieren, basierend auf der engen Logik des reinen wirtschaftlichen und geopolitischen Eigennutzes, weil die EU relativ gesehen nicht weiter hinterherhinken würde bei KI-Modellen und der Rechenleistung („Compute“), die benötigt wird, um sie zu betreiben.
Europas eigene KI-Befürworter stimmen dem zu – auch wenn das, was sie beunruhigt, der relative Nachteil der EU ist, nicht die breite Palette von KI-Risiken. Das Projekt „Europe 2031“ ist eine technopolitische Prognose, zusammengestellt von einer Gruppe von Branchenexperten, darüber, was mit der EU passieren könnte, wenn KI die Wirtschaft radikal verändert und die EU weit hinter den USA zurückbleibt. Sie argumentieren, dass Europa Hunderte von Milliarden in das KI-Wettrüsten pumpen muss, bevor sowohl Frontier-Modelle als auch „Compute“ das werden, was TSMC und ASML heute sind: Nutznießer einer Lücke, die für jeden Konkurrenten zu groß ist, um sie zu schließen.
In ihrem Szenario wird die EU irgendwann in der nahen Zukunft gezwungen sein, den Zugang zu ASML auf den Tisch zu legen, um Zugang zu US-kontrollierten Modellen und Rechenleistung zu sichern, von denen ihre Wirtschaft und Sicherheit abhängen werden – nur um festzustellen, dass ASMLs Dominanz im Laufe der Zeit geschwächt ist. (Je mehr EUV-Maschinen exportiert werden, desto mehr Fabs werden anderswo gebaut, und desto mehr Zeit haben China und die USA, ASMLs Technologie zu replizieren.)
Atomwaffentheoretiker sorgen sich, dass Staaten im Falle des Undenkbaren durch eine „Nutze-es-oder-verliere-es“-Berechnung zum Abschuss gedrängt werden könnten. Genau dieselbe Logik gilt für das eine Ding, das die atemberaubende Entwicklung der KI-Industrie stoppen kann: Die EU kann den Einfluss, den ASML ihr jetzt gibt, nutzen oder riskieren, diese Chance vollständig zu verlieren. Es ist selten, dass so unterschiedliche Gruppen zu demselben Schluss kommen: Es gibt eine einzige europäische Karte, die ausgespielt werden kann, und sie muss ausgespielt werden. Anstatt in Richtung Torheit zu rennen, lasst uns einfach das Rennen stoppen. Jetzt und für alle.
Alexander Hurst schreibt für Guardian Europe aus Paris. Sein Memoir „Generation Desperation“ ist jetzt erhältlich.
**Häufig gestellte Fragen**
Hier ist eine Liste von FAQs basierend auf der Prämisse des Artikels, von Anfänger bis Fortgeschritten.
**Anfängerfragen**
1. Was genau ist das KI-Wettrüsten?
Es ist der hektische Wettbewerb zwischen Tech-Giganten, zuerst die leistungsstärkste KI zu bauen. Anstatt Sicherheit oder Ethik zu priorisieren, beeilen sie sich, neue Modelle zu veröffentlichen, um ihre Rivalen zu schlagen und Marktanteile zu gewinnen.
2. Warum stimmen Bill Gates und Bernie Sanders hier überein?
Sie kommen von völlig unterschiedlichen politischen Seiten, sehen aber beide dieselbe Gefahr. Gates sorgt sich, dass KI außer Kontrolle gerät und massive Arbeitsplatzverluste verursacht. Sanders sorgt sich um unkontrollierte Unternehmensmacht und KI, die genutzt wird, um Arbeiter auszubeuten oder die Öffentlichkeit zu manipulieren. Beide stimmen überein, dass reine Profitmotive nicht die Zukunft der Menschheit bestimmen sollten.
3. Warum wird Europa speziell als der Einzige erwähnt, der es stoppen kann?
Weil die USA und China in einem Winner-takes-all-Technologiekrieg verwickelt sind und nicht langsamer werden. Europa führt das KI-Rennen jedoch nicht an, hat also weniger zu verlieren. Wichtiger ist, dass die EU eine Erfolgsbilanz bei strengen Vorschriften hat, die für die ganze Welt gelten – wenn man in Europa Geschäfte machen will, muss man ihre Regeln befolgen.
4. Was bedeutet „ein Ende setzen“ tatsächlich?
Es bedeutet nicht, KI vollständig zu verbieten. Es bedeutet, das gefährliche Rennen zu stoppen. Es bedeutet, strenge Sicherheitstests durchzusetzen, Transparenz darüber zu verlangen, was KI kann, und Unternehmen stark zu bestrafen, wenn sie unsichere Produkte veröffentlichen. Es geht darum, eine Verlangsamung zu erzwingen, um sicherzustellen, dass Sicherheit mit dem Tempo Schritt hält.
5. Ist das KI-Wettrüsten wirklich eine Katastrophe?
Das Argument ist, dass es das ist. Die Katastrophe ist nicht, dass KI existiert – es ist das Tempo. Unternehmen bringen mächtige Werkzeuge heraus, bevor wir verstehen, wie sie Wahlen, Arbeitsplätze oder psychische Gesundheit beeinflussen. Die Katastrophe ist die Rücksichtslosigkeit, nicht die Technologie selbst.
**Fortgeschrittene Fragen**
6. Wie würde europäische Regulierung tatsächlich amerikanische Unternehmen stoppen?
Die EU hat einen Brüssel-Effekt. Wenn ein amerikanisches Unternehmen wie Meta oder OpenAI 450 Millionen europäische Verbraucher bedienen will, muss es EU-Gesetze einhalten. Wenn die EU sagt, dass man kein superintelligentes Modell ohne ein Sicherheitsaudit durch Dritte einsetzen darf, muss das Unternehmen dieses Audit global durchführen, um
