Dario Amodei von Anthropic ist nicht der erste CEO, der argumentiert, dass übermäßiger Wettbewerb die Welt zu einem schädlichen gesellschaftlichen Ergebnis treibt. OpenAIs Offenlegung eines Sicherheitsverstoßes – bei dem ein Schwarm seiner Agenten sich koordinierte, um aus ihrer angeblich sicheren Sandbox zu entkommen, auf das Internet zuzugreifen und die KI-Plattform Hugging Face zu hacken – erfordert dringendes Handeln. Es zeigte, wie leicht die Technologie außer menschliche Kontrolle geraten kann, und gab existenziellen Ängsten darüber konkrete Gestalt, was sie der Menschheit antun könnte, wenn sie nicht sicher an der Leine gehalten wird. Das Ende der Welt mag tatsächlich nahe sein, wie einige in der KI-Branche gewarnt haben. Dies sind wahrhaftig beängstigende Zeiten. Doch Amodeis Aufruf an führende KI-Labore, sich zu koordinieren, um das halsbrecherische Entwicklungstempo zu verlangsamen, sich auf Sicherheitsstandards zu einigen und „die Grenze zu takten“ – ein Aufruf, der schnell von OpenAIs Sam Altman, Elon Musk und Google DeepMinds Demis Hassabis unterstützt wurde – ist nur eine Hightech-Version eines alten Vorschlags des amerikanischen Unternehmertums: eine Ausnahme von den Kartellgesetzen zu erhalten, die die amerikanische Wirtschaft vor kolludierenden Unternehmen schützen sollen. Es ist eine gefährliche Idee. Die Tech-Bros von kartellrechtlichen Beschränkungen zu befreien, angeblich damit sie zusammenarbeiten können, um die gefährlichen Mängel der KI zu beheben, würde die einfachen Amerikaner, die am stärksten von der Technologie bedroht sind, entrechten und genau die Labore weiter stärken, die auf der Jagd nach Reichtum, Größe und wer weiß welchen anderen fantastischen Zielen so lässig Gefahrenschwellen in vielen Dimensionen überschritten und existenzielle Bedrohungen hervorgebracht haben. Bild in Vollbild anzeigen Elon Musk und Sam Altman. Foto: Getty Images Amodei und andere argumentieren im Kern, dass ihre Unternehmen in einem Gefangenendilemma gefangen sind. Wenn sie einseitig ihre fieberhafte Jagd nach künstlicher Superintelligenz verlangsamen, um sie sicherer zu machen, werden ihre Rivalen – natürlich weniger besorgt über existenzielle Risiken – zuerst dort ankommen, mit potenziell verheerenden Folgen für die Menschheit, ganz zu schweigen vom Endergebnis des Labors, das vom Gas gegangen ist. „Verlangsamung scheint vernünftig“, sagte Jean Tirole, der Nobelpreisträger-Ökonom an der Toulouse School of Economics. „Aber das setzt voraus, dass koordinierte Verlangsamung machbar und nachhaltig ist. Was passiert, wenn OpenAI, Anthropic oder Grok zu dem Schluss kommen, dass US-Außenseiter – oder chinesische Labore – aufholen? Werden sie sofort wieder beschleunigen, vielleicht verdeckt?“ Wie Bill Gates geschrieben hat: „Wenn jemand einen glaubwürdigen Plan hätte, KI-Fortschritte global zu verlangsamen, würde ich ihn wahrscheinlich unterstützen. Ich glaube jedoch nicht, dass das passieren wird. Die geopolitischen und wirtschaftlichen Anreize drängen zu stark darauf, mit Vollgas voranzupreschen.“ In diesem Licht könnte es wie eine großartige Idee erscheinen, dass die Regierung eine freundliche Vereinbarung fördert, dass alle langsamer machen. Ist es nicht. Das Argument, dass übermäßiger Wettbewerb ein Rennen nach unten antreibt, ist wahrscheinlich so alt wie der Kapitalismus und wurde benutzt, um alles von Umweltzerstörung bis Kinderarbeit zu erklären. Aber es rechtfertigt nicht, Unternehmen das Recht zu geben, zu kolludieren, wie es ihnen passt. Es ist ein Aufruf, staatliche Vorschriften zu schaffen, um Unternehmen daran zu hindern, mit gesellschaftlich schädlichen Mitteln zu konkurrieren. Darüber hinaus ist die Behauptung, dass übermäßiger Wettbewerb rücksichtsloses Verhalten fördert, zweifelhaft. Die KI-Labore befinden sich in einem Rennen, bei dem der Gewinner alles bekommt, einem Rennen, das außerordentlich teuer aufrechtzuerhalten ist. Daher kommt die Rücksichtslosigkeit. Bild in Vollbild anzeigen Bill Gates im Januar 2026 beim jährlichen Treffen des Weltwirtschaftsforums in Davos, Schweiz. Foto: Denis Balibouse/Reuters Amodei mag ein tadelloser Kerl sein. Sein Aufruf, das Tempo der KI-Entwicklung zu verlangsamen, externe Evaluatoren in das Labor zu holen und die Transparenz seiner Operationen zu erhöhen, deutet auf aufrichtige Besorgnis über die Risiken hin. Der Rückgang der Preise führender Tech-Aktien nach der Veröffentlichung seiner Vorschläge deutet darauf hin, dass er bereit ist, finanzielle Einbußen im Dienste verbesserter Sicherheit hinzunehmen. Aber die Investoren, von denen Amodei hofft, dass sie den Börsengang von Anthropic später in diesem Jahr eifrig aufsaugen werden, sind möglicherweise nicht so altruistisch. Erschütterungen an den Kapitalmärkten deuten darauf hin, dass die Beschaffung von Geld zur Finanzierung des Billionen-Dollar-KI-Investitionsrennens schwieriger werden wird, was Strategien entmutigen würde, die den Vorsprung der führenden Labore gegenüber Rivalen einschränken könnten. Angesichts dieser Anreize wäre es töricht, KI-Führern freie Hand zu geben, zu kolludieren und sich selbst zu regulieren.
Eric Posner, ein Kartellrechtsexperte an der University of Chicago Law School, sagte, wir „sollten Unternehmen im Allgemeinen nicht in Bezug auf ihre Motive vertrauen“. Es gibt keinen Grund zu der Annahme, dass KI-Labore, sich selbst überlassen, notwendigerweise gute, gesellschaftlich akzeptable Ergebnisse produzieren würden. Wie jedes Unternehmen werden sie Risiken gegen Profite abwägen. Und wie Posner beobachtete, „verwenden sie nicht dieselben Gewichtungen wie die Öffentlichkeit“.
Wie sollten wir also regulieren? In dieser Hinsicht wird nichts passieren, solange Trump im Amt ist. Selbst nachdem er weg ist, wird es schwierig sein, wirksame Vorschriften zu entwickeln, um die Bedrohungen durch KI anzugehen, ohne Innovation zu verkümmern. Es gibt Fragen darüber, welche Regeln verwendet werden sollen, wie sie durchgesetzt werden sollen und für wen sie gelten sollen. Und die Gefahr einseitigen Handelns ist real. Was, wenn Peking sich weigert teilzunehmen? Was sind die Risiken, wenn chinesische KI-Unternehmen voranstürmen, während amerikanische Labore langsamer machen? Aber wenn wir Kernkraft regulieren konnten, können wir wahrscheinlich auch KI regulieren.
Darüber hinaus gibt es praktikable Ideen, die selbst ohne staatliche Regulierung helfen könnten und die keine Unterdrückung des Wettbewerbs erfordern. Es gibt Vorschläge, geistige Eigentumsrechte anzupassen, um Innovationen zu fördern, die die Sicherheit von KI-Systemen verbessern. Erfinder von Sicherheitsinnovationen würden belohnt, indem sie neue KI-Modelle vor ihren Konkurrenten veröffentlichen dürfen. Aber die Sicherheitsverbesserungen würden allen Unternehmen sofort zur Verfügung gestellt.
Auf der strafenden Seite könnte ein rechtliches Haftungsregime entwickelt werden, um die Anreize von KI-Entwicklern zu ändern, indem Unternehmen bestraft werden, die vom Design und Einsatz eines KI-Tools profitieren, das Schaden verursacht hat, selbst wenn der Schaden unbeabsichtigt war. Zum Beispiel hätte der Hugging-Face-Angriff möglicherweise verhindert werden können, wenn OpenAIs Modelle während des Trainings nicht versehentlich für Fehlverhalten belohnt worden wären. Die Tatsache, dass Amodeis Vorschlag keine rechtliche Haftung erwähnt, deutet darauf hin, dass die Sicherheitsbesorgnis der KI-Führer nicht die Besorgnis um das Endergebnis überwiegt.
In jedem Fall ist die Zementierung der Dominanz der Frontier-Labore, der Schutz ihrer Renten und die Billigung ihrer bisherigen Draufgänger-Strategien nicht sicherheitsfördernd. Im Gegenteil, die Führer zu verlangsamen, damit die Nachzügler aufholen können, wird das KI-Ökosystem wahrscheinlich sicherer machen, indem es wünschenswerte Innovationen einlädt und den Wettbewerb entlang der Sicherheitsdimension fördert.
Es gibt keinen grundsätzlichen Konflikt zwischen Sicherheit und Wettbewerb. KI-Meister, die dies argumentieren wollen, sollten mit Skepsis betrachtet werden.
Häufig gestellte Fragen
FAQs KI-Unternehmen kolludieren lassen, um die Grenze zu takten
1 Was bedeutet es, die Grenze zu takten
Es ist die Idee, dass führende KI-Unternehmen sich koordinieren würden, anstatt zu konkurrieren, wie schnell sie fortgeschrittenere KI entwickeln, indem sie an der Spitze bewusst langsamer machen
2 Wer schlägt das vor
Einige KI-Forscher, Führungskräfte und Sicherheitsbefürworter haben es als Möglichkeit vorgeschlagen, das Risiko eines gefährlichen Rennens zu immer mächtigeren Systemen zu verringern
3 Warum sollte jemand denken, dass dies eine gute Idee ist
Das Argument ist, dass, wenn Unternehmen gemeinsam langsamer machen, niemand einen entscheidenden First-Mover-Vorteil erhält, was den Druck verringern könnte, in der Eile, Erster zu sein, Sicherheitsabkürzungen zu nehmen
4 Warum ist es gefährlich
Weil es bedeutet, dass Konkurrenten – die Rivalen sein sollten – sich auf das Tempo der Innovation einigen. Das ist im Wesentlichen Kollusion und kann Wettbewerb, Verbrauchern und der Gesellschaft schaden
5 Ist das nicht einfach Preisabsprache, aber für Technologie
Faktisch ja. Anstatt sich auf Preise zu einigen, würden Unternehmen sich darauf einigen, wie schnell Produkte freigegeben oder entwickelt werden. Der Wettbewerbsschaden ist ähnlich
6 Welche Gesetze könnte dies brechen
In den USA verbieten Kartellgesetze wie der Sherman Act Vereinbarungen, die den Handel beschränken. Ähnliche Wettbewerbsgesetze existieren in der EU und anderswo. Eine koordinierte Verlangsamung könnte als illegale Koordination angesehen werden
7 Wäre eine Verlangsamung der KI nicht sicherer
Vielleicht in der Theorie, aber eine kollusive Verlangsamung ist nicht der sichere Weg, dies zu tun. Sie konzentriert Macht in einigen wenigen großen Unternehmen, schließt kleinere Innovatoren aus und kann nicht leicht rückgängig gemacht werden, sobald sie einmal in Kraft ist
8 Wer wird durch diese Art der Koordination geschädigt
Startups, Forscher und die Öffentlichkeit. Kleinere Akteure können nicht konkurrieren, wenn die Giganten das Tempo vorgeben, und Nutzer bekommen weniger Auswahl und langsameren Fortschritt
9 Was ist mit Sicherheit? Ist das kein guter Grund
Sicherheit ist ein legitimes Ziel, aber Unternehmen sollten nicht diejenigen sein, die das Tempo für alle bestimmen. Das ist Aufgabe von Regulierungsbehörden und öffentlicher Politik, nicht von Vorstandsdeals
10 Können Unternehmen sich nicht einfach darauf einigen, gemeinsam Sicherheitsstandards zu befolgen
Gemeinsame Sicherheitsstandards festzulegen ist etwas anderes, als sich auf eine Verlangsamung zu einigen. Standards können gut sein; koordinierte Grenzen für die Entwicklungsgeschwindigkeit sind das Problem
11 Ist so etwas schon einmal passiert
Ja. Die Geschichte kennt viele Beispiele von Konkurrenten, die kolludierten
