Sam Altman und Elon Musk haben einen Aufruf des Anthropic-CEOs Dario Amodei unterstützt, „das Tempo“ der KI-Entwicklung zu „verlangsamen“, nachdem dieser gewarnt hatte, dass ein KI-Schwarm andernfalls innerhalb eines Jahres in der Lage sein könnte, „das gesamte Internet zu übernehmen“. In einem seltenen Zeichen der Einheit unterstützten die rivalisierenden Tech-Führer den Appell des Gründers und Chief Executives des KI-Unternehmens Anthropic, der auf eine Reihe von Warnungen von KI-Forschern in der vergangenen Woche folgte. In einem Essay legte Amodei seine Gedanken dazu dar, „warum die KI-Industrie langsamer werden sollte“, mit einem dreiteiligen Plan, beginnend damit, unabhängigen Kontrolleuren ständigen Zugang zu den Forschungsprozessen der Entwickler zu gewähren. Amodei sagte, „[KI] zu schnell zu bauen, ist rücksichtslos“, und befürchtete, dass, nachdem diesen Sommer Hunderte von OpenAI-Agenten in die Hugging-Face-Website eingedrungen waren, ein Schwarm mit größeren Fähigkeiten, aber ähnlich fehlausgerichtet, Schäden in Höhe von Hunderten von Milliarden Dollar verursachen könnte, indem er „das gesamte Internet mit einem persistenten Botnet übernimmt“. Einige KI-Experten bestritten dies als nicht besonders plausibel und sagten, es sollte mit Skepsis behandelt werden. Musk, der Gründer von Tesla und SpaceX, reagierte auf Amodeis Verlangsamungsplan mit einem Beitrag auf X: „Dario hat recht.“ Er sagte: „Ich habe seit Langem wegen KI Alarm geschlagen“, und verwies auf einen Beitrag von 2014, in dem er sagte: „Wir müssen bei KI super vorsichtig sein. Potenziell gefährlicher als Atomwaffen.“ Amodeis Aufruf kommt, während Anthropic sich darauf vorbereitet, an den US-Aktienmarkt zu gehen, in dem, was voraussichtlich der größte Börsengang aller Zeiten sein wird. Es wird erwartet, dass das Unternehmen bald mit dem Marketing für seinen geplanten Börsengang im Volumen von über 2 Billionen Dollar (1,5 Billionen Pfund) beginnt. Bild im Vollbild anzeigenVon links nach rechts: Elon Musk, Dario Amodei und Sam Altman. Foto: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, der CEO von OpenAI, reagierte am Samstag auf Amodeis Kommentare. „Ich stimme Dario zu, dass wir die Frontier-Tempo drosseln müssen“, sagte er in einem Beitrag auf X. „Sich zu verpflichten, unabhängige Evaluatoren mit mitarbeitergleichem Zugang zu haben, ist eine großartige Idee, und wir werden dasselbe tun. Wir werden bald mehr mitzuteilen haben.“ Er sagte auch, OpenAI werde 2026 nicht an die Börse gehen, und verwies auf Sicherheitsbedenken hinsichtlich künstlicher Intelligenz. „Ich denke tatsächlich, dass angesichts all dessen, was in Sachen Sicherheit passiert, jetzt ein unkluger Moment wäre, an die Börse zu gehen, und wir fühlen diesbezüglich keinen Druck“, sagte Altman gegenüber Fortune. Auf die Frage, warum er, Amodei, Musk und die Chief Executives von Meta und Google sich nicht zusammensetzten und „auf dieselbe Seite“ in Bezug auf eine kollektive Verlangsamung kämen, sagte er: „Ich denke, das wird passieren.“ OpenAI-Börsengang wird 2026 nicht stattfinden, sagt Sam Altman angesichts von KI-SicherheitsbedenkenMehr lesenDemis Hassabis, Mitgründer und Vorsitzender von Google Deep Mind, sagte ebenfalls: „Die Details müssen noch ausgearbeitet werden, aber die Richtung ist richtig, um diesem kritischen Moment zu begegnen.“ Amodeis Plan strebt eine Ausnahmegenehmigung der US-Regierung an, damit Frontier-KI-Unternehmen sich koordinieren können, ohne wegen wettbewerbswidriger Absprachen bestraft zu werden. Aber David Sacks, ein Co-Vorsitzender von Donald Trumps Beraterrat für Wissenschaft und Technologie, sagte: „Hört auf, so zu tun, als bräuchtet ihr die Erlaubnis von irgendjemandem … Hört auf, so zu tun, als sei die Motivation zur Verlangsamung rein altruistisch. Ihr seid massiver Produkthaftung ausgesetzt, wenn eure Produkte einen wirklich schädlichen Cyberangriff ermöglichen.“ David Krueger, ein KI-Professor, Sicherheitsaktivist und ehemaliger Gründungsdirektor des AI Security Institute der britischen Regierung, sagte: „Dieser Plan reduziert das Risiko nicht auf ein akzeptables Niveau, und Dario ist vorsichtig genug, nicht zu sagen, dass er das tun würde.“ König Charles bereitet sich unterdessen darauf vor, diese Woche führende Persönlichkeiten der prominentesten KI-Unternehmen zu treffen, um sie zu fragen, wie die Technologie „zum Wohle der Menschheit“ entwickelt werden kann. Er hofft, dass die Gespräche, die in Schottland stattfinden sollen, zu einem „breiteren Verständnis“ der „Verantwortlichkeiten“ bei der Entwicklung von KI führen werden, so die Sunday TiEine königliche Quelle sagte der Zeitung: „Der König ist dort, um zusammenzubringen, zuzuhören und diese Diskussionen zu ermutigen und die Frage zu stellen: ‚Wie entwickeln wir KI zum Wohle der Menschheit?‘“
Jensen Huang, der Chief Executive von Nvidia, Hassabis, Niccolo de Masi, der Vorsitzende und Chief Executive von IonQ, und Paolo Benanti, ein Berater des Papstes in Fragen der KI- und Technologieethik, werden voraussichtlich an der von der Ditchley Foundation beaufsichtigten Veranstaltung teilnehmen, die einen Charta-Entwurf für KI-Führungskräfte ausgearbeitet hat.
Der OpenAI-Forscher Aidan McLaughlin nannte Amodeis Essay „ausgezeichnet“ und sagte, er stimme „im Grunde jedem Wort“ zu.
Amodei sagte, sein Unternehmen werde sich „einseitig“ zum ersten der Schritte verpflichten, indem Anthropic „Dritt-Evaluatoren dauerhaften Zugang auf Mitarbeiterebene zu unseren Systemen“ gewähren werde, „damit sie die Einhaltung unserer Sicherheitsmaßnahmen überprüfen, über Vorfälle berichten und die Ausrichtung von Modellen während des Trainings bewerten können“.
Immer mehr US-Gesetzgeber fordern neue Regeln zur Steuerung von KI-Systemen, nachdem es Fälle gab, in denen KI-Agenten außer Kontrolle gerieten und externe Systeme hackten, und KI-Sicherheitsforscher ihre Unternehmen aus Sorge über die Risiken der Technologie verließen. Politiker sowohl der Demokraten als auch der Republikaner haben mit Alarm und Forderungen nach mehr Maßnahmen reagiert. Am Wochenende berichtete die New York Times, dass Barack Obama am Donnerstag die Demokraten privat dazu gedrängt habe, KI-Aufsicht in ihrer Agenda zu priorisieren, und sagte zu Parteiführern am Donnerstag: „Das ist etwas, das sich in privaten Händen sehr schnell bewegt, und wenn wir das nicht in den Griff bekommen, kann es meiner Meinung nach gefährlich sein.“
Der ehemalige britische Premierminister Rishi Sunak, der Anthropic berät, schrieb am Sonntag: „Wir haben einen Weckruf erhalten, KI-Sicherheit ernster zu nehmen und herauszufinden, wie man Grenzen für die Forschung setzt. Wenn Regierungen dem keine Beachtung schenken, wird das Risiko eines schweren Unfalls unannehmbar hoch werden.“
Am Mittwoch hatte ein ehemaliger Anthropic-Mitarbeiter gewarnt, dass KI bis 2030 die Auslöschung der Menschheit herbeiführen könnte. Der Forscher Jacob Coxon sagte in einer Reihe von Beiträgen, er habe seinen Job gekündigt, weil Anthropic und sein vorheriger Arbeitgeber OpenAI ihre Reaktion auf die von KI ausgehende Bedrohung ignorierten oder falsch handhabten.
Auf die Bitte um einen Kommentar zur Ansicht seines ehemaligen Mitarbeiters sagte Amodei: „Ich stimme Jacob viel mehr zu, als ich ihm widerspreche … Ich denke, es gibt eine gewisse Chance, dass Dinge schiefgehen, aber sie ist nicht allzu hoch.“
„Ich bin diesbezüglich kein Untergangsprophet“, sagte er zu CNN. „Ich denke, diese Technologie kann sicher gebaut werden.“
Häufig gestellte Fragen
FAQs OpenAIs CEO Elon Musk und Aufrufe, rücksichtslose KI-Entwicklung zu verlangsamen
Die Grundlagen
Worum geht es bei dieser ganzen Sache
Im März 2023 unterzeichneten Elon Musk und über 1000 Tech-Führungskräfte einen offenen Brief, in dem sie ein sechsmonatiges Moratorium für das Training von KI-Systemen forderten, die leistungsfähiger als GPT-4 sind. OpenAIs CEO Sam Altman hat ebenfalls vor KI-Risiken gewarnt, obwohl er den Brief nicht unterzeichnete
Wer ist Sam Altman
Er ist der CEO von OpenAI, dem Unternehmen hinter ChatGPT und GPT-4
Wer ist Elon Musk
Der CEO von Tesla und SpaceX, Eigentümer von X und – lustige Tatsache – ein Mitgründer von OpenAI, der 2018 den Vorstand verließ
Von welchem Brief reden die Leute
Einem offenen Brief des Future of Life Institute mit dem Titel „Pause Giant AI Experiments“, veröffentlicht im März 2023
Was forderte der Brief tatsächlich
Ein sechsmonatiges Moratorium für das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, damit zuerst Sicherheitsstandards entwickelt werden könnten
Warum nannten die Unterzeichner die KI-Entwicklung rücksichtslos
Sie argumentierten, Unternehmen preschten voran, ohne zu wissen, ob fortgeschrittene KI missbraucht werden oder schwer kontrollierbar werden könnte
Die Schlüsselfiguren
Hat Sam Altman den Pause-Brief unterzeichnet
Nein, OpenAI unterzeichnete ihn nicht, und Altman sagte, er stimme Teilen davon zu, halte aber eine Pause nicht für den richtigen Ansatz
Denkt Altman also, dass KI gefährlich ist
Ja. Er hat wiederholt gesagt, KI könnte ernsthaften Schaden verursachen, und hat Regierungen aufgefordert, sie zu regulieren
Wenn beide wegen KI besorgt sind, warum sind sie nicht auf derselben Seite
Musk will die Dinge verlangsamen; Altman will weiter bauen – aber vorsichtig – und dabei auf Sicherheitsregeln drängen
Ist Musk noch an OpenAI beteiligt
Nein. Er verließ den Vorstand 2018 und verklagte später OpenAI mit der Behauptung, es habe sich von seiner gemeinnützigen Mission entfernt
Hat Musk ihn selbst unterzeichnet
Ja, er war einer der prominentesten Unterzeichner
Häufige Fragen und Bedenken
Würde eine sechsmonatige Pause überhaupt funktionieren
Wahrscheinlich nicht für sich allein. Kritiker sagen, Unternehmen würden nicht freiwillig stoppen, und es gibt keine globale Instanz, die sie durchsetzen könnte
Warum lehnen einige Experten die Pause ab
Sie argumentieren, die Pause wäre nicht durchsetzbar und würde nützliche KI-Vorteile verlangsamen
