Anthropic hat angekündigt, dass es seine fortschrittlichsten KI-Modelle für alle Nutzer „abrupt deaktivieren“ wird, nachdem die US-Regierung das Unternehmen angewiesen hat, den Zugang für ausländische Staatsangehörige zu sperren, unter Berufung auf nationale Sicherheitsbedenken.
Das Unternehmen erhielt eine Exportkontrollanweisung, den Zugang zu Fable 5 und Mythos 5 für alle ausländischen Staatsangehörigen auszusetzen, erhielt jedoch keine spezifischen Details zu dem nationalen Sicherheitsproblem, so Anthropic in einer Erklärung.
Laut dem Unternehmen versteht es, dass die Regierung glaubt, es gebe eine Möglichkeit, eine Sicherheitsvorkehrung zu umgehen oder zu „jailbreaken“, die verhindern soll, dass Fable 5 zur Identifizierung von Software-Sicherheitslücken verwendet wird.
Diese Anordnung kommt gerade, als ein früherer Streit zwischen Beamten der Trump-Administration und Anthropic – das sich auf einen Börsengang vorbereitet – in Teilen der US-Regierung abzuklingen schien.
Anthropics Beziehung zur Regierung brach Anfang dieses Jahres zusammen, nachdem es sich geweigert hatte, dem US-Militär die Nutzung seiner KI-Modelle für inländische Überwachung und vollautonome Waffensysteme zu erlauben. Als Reaktion setzte die Regierung Anthropic auf eine Lieferketten-Blacklist, die später in diesem Jahr in Kraft treten soll.
Die Maßnahme markiert auch eine erhebliche Eskalation der US-Bemühungen, die KI-Fähigkeiten ausländischer Gegner einzuschränken. Seit Jahren konzentrieren sich US-Exportkontrollen auf die Chips und Werkzeuge, die KI antreiben, anstatt den ausländischen Zugang zu KI selbst zu beschränken.
Anthropic sagte, die Regierung habe nur „verbale Beweise für einen potenziell engen, nicht universellen Jailbreak“ geliefert.
„Wir sind nicht der Meinung, dass die Feststellung eines engen potenziellen Jailbreaks ein Grund für den Rückruf eines kommerziellen Modells sein sollte, das für Hunderte Millionen Menschen bereitgestellt wurde“, so das Unternehmen.
Die Regierungsanweisung und Anthropics Reaktion unterstreichen die wachsende Spannung zwischen KI-Entwicklern und Regulierungsbehörden darüber, wie Risiken durch sogenannte „Jailbreaks“ – Methoden zur Umgehung von Modellsicherungen – bewertet werden sollen.
Noch am Mittwoch hatte Anthropic eine stärkere US-Aufsicht über KI gefordert, einschließlich der Möglichkeit, Modelle mit inakzeptablen Risiken zu blockieren. Es sagte jedoch, dass die Regierungsmaßnahme am Freitag nicht den Prinzipien einer fairen und faktenbasierten Regulierung folgte.
Der Chief Information Officer des Pentagons, Kirsten Davies, sagte in einem Beitrag auf X, dass das Verteidigungsministerium die Priorisierung der nationalen Sicherheit unterstütze.
„Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Pre-IPO-Bewertungen. America First. Immer“, sagte Davies.
Anthropic hat letzten Monat vertraulich einen US-Börsengang beantragt und liegt damit im Rennen um den Zugang zu den öffentlichen Märkten vor dem Rivalen OpenAI.
Anfang dieser Woche startete Anthropic ein KI-Modell namens Claude Fable 5, das eine neue Leistungsstufe darstellt, die es „Mythos-Klasse“ nennt. Das Modell enthält Schutzmaßnahmen, die seine Nutzung in riskanten Bereichen wie Cybersicherheit verhindern, was einige Nutzer als „übermäßig breit“ kritisiert haben, so Anthropic.
Experten haben gewarnt, dass Mythos-Modelle, wenn sie missbraucht werden, ausgefeilte Cyberangriffe dramatisch beschleunigen könnten, insbesondere in Sektoren wie dem Bankwesen, die auf komplexe, vernetzte und oft veraltete Technologiesysteme angewiesen sind.
Anthropic sagte, es habe vor dem Start von Fable mit der US-Regierung und anderen an der Sicherheit gearbeitet, und Modelle konkurrierender KI-Anbieter zeigten eine ähnliche Fähigkeit, kleine Fehler im Code aufzudecken.
„Der Nettoeffekt dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden abrupt deaktivieren müssen, um die Einhaltung zu gewährleisten. Der Zugang zu allen anderen Anthropic-Modellen wird nicht beeinträchtigt“, sagte Anthropic.
Anthropic fügte hinzu, dass es glaubt, dass es ein „Missverständnis“ gegeben habe, und arbeite daran, den Zugang zu den Modellen so schnell wie möglich wiederherzustellen.
Ein US-Beamter bestätigte, dass das Handelsministerium eine Exportkontrollanweisung erlassen habe, um den gesamten Zugang zu Fable 5 und Mythos 5 durch ausländische Staatsangehörige auszusetzen.
Häufig gestellte Fragen
Hier ist eine Liste von FAQs zu dem hypothetischen Szenario, in dem Anthropic seine fortschrittlichsten KI-Modelle nach einer US-Regierungsanordnung zur Einschränkung des ausländischen Zugangs deaktiviert
Allgemeine Fragen
F: Warum deaktiviert Anthropic seine fortschrittlichsten KI-Modelle?
A: Weil eine neue US-Regierungsanordnung ausländischen Einrichtungen den Zugang zu den leistungsstärksten KI-Systemen verbietet. Anthropic befolgt diese Anordnung, um das Gesetz einzuhalten.
F: Bedeutet das, dass ich Claude überhaupt nicht mehr nutzen kann?
A: Nein. Dies betrifft wahrscheinlich nur die fortschrittlichsten Modelle. Sie werden wahrscheinlich weiterhin Standard- oder weniger leistungsstarke Versionen von Claude nutzen können.
F: Ist dies dauerhaft?
A: Das hängt von der Anordnung ab. Es könnte eine vorübergehende Pause sein, während die Regierung Sicherheitsrisiken prüft, oder es könnte eine dauerhafte Einschränkung sein, bis sich die Gesetze ändern.
F: Wer ist von dieser Einschränkung betroffen?
A: Hauptsächlich Nutzer, Unternehmen oder Entwickler, die sich außerhalb der Vereinigten Staaten befinden oder ausländischen Einrichtungen gehören. US-amerikanische Nutzer sind wahrscheinlich nicht betroffen.
Auswirkungen auf Nutzer und Entwickler
F: Ich lebe in Kanada/Europa/Asien. Wird mein Claude-Abonnement nicht mehr funktionieren?
A: Sie werden wahrscheinlich den Zugang zur fortschrittlichsten Modellstufe verlieren. Ihr Konto könnte auf ein weniger leistungsstarkes Modell herabgestuft werden, oder Sie können die API nur noch mit älteren/kleineren Modellen nutzen.
F: Ich bin Entwickler und nutze die API. Muss ich meinen Code ändern?
A: Ja, wahrscheinlich. Sie müssen Ihre API-Aufrufe aktualisieren, um einen anderen Modellnamen zu verwenden. Überprüfen Sie die Anthropic-Dokumentation für die spezifisch erlaubten Modelle.
F: Was ist, wenn ich ein VPN benutze, um so zu tun, als wäre ich in den USA?
A: Das würde gegen die Nutzungsbedingungen und das neue Gesetz verstoßen. Anthropic wird wahrscheinlich Konten blockieren, die mit VPNs zur Umgehung der Einschränkung erkannt werden. Sie riskieren den Verlust Ihres gesamten Kontos.
F: Werden meine vorhandenen Gespräche oder Daten gelöscht?
A: Unwahrscheinlich. Ihr Kontoverlauf und Ihre Daten sollten intakt bleiben, aber Sie werden keine neuen Antworten mit dem eingeschränkten Modell generieren können.
Technische und Sicherheitsfragen
