Anthropic ogłosiło, że „nagle wyłączy” swoje najbardziej zaawansowane modele AI dla wszystkich użytkowników po tym, jak rząd USA nakazał firmie zablokowanie dostępu dla obcokrajowców, powołując się na obawy dotyczące bezpieczeństwa narodowego.
Firma otrzymała dyrektywę kontroli eksportu nakazującą zawieszenie dostępu do Fable 5 i Mythos 5 dla wszystkich obcokrajowców, ale nie podano jej szczegółowych informacji na temat kwestii bezpieczeństwa narodowego – poinformował Anthropic w oświadczeniu.
Według firmy rozumie ona, że rząd uważa, iż istnieje sposób na ominięcie, czyli „złamanie zabezpieczeń”, środka ochronnego zaprojektowanego, aby uniemożliwić wykorzystanie Fable 5 do identyfikowania luk w oprogramowaniu.
To zarządzenie pojawia się w momencie, gdy poprzedni spór między urzędnikami administracji Trumpa a Anthropic – który przygotowuje się do pierwszej oferty publicznej – wydawał się łagodnieć w niektórych częściach rządu USA.
Relacje Anthropic z rządem załamały się wcześniej w tym roku po tym, jak firma odmówiła pozwolenia wojsku USA na wykorzystywanie jej modeli AI do inwigilacji krajowej i w pełni autonomicznych systemów uzbrojenia. W odpowiedzi rząd umieścił Anthropic na czarnej liście łańcucha dostaw, która ma wejść w życie pod koniec tego roku.
Działanie to oznacza również znaczną eskalację wysiłków USA mających na celu ograniczenie możliwości AI zagranicznych przeciwników. Przez lata amerykańskie kontrole eksportu koncentrowały się na chipach i narzędziach napędzających AI, a nie na ograniczaniu zagranicznego dostępu do samej AI.
Anthropic poinformował, że rząd przedstawił jedynie „ustne dowody na potencjalne wąskie, nieuniwersalne złamanie zabezpieczeń”.
„Nie zgadzamy się, że stwierdzenie wąskiego potencjalnego złamania zabezpieczeń powinno być powodem do wycofania komercyjnego modelu wdrożonego dla setek milionów ludzi” – powiedziała firma.
Dyrektywa rządowa i odpowiedź Anthropic podkreślają rosnące napięcie między twórcami AI a regulatorami w kwestii oceny ryzyka związanego z tak zwanymi „złamaniami zabezpieczeń” – metodami używanymi do omijania zabezpieczeń modeli.
Jeszcze w środę Anthropic wzywał do większego nadzoru USA nad AI, w tym do możliwości blokowania modeli o niedopuszczalnym ryzyku. Jednak firma stwierdziła, że piątkowe działanie rządu nie było zgodne z zasadami uczciwej i opartej na faktach regulacji.
Główny oficer informacyjny Pentagonu, Kirsten Davies, powiedziała w poście na X, że departament obrony popiera priorytetowe traktowanie bezpieczeństwa narodowego.
„Niektóre rzeczy są po prostu ważniejsze niż cykle przychodów, clickbait i wycena przed IPO. Ameryka przede wszystkim. Zawsze” – powiedziała Davies.
Anthropic poufnie złożył wniosek o amerykańską IPO w zeszłym miesiącu, wyprzedzając rywala OpenAI w wyścigu o wejście na rynki publiczne.
Wcześniej w tym tygodniu Anthropic uruchomił model AI o nazwie Claude Fable 5, reprezentujący nowy poziom możliwości, który nazywa „klasą Mythos”. Model zawiera zabezpieczenia uniemożliwiające jego użycie w ryzykownych obszarach, takich jak cyberbezpieczeństwo, co niektórzy użytkownicy skrytykowali jako „zbyt szerokie” – powiedział Anthropic.
Eksperci ostrzegli, że modele Mythos, jeśli zostaną niewłaściwie użyte, mogą dramatycznie przyspieszyć zaawansowane ataki cybernetyczne, szczególnie w sektorach takich jak bankowość, które opierają się na złożonych, połączonych i często przestarzałych systemach technologicznych.
Anthropic poinformował, że przed premierą Fable współpracował z rządem USA i innymi podmiotami w kwestii bezpieczeństwa, a modele konkurencyjnych dostawców AI wykazywały podobną zdolność do wykrywania drobnych błędów w kodzie.
„Efektem netto tego zarządzenia jest to, że musimy nagle wyłączyć Fable 5 i Mythos 5 dla wszystkich naszych klientów, aby zapewnić zgodność. Dostęp do wszystkich innych modeli Anthropic nie zostanie naruszony” – powiedział Anthropic.
Anthropic dodał, że uważa, iż doszło do „nieporozumienia” i pracuje nad jak najszybszym przywróceniem dostępu do modeli.
Amerykański urzędnik potwierdził, że departament handlu wydał dyrektywę kontroli eksportu nakazującą zawieszenie wszelkiego dostępu do Fable 5 i Mythos 5 przez obcokrajowców.
Często zadawane pytania
Oto lista często zadawanych pytań dotyczących hipotetycznego scenariusza, w którym Anthropic wyłącza swoje najbardziej zaawansowane modele AI po zarządzeniu rządu USA ograniczającym dostęp dla obcokrajowców
Pytania ogólne
P: Dlaczego Anthropic wyłącza swoje najbardziej zaawansowane modele AI?
O: Ponieważ nowe zarządzenie rządu USA ogranicza zagranicznym podmiotom dostęp do najpotężniejszych systemów AI. Anthropic przestrzega tego zarządzenia, aby postępować zgodnie z prawem.
P: Czy to oznacza, że w ogóle nie mogę już korzystać z Claude?
O: Nie. Prawdopodobnie dotyczy to tylko najbardziej zaawansowanych modeli. Nadal będziesz mógł korzystać ze standardowych lub mniej wydajnych wersji Claude.
P: Czy to jest trwałe?
O: To zależy od zarządzenia. Może to być tymczasowe wstrzymanie, podczas gdy rząd analizuje zagrożenia bezpieczeństwa, lub stałe ograniczenie do czasu zmiany przepisów.
P: Kogo dotyczy to ograniczenie?
O: Przede wszystkim użytkowników, firm lub programistów, którzy znajdują się poza Stanami Zjednoczonymi lub są własnością zagranicznych podmiotów. Użytkownicy z USA prawdopodobnie nie są dotknięci.
Wpływ na użytkowników i programistów
P: Mieszkam w Kanadzie/Europie/Azji. Czy moja subskrypcja Claude przestanie działać?
O: Prawdopodobnie stracisz dostęp do najbardziej zaawansowanego poziomu modelu. Twoje konto może zostać obniżone do mniej wydajnego modelu lub będziesz mógł korzystać z API tylko ze starszymi/mniejszymi modelami.
P: Jestem programistą korzystającym z API. Czy muszę zmienić mój kod?
O: Tak, prawdopodobnie. Będziesz musiał zaktualizować wywołania API, aby używać innej nazwy modelu. Sprawdź dokumentację Anthropic dotyczącą dozwolonych modeli.
P: Co jeśli użyję VPN, aby udawać, że jestem w USA?
O: Naruszyłoby to warunki korzystania z usługi i nowe prawo. Anthropic prawdopodobnie zablokuje konta wykryte przy użyciu VPN w celu ominięcia ograniczenia. Ryzykujesz utratą całego konta.
P: Czy moje istniejące rozmowy lub dane zostaną usunięte?
O: Mało prawdopodobne. Historia konta i dane powinny pozostać nienaruszone, ale nie będziesz mógł generować nowych odpowiedzi przy użyciu ograniczonego modelu.
Pytania techniczne i dotyczące bezpieczeństwa
