Anthropic обяви, че ще "внезапно деактивира" най-напредналите си AI модели за всички потребители, след като правителството на САЩ нареди на компанията да блокира достъпа на чуждестранни граждани, позовавайки се на опасения за националната сигурност.
Компанията получи директива за експортен контрол да спре достъпа до Fable 5 и Mythos 5 за всички чуждестранни граждани, но не ѝ бяха предоставени конкретни подробности относно проблема с националната сигурност, заяви Anthropic в изявление.
Според компанията, тя разбира, че правителството вярва, че съществува начин за заобикаляне, или "джейлбрейк", на защитна мярка, предназначена да предотврати използването на Fable 5 за идентифициране на софтуерни уязвимости.
Тази заповед идва точно когато предишен спор между служители на администрацията на Тръмп и Anthropic—която се подготвя за IPO—изглеждаше да отслабва в части от правителството на САЩ.
Връзката на Anthropic с правителството се влоши по-рано тази година, след като тя отказа да позволи на американската армия да използва нейните AI модели за вътрешно наблюдение и напълно автономни оръжейни системи. В отговор правителството постави Anthropic в черен списък на веригата за доставки, който трябва да влезе в сила по-късно тази година.
Действието също така бележи значителна ескалация в усилията на САЩ да ограничат AI способностите на чуждестранни противници. От години американският експортен контрол се фокусира върху чиповете и инструментите, които захранват AI, вместо да ограничава чуждестранния достъп до самия AI.
Anthropic заяви, че правителството е предоставило само "вербални доказателства за потенциален тесен, не-универсален джейлбрейк".
"Ние не сме съгласни, че откриването на тесен потенциален джейлбрейк трябва да бъде причина за изтегляне на търговски модел, внедрен за стотици милиони хора", каза компанията.
Правителствената директива и отговорът на Anthropic подчертават нарастващото напрежение между разработчиците на AI и регулаторите относно това как да се оценят рисковете от така наречените "джейлбрейкове"—методи, използвани за заобикаляне на защитните мерки на моделите.
Още в сряда Anthropic призова за по-голям надзор на AI от страна на САЩ, включително способността да блокира модели с неприемливи рискове. Въпреки това, тя заяви, че правителственото действие в петък не следва принципите на справедливо и основано на факти регулиране.
Главният информационен директор на Пентагона, Кирстен Дейвис, заяви в публикация в X, че министерството на отбраната подкрепя приоритизирането на националната сигурност.
"Някои неща са просто по-важни от циклите на приходите, кликбейта и пред-IPO оценката. Америка на първо място. Винаги", каза Дейвис.
Anthropic поверително подаде документи за IPO в САЩ миналия месец, изпреварвайки конкурента OpenAI в надпреварата за достигане до публичните пазари.
По-рано тази седмица Anthropic пусна AI модел, наречен Claude Fable 5, представляващ ново ниво на способност, което тя нарича "Mythos-клас". Моделът включва предпазни мерки, които предотвратяват използването му в рискови области като киберсигурност, което някои потребители критикуват като "прекалено широко", заяви Anthropic.
Експерти предупредиха, че Mythos моделите, ако бъдат злоупотребени, биха могли драстично да ускорят сложни кибератаки, особено в сектори като банкирането, които разчитат на сложни, взаимосвързани и често остарели технологични системи.
Anthropic заяви, че е работила с правителството на САЩ и други по въпросите на безопасността преди пускането на Fable и че модели от конкурентни AI доставчици показват подобна способност за откриване на малки грешки в кода.
"Нетният ефект от тази заповед е, че трябва внезапно да деактивираме Fable 5 и Mythos 5 за всички наши клиенти, за да осигурим съответствие. Достъпът до всички други модели на Anthropic няма да бъде засегнат", заяви Anthropic.
Anthropic добави, че вярва, че е имало "недоразумение" и работи за възстановяване на достъпа до моделите възможно най-скоро.
Американски служител потвърди, че министерството на търговията е издало директива за експортен контрол за спиране на целия достъп до Fable 5 и Mythos 5 от чуждестранни граждани.
Често задавани въпроси
Ето списък с често задавани въпроси относно хипотетичния сценарий, при който Anthropic деактивира най-напредналите си AI модели след заповед на правителството на САЩ, ограничаваща чуждестранния достъп
Общи въпроси
В: Защо Anthropic деактивира най-напредналите си AI модели?
О: Защото нова заповед на правителството на САЩ ограничава чуждестранните субекти от достъп до най-мощните AI системи. Anthropic спазва тази заповед, за да следва закона.
В: Означава ли това, че изобщо не мога да използвам Claude?
О: Не. Това вероятно засяга само най-напредналите модели. Вероятно все още ще можете да използвате стандартни или по-малко мощни версии на Claude.
В: Това постоянно ли е?
О: Зависи от заповедта. Може да е временно спиране, докато правителството преглежда рисковете за сигурността, или може да е постоянно ограничение, докато законите не се променят.
В: Кой е засегнат от това ограничение?
О: Основно потребители, компании или разработчици, които се намират извън Съединените щати или са собственост на чуждестранни субекти. Потребителите в САЩ вероятно не са засегнати.
Въздействие върху потребители и разработчици
В: Живея в Канада/Европа/Азия. Ще спре ли да работи абонаментът ми за Claude?
О: Вероятно ще загубите достъп до най-напредналото ниво на модела. Акаунтът ви може да бъде понижен до по-малко мощен модел или може да можете да използвате API само с по-стари/по-малки модели.
В: Разработчик съм, използващ API. Трябва ли да променя кода си?
О: Да, вероятно. Ще трябва да актуализирате вашите API извиквания, за да използвате различно име на модел. Проверете документацията на Anthropic за конкретните разрешени модели.
В: Какво ще стане, ако използвам VPN, за да се преструвам, че съм в САЩ?
О: Това би нарушило условията за ползване и новия закон. Anthropic вероятно ще блокира акаунти, открити да използват VPN за заобикаляне на ограничението. Рискувате да загубите целия си акаунт.
В: Ще бъдат ли изтрити съществуващите ми разговори или данни?
О: Малко вероятно. Историята на акаунта и данните ви трябва да останат непокътнати, но няма да можете да генерирате нови отговори, използвайки ограничения модел.
Технически въпроси и въпроси за сигурността
