Společnost Anthropic oznámila, že „náhle deaktivuje“ své nejpokročilejší modely umělé inteligence pro všechny uživate poté, co jí vláda USA nařídila zablokovat přístup cizím státním příslušníkům s odvoláním na obavy o národní bezpečnost.
Společnost obdržela směrnici o kontrole vývozu, aby pozastavila přístup k modelům Fable 5 a Mythos 5 pro všechny cizí státní příslušníky, ale nebyly jí poskytnuty konkrétní podrobnosti o problému národní bezpečnosti, uvedla Anthropic v prohlášení.
Podle společnosti chápe, že vláda věří, že existuje způsob, jak obejít neboli „jailbreaknout“ ochranné opatření navržené tak, aby zabránilo použití Fable 5 k identifikaci zranitelností softwaru.
Tento příkaz přichází právě ve chvíli, kdy se zdálo, že předchozí spor mezi úředníky Trumpovy administrativy a společností Anthropic – která se připravuje na vstupní veřejnou nabídku – v některých částech americké vlády ustupuje.
Vztah Anthropicu s vládou se zhoršil dříve v tomto roce poté, co odmítla umožnit americké armádě používat své modely AI pro domácí sledování a plně autonomní zbraňové systémy. V reakci na to vláda zařadila Anthropic na černou listinu dodavatelského řetězce, která má vstoupit v platnost později v tomto roce.
Tento krok také představuje výraznou eskalaci úsilí USA o omezení schopností AI zahraničních protivníků. Po léta se americké vývozní kontroly zaměřovaly na čipy a nástroje, které pohánějí AI, spíše než na omezení přístupu cizinců k samotné AI.
Anthropic uvedla, že vláda poskytla pouze „slovní důkazy o potenciálním úzkém, neuniverzálním jailbreaku“.
„Nesouhlasíme s tím, že by nález úzkého potenciálního jailbreaku měl být důvodem ke stažení komerčního modelu nasazeného stovkám milionů lidí,“ uvedla společnost.
Vládní směrnice a reakce Anthropicu zdůrazňují rostoucí napětí mezi vývojáři AI a regulátory ohledně toho, jak posuzovat rizika z takzvaných „jailbreaků“ – metod používaných k obejití ochranných opatření modelů.
Ještě ve středu Anthropic vyzvala k většímu dohledu USA nad AI, včetně možnosti blokovat modely s nepřijatelnými riziky. Uvedla však, že páteční vládní krok se neřídil zásadami spravedlivé a na faktech založené regulace.
Hlavní informační důstojník Pentagonu Kirsten Daviesová uvedla v příspěvku na síti X, že ministerstvo obrany podporuje upřednostňování národní bezpečnosti.
„Některé věci jsou prostě důležitější než výnosové cykly, clickbait a ocenění před IPO. Amerika na prvním místě. Vždy,“ řekla Daviesová.
Anthropic minulý měsíc důvěrně podala žádost o americké IPO, čímž se v závodě o vstup na veřejné trhy dostala před rivala OpenAI.
Začátkem tohoto týdne Anthropic uvedla model AI s názvem Claude Fable 5, který představuje novou úroveň schopností, kterou nazývá „třída Mythos“. Model obsahuje ochranná opatření, která brání jeho použití v rizikových oblastech, jako je kybernetická bezpečnost, což někteří uživatelé kritizovali jako „příliš široká“, uvedla Anthropic.
Odborníci varovali, že modely Mythos by při zneužití mohly dramaticky urychlit sofistikované kybernetické útoky, zejména v odvětvích, jako je bankovnictví, která spoléhají na složité, propojené a často zastaralé technologické systémy.
Anthropic uvedla, že před uvedením Fable spolupracovala s americkou vládou a dalšími na bezpečnosti a že modely od konkurenčních poskytovatelů AI vykazovaly podobnou schopnost odhalovat drobné chyby v kódu.
„Čistým efektem tohoto příkazu je, že musíme náhle deaktivovat Fable 5 a Mythos 5 pro všechny naše zákazníky, abychom zajistili soulad. Přístup ke všem ostatním modelům Anthropic nebude ovlivněn,“ uvedla Anthropic.
Anthropic dodala, že věří, že došlo k „nedorozumění“, a pracuje na co nejrychlejším obnovení přístupu k modelům.
Americký úředník potvrdil, že ministerstvo obchodu vydalo směrnici o kontrole vývozu, která pozastavuje veškerý přístup cizích státních příslušníků k modelům Fable 5 a Mythos 5.
Často kladené otázky
Zde je seznam často kladených otázek týkajících se hypotetického scénáře, kdy Anthropic deaktivuje své nejpokročilejší modely AI po nařízení vlády USA omezujícím přístup cizinců
Obecné otázky
Otázka: Proč Anthropic deaktivuje své nejpokročilejší modely AI?
Odpověď: Protože nové nařízení vlády USA omezuje přístup cizích subjektů k nejvýkonnějším systémům AI. Anthropic toto nařízení dodržuje, aby se řídila zákonem.
Otázka: Znamená to, že už vůbec nemohu používat Claude?
Odpověď: Ne. Toto se pravděpodobně týká pouze nejpokročilejších modelů. Standardní nebo méně výkonné verze Clauda budete pravděpodobně moci stále používat.
Otázka: Je to trvalé?
Odpověď: Záleží na nařízení. Může jít o dočasné pozastavení, zatímco vláda přezkoumává bezpečnostní rizika, nebo o trvalé omezení, dokud se nezmění zákony.
Otázka: Koho se toto omezení týká?
Odpověď: Především uživatelů, společností nebo vývojářů, kteří se nacházejí mimo Spojené státy nebo jsou vlastněni zahraničními subjekty. Uživatelé v USA pravděpodobně nejsou ovlivněni.
Dopad na uživatele a vývojáře
Otázka: Žiji v Kanadě/Evropě/Asii. Přestane moje předplatné Clauda fungovat?
Odpověď: Pravděpodobně ztratíte přístup k nejpokročilejší úrovni modelu. Váš účet může být downgradován na méně výkonný model, nebo budete moci používat API pouze se staršími/menšími modely.
Otázka: Jsem vývojář používající API. Musím změnit svůj kód?
Odpověď: Ano, pravděpodobně. Budete muset aktualizovat své API volání, aby používala jiný název modelu. Zkontrolujte dokumentaci Anthropicu pro konkrétní povolené modely.
Otázka: Co když použiji VPN, abych předstíral, že jsem v USA?
Odpověď: To by porušovalo podmínky služby a nový zákon. Anthropic pravděpodobně zablokuje účty, u kterých zjistí použití VPN k obejití omezení. Riskujete ztrátu celého účtu.
Otázka: Budou mé stávající konverzace nebo data smazány?
Odpověď: Nepravděpodobné. Historie vašeho účtu a data by měly zůstat nedotčeny, ale nebudete moci generovat nové odpovědi pomocí omezeného modelu.
Technické a bezpečnostní otázky
