Mae Anthropic wedi cyhoeddi y bydd yn "analluogi'n sydyn" ei fodelau AI mwyaf datblygedig ar gyfer pob defnyddiwr ar ôl i lywodraeth yr UD orchymyn i'r cwmni rwystro mynediad i ddinasyddion tramor, gan nodi pryderon diogelwch cenedlaethol.
Dywedodd y cwmni mewn datganiad ei fod wedi derbyn cyfarwyddeb rheoli allforio i atal mynediad i Fable 5 a Mythos 5 ar gyfer pob dinasyddion tramor, ond ni chafodd fanylion penodol am y mater diogelwch cenedlaethol.
Yn ôl y cwmni, mae'n deall bod y llywodraeth yn credu bod ffordd i osgoi, neu "jailbreak," amddiffyniad a gynlluniwyd i atal Fable 5 rhag cael ei ddefnyddio i nodi gwendidau meddalwedd.
Daw'r gorchymyn hwn ar adeg pan oedd anghydfod blaenorol rhwng swyddogion gweinyddiaeth Trump ac Anthropic—sy'n paratoi ar gyfer IPO—yn ymddangos fel pe bai'n lliniaru mewn rhannau o lywodraeth yr UD.
Torrodd perthynas Anthropic â'r llywodraeth i lawr yn gynharach eleni ar ôl iddo wrthod caniatáu i fyddin yr UD ddefnyddio ei fodelau AI ar gyfer gwyliadwriaeth ddomestig a systemau arfau hollol ymreolaethol. Mewn ymateb, gosododd y llywodraeth Anthropic ar restr ddu cadwyn gyflenwi, sydd i ddod i rym yn ddiweddarach eleni.
Mae'r cam hefyd yn nodi cynnydd sylweddol yn ymdrechion yr UD i gyfyngu ar alluoedd AI gelynion tramor. Am flynyddoedd, mae rheolaethau allforio'r UD wedi canolbwyntio ar y sglodion a'r offer sy'n pweru AI, yn hytrach na chyfyngu ar fynediad tramor i AI ei hun.
Dywedodd Anthropic mai dim ond "tystiolaeth lafar o jailbreak cul, nad yw'n gyffredinol" y mae'r llywodraeth wedi'i ddarparu.
"Rydym yn anghytuno y dylai canfyddiad o jailbreak cul fod yn achos i alw'n ôl fodel masnachol a ddefnyddir gan gannoedd o filiynau o bobl," meddai'r cwmni.
Mae cyfarwyddeb y llywodraeth ac ymateb Anthropic yn tynnu sylw at densiwn cynyddol rhwng datblygwyr AI a rheoleiddwyr ynghylch sut i asesu risgiau o'r hyn a elwir yn "jailbreaks"—dulliau a ddefnyddir i osgoi amddiffyniadau model.
Mor ddiweddar â dydd Mercher, roedd Anthropic wedi galw am fwy o oruchwyliaeth yr UD o AI, gan gynnwys y gallu i rwystro modelau â risgiau annerbyniol. Fodd bynnag, dywedodd nad oedd cam y llywodraeth ddydd Gwener yn dilyn egwyddorion rheoleiddio teg a seiliedig ar ffeithiau.
Dywedodd prif swyddog gwybodaeth y Pentagon, Kirsten Davies, mewn post ar X fod yr adran amddiffyn yn cefnogi blaenoriaethu diogelwch cenedlaethol.
"Mae rhai pethau'n syml yn bwysicach na chylchoedd refeniw, clickbait a gwerthusiad cyn-IPO. America yn Gyntaf. Bob amser," meddai Davies.
Fe wnaeth Anthropic ffeilio'n gyfrinachol ar gyfer IPO yn yr UD y mis diwethaf, gan symud o flaen ei gystadleuydd OpenAI yn y ras i gyrraedd marchnadoedd cyhoeddus.
Yn gynharach yr wythnos hon, lansiodd Anthropic fodel AI o'r enw Claude Fable 5, sy'n cynrychioli lefel newydd o allu y mae'n ei galw'n "Mythos-class." Mae'r model yn cynnwys rheiliau gwarchod sy'n atal ei ddefnyddio mewn meysydd peryglus fel seiberddiogelwch, y mae rhai defnyddwyr wedi'u beirniadu fel "rhy eang," meddai Anthropic.
Mae arbenigwyr wedi rhybuddio y gallai modelau Mythos, os cânt eu camddefnyddio, gyflymu ymosodiadau seiber soffistigedig yn sylweddol, yn enwedig mewn sectorau fel bancio sy'n dibynnu ar systemau technoleg cymhleth, rhyng-gysylltiedig, ac yn aml hen ffasiwn.
Dywedodd Anthropic ei fod wedi gweithio gyda llywodraeth yr UD ac eraill ar ddiogelwch cyn lansiad Fable, a bod modelau gan ddarparwyr AI cystadleuol yn dangos gallu tebyg i ddarganfod bygiau bach mewn cod.
"Effaith net y gorchymyn hwn yw bod yn rhaid i ni analluogi Fable 5 a Mythos 5 yn sydyn ar gyfer ein holl gwsmeriaid i sicrhau cydymffurfiaeth. Ni fydd mynediad i bob model Anthropic arall yn cael ei effeithio," meddai Anthropic.
Ychwanegodd Anthropic ei fod yn credu bod "camddealltwriaeth" wedi bod ac mae'n gweithio i adfer mynediad i'r modelau cyn gynted â phosibl.
Cadarnhaodd swyddog o'r UD fod yr adran fasnach wedi cyhoeddi cyfarwyddeb rheoli allforio i atal pob mynediad i Fable 5 a Mythos 5 gan ddinasyddion tramor.
Cwestiynau Cyffredin
Dyma restr o Gwestiynau Cyffredin ynghylch y senario ddamcaniaethol lle mae Anthropic yn analluogi ei fodelau AI mwyaf datblygedig yn dilyn gorchymyn llywodraeth yr UD sy'n cyfyngu ar fynediad tramor
Cwestiynau Cyffredinol
C Pam mae Anthropic yn analluogi ei fodelau AI mwyaf datblygedig
A Oherwydd bod gorchymyn newydd gan lywodraeth yr UD yn cyfyngu ar endidau tramor rhag cael mynediad i'r systemau AI mwyaf pwerus Mae Anthropic yn cydymffurfio â'r gorchymyn hwn i ddilyn y gyfraith
C A yw hyn yn golygu na allaf ddefnyddio Claude o gwbl mwyach
A Na Mae hyn yn debygol o effeithio ar y modelau mwyaf datblygedig yn unig Byddwch yn debygol o allu defnyddio fersiynau safonol neu lai pwerus o Claude o hyd
C A yw hyn yn barhaol
A Mae'n dibynnu ar y gorchymyn Gallai fod yn seibiant dros dro tra bo'r llywodraeth yn adolygu risgiau diogelwch, neu gallai fod yn gyfyngiad parhaol nes bod y cyfreithiau'n newid
C Pwy sy'n cael ei effeithio gan y cyfyngiad hwn
A Yn bennaf defnyddwyr, cwmnïau neu ddatblygwyr sydd wedi'u lleoli y tu allan i'r Unol Daleithiau neu sydd yn eiddo i endidau tramor Mae defnyddwyr sy'n seiliedig yn yr UD yn debygol o beidio â chael eu heffeithio
Effaith ar Ddefnyddwyr a Datblygwyr
C Rwy'n byw yng Nghanada/Ewrop/Asia A fydd fy nhanysgrifiad Claude yn rhoi'r gorau i weithio
A Byddwch yn debygol o golli mynediad i'r haen model mwyaf datblygedig Gall eich cyfrif gael ei israddio i fodel llai pwerus, neu efallai mai dim ond defnyddio'r API gyda modelau hŷn/llai y gallwch chi
C Rwy'n ddatblygwr sy'n defnyddio'r API A oes angen i mi newid fy nghod
A Ydy, yn debygol Bydd angen i chi ddiweddaru eich galwadau API i ddefnyddio enw model gwahanol Gwiriwch ddogfennaeth Anthropic am y modelau a ganiateir penodol
C Beth os byddaf yn defnyddio VPN i esgus fy mod yn yr UD
A Byddai hynny'n torri telerau gwasanaeth a'r gyfraith newydd Bydd Anthropic yn debygol o rwystro cyfrifon a ganfyddir yn defnyddio VPN i osgoi'r cyfyngiad Rydych mewn perygl o golli eich cyfrif cyfan
C A fydd fy sgyrsiau neu ddata presennol yn cael eu dileu
A Annhebygol Dylai hanes a data eich cyfrif aros yn gyfan, ond ni fyddwch yn gallu cynhyrchu ymatebion newydd gan ddefnyddio'r model cyfyngedig
Cwestiynau Technegol a Diogelwch
