Anthropic on ilmoittanut "poistavansa käytöstä äkillisesti" kehittyneimmät tekoälymallinsa kaikilta käyttäjiltä sen jälkeen, kun Yhdysvaltain hallitus määräsi yrityksen estämään ulkomaalaisten pääsyn niihin vedoten kansalliseen turvallisuuteen liittyviin huoliin.
Yritys sai vientivalvontamääräyksen keskeyttää Fable 5- ja Mythos 5 -mallien käyttö kaikilta ulkomaalaisilta, mutta sille ei annettu yksityiskohtaisia tietoja kansalliseen turvallisuuteen liittyvästä ongelmasta, Anthropic kertoi lausunnossaan.
Yrityksen mukaan se ymmärtää, että hallitus uskoo olevan olemassa tapa kiertää eli "jailbreakata" suojatoimi, joka on suunniteltu estämään Fable 5:n käyttö ohjelmistoheikkouksien tunnistamiseen.
Tämä määräys tulee juuri, kun aiempi kiista Trumpin hallinnon virkamiesten ja Anthropicin välillä – joka valmistautuu listautumiseen pörssiin – näytti lievittyvän osissa Yhdysvaltain hallintoa.
Anthropicin suhde hallitukseen katkesi aiemmin tänä vuonna, kun se kieltäytyi sallimasta Yhdysvaltain armeijan käyttää tekoälymallejaan kotimaan valvontaan ja täysin autonomisiin asejärjestelmiin. Vastauksena hallitus asetti Anthropicin toimitusketjun mustalle listalle, joka astuu voimaan myöhemmin tänä vuonna.
Toimi merkitsee myös merkittävää eskalaatiota Yhdysvaltain pyrkimyksissä rajoittaa ulkomaisten vastustajien tekoälykyvykkyyksiä. Vuosien ajan Yhdysvaltain vientivalvonta on keskittynyt tekoälyä käyttäviin siruihin ja työkaluihin sen sijaan, että se olisi rajoittanut ulkomaalaisten pääsyä itse tekoälyyn.
Anthropic sanoi, että hallitus on antanut vain "sanallista näyttöä mahdollisesta kapeasta, ei-yleisestä jailbreakista".
"Emme ole samaa mieltä siitä, että kapean mahdollisen jailbreakin löytämisen pitäisi olla syy vetää pois markkinoilta kaupallinen malli, joka on otettu käyttöön sadoille miljoonille ihmisille", yritys sanoi.
Hallituksen määräys ja Anthropicin vastaus korostavat kasvavaa jännitystä tekoälykehittäjien ja sääntelijöiden välillä siitä, miten arvioida niin kutsuttujen "jailbreakien" riskejä – menetelmiä, joita käytetään mallien suojatoimien kiertämiseen.
Vielä keskiviikkona Anthropic oli vaatinut Yhdysvalloilta suurempaa tekoälyn valvontaa, mukaan lukien kykyä estää malleja, joilla on kohtuuttomia riskejä. Se kuitenkin sanoi, että hallituksen toimi perjantaina ei noudattanut oikeudenmukaisen ja tosiasioihin perustuvan sääntelyn periaatteita.
Pentagonin tietohallintojohtaja Kirsten Davies sanoi X-viestissä, että puolustusministeriö tuki kansallisen turvallisuuden asettamista etusijalle.
"Jotkut asiat ovat yksinkertaisesti tärkeämpiä kuin tulossykli, klikkiotsikot ja listautumista edeltävä arvostus. Amerikka ensin. Aina", Davies sanoi.
Anthropic jätti luottamuksellisen listautumishakemuksen Yhdysvaltain pörssiin viime kuussa, ohittaen kilpailijansa OpenAI:n kilpailussa julkisille markkinoille pääsyssä.
Aiemmin tällä viikolla Anthropic lanseerasi tekoälymallin nimeltä Claude Fable 5, joka edustaa uutta kyvykkyystasoa, jota se kutsuu "Mythos-luokaksi". Malli sisältää suojakaiteita, jotka estävät sen käytön riskialttiilla alueilla, kuten kyberturvallisuudessa, joita jotkut käyttäjät ovat kritisoineet "liian laajoiksi", Anthropic sanoi.
Asiantuntijat ovat varoittaneet, että Mythos-mallit, jos niitä käytetään väärin, voivat dramaattisesti nopeuttaa kehittyneitä kyberhyökkäyksiä, erityisesti aloilla, kuten pankkitoiminta, jotka ovat riippuvaisia monimutkaisista, toisiinsa kytkeytyneistä ja usein vanhentuneista teknologiajärjestelmistä.
Anthropic sanoi, että se oli työskennellyt Yhdysvaltain hallituksen ja muiden kanssa turvallisuuden parissa ennen Fable-lanseerausta, ja että kilpailevien tekoälytarjoajien mallit osoittivat samanlaista kykyä paljastaa pieniä virheitä koodissa.
"Tämän määräyksen nettomääräinen vaikutus on, että meidän on poistettava äkillisesti Fable 5 ja Mythos 5 käytöstä kaikilta asiakkailtamme varmistaaksemme noudattamisen. Pääsy kaikkiin muihin Anthropic-malleihin ei vaikuta", Anthropic sanoi.
Anthropic lisäsi uskovansa, että on tapahtunut "väärinkäsitys", ja se työskentelee palauttaakseen pääsyn malleihin mahdollisimman pian.
Yhdysvaltain virkamies vahvisti, että kauppaministeriö oli antanut vientivalvontamääräyksen keskeyttää kaikki ulkomaalaisten pääsy Fable 5- ja Mythos 5 -malleihin.
Usein kysytyt kysymykset
Tässä on lista usein kysytyistä kysymyksistä koskien hypoteettista skenaariota, jossa Anthropic poistaa käytöstä kehittyneimmät tekoälymallinsa Yhdysvaltain hallituksen määräyksen jälkeen, joka rajoittaa ulkomaalaisten pääsyä
Yleiset kysymykset
K Miksi Anthropic poistaa kehittyneimmät tekoälymallinsa käytöstä
V Koska uusi Yhdysvaltain hallituksen määräys rajoittaa ulkomaisten tahojen pääsyä tehokkaimpiin tekoälyjärjestelmiin Anthropic noudattaa tätä määräystä noudattaakseen lakia
K Tarkoittaako tämä, etten voi enää käyttää Claudea ollenkaan
V Ei Tämä todennäköisesti vaikuttaa vain kehittyneimpiin malleihin Voit todennäköisesti edelleen käyttää tavallisia tai vähemmän tehokkaita versioita Claudesta
K Onko tämä pysyvää
V Se riippuu määräyksestä Se voi olla väliaikainen tauko, kun hallitus tarkistaa turvallisuusriskejä, tai se voi olla pysyvä rajoitus, kunnes lait muuttuvat
K Keihin tämä rajoitus vaikuttaa
V Ensisijaisesti käyttäjiin, yrityksiin tai kehittäjiin, jotka sijaitsevat Yhdysvaltojen ulkopuolella tai jotka ovat ulkomaisten tahojen omistamia Yhdysvalloissa asuviin käyttäjiin se todennäköisesti ei vaikuta
Vaikutus käyttäjiin ja kehittäjiin
K Asun Kanadassa/Euroopassa/Aasiassa Lakkaako Claude-tilaukseni toimimasta
V Menetät todennäköisesti pääsyn kehittyneimpään mallitasoon Tilisi saatetaan alentaa vähemmän tehokkaaseen malliin tai voit käyttää APIa vain vanhemmilla/pienemmillä malleilla
K Olen kehittäjä, joka käyttää APIa Täytyykö minun muuttaa koodiani
V Kyllä, todennäköisesti Sinun täytyy päivittää API-kutsusi käyttämään eri mallinimeä Tarkista Anthropicin dokumentaatio sallituista malleista
K Mitä jos käytän VPN:ää teeskennelläkseni olevani Yhdysvalloissa
V Se rikkoisi käyttöehtoja ja uutta lakia Anthropic todennäköisesti estää tilit, jotka havaitaan käyttävän VPN:ää rajoituksen kiertämiseen Vaarana on koko tilisi menettäminen
K Poistetaanko olemassa olevat keskusteluni tai tietoni
V Epätodennäköistä Tilisi historia ja tiedot pysyvät todennäköisesti ennallaan, mutta et voi luoda uusia vastauksia rajoitetulla mallilla
Tekniset ja turvallisuuskysymykset
