Sam Altman ja Elon Musk ovat tukeneet Anthropic-toimitusjohtaja Dario Amodein kehotusta "hidastaa" tekoälyn kehitystä, sen jälkeen kun hän varoitti, että tekoälyparvi voisi muuten kyetä "ottamaan haltuunsa koko internetin" vuoden kuluessa. Harvinaisessa yhtenäisyyden osoituksessa kilpailevat teknologiajohtajat tukivat tekoäly-yhtiö Anthropicin perustajan ja toimitusjohtajan vetoomusta, joka seurasi joukkoa tekoälytutkijoiden varoituksia viime viikolla. Esseessä Amodei esitti ajatuksensa siitä, "miksi tekoälyteollisuuden tulisi hidastaa", kolmiosaisella suunnitelmalla, alkaen siitä, että riippumattomille valvojille annetaan jatkuva pääsy kehittäjien tutkimusprosesseihin. Amodei sanoi, että "[tekoälyn] rakentaminen liian nopeasti on vastuutonta", ja pelkäsi, että sen jälkeen kun sadat OpenAI-agentit hakkeroituivat Hugging Face -verkkosivustolle tänä kesänä, parvi, jolla on suuremmat kyvyt mutta samankaltainen kohdistusvirhe, voisi aiheuttaa satojen miljardien dollarien vahingot "ottamalla haltuunsa koko internetin pysyvällä botnetillä". Jotkut tekoälyasiantuntijat kiistivät tämän erityisen uskottavana ja sanoivat, että siihen tulisi suhtautua skeptisesti. Musk, Teslan ja SpaceX:n perustaja, vastasi Amodein hidastamissuunnitelmaan julkaisulla X:ssä: "Dario on oikeassa." Hän sanoi: "Olen soittanut hälytyskelloja tekoälystä pitkään", ja viittasi vuoden 2014 julkaisuun, jossa hän sanoi: "Meidän on oltava erittäin varovaisia tekoälyn kanssa. Mahdollisesti vaarallisempi kuin ydinaseet." Amodein kehotus tulee, kun Anthropic valmistautuu listautumaan Yhdysvaltain osakemarkkinoille, mikä odotetaan olevan kaikkien aikojen suurin listautumisanti. Sen odotetaan aloittavan pian suunnitellun 2 biljoonan dollarin (1,5 biljoonaa puntaa) listautumisannin markkinoinnin. Näytä kuva kokoruudussaVasemmalta oikealle: Elon Musk, Dario Amodei ja Sam Altman. Kuva: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, OpenAI:n toimitusjohtaja, vastasi Amodein kommentteihin lauantaina. "Olen samaa mieltä Darion kanssa siitä, että meidän on tahdistettava eturintamaa", hän sanoi julkaisussa X:ssä. "Sitoutuminen siihen, että riippumattomilla arvioijilla on työntekijän kaltainen pääsy, on loistava idea, ja teemme samoin. Meillä on pian enemmän jaettavaa." Hän sanoi myös, että OpenAI ei listaudu vuonna 2026, vedoten tekoälyn turvallisuushuoliin. "Itse asiassa ajattelen, että ottaen huomioon kaiken turvallisuuden kanssa tapahtuvan, juuri nyt olisi epäviisas hetki listautua, emmekä tunne painetta siitä", Altman kertoi Fortune-lehdelle. Kysyttäessä, miksi hän, Amodei, Musk sekä Metan ja Googlen toimitusjohtajat eivät istu alas ja "pääse samalle sivulle" kollektiivisesta hidastamisesta, hän sanoi: "Uskon, että niin tapahtuu." OpenAI:n listautumisanti ei tapahdu vuonna 2026 tekoälyn turvallisuushuolien keskellä, sanoo Sam AltmanLue lisääDemis Hassabis, Google Deep Mindin toinen perustaja ja puheenjohtaja, sanoi myös: "Yksityiskohdat on työstettävä läpi, mutta suunta on oikea tämän kriittisen hetken kohtaamiseksi." Amodein suunnitelma pyrkii saamaan Yhdysvaltain hallitukselta poikkeuksen, joka sallisi eturintaman tekoäly-yhtiöiden koordinoida ilman, että niitä rangaistaan kilpailunvastaisesta yhteistoiminnasta. Mutta David Sacks, Donald Trumpin tiede- ja teknologianeuvonantajaneuvoston toinen puheenjohtaja, sanoi: "Lopettakaa teeskentelemästä, että tarvitsette jonkun muun lupaa … Lopettakaa teeskentelemästä, että motiivi hidastaa on puhtaasti altruistinen. Kohtaatte valtavan tuotevastuuriskin, jos tuotteenne mahdollistavat todella vahingollisen kyberhyökkäyksen." David Krueger, tekoälyprofessori, turvallisuuskampanjoija ja Britannian hallituksen AI Security Instituten entinen perustajajohtaja, sanoi: "Tämä suunnitelma ei vähennä riskiä hyväksyttävälle tasolle, eikä Dario varo sanomasta, että se tekisi niin." Kuningas Charles valmistautuu sillä välin tapaamaan merkittävimpien tekoäly-yhtiöiden johtavia henkilöitä tällä viikolla kysyäkseen heiltä, miten teknologiaa voidaan kehittää "ihmiskunnan hyväksi". Hän toivoo, että Skotlannissa pidettävät keskustelut johtavat "laajempaan ymmärrykseen" tekoälyn kehittämisen "vastuista", Sunday TiA royal source kertoi lehdelle: "Kuningas on paikalla koollekutsujana, kuuntelijana ja kannustajana näihin keskusteluihin ja esittääkseen kysymyksen: 'Miten kehitämme tekoälyä ihmiskunnan hyväksi?'"
Jensen Huang, Nvidian toimitusjohtaja, Hassabis, Niccolo de Masi, IonQ:n puheenjohtaja ja toimitusjohtaja, sekä Paolo Benanti, paavin neuvonantaja tekoäly- ja teknologiaetiikan kysymyksissä, odotetaan osallistuvan Ditchley Foundationin valvomaan tapahtumaan, joka on laatinut luonnoksen peruskirjaksi tekoälyjohtajille.
OpenAI:n tutkija Aidan McLaughlin kutsui Amodein esseetä "erinomaiseksi" ja sanoi olevansa samaa mieltä "käytännössä joka sanasta".
Amodei sanoi, että hänen yhtiönsä sitoutuisi "yksipuolisesti" ensimmäiseen vaiheeseen, sanoen, että Anthropic tarjoaisi "kolmannen osapuolen arvioijille pysyvän, työntekijätasoisen pääsyn järjestelmiimme, jotta he voivat varmistaa turvatoimenpiteidemme noudattamisen, raportoida tapauksista ja arvioida mallien kohdistusta koulutuksen aikana".
Kasvava määrä Yhdysvaltain lainsäätäjiä vaatii uusia sääntöjä tekoälyjärjestelmien hallintaan sen jälkeen, kun tapauksia tekoälyagenttien omavaltaisesta toiminnasta ulkoisten järjestelmien hakkeroimiseksi ja tekoälyn turvallisuustutkijoiden eroamisesta yhtiöistään teknologian riskejä koskevien huolien vuoksi. Poliitikot, sekä demokraatit että republikaanit, ovat vastanneet hälytyksellä ja vaatimuksilla lisätoimista. Viikonloppuna New York Times raportoi, että Barack Obama kehotti torstaina yksityisesti demokraatteja priorisoimaan tekoälyn valvonnan agendallaan, sanoen puolueen johtajille torstaina: "Tämä on asia, joka liikkuu hyvin nopeasti yksityisissä käsissä, ja jos emme saa sitä hallintaan, uskon sen voivan olla vaarallista."
Entinen Britannian pääministeri Rishi Sunak, joka neuvoo Anthropicia, kirjoitti sunnuntaina: "Meillä on ollut herätys ottaa tekoälyn turvallisuus vakavammin, selvittää miten asettaa rajoja tutkimukselle. Jos hallitukset eivät huomioi tätä, vakavan onnettomuuden riski tulee hyväksymättömän korkeaksi."
Keskiviikkona entinen Anthropic-työntekijä oli varoittanut, että tekoäly voisi aiheuttaa ihmiskunnan sukupuuttoon vuoteen 2030 mennessä. Tutkija Jacob Coxon sanoi sarjassa julkaisuja, että hän oli eronnut työstään, koska Anthropic ja hänen aiempi työnantajansa OpenAI jättivät huomiotta tai hoitivat huonosti vastauksensa tekoälyn muodostamaan uhkaan.
Kysyttäessä kommenttia entisen työntekijänsä näkemyksestä Amodei sanoi: "Olen samaa mieltä Jacobin kanssa paljon enemmän kuin eri mieltä … Uskon, että on jonkinlainen mahdollisuus, että asiat menevät pieleen, mutta se ei ole kovin korkea."
"En ole doomilainen tässä asiassa", hän kertoi CNN:lle. "Uskon, että tämä teknologia voidaan rakentaa turvallisesti."
Usein kysytyt kysymykset
UKK OpenAIn toimitusjohtaja Elon Musk ja kehotukset hidastaa vastuutonta tekoälyn kehitystä
Perusteet
Mistä tässä kaikessa on kyse
Maaliskuussa 2023 Elon Musk ja yli 1000 teknologiajohtajaa allekirjoittivat avoimen kirjeen, jossa vaadittiin 6 kuukauden taukoa GPT-4:ää tehokkaampien tekoälyjärjestelmien kouluttamiseen OpenAIn toimitusjohtaja Sam Altman on myös varoittanut tekoälyn riskeistä, vaikka hän ei allekirjoittanut kirjettä
Kuka on Sam Altman
Hän on OpenAIn toimitusjohtaja, yhtiön ChatGPT:n ja GPT-4:n takana
Kuka on Elon Musk
Teslan ja SpaceX:n toimitusjohtaja, X:n omistaja ja hauska fakta OpenAIn toinen perustaja, joka lähti hallituksesta vuonna 2018
Mistä kirjeestä ihmiset puhuvat
Future of Life Instituten avoin kirje nimeltä Pause Giant AI Experiments, julkaistu maaliskuussa 2023
Mitä kirje itse asiassa vaati
6 kuukauden taukoa GPT-4:ää tehokkaampien tekoälyjärjestelmien kouluttamiseen, jotta turvallisuusstandardit voitaisiin kehittää ensin
Miksi allekirjoittajat kutsuivat tekoälyn kehitystä vastuuttomaksi
He väittivät, että yhtiöt kilpailevat eteenpäin tietämättä, voisiko kehittynyttä tekoälyä käyttää väärin tai tulisiko siitä vaikeasti hallittavaa
Keskeiset henkilöt
Allekirjoittiko Sam Altman taukokirjeen
Ei OpenAI ei allekirjoittanut sitä, ja Altman sanoi olevansa samaa mieltä osista siitä mutta ajatteli, ettei tauko ollut oikea lähestymistapa
Joten ajatteleeko Altman, että tekoäly on vaarallista
Kyllä Hän on toistuvasti sanonut, että tekoäly voi aiheuttaa vakavaa haittaa, ja on pyytänyt hallituksia sääntelemään sitä
Jos molemmat huolestuvat tekoälystä, miksi he eivät ole samalla puolella
Musk haluaa hidastaa asioita Altman haluaa jatkaa rakentamista mutta varovasti ja ajaa turvallisuussääntöjä matkan varrella
Onko Musk edelleen mukana OpenAIssa
Ei Hän lähti hallituksesta vuonna 2018 ja haastoi myöhemmin OpenAIn oikeuteen väittäen sen ajautuneen pois voittoa tavoittelemattomasta tehtävästään
Allekirjoittiko Musk sen itse
Kyllä hän oli yksi näkyvimmistä allekirjoittajista
Yleiset kysymykset ja huolet
Toimisiko 6 kuukauden tauko edes
Todennäköisesti ei yksinään Kriitikot sanovat, että yhtiöt eivät lopettaisi vapaaehtoisesti, eikä ole globaalia elintä, joka valvoisi sitä
Miksi jotkut asiantuntijat vastustavat taukoa
He väittävät, että tauko olisi täytäntöönpanokelvoton ja hidastaisi hyödyllisiä tekoälyn hyötyjä
OpenAI:n toimitusjohtaja ja Elon Musk tukevat kehotuksia hidastaa "vastuutonta" tekoälyn kehitystä.
