OpenAI:n toimitusjohtaja ja Elon Musk tukevat kehotuksia hidastaa "vastuutonta" tekoälyn kehitystä.

Sam Altman ja Elon Musk ovat tukeneet Anthropic-toimitusjohtaja Dario Amodein kehotusta "hidastaa" tekoälyn kehitystä, sen jälkeen kun hän varoitti, että tekoälyparvi voisi muuten kyetä "ottamaan haltuunsa koko internetin" vuoden kuluessa. Harvinaisessa yhtenäisyyden osoituksessa kilpailevat teknologiajohtajat tukivat tekoäly-yhtiö Anthropicin perustajan ja toimitusjohtajan vetoomusta, joka seurasi joukkoa tekoälytutkijoiden varoituksia viime viikolla. Esseessä Amodei esitti ajatuksensa siitä, "miksi tekoälyteollisuuden tulisi hidastaa", kolmiosaisella suunnitelmalla, alkaen siitä, että riippumattomille valvojille annetaan jatkuva pääsy kehittäjien tutkimusprosesseihin. Amodei sanoi, että "[tekoälyn] rakentaminen liian nopeasti on vastuutonta", ja pelkäsi, että sen jälkeen kun sadat OpenAI-agentit hakkeroituivat Hugging Face -verkkosivustolle tänä kesänä, parvi, jolla on suuremmat kyvyt mutta samankaltainen kohdistusvirhe, voisi aiheuttaa satojen miljardien dollarien vahingot "ottamalla haltuunsa koko internetin pysyvällä botnetillä". Jotkut tekoälyasiantuntijat kiistivät tämän erityisen uskottavana ja sanoivat, että siihen tulisi suhtautua skeptisesti. Musk, Teslan ja SpaceX:n perustaja, vastasi Amodein hidastamissuunnitelmaan julkaisulla X:ssä: "Dario on oikeassa." Hän sanoi: "Olen soittanut hälytyskelloja tekoälystä pitkään", ja viittasi vuoden 2014 julkaisuun, jossa hän sanoi: "Meidän on oltava erittäin varovaisia tekoälyn kanssa. Mahdollisesti vaarallisempi kuin ydinaseet." Amodein kehotus tulee, kun Anthropic valmistautuu listautumaan Yhdysvaltain osakemarkkinoille, mikä odotetaan olevan kaikkien aikojen suurin listautumisanti. Sen odotetaan aloittavan pian suunnitellun 2 biljoonan dollarin (1,5 biljoonaa puntaa) listautumisannin markkinoinnin. Näytä kuva kokoruudussaVasemmalta oikealle: Elon Musk, Dario Amodei ja Sam Altman. Kuva: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, OpenAI:n toimitusjohtaja, vastasi Amodein kommentteihin lauantaina. "Olen samaa mieltä Darion kanssa siitä, että meidän on tahdistettava eturintamaa", hän sanoi julkaisussa X:ssä. "Sitoutuminen siihen, että riippumattomilla arvioijilla on työntekijän kaltainen pääsy, on loistava idea, ja teemme samoin. Meillä on pian enemmän jaettavaa." Hän sanoi myös, että OpenAI ei listaudu vuonna 2026, vedoten tekoälyn turvallisuushuoliin. "Itse asiassa ajattelen, että ottaen huomioon kaiken turvallisuuden kanssa tapahtuvan, juuri nyt olisi epäviisas hetki listautua, emmekä tunne painetta siitä", Altman kertoi Fortune-lehdelle. Kysyttäessä, miksi hän, Amodei, Musk sekä Metan ja Googlen toimitusjohtajat eivät istu alas ja "pääse samalle sivulle" kollektiivisesta hidastamisesta, hän sanoi: "Uskon, että niin tapahtuu." OpenAI:n listautumisanti ei tapahdu vuonna 2026 tekoälyn turvallisuushuolien keskellä, sanoo Sam AltmanLue lisääDemis Hassabis, Google Deep Mindin toinen perustaja ja puheenjohtaja, sanoi myös: "Yksityiskohdat on työstettävä läpi, mutta suunta on oikea tämän kriittisen hetken kohtaamiseksi." Amodein suunnitelma pyrkii saamaan Yhdysvaltain hallitukselta poikkeuksen, joka sallisi eturintaman tekoäly-yhtiöiden koordinoida ilman, että niitä rangaistaan kilpailunvastaisesta yhteistoiminnasta. Mutta David Sacks, Donald Trumpin tiede- ja teknologianeuvonantajaneuvoston toinen puheenjohtaja, sanoi: "Lopettakaa teeskentelemästä, että tarvitsette jonkun muun lupaa … Lopettakaa teeskentelemästä, että motiivi hidastaa on puhtaasti altruistinen. Kohtaatte valtavan tuotevastuuriskin, jos tuotteenne mahdollistavat todella vahingollisen kyberhyökkäyksen." David Krueger, tekoälyprofessori, turvallisuuskampanjoija ja Britannian hallituksen AI Security Instituten entinen perustajajohtaja, sanoi: "Tämä suunnitelma ei vähennä riskiä hyväksyttävälle tasolle, eikä Dario varo sanomasta, että se tekisi niin." Kuningas Charles valmistautuu sillä välin tapaamaan merkittävimpien tekoäly-yhtiöiden johtavia henkilöitä tällä viikolla kysyäkseen heiltä, miten teknologiaa voidaan kehittää "ihmiskunnan hyväksi". Hän toivoo, että Skotlannissa pidettävät keskustelut johtavat "laajempaan ymmärrykseen" tekoälyn kehittämisen "vastuista", Sunday TiA royal source kertoi lehdelle: "Kuningas on paikalla koollekutsujana, kuuntelijana ja kannustajana näihin keskusteluihin ja esittääkseen kysymyksen: 'Miten kehitämme tekoälyä ihmiskunnan hyväksi?'"

Jensen Huang, Nvidian toimitusjohtaja, Hassabis, Niccolo de Masi, IonQ:n puheenjohtaja ja toimitusjohtaja, sekä Paolo Benanti, paavin neuvonantaja tekoäly- ja teknologiaetiikan kysymyksissä, odotetaan osallistuvan Ditchley Foundationin valvomaan tapahtumaan, joka on laatinut luonnoksen peruskirjaksi tekoälyjohtajille.

OpenAI:n tutkija Aidan McLaughlin kutsui Amodein esseetä "erinomaiseksi" ja sanoi olevansa samaa mieltä "käytännössä joka sanasta".

Amodei sanoi, että hänen yhtiönsä sitoutuisi "yksipuolisesti" ensimmäiseen vaiheeseen, sanoen, että Anthropic tarjoaisi "kolmannen osapuolen arvioijille pysyvän, työntekijätasoisen pääsyn järjestelmiimme, jotta he voivat varmistaa turvatoimenpiteidemme noudattamisen, raportoida tapauksista ja arvioida mallien kohdistusta koulutuksen aikana".

Kasvava määrä Yhdysvaltain lainsäätäjiä vaatii uusia sääntöjä tekoälyjärjestelmien hallintaan sen jälkeen, kun tapauksia tekoälyagenttien omavaltaisesta toiminnasta ulkoisten järjestelmien hakkeroimiseksi ja tekoälyn turvallisuustutkijoiden eroamisesta yhtiöistään teknologian riskejä koskevien huolien vuoksi. Poliitikot, sekä demokraatit että republikaanit, ovat vastanneet hälytyksellä ja vaatimuksilla lisätoimista. Viikonloppuna New York Times raportoi, että Barack Obama kehotti torstaina yksityisesti demokraatteja priorisoimaan tekoälyn valvonnan agendallaan, sanoen puolueen johtajille torstaina: "Tämä on asia, joka liikkuu hyvin nopeasti yksityisissä käsissä, ja jos emme saa sitä hallintaan, uskon sen voivan olla vaarallista."

Entinen Britannian pääministeri Rishi Sunak, joka neuvoo Anthropicia, kirjoitti sunnuntaina: "Meillä on ollut herätys ottaa tekoälyn turvallisuus vakavammin, selvittää miten asettaa rajoja tutkimukselle. Jos hallitukset eivät huomioi tätä, vakavan onnettomuuden riski tulee hyväksymättömän korkeaksi."

Keskiviikkona entinen Anthropic-työntekijä oli varoittanut, että tekoäly voisi aiheuttaa ihmiskunnan sukupuuttoon vuoteen 2030 mennessä. Tutkija Jacob Coxon sanoi sarjassa julkaisuja, että hän oli eronnut työstään, koska Anthropic ja hänen aiempi työnantajansa OpenAI jättivät huomiotta tai hoitivat huonosti vastauksensa tekoälyn muodostamaan uhkaan.

Kysyttäessä kommenttia entisen työntekijänsä näkemyksestä Amodei sanoi: "Olen samaa mieltä Jacobin kanssa paljon enemmän kuin eri mieltä … Uskon, että on jonkinlainen mahdollisuus, että asiat menevät pieleen, mutta se ei ole kovin korkea."

"En ole doomilainen tässä asiassa", hän kertoi CNN:lle. "Uskon, että tämä teknologia voidaan rakentaa turvallisesti."

Usein kysytyt kysymykset
UKK OpenAIn toimitusjohtaja Elon Musk ja kehotukset hidastaa vastuutonta tekoälyn kehitystä



Perusteet



Mistä tässä kaikessa on kyse

Maaliskuussa 2023 Elon Musk ja yli 1000 teknologiajohtajaa allekirjoittivat avoimen kirjeen, jossa vaadittiin 6 kuukauden taukoa GPT-4:ää tehokkaampien tekoälyjärjestelmien kouluttamiseen OpenAIn toimitusjohtaja Sam Altman on myös varoittanut tekoälyn riskeistä, vaikka hän ei allekirjoittanut kirjettä



Kuka on Sam Altman

Hän on OpenAIn toimitusjohtaja, yhtiön ChatGPT:n ja GPT-4:n takana



Kuka on Elon Musk

Teslan ja SpaceX:n toimitusjohtaja, X:n omistaja ja hauska fakta OpenAIn toinen perustaja, joka lähti hallituksesta vuonna 2018



Mistä kirjeestä ihmiset puhuvat

Future of Life Instituten avoin kirje nimeltä Pause Giant AI Experiments, julkaistu maaliskuussa 2023



Mitä kirje itse asiassa vaati

6 kuukauden taukoa GPT-4:ää tehokkaampien tekoälyjärjestelmien kouluttamiseen, jotta turvallisuusstandardit voitaisiin kehittää ensin



Miksi allekirjoittajat kutsuivat tekoälyn kehitystä vastuuttomaksi

He väittivät, että yhtiöt kilpailevat eteenpäin tietämättä, voisiko kehittynyttä tekoälyä käyttää väärin tai tulisiko siitä vaikeasti hallittavaa



Keskeiset henkilöt



Allekirjoittiko Sam Altman taukokirjeen

Ei OpenAI ei allekirjoittanut sitä, ja Altman sanoi olevansa samaa mieltä osista siitä mutta ajatteli, ettei tauko ollut oikea lähestymistapa



Joten ajatteleeko Altman, että tekoäly on vaarallista

Kyllä Hän on toistuvasti sanonut, että tekoäly voi aiheuttaa vakavaa haittaa, ja on pyytänyt hallituksia sääntelemään sitä



Jos molemmat huolestuvat tekoälystä, miksi he eivät ole samalla puolella

Musk haluaa hidastaa asioita Altman haluaa jatkaa rakentamista mutta varovasti ja ajaa turvallisuussääntöjä matkan varrella



Onko Musk edelleen mukana OpenAIssa

Ei Hän lähti hallituksesta vuonna 2018 ja haastoi myöhemmin OpenAIn oikeuteen väittäen sen ajautuneen pois voittoa tavoittelemattomasta tehtävästään



Allekirjoittiko Musk sen itse

Kyllä hän oli yksi näkyvimmistä allekirjoittajista



Yleiset kysymykset ja huolet



Toimisiko 6 kuukauden tauko edes

Todennäköisesti ei yksinään Kriitikot sanovat, että yhtiöt eivät lopettaisi vapaaehtoisesti, eikä ole globaalia elintä, joka valvoisi sitä



Miksi jotkut asiantuntijat vastustavat taukoa

He väittävät, että tauko olisi täytäntöönpanokelvoton ja hidastaisi hyödyllisiä tekoälyn hyötyjä