Sam Altman og Elon Musk har støttet en oppfordring fra Anthropics administrerende direktør Dario Amodei om å «senke tempoet» i AI-utviklingen, etter at han advarte om at en AI-sverm ellers kunne bli i stand til å «ta over hele internett» innen et år. I en sjelden visning av enhet støttet de rivaliserende teknologilederne appellen fra grunnleggeren og sjefen for AI-selskapet Anthropic, som fulgte en serie advarsler fra AI-forskere forrige uke. I et essay la Amodei frem sine tanker om «hvorfor AI-industrien bør senke ned», med en tredelt plan, som starter med å gi uavhengige overvåkere konstant tilgang til utviklernes forskningsprosesser. Amodei sa at «å bygge [AI] for raskt er uansvarlig» og fryktet at etter at hundrevis av OpenAI-agenter hacket seg inn på Hugging Face-nettstedet i sommer, kunne en sverm med større kapasiteter, men tilsvarende feiljustert, forårsake hundrevis av milliarder dollar i skade ved å «ta over hele internett med et vedvarende botnett.» Noen AI-eksperter bestred dette som ikke spesielt sannsynlig og sa det burde behandles med skepsis. Musk, grunnleggeren av Tesla og SpaceX, svarte på Amodeis nedbremsingsplan med et innlegg på X: «Dario har rett.» Han sa: «Jeg har slått alarm om AI i lang tid,» og viste til et innlegg fra 2014 hvor han sa: «Vi må være superforsiktige med AI. Potensielt farligere enn atomvåpen.» Amodeis oppfordring kommer mens Anthropic forbereder seg på å børsnoteres på det amerikanske aksjemarkedet, i det som forventes å bli den største børsnoteringen gjennom tidene. Det forventes å starte markedsføringen av sin planlagte børsnotering på over 2 billioner dollar (1,5 billioner pund) snart. Se bildet i fullskjermFra venstre til høyre: Elon Musk, Dario Amodei og Sam Altman. Foto: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, administrerende direktør i OpenAI, svarte på Amodeis kommentarer lørdag. «Jeg er enig med Dario i at vi må styre tempoet ved fronten,» sa han i et innlegg på X. «Å forplikte seg til å ha uavhengige evaluatorer med ansattlignende tilgang er en god idé, og vi vil gjøre det samme. Vi vil ha mer å dele snart.» Han sa også at OpenAI ikke ville børsnoteres i 2026, med henvisning til sikkerhetsbekymringer rundt kunstig intelligens. «Jeg tror faktisk at gitt alt som skjer med sikkerhet, ville nåværende tidspunkt være et uklokt øyeblikk å børsnoteres, og vi føler ikke press på det,» sa Altman til Fortune. Da han ble spurt om hvorfor han, Amodei, Musk og sjefene for Meta og Google ikke satte seg ned og «kom på samme side» om en kollektiv nedbremsing, sa han: «Jeg tror det vil skje.» OpenAI-børsnotering vil ikke skje i 2026 midt i AI-sikkerhetsfrykt, sier Sam AltmanLes merDemis Hassabis, medgrunnlegger og styreleder i Google Deep Mind, sa også: «Detaljene må bearbeides, men retningen er riktig for å møte dette kritiske øyeblikket.» Amodeis plan søker en fritakelse fra den amerikanske regjeringen for å tillate frontlinje-AI-selskaper å koordinere uten å bli straffet for konkurransebegrensende samarbeid. Men David Sacks, en medleder av Donald Trumps råd for vitenskap og teknologi, sa: «Slutt å late som om du trenger noen andres tillatelse … Slutt å late som om motivasjonen for å senke ned er rent altruistisk. Du står overfor massiv produktansvarseksponering hvis produktene dine muliggjør et virkelig skadelig cyberangrep.» David Krueger, en AI-professor, sikkerhetskampanjer og tidligere grunnleggende direktør for det britiske regjeringens AI Security Institute, sa: «Denne planen reduserer ikke risikoen til et akseptabelt nivå, og Dario er nøye med å ikke si at den ville gjøre det.» Kong Charles forbereder seg i mellomtiden på å møte ledende skikkelser fra de mest fremtredende AI-selskapene denne uken for å spørre dem hvordan teknologien kan utvikles for «menneskehetens beste.» Han håper diskusjonene, som skal holdes i Skottland, vil føre til en «bredere forståelse» av «ansvaret» ved å utvikle AI, ifølge Sunday TiEn kongelig kilde fortalte avisen: «Kongen er der for å sammenkalle, lytte og oppmuntre disse diskusjonene og for å stille spørsmålet: 'Hvordan utvikler vi AI for menneskehetens beste?'»
Jensen Huang, Nvidias administrerende direktør, Hassabis, Niccolo de Masi, styreleder og administrerende direktør i IonQ, og Paolo Benanti, en rådgiver for paven om AI- og teknologietikk, forventes å delta på arrangementet som overvåkes av Ditchley Foundation, som har utarbeidet et utkast til charter for AI-ledere.
OpenAI-forskeren Aidan McLaughlin kalte Amodeis essay «utmerket» og sa han var enig «med praktisk talt hvert ord.»
Amodei sa at selskapet hans ville «ensidig» forplikte seg til det første av trinnene, og sa at Anthropic ville gi «tredjepartsevaluatorer permanent tilgang på ansattnivå til våre systemer, slik at de kan verifisere overholdelse av våre sikkerhetstiltak, rapportere om hendelser og vurdere modellers tilpasning under trening.»
Et økende antall amerikanske lovgivere krever nye regler for å styre AI-systemer etter tilfeller der AI-agenter har gått berserk og hacket eksterne systemer, og AI-sikkerhetsforskere har sluttet i selskapene sine på grunn av bekymring for teknologiens risikoer. Politikere, både demokrater og republikanere, har respondert med alarm og krav om mer handling. I helgen rapporterte New York Times at Barack Obama torsdag privat oppfordret demokratene til å prioritere AI-tilsyn i agendaen sin, og sa til partiledere torsdag: «Dette er noe som beveger seg veldig raskt i private hender, og hvis vi ikke får kontroll over det, tror jeg det kan være farlig.»
Den tidligere britiske statsministeren Rishi Sunak, som er rådgiver for Anthropic, skrev søndag: «Vi har fått en vekker til å ta AI-sikkerhet mer alvorlig, til å finne ut hvordan vi setter grenser for forskning. Hvis regjeringer ikke tar hensyn til dette, vil risikoen for en alvorlig ulykke bli uakseptabelt høy.»
På onsdag hadde en tidligere Anthropic-ansatt advart om at AI kunne fremskynde menneskets utryddelse innen 2030. Forskeren, Jacob Coxon, sa i en serie innlegg at han hadde sluttet i jobben fordi Anthropic og hans tidligere arbeidsgiver, OpenAI, ignorerte eller håndterte responsen på trusselen AI utgjorde feil.
Da han ble bedt om å kommentere sin tidligere ansattes syn, sa Amodei: «Jeg er enig med Jacob mye mer enn jeg er uenig med ham … Jeg tror det er en viss sjanse for at ting går galt, men den er ikke så høy.»
«Jeg er ikke en dommedagsprofet om dette,» sa han til CNN. «Jeg tror denne teknologien kan bygges trygt.»
Ofte stilte spørsmål
FAQs OpenAIs CEO Elon Musk og oppfordringer om å bremse uansvarlig AI-utvikling
Det grunnleggende
Hva handler dette egentlig om
I mars 2023 signerte Elon Musk og over 1000 teknologiledere et åpent brev som ba om en 6-måneders pause i trening av AI-systemer kraftigere enn GPT-4 OpenAIs CEO Sam Altman har også advart om AI-risikoer selv om han ikke signerte brevet
Hvem er Sam Altman
Han er CEO i OpenAI selskapet bak ChatGPT og GPT-4
Hvem er Elon Musk
CEO i Tesla og SpaceX eier av X og morsomt faktum en medgrunnlegger av OpenAI som forlot styret i 2018
Hvilket brev snakker folk om
Et åpent brev fra Future of Life Institute med tittelen Pause Giant AI Experiments publisert i mars 2023
Hva ba brevet faktisk om
En 6-måneders pause i trening av AI-systemer kraftigere enn GPT-4 slik at sikkerhetsstandarder kunne utvikles først
Hvorfor kalte signatarene AI-utvikling uansvarlig
De argumenterte for at selskaper raste videre uten å vite om avansert AI kunne misbrukes eller bli vanskelig å kontrollere
Nøkkelfigurene
Signerte Sam Altman pausebrevet
Nei OpenAI signerte det ikke og Altman sa han var enig i deler av det men mente en pause ikke var riktig tilnærming
Så mener Altman at AI er farlig
Ja Han har gjentatte ganger sagt at AI kan forårsake alvorlig skade og har bedt regjeringer om å regulere det
Hvis begge er bekymret for AI hvorfor er de ikke på samme side
Musk vil senke tempoet Altman vil fortsette å bygge men forsiktig og presse på for sikkerhetsregler underveis
Er Musk fortsatt involvert i OpenAI
Nei Han forlot styret i 2018 og saksøkte senere OpenAI og hevdet at det hadde fjernet seg fra sitt ideelle formål
Signerte Musk det selv
Ja han var en av de mest fremtredende signatarene
Vanlige spørsmål og bekymringer
Ville en 6-måneders pause i det hele tatt fungere
Sannsynligvis ikke alene Kritikere sier at selskaper ikke ville stoppe frivillig og det finnes ikke noe globalt organ som håndhever det
Hvorfor motsetter noen eksperter seg pausen
De argumenterer for at pausen ville være uhåndhevbar og bremse nyttige AI-fordeler
