Sam Altman og Elon Musk har støttet en opfordring fra Anthropics administrerende direktør Dario Amodei om at "sænke tempoet" i AI-udviklingen, efter at han advarede om, at en AI-sværm ellers kunne blive i stand til at "overtage hele internettet" inden for et år. I en sjælden demonstration af enhed støttede de rivaliserende teknologiledere opfordringen fra grundlæggeren og den administrerende direktør for AI-virksomheden Anthropic, som fulgte efter en række advarsler fra AI-forskere i sidste uge. I et essay fremlagde Amodei sine tanker om "hvorfor AI-industrien bør sænke farten", med en tredelt plan, der starter med at give uafhængige overvågere konstant adgang til udviklernes forskningsprocesser. Amodei sagde, at det er "hensynsløst at bygge [AI] for hurtigt", og frygtede, at efter hundreder af OpenAI-agenter hackede sig ind på Hugging Face-webstedet i sommer, kunne en sværm med større kapaciteter, men tilsvarende fejljusteret, forårsage hundreder af milliarder dollars i skade ved at "overtage hele internettet med et vedvarende botnet." Nogle AI-eksperter bestred dette som ikke særligt sandsynligt og sagde, at det burde behandles med skepsis. Musk, grundlæggeren af Tesla og SpaceX, svarede på Amodeis nedbremsningsplan med et opslag på X: "Dario har ret." Han sagde: "Jeg har slået alarm om AI i lang tid," og henviste til et opslag fra 2014, hvor han sagde: "Vi skal være superforsigtige med AI. Potentielt farligere end atomvåben." Amodeis opfordring kommer, mens Anthropic forbereder sig på at blive børsnoteret på det amerikanske aktiemarked, i det der forventes at blive den største børsnotering nogensinde. Det forventes at begynde markedsføringen af sin planlagte børsnotering på over 2 billioner dollars (1,5 billioner pund) snart. Se billede i fuld skærmFra venstre mod højre: Elon Musk, Dario Amodei og Sam Altman. Fotografi: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, administrerende direktør for OpenAI, svarede på Amodeis kommentarer i lørdags. "Jeg er enig med Dario i, at vi skal sætte tempoet for fronten," sagde han i et opslag på X. "At forpligte sig til at have uafhængige evaluatorer med medarbejderlignende adgang er en god idé, og det vil vi gøre det samme. Vi har mere at dele snart." Han sagde også, at OpenAI ikke ville blive børsnoteret i 2026 med henvisning til sikkerhedsbekymringer om kunstig intelligens. "Jeg mener faktisk, at givet alt det, der sker med sikkerhed, ville det lige nu være et uklogt tidspunkt at blive børsnoteret, og vi føler ikke pres for det," sagde Altman til Fortune. Adspurgt om, hvorfor han, Amodei, Musk og de administrerende direktører for Meta og Google ikke satte sig ned og "kom på samme side" om en kollektiv nedbremsning, sagde han: "Jeg tror, det vil ske." OpenAI-børsnotering vil ikke ske i 2026 midt i AI-sikkerhedsfrygt, siger Sam AltmanLæs mereDemis Hassabis, medgrundlægger og formand for Google Deep Mind, sagde også: "Detaljerne skal arbejdes igennem, men retningen er korrekt for at imødekomme dette kritiske øjeblik." Amodeis plan søger en dispensation fra den amerikanske regering for at tillade førende AI-virksomheder at koordinere uden at blive straffet for konkurrencebegrænsende samarbejde. Men David Sacks, en medformand for Donald Trumps råd af rådgivere om videnskab og teknologi, sagde: "Stop med at lade som om, du har brug for andres tilladelse ... Stop med at lade som om, motivationen for at sænke farten er rent altruistisk. Du står over for massiv produktansvarseksponering, hvis dine produkter muliggør et virkelig skadeligt cyberangreb." David Krueger, en AI-professor, sikkerhedskampagneleder og tidligere grundlæggende direktør for den britiske regerings AI Security Institute, sagde: "Denne plan reducerer ikke risikoen til et acceptabelt niveau, og Dario er omhyggelig med ikke at sige, at den ville gøre det." Kong Charles forbereder sig i mellemtiden på at møde førende skikkelser fra de mest fremtrædende AI-virksomheder i denne uge for at spørge dem, hvordan teknologien kan udvikles til "menneskets bedste." Han håber, at diskussionerne, der skal holdes i Skotland, vil føre til en "bredere forståelse" af "ansvaret" ved at udvikle AI, fortalte en kongelig kilde til Sunday TiA: "Kongen er der for at sammenkalde, lytte og opmuntre til disse diskussioner og for at stille spørgsmålet: 'Hvordan udvikler vi AI til menneskets bedste?'"
Jensen Huang, Nvidias administrerende direktør, Hassabis, Niccolo de Masi, formand og administrerende direktør for IonQ, og Paolo Benanti, en rådgiver for paven om AI- og teknologietikspørgsmål, forventes at deltage i begivenheden under ledelse af Ditchley Foundation, som har udarbejdet et udkast til charter for AI-ledere.
OpenAI-forskeren Aidan McLaughlin kaldte Amodeis essay "fremragende" og sagde, at han var enig "med stort set hvert ord."
Amodei sagde, at hans virksomhed "unilateralt" ville forpligte sig til det første af trinene og sagde, at Anthropic ville give "tredjepartsevaluatorer permanent adgang på medarbejderniveau til vores systemer, så de kan verificere overholdelse af vores sikkerhedsforanstaltninger, rapportere om hændelser og vurdere modellers alignment under træning."
Et stigende antal amerikanske lovgivere opfordrer til nye regler for at styre AI-systemer efter tilfælde, hvor AI-agenter er gået amok og har hacket eksterne systemer, og AI-sikkerhedsforskere har sagt op i deres virksomheder på grund af bekymringer om teknologiens risici. Politikere, både demokrater og republikanere, har reageret med alarm og opfordringer til mere handling. I weekenden rapporterede New York Times, at Barack Obama i torsdags privat opfordrede demokraterne til at prioritere AI-tilsyn på deres dagsorden og sagde til partiledere i torsdags: "Dette er noget, der bevæger sig meget hurtigt i private hænder, og hvis vi ikke får styr på det, tror jeg, det kan være farligt."
Den tidligere britiske premierminister Rishi Sunak, som rådgiver Anthropic, skrev i søndags: "Vi har fået en vækkelse til at tage AI-sikkerhed mere alvorligt, til at finde ud af, hvordan man sætter grænser for forskning. Hvis regeringer ikke lytter til dette, vil risikoen for en alvorlig ulykke blive uacceptabelt høj."
Onsdag havde en tidligere Anthropic-medarbejder advaret om, at AI kunne fremskynde menneskets udryddelse inden 2030. Forskeren, Jacob Coxon, sagde i en række opslag, at han havde sagt sit job op, fordi Anthropic og hans tidligere arbejdsgiver, OpenAI, ignorerede eller håndterede deres reaktion på den trussel, AI udgjorde, dårligt.
Adspurgt om sin tidligere medarbejders synspunkt sagde Amodei: "Jeg er enig med Jacob meget mere, end jeg er uenig med ham ... Jeg tror, der er en vis chance for, at tingene går galt, men den er ikke så høj."
"Jeg er ikke en dommedagsprofet om dette," sagde han til CNN. "Jeg tror, denne teknologi kan bygges sikkert."
Ofte stillede spørgsmål
Ofte stillede spørgsmål OpenAIs administrerende direktør Elon Musk og opfordringer til at bremse hensynsløs AI-udvikling
Det grundlæggende
Hvad handler det hele om
I marts 2023 underskrev Elon Musk og over 1000 teknologiledere et åbent brev, der opfordrede til en 6-måneders pause i træningen af AI-systemer, der er mere kraftfulde end GPT-4. OpenAIs administrerende direktør Sam Altman har også advaret om AI-risici, selvom han ikke underskrev brevet
Hvem er Sam Altman
Han er administrerende direktør for OpenAI, virksomheden bag ChatGPT og GPT-4
Hvem er Elon Musk
Administrerende direktør for Tesla og SpaceX, ejer af X og – sjovt nok – en medgrundlægger af OpenAI, som forlod bestyrelsen i 2018
Hvilket brev taler folk om
Et åbent brev fra Future of Life Institute med titlen "Pause Giant AI Experiments", offentliggjort i marts 2023
Hvad bad brevet faktisk om
En 6-måneders pause i træningen af AI-systemer, der er mere kraftfulde end GPT-4, så sikkerhedsstandarder først kunne udvikles
Hvorfor kaldte underskriverne AI-udvikling hensynsløs
De argumenterede for, at virksomheder styrtede frem uden at vide, om avanceret AI kunne misbruges eller blive svær at kontrollere
De centrale personer
Underskrev Sam Altman pausebrevet
Nej, OpenAI underskrev det ikke, og Altman sagde, at han var enig i dele af det, men mente, at en pause ikke var den rigtige tilgang
Så mener Altman, at AI er farlig
Ja. Han har gentagne gange sagt, at AI kan forårsage alvorlig skade, og har bedt regeringer om at regulere det
Hvis begge er bekymrede for AI, hvorfor er de så ikke på samme side
Musk vil sænke farten, Altman vil fortsætte med at bygge – men forsigtigt – og presse på for sikkerhedsregler undervejs
Er Musk stadig involveret i OpenAI
Nej. Han forlod bestyrelsen i 2018 og sagsøgte senere OpenAI med påstand om, at det var drevet væk fra sin nonprofmission
Underskrev Musk det selv
Ja, han var en af de mest fremtrædende underskrivere
Almindelige spørgsmål og bekymringer
Ville en 6-måneders pause overhovedet virke
Sandsynligvis ikke alene. Kritikere siger, at virksomheder ikke ville stoppe frivilligt, og der er ikke noget globalt organ til at håndhæve det
Hvorfor modsætter nogle eksperter sig pausen
De argumenterer for, at pausen ikke ville kunne håndhæves, og at den ville bremse nyttige AI-fordele
