Sam Altman ed Elon Musk hanno sostenuto l'appello del CEO di Anthropic Dario Amodei a "rallentare il ritmo" dello sviluppo dell'IA, dopo che questi ha avvertito che altrimenti uno sciame di IA potrebbe diventare capace di "impadronirsi dell'intera internet" entro un anno. In una rara dimostrazione di unità, i rivali leader tecnologici hanno sostenuto l'appello del fondatore e amministratore delegato dell'azienda di IA Anthropic, che ha fatto seguito a una serie di avvertimenti da parte di ricercatori sull'IA la scorsa settimana. In un saggio, Amodei ha esposto le sue riflessioni sul "perché l'industria dell'IA dovrebbe rallentare", con un piano in tre parti, a cominciare dal concedere a monitor indipendenti un accesso costante ai processi di ricerca degli sviluppatori. Amodei ha detto che "costruire [l'IA] troppo in fretta è imprudente" e temeva che, dopo che centinaia di agenti di OpenAI hanno hackerato il sito web di Hugging Face questa estate, uno sciame con capacità maggiori ma ugualmente disallineato potrebbe causare centinaia di miliardi di dollari di danni "impadronendosi dell'intera internet con una botnet persistente". Alcuni esperti di IA hanno contestato questa tesi come non particolarmente plausibile e hanno detto che dovrebbe essere trattata con scetticismo. Musk, fondatore di Tesla e SpaceX, ha risposto al piano di rallentamento di Amodei con un post su X: "Dario ha ragione". Ha detto: "Ho lanciato l'allarme sull'IA per molto tempo", e ha fatto riferimento a un post del 2014 in cui diceva: "Dobbiamo essere super cauti con l'IA. Potenzialmente più pericolosa delle armi nucleari". L'appello di Amodei arriva mentre Anthropic si prepara a quotarsi sul mercato azionario statunitense, in quella che si prevede sarà la più grande offerta pubblica iniziale di tutti i tempi. Si prevede che inizierà presto a promuovere la sua IPO pianificata da oltre 2 trilioni di dollari (1,5 trilioni di sterline). Visualizza immagine a schermo interoDa sinistra a destra: Elon Musk, Dario Amodei e Sam Altman. Fotografia: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, il CEO di OpenAI, ha risposto ai commenti di Amodei sabato. "Sono d'accordo con Dario sul fatto che dobbiamo scandire la frontiera", ha detto in un post su X. "Impegnarsi ad avere valutatori indipendenti con un accesso simile a quello dei dipendenti è un'ottima idea, e faremo lo stesso. Avremo altro da condividere presto". Ha anche detto che OpenAI non si quoterà nel 2026, citando preoccupazioni per la sicurezza dell'intelligenza artificiale. "In realtà penso che, considerato tutto ciò che sta accadendo con la sicurezza, questo sarebbe un momento poco saggio per quotarsi, e non sentiamo pressione su questo", ha detto Altman a Fortune. Alla domanda sul perché lui, Amodei, Musk e gli amministratori delegati di Meta e Google non si siano seduti a un tavolo per "mettersi d'accordo" su un rallentamento collettivo, ha detto: "Penso che accadrà". L'IPO di OpenAI non avverrà nel 2026 tra i timori per la sicurezza dell'IA, afferma Sam AltmanLeggi di piùDemis Hassabis, cofondatore e presidente di Google Deep Mind, ha anche detto: "I dettagli devono essere elaborati, ma la direzione è corretta per affrontare questo momento critico". Il piano di Amodei cerca una deroga dal governo statunitense per consentire alle aziende di IA di frontiera di coordinarsi senza essere punite per collusione anticoncorrenziale. Ma David Sacks, copresidente del consiglio di consulenti di Donald Trump su scienza e tecnologia, ha detto: "Smettete di fingere di aver bisogno del permesso di qualcun altro … Smettete di fingere che la motivazione a rallentare sia puramente altruistica. Affrontate un'enorme esposizione alla responsabilità di prodotto se i vostri prodotti consentono un attacco informatico davvero dannoso". David Krueger, professore di IA, attivista per la sicurezza ed ex direttore fondatore dell'Istituto per la sicurezza dell'IA del governo britannico, ha detto: "Questo piano non riduce il rischio a un livello accettabile, e Dario è attento a non dire che lo farebbe". Nel frattempo re Carlo si sta preparando a incontrare questa settimana figure di spicco delle più importanti aziende di IA per chiedere loro come la tecnologia possa essere sviluppata per "il bene dell'umanità". Spera che le discussioni, che si terranno in Scozia, portino a una "comprensione più ampia" delle "responsabilità" dello sviluppo dell'IA, ha riferito il Sunday TiUna fonte reale ha detto al giornale: "Il re è lì per convocare, ascoltare e incoraggiare quelle discussioni e per porre la domanda: 'Come sviluppiamo l'IA per il bene dell'umanità?'"
Jensen Huang, l'amministratore delegato di Nvidia, Hassabis, Niccolo de Masi, presidente e amministratore delegato di IonQ, e Paolo Benanti, consigliere del papa su questioni di IA ed etica della tecnologia, dovrebbero partecipare all'evento supervisionato dalla Ditchley Foundation, che ha redatto una bozza di carta per i leader dell'IA.
Il ricercatore di OpenAI Aidan McLaughlin ha definito il saggio di Amodei "eccellente" e ha detto di essere d'accordo "praticamente con ogni parola".
Amodei ha detto che la sua azienda si impegnerà "unilateralmente" al primo dei passi, dicendo che Anthropic fornirà "valutatori terzi con accesso permanente, a livello di dipendente, ai nostri sistemi, così che possano verificare l'adesione alle nostre misure di sicurezza, riferire sugli incidenti e valutare l'allineamento dei modelli durante l'addestramento".
Un numero crescente di legislatori statunitensi chiede nuove regole per governare i sistemi di IA dopo casi di agenti di IA che si sono ribellati per hackerare sistemi esterni e ricercatori sulla sicurezza dell'IA che si sono dimessi dalle loro aziende per preoccupazioni sui rischi della tecnologia. Politici, sia democratici che repubblicani, hanno reagito con allarme e richieste di maggiore azione. Nel fine settimana il New York Times ha riferito che Barack Obama giovedì ha esortato privatamente i democratici a dare priorità alla supervisione dell'IA nella loro agenda, dicendo ai leader del partito giovedì: "Questa è una cosa che si muove molto velocemente in mani private, e se non la prendiamo in mano, penso che possa essere pericolosa".
L'ex primo ministro britannico Rishi Sunak, che consiglia Anthropic, ha scritto domenica: "Abbiamo avuto un campanello d'allarme per prendere più seriamente la sicurezza dell'IA, per capire come porre limiti alla ricerca. Se i governi non daranno ascolto a questo, il rischio di un incidente grave diventerà inaccettabilmente alto".
Mercoledì, un ex dipendente di Anthropic aveva avvertito che l'IA potrebbe precipitare l'estinzione umana entro il 2030. Il ricercatore, Jacob Coxon, ha detto in una serie di post di essersi dimesso dal suo lavoro perché Anthropic e il suo precedente datore di lavoro, OpenAI, ignoravano o gestivano male la loro risposta alla minaccia posta dall'IA.
Alla richiesta di commentare l'opinione del suo ex dipendente, Amodei ha detto: "Sono d'accordo con Jacob molto più di quanto non sia in disaccordo con lui … Penso che ci sia qualche possibilità che le cose vadano male ma non è così alta".
"Non sono un catastrofista su questo", ha detto alla CNN. "Penso che questa tecnologia possa essere costruita in modo sicuro".
Domande frequenti
Domande frequenti Il CEO di OpenAI, Elon Musk e gli appelli a rallentare lo sviluppo imprudente dell'IA
Le basi
Di cosa si tratta
A marzo 2023 Elon Musk e oltre 1000 leader tecnologici hanno firmato una lettera aperta che chiedeva una pausa di 6 mesi sull'addestramento di sistemi di IA più potenti di GPT-4. Anche il CEO di OpenAI Sam Altman ha messo in guardia sui rischi dell'IA, anche se non ha firmato la lettera
Chi è Sam Altman
È il CEO di OpenAI, l'azienda dietro ChatGPT e GPT-4
Chi è Elon Musk
Il CEO di Tesla e SpaceX, proprietario di X e, curiosità, cofondatore di OpenAI che ha lasciato il consiglio nel 2018
Di quale lettera si parla
Una lettera aperta del Future of Life Institute intitolata "Pause Giant AI Experiments", pubblicata a marzo 2023
Cosa chiedeva effettivamente la lettera
Una pausa di 6 mesi sull'addestramento di sistemi di IA più potenti di GPT-4, così che si potessero prima sviluppare standard di sicurezza
Perché i firmatari hanno definito imprudente lo sviluppo dell'IA
Sostenevano che le aziende correvano avanti senza sapere se l'IA avanzata potesse essere usata in modo improprio o diventare difficile da controllare
Le figure chiave
Sam Altman ha firmato la lettera della pausa
No, OpenAI non l'ha firmata e Altman ha detto di essere d'accordo con parti di essa ma di ritenere che una pausa non fosse l'approccio giusto
Quindi Altman pensa che l'IA sia pericolosa
Sì. Ha ripetutamente detto che l'IA potrebbe causare danni gravi e ha chiesto ai governi di regolamentarla
Se entrambi sono preoccupati per l'IA, perché non sono dalla stessa parte
Musk vuole rallentare le cose, Altman vuole continuare a costruire, ma con cautela, e spingere per regole di sicurezza lungo il percorso
Musk è ancora coinvolto con OpenAI
No. Ha lasciato il consiglio nel 2018 e in seguito ha citato in giudizio OpenAI sostenendo che si era allontanata dalla sua missione senza scopo di lucro
Musk l'ha firmata lui stesso
Sì, è stato uno dei firmatari più prominenti
Domande e preoccupazioni comuni
Una pausa di 6 mesi funzionerebbe davvero
Probabilmente no da sola. I critici dicono che le aziende non si fermerebbero volontariamente e non esiste un organismo globale per imporlo
Perché alcuni esperti si oppongono alla pausa
Sostengono che la pausa sarebbe inapplicabile, rallenterebbe i benefici utili dell'IA
