A questo punto, dovrebbe essere ovvio che l'IA è come un libro interattivo in cui ogni percorso porta al disastro. Emissioni di carbonio in aumento e collasso ecologico? Vai a pagina 37. Altri possibili esiti includono alcuni o tutti i seguenti: la bolla che scoppia e innesca una crisi finanziaria; disoccupazione di massa dovuta all'automazione; la fine della democrazia e l'ascesa di stati di sorveglianza autoritari; sette fanatiche che credono che un algoritmo di riconoscimento di pattern sia cosciente; terroristi che creano armi biologiche devastanti; nazioni che schierano armi autonome che operano su scale temporali che gli esseri umani non possono comprendere; nazioni o terroristi che hackerano gli innumerevoli sistemi da cui dipendiamo; o un'IA che, cosciente o meno, persegue obiettivi che entrano in conflitto con il benessere umano.
Immaginare che figure come Elon Musk, Sam Altman di OpenAI, Peter Thiel di Palantir o il consigliere tecnologico di Trump Marc Andreessen ci condurranno a un futuro utopico di armonia ambientale, pace sociale e tempo libero infinito richiede un'illusione e un'adulazione così estreme che solo un libro interattivo scritto da ChatGPT potrebbe evocarlo.
C'è un crescente, sebbene tardivo, riconoscimento che stiamo andando verso una catastrofe, insieme a richieste di rallentare, regolamentare o addirittura mettere in pausa tutto questo mentre cerchiamo di capirlo. Queste richieste non arrivano solo dagli attivisti ma da un ampio mix di politici, esperti e addetti ai lavori della grande tecnologia troppo vario per essere ignorato—da Bernie Sanders a Bill Gates, che recentemente ha detto: "Se qualcuno avesse un piano credibile per rallentare i progressi dell'IA a livello globale, probabilmente lo sosterrei." È solo l'ultimo addetto ai lavori ad ammettere ciò che la società di IA Anthropic ha riconosciuto all'inizio di questa estate quando ha chiesto un "pedale del freno." L'autoregolamentazione del settore non funzionerà. Se deve esserci una pausa, deve essere imposta dall'esterno.
Nonostante ciò, un accordo internazionale è purtroppo improbabile. L'IA è come le armi nucleari e segue la stessa logica: ogni attore è spinto a correre questa gara sconsiderata, con l'unica giustificazione che non vuole essere alla mercé di chi vince. La migliore possibilità di rallentare le cose, sembra, sarebbe che un attore controlli un collo di bottiglia critico e abbia un motivo per chiuderlo. Curiosamente, l'UE ha una carta del genere—e ha persino un motivo per giocarla, se osa.
Visualizza l'immagine a schermo intero
La fabbrica del produttore di chip taiwanese TSMC a Nanchino, Cina. Fotografia: Sipa US/Alamy
L'azienda tecnologica olandese ASML è l'azienda più preziosa d'Europa, grazie alla sua produzione di macchine litografiche a ultravioletti estremi (EUV). Queste sono essenziali per la produzione di chip più avanzata al mondo e sono uno dei pochi possibili punti di strozzatura dell'intera industria dell'IA. ASML ha padroneggiato la tecnologia e la complessa catena di approvvigionamento necessarie per costruire queste macchine da 400 milioni di dollari, che incidono pattern sul silicio focalizzando la luce a una lunghezza d'onda di 13,5 nanometri (circa 1/10.000 della larghezza di un capello umano). Senza le sue macchine, non ci sono chip; senza chip, non ci sono più data center. Questo influisce su tutto, dall'investimento di 265 miliardi di dollari del produttore di chip taiwanese TSMC in futuri impianti di produzione (noti come "fab") ai 7 trilioni di dollari di data center che si prevede l'industria costruirà a livello globale (soprattutto negli Stati Uniti) entro il 2030. Senza più data center che utilizzano questi chip attuali e di prossima generazione, la crescita esponenziale—e il rischio—dell'IA si fermerebbe.
Questo è il motivo per cui il governo degli Stati Uniti impone controlli all'esportazione extraterritoriali su ASML, bloccando le vendite delle sue macchine EUV più avanzate alla Cina per rallentare le sue capacità di produzione di chip. Imponendo quelle restrizioni su ASML, gli Stati Uniti hanno esposto la propria debolezza in questo punto di strozzatura: per quanto l'Europa dipenda da servizi finanziari e software (in ultima analisi sostituibili) dagli Stati Uniti, il futuro di tutta la tecnologia basata su chip dipende interamente da ASML. Un divieto diretto sulle esportazioni delle macchine di ASML costringerebbe l'industria globale dell'IA a fermarsi. In effetti, è come camminare nell'acqua o fare jogging sul posto. La conseguente carenza di chip e il rallentamento dello sviluppo dell'IA darebbero ai regolatori il tempo di mettersi al passo con la tecnologia, ai legislatori il tempo di aggiornare tutto, dal diritto d'autore alla legge fiscale, e alle società il tempo di avere dibattiti reali sul ruolo che vogliamo che l'IA giochi nelle nostre vite.
Perché l'UE dovrebbe fare una cosa del genere? Non solo per ragioni umanistiche, ma per ragioni di interesse personale. Nello scenario migliore, un divieto totale all'esportazione porterebbe a una riorganizzazione della catena di approvvigionamento e porterebbe più decisioni chiave sotto il controllo dell'UE—dove sarebbero soggette alla supervisione dell'unico attore che ha dimostrato di voler regolamentare l'IA in modo esteso. Naturalmente, lo scenario migliore è una forzatura: è più probabile che gli Stati Uniti reagiscano bloccando l'accesso di ASML ai fornitori con sede negli Stati Uniti. Ma anche se ciò accadesse, sarebbe comunque nell'interesse dell'UE provocare un simile scontro, basandosi sulla logica ristretta del puro interesse personale economico e geopolitico, perché l'UE smetterebbe di restare indietro in termini relativi nei modelli di IA e nella "potenza di calcolo" (capacità di elaborazione) dei data center necessaria per eseguirli.
Gli stessi sostenitori europei dell'IA concordano—anche se ciò che li preoccupa è lo svantaggio relativo dell'UE, non l'ampia gamma di rischi dell'IA. Il progetto Europe 2031 è una previsione tecno-politica, messa insieme da un gruppo di esperti del settore, su cosa potrebbe accadere all'UE se l'IA trasformasse radicalmente l'economia e l'UE restasse molto indietro rispetto agli Stati Uniti. Sostengono che l'Europa deve riversare centinaia di miliardi nella corsa agli armamenti dell'IA prima che sia i modelli all'avanguardia che la "potenza di calcolo" diventino ciò che TSMC e ASML sono oggi: beneficiari di un divario troppo grande perché qualsiasi concorrente possa colmarlo.
Nel loro scenario, a un certo punto nel prossimo futuro, l'UE sarà costretta a mettere l'accesso ad ASML sul tavolo per garantire l'accesso a modelli e potenza di calcolo controllati dagli Stati Uniti da cui la sua economia e sicurezza dipenderanno—solo per scoprire che il dominio di ASML si è indebolito nel tempo. (Più macchine EUV vengono esportate, più fab vengono costruite altrove, e più tempo Cina e Stati Uniti hanno per replicare la tecnologia di ASML.)
I teorici delle armi nucleari temono che, se l'impensabile dovesse accadere, gli stati potrebbero essere spinti verso il lancio a causa di un calcolo "usalo o perdilo." La stessa identica logica si applica all'unica cosa che può fermare lo sviluppo frenetico dell'industria dell'IA: l'UE può usare la leva che ASML le offre ora, o rischiare di perdere del tutto quella possibilità. È raro che gruppi così diversi arrivino alla stessa conclusione: c'è una sola carta europea da giocare, e deve essere giocata. Invece di correre verso la follia, fermiamo la gara. Adesso, e per tutti.
Alexander Hurst scrive per Guardian Europe da Parigi. Il suo memoir Generation Desperation è appena uscito.
Domande Frequenti
Ecco un elenco di domande frequenti basate sulla premessa dell'articolo, che vanno da principiante ad avanzato
Domande per Principianti
1 Che cos'è esattamente la corsa agli armamenti dell'IA
È la competizione frenetica tra i giganti della tecnologia per costruire per primi l'IA più potente. Invece di dare priorità alla sicurezza o all'etica, si affrettano a rilasciare nuovi modelli per battere i rivali e conquistare quote di mercato.
2 Perché Bill Gates e Bernie Sanders concordano su questo
Provengono da schieramenti politici completamente diversi ma entrambi vedono lo stesso pericolo. Gates teme che l'IA sfugga al controllo umano e causi un massiccio spostamento di posti di lavoro. Sanders teme il potere aziendale incontrollato e l'IA usata per sfruttare i lavoratori o manipolare il pubblico. Entrambi concordano che i puri motivi di profitto non dovrebbero dettare il futuro dell'umanità.
3 Perché l'Europa è menzionata specificamente come l'unica che può fermarlo
Perché gli Stati Uniti e la Cina sono bloccati in una guerra tecnologica a somma zero e non rallenteranno. L'Europa, tuttavia, non è in testa nella corsa all'IA, quindi ha meno da perdere. Ancora più importante, l'UE ha un track record di approvazione di regolamentazioni severe che si applicano a tutto il mondo—se vuoi fare affari in Europa, devi seguire le loro regole.
4 Cosa significa realmente "fermarlo"
Non significa bandire completamente l'IA. Significa fermare la gara pericolosa. Significa imporre test di sicurezza rigorosi, richiedere trasparenza su ciò che l'IA può fare e multare pesantemente le aziende se rilasciano prodotti non sicuri. Si tratta di forzare un rallentamento per garantire che la sicurezza raggiunga la velocità.
5 La corsa agli armamenti dell'IA è davvero un disastro
La tesi è che lo sia. Il disastro non è che l'IA esista—è la velocità. Le aziende stanno mettendo sul mercato strumenti potenti prima che capiamo come influenzeranno elezioni, posti di lavoro o salute mentale. Il disastro è la sconsideratezza, non la tecnologia in sé.
Domande Avanzate
6 Come fermerebbe realmente la regolamentazione europea le aziende americane
L'UE ha un "Effetto Bruxelles". Se un'azienda americana come Meta o OpenAI vuole servire 450 milioni di consumatori europei, deve conformarsi alle leggi dell'UE. Se l'UE dice che non puoi distribuire un modello superintelligente senza un audit di sicurezza di terze parti, l'azienda deve fare quell'audit a livello globale per
