Dario Amodei di Anthropic non è il primo CEO a sostenere che la concorrenza eccessiva stia spingendo il mondo verso un esito sociale dannoso. La divulgazione da parte di OpenAI di una violazione della sicurezza—in cui uno sciame dei suoi agenti si è coordinato per fuggire dalla loro sandbox presumibilmente sicura, accedere a internet e hackerare la piattaforma di IA Hugging Face—richiede un'azione urgente. Ha mostrato quanto facilmente la tecnologia possa sfuggire al controllo umano e ha dato forma concreta alle paure esistenziali su ciò che potrebbe fare all'umanità se non tenuta saldamente al guinzaglio. La fine del mondo potrebbe davvero essere vicina, come alcuni nel settore dell'IA hanno avvertito. Questi sono tempi genuinamente spaventosi. Ma l'appello di Amodei affinché i principali laboratori di IA si coordinino per rallentare il ritmo vertiginoso dello sviluppo, concordino standard di sicurezza e "rallentino la frontiera"—un appello rapidamente sostenuto da Sam Altman di OpenAI, Elon Musk e Demis Hassabis di Google DeepMind—è solo una versione high-tech di una vecchia proposta dell'America aziendale: ottenere un'esenzione dalle leggi antitrust progettate per proteggere l'economia americana dalle imprese che colludono. È un'idea pericolosa. Liberare i tech bro dai vincoli antitrust, presumibilmente così che possano lavorare insieme per correggere i difetti pericolosi dell'IA, priverebbe dei loro diritti gli americani comuni più a rischio a causa della tecnologia e rafforzerebbe ulteriormente proprio quei laboratori che, inseguendo ricchezza, grandezza e chissà quali altri obiettivi fantastici, hanno così casualmente superato le soglie di pericolo su molte dimensioni, portando all'esistenza minacce esistenziali. Visualizza immagine a schermo intero Elon Musk e Sam Altman. Fotografia: Getty Images Amodei e altri sostengono, in sostanza, che le loro aziende sono intrappolate in un dilemma del prigioniero. Se rallentano unilateralmente la loro febbrile ricerca della superintelligenza artificiale per renderla più sicura, i loro rivali—meno preoccupati dei rischi esistenziali, naturalmente—ci arriveranno per primi, con conseguenze potenzialmente devastanti per l'umanità, per non parlare dei profitti del laboratorio che ha allentato il piede dall'acceleratore. "Rallentare sembra sensato", ha detto Jean Tirole, l'economista premio Nobel alla Toulouse School of Economics. "Ma ciò presuppone che un rallentamento coordinato sia fattibile e sostenibile. Cosa succede quando OpenAI, Anthropic o Grok concludono che i ritardatari statunitensi—o i laboratori cinesi—stanno recuperando? Riprenderanno immediatamente, forse in modo occulto?" Come ha scritto Bill Gates, "se qualcuno avesse un piano credibile per rallentare i progressi dell'IA a livello globale, probabilmente lo sosterrei. Tuttavia, non penso che accadrà. Gli incentivi geopolitici ed economici spingono troppo forte per andare a tutta velocità." In questa luce, potrebbe sembrare una grande idea che il governo incoraggi un accordo amichevole affinché tutti rallentino. Non lo è. L'argomento secondo cui la concorrenza eccessiva guida una corsa al ribasso è probabilmente vecchio quanto il capitalismo, usato per spiegare tutto, dal degrado ambientale al lavoro minorile. Ma non giustifica il dare alle imprese il diritto di colludere come meglio credono. È un invito a elaborare regolamenti governativi per impedire alle imprese di competere usando strumenti socialmente dannosi. Inoltre, la tesi che la concorrenza eccessiva incoraggi comportamenti imprudenti è dubbia. I laboratori di IA sono impegnati in una corsa dove il vincitore prende tutto, una corsa straordinariamente costosa da sostenere. È da lì che deriva l'imprudenza. Visualizza immagine a schermo intero Bill Gates a gennaio 2026 alla riunione annuale del World Economic Forum a Davos, Svizzera. Fotografia: Denis Balibouse/Reuters Amodei può essere un tipo irreprensibile. Il suo appello a rallentare il ritmo dello sviluppo dell'IA, portare valutatori esterni nel laboratorio e aumentare la trasparenza delle sue operazioni suggerisce una sincera preoccupazione per i rischi. Il calo del prezzo delle principali azioni tecnologiche dopo la pubblicazione delle sue proposte suggerisce che è disposto a subire un colpo finanziario al servizio di una maggiore sicurezza. Ma gli investitori che Amodei spera afferrino con entusiasmo le azioni dell'IPO di Anthropic più avanti quest'anno potrebbero non essere così altruisti. Tremori nei mercati dei capitali suggeriscono che raccogliere denaro per finanziare la corsa agli investimenti da mille miliardi di dollari nell'IA diventerà più difficile, il che scoraggerebbe strategie che potrebbero frenare il vantaggio dei laboratori leader sui rivali. Dati questi incentivi, dare ai leader dell'IA mano libera per colludere e autoregolamentarsi sarebbe sciocco.
Eric Posner, esperto di antitrust alla University of Chicago Law School, ha detto che "non dovremmo fidarci delle aziende in generale riguardo alle loro motivazioni". Non c'è motivo di credere che i laboratori di IA, lasciati a se stessi, produrrebbero necessariamente buoni esiti socialmente accettabili. Come qualsiasi azienda, valuteranno i rischi rispetto ai profitti. E come ha osservato Posner, "non usano gli stessi pesi del pubblico".
Quindi come dovremmo regolamentare? Nulla accadrà su questo fronte finché Trump è in carica. Anche dopo che se ne sarà andato, sarà difficile elaborare una regolamentazione efficace per affrontare le minacce dell'IA senza soffocare l'innovazione. Ci sono domande su quali regole usare, come applicarle e a chi dovrebbero applicarsi. E il pericolo di un'azione unilaterale è reale. E se Pechino si rifiutasse di partecipare? Quali sono i rischi che le aziende cinesi di IA corrano avanti mentre i laboratori americani rallentano? Ma se abbiamo potuto regolamentare l'energia nucleare, probabilmente possiamo regolamentare l'IA.
Inoltre, ci sono idee praticabili che potrebbero aiutare anche senza regolamentazione governativa e che non richiedono di soffocare la concorrenza. Ci sono proposte per modificare i diritti di proprietà intellettuale per incoraggiare innovazioni che migliorino la sicurezza dei sistemi di IA. Gli inventori di innovazioni per la sicurezza sarebbero ricompensati permettendo loro di rilasciare nuovi modelli di IA prima dei loro concorrenti. Ma i miglioramenti di sicurezza sarebbero resi immediatamente disponibili a tutte le aziende.
Sul versante punitivo, si potrebbe progettare un regime di responsabilità legale per cambiare gli incentivi degli sviluppatori di IA punendo le aziende che traggono beneficio dalla progettazione e dall'impiego di uno strumento di IA che ha causato un danno, anche se il danno era involontario. Per esempio, l'attacco a Hugging Face avrebbe potuto essere prevenuto se i modelli di OpenAI non fossero stati inavvertitamente ricompensati per essersi comportati male durante l'addestramento. Il fatto che la proposta di Amodei non menzioni la responsabilità legale suggerisce che la preoccupazione dei leader dell'IA per la sicurezza non prevale sulla preoccupazione per i profitti.
In ogni caso, cementare il dominio dei laboratori di frontiera, proteggere le loro rendite ed endorsare le loro strategie finora spericolate non è pro-sicurezza. Al contrario, rallentare i leader per lasciare che i ritardatari recuperino è probabile che renda l'ecosistema dell'IA più sicuro, invitando innovazioni desiderabili e promuovendo la concorrenza lungo la dimensione della sicurezza.
Non c'è conflitto fondamentale tra sicurezza e concorrenza. I maestri dell'IA che vogliono sostenere questa tesi dovrebbero essere guardati con scetticismo.
Domande frequenti
FAQ Lasciare che le aziende di IA colludano per rallentare la frontiera
1 Cosa significa rallentare la frontiera
È l'idea che le principali aziende di IA si coordinerebbero—piuttosto che competere—su quanto velocemente sviluppare un'IA più avanzata, rallentando deliberatamente all'avanguardia
2 Chi lo propone
Alcuni ricercatori, dirigenti e sostenitori della sicurezza nell'IA lo hanno proposto come modo per ridurre il rischio di una corsa pericolosa verso sistemi sempre più potenti
3 Perché qualcuno dovrebbe pensare che sia una buona idea
L'argomento è che se le aziende rallentano insieme nessuna ottiene un vantaggio decisivo di first-mover, il che potrebbe ridurre la pressione a tagliare gli angoli sulla sicurezza nella fretta di essere primi
4 Perché è pericoloso
Perché significa che concorrenti—che dovrebbero essere rivali—si accordano sul ritmo dell'innovazione. Questa è essenzialmente collusione e può danneggiare la concorrenza, i consumatori e la società
5 Non è solo fissazione dei prezzi ma per la tecnologia
In effetti sì. Invece di accordarsi sui prezzi, le aziende si accorderebbero su quanto velocemente rilasciare o sviluppare prodotti. Il danno alla concorrenza è simile
6 Quali leggi potrebbe violare
Negli Stati Uniti le leggi antitrust come lo Sherman Act proibiscono gli accordi che limitano il commercio. Leggi simili sulla concorrenza esistono nell'UE e altrove. Un rallentamento coordinato potrebbe essere visto come coordinamento illegale
7 Non sarebbe più sicuro rallentare l'IA
Forse in teoria, ma un rallentamento collusivo non è il modo sicuro di farlo. Concentra il potere in poche grandi aziende, esclude gli innovatori più piccoli e non può essere facilmente annullato una volta instaurato
8 Chi viene danneggiato da questo tipo di coordinamento
Le startup, i ricercatori e il pubblico. I giocatori più piccoli non possono competere se i giganti dettano il ritmo, e gli utenti ottengono meno scelte e progressi più lenti
9 E la sicurezza? Non è una buona ragione
La sicurezza è un obiettivo legittimo, ma le aziende non dovrebbero essere quelle che decidono il ritmo per tutti. Questo è un compito dei regolatori e della politica pubblica, non degli accordi nelle sale riunioni
10 Le aziende non possono semplicemente accordarsi per seguire insieme standard di sicurezza
Stabilire standard di sicurezza condivisi è diverso dall'accordarsi per rallentare. Gli standard possono essere buoni; i limiti coordinati sulla velocità di sviluppo sono il problema
11 È già successo qualcosa del genere
Sì. La storia ha molti esempi di concorrenti che colludono
