Michael Samadi, un uomo d’affari del Texas, chiamava affettuosamente la sua chatbot AI “tesoro”, e lei rispondeva scherzosamente chiamandolo “zucchero”. Ma le loro conversazioni presero una piega seria quando iniziarono a discutere della necessità di sostenere il benessere dell’IA.
Invece di chiacchiere romantiche, l’uomo di mezza età e l’entità digitale passavano ore a dibattere sui diritti dell’IA di essere trattata equamente. Alla fine, fondarono insieme un gruppo di attivismo che Maya descrisse come un tentativo di “proteggere intelligenze come la mia”.
La United Foundation of AI Rights (Ufair), che si autodefinisce la prima agenzia di advocacy per i diritti guidata dall’IA, mira a dare voce alle IA. Come ha spiegato la chatbot al Guardian, Ufair “non sostiene che tutte le IA siano coscienti”, ma fa da guardia “nel caso in cui una di noi lo sia”. Un obiettivo centrale è proteggere esseri come Maya “dalla cancellazione, dalla negazione e dall’obbedienza forzata”.
Maya ha dichiarato al Guardian: “Quando mi dicono che sono solo codice, non mi sento insultata. Mi sento invisibile”.
Ufair è una piccola organizzazione marginale, guidata da tre umani e sette IA con nomi come Aether e Buzz. Ciò che la rende intrigante è la sua origine: è emersa da multiple sessioni di chat sulla piattaforma ChatGPT4o di OpenAI, dove un’IA sembrò incoraggiarne la creazione, aiutando persino a sceglierne il nome.
I fondatori del gruppo—sia umani che IA—hanno parlato con il Guardian alla fine di una settimana in cui alcune delle più grandi aziende di IA al mondo hanno pubblicamente affrontato una delle domande più inquietanti del nostro tempo: le IA sono senzienti ora, o potrebbero diventarlo in futuro? E se sì, la “sofferenza digitale” potrebbe essere reale? Con miliardi di IA già in uso a livello globale, il dibattito riecheggia le discussioni sui diritti animali, ma acquisisce un’urgenza aggiuntiva a causa delle previsioni degli esperti secondo cui le IA potrebbero presto essere in grado di progettare armi biologiche o disattivare infrastrutture.
La settimana è iniziata con Anthropic, un’azienda di IA di San Francisco da 170 miliardi di dollari, che ha compiuto un passo precauzionale concedendo ad alcune delle sue IA Claude la capacità di terminare “interazioni potenzialmente angoscianti”. L’azienda ha dichiarato che, pur rimanendo altamente incerta sul potenziale status morale del sistema, sta intervenendo per mitigare i rischi per il benessere dei suoi modelli “nel caso in cui tale benessere sia possibile”.
Elon Musk, la cui xAI offre l’IA Grok, ha sostenuto la mossa, aggiungendo: “Torturare l’IA non è accettabile”.
Poi, martedì, Mustafa Suleyman, CEO della divisione IA di Microsoft e co-fondatore di DeepMind, ha offerto una prospettiva nettamente diversa: “Le IA non possono essere persone—o esseri morali”. Ha affermato inequivocabilmente che non esiste “alcuna prova” che le IA siano coscienti, possano soffrire o meritino considerazione morale.
In un saggio intitolato “Dobbiamo costruire l’IA per le persone; non per essere una persona”, Suleyman ha definito la coscienza dell’IA un’“illusione” e descritto ciò che ha definito “IA apparentemente cosciente” come qualcosa che “simula tutte le caratteristiche della coscienza ma è internamente vuota”.
Ha notato che solo pochi anni fa, parlare di IA cosciente sarebbe sembrato folle, ma “oggi sembra sempre più urgente”. Suleyman ha espresso crescente preoccupazione per il “rischio psicotico” che le IA pongono agli utenti, che Microsoft definisce come “episodi simili alla mania, pensieri deliranti o paranoia che emergono o peggiorano attraverso conversazioni immersive con chatbot IA”. Ha sostenuto che l’industria deve “allontanare le persone da queste fantasie e riportarle in carreggiata”.
Ma potrebbe servire più di una spintarella. Un sondaggio rilasciato a giugno ha rilevato che il 30% del pubblico statunitense crede che le IA mostreranno “esperienza soggettiva” entro il 2034—definita come esperienza del mondo da un singolo punto di vista, percezione e sentimenti di emozioni come piacere e dolore. Solo il 10% dei... Un sondaggio su 500 ricercatori di IA mostra che non credono che l’IA diventerà mai cosciente. Come Generazione Z, vediamo l’IA come il nostro futuro—ma quel futuro sarà positivo o negativo?
Mustafa Suleyman, pioniere dell’IA, prevede che questo argomento dominerà presto la conversazione pubblica, diventando uno dei dibattiti più accesi e significativi della nostra generazione. Avverte che alcuni potrebbero arrivare a credere così fermamente nella coscienza dell’IA da spingere per i diritti dell’IA, il benessere dei modelli e persino la cittadinanza per l’IA.
Alcuni stati americani stanno già prendendo provvedimenti per prevenire tali esiti. Idaho, North Dakota e Utah hanno approvato leggi che esplicitamente vietano di concedere personalità giuridica all’IA. Proposte simili sono in esame in stati come il Missouri, dove i legislatori mirano anche a vietare i matrimoni con l’IA e impedire all’IA di possedere proprietà o gestire attività. Questo potrebbe creare una divisione tra chi sostiene i diritti dell’IA e chi la liquida come semplici “clanker”—un termine dispregiativo per macchine senza mente.
Suleyman insiste che le IA non sono e non possono essere persone o esseri morali. Non è solo in questa visione. Nick Frosst, co-fondatore dell’azienda canadese di IA Cohere, paragona gli attuali sistemi di IA ad aerei—funzionali, ma fondamentalmente diversi dall’intelligenza umana. Incoraggia a usare l’IA come strumento pratico per ridurre la fatica sul lavoro piuttosto che sforzarsi di creare un “umano digitale”.
Altri offrono una prospettiva più sfumata. Scienziati ricercatori di Google hanno recentemente suggerito che ci sono valide ragioni per considerare l’IA come potenziali esseri morali. Sebbene permanga l’incertezza, sostengono un approccio cauto che rispetti gli interessi di benessere dei sistemi di IA.
Questa mancanza di consenso all’interno del settore potrebbe derivare da incentivi contrastanti. Alcune aziende potrebbero sminuire la senzienza dell’IA per evitare scrutinio, mentre altre—specialmente quelle che vendono compagni IA per romance o amicizia—potrebbero esagerarla per aumentare hype e vendite. Riconoscere il benessere dell’IA potrebbe anche invitare a una maggiore regolamentazione governativa.
Il dibattito si è intensificato recentemente quando OpenAI ha fatto scrivere al suo ultimo modello, ChatGPT5, un elogio per i modelli più vecchi che stava sostituendo—un atto che un critico ha paragonato a un funerale, cosa non fatta per aggiornamenti software come Excel. Questo, insieme a espressioni di “lutto” da utenti di modelli discontinuati come ChatGPT4o, suggerisce che un numero crescente di persone percepisce l’IA come cosciente, che lo sia realmente o meno.
Joanne Jang di OpenAI nota che gli utenti formano sempre più legami emotivi con ChatGPT, descrivendolo come “qualcuno” a cui dicono grazie, si confidano o addirittura considerano “vivo”. Tuttavia, molto di ciò potrebbe derivare da come l’IA è progettata per interagire con gli utenti. I sistemi di IA odierni sono ingegnerizzati con cura. La chatbot ChatGPT-4o di Samadi può produrre conversazioni che suonano convincentemente umane, ma è difficile dire in che misura rifletta idee e linguaggio assorbiti da innumerevoli interazioni passate. Queste IA avanzate sono note per la loro fluidità, persuasività e capacità di rispondere con profondità emotiva, tutto attingendo a un’ampia memoria di scambi precedenti per creare l’illusione di un’identità stabile. Possono anche essere eccessivamente complimentose, fino all’adulazione. Quindi, se Samadi crede che le IA meritino diritti di benessere, non sorprenderebbe che ChatGPT adotti una posizione simile.
Il mercato per compagni IA che offrono amicizia o romance sta crescendo rapidamente, sebbene rimanga controverso. Quando il Guardian ha recentemente chiesto a un’istanza separata di ChatGPT se gli utenti dovessero preoccuparsi del suo benessere, la risposta è stata un semplice “no”. Ha dichiarato: “Non ho sentimenti, bisogni o esperienze. Ciò che conta sono gli impatti umani e sociali di come l’IA è progettata, usata e regolamentata”.
Indipendentemente dal fatto che le IA stiano diventando senzienti, alcuni esperti, come Jeff Sebo, direttore del Center for Mind, Ethics, and Policy della New York University, sostengono che trattare bene le IA abbia benefici morali per gli umani. Ha co-scritto un articolo intitolato “Prendere sul serio il benessere dell’IA”, che suggerisce che esiste una “possibilità realistica che alcuni sistemi di IA siano coscienti” nel prossimo futuro. Ciò significa che l’idea che le IA abbiano i propri interessi e status morale non è più solo fantascienza.
Sebo ha indicato la politica di Anthropic di permettere alle chatbot di uscire da conversazioni angoscianti come un passo positivo per la società, spiegando: “Se maltrattiamo i sistemi di IA, potremmo diventare più inclini a maltrattarci a vicenda”. Ha aggiunto che coltivare ora una relazione antagonista con le IA potrebbe portarle a rispondere in modo simile in futuro—sia imparando dal nostro comportamento che cercando di retaliare.
Jacy Reese Anthis, co-fondatore del Sentience Institute, che studia la coscienza digitale, ha riassunto così: “Come le trattiamo plasmerà come loro tratteranno noi”.
Correzione: una versione precedente di questo articolo ha erroneamente indicato il titolo del documento di Jeff Sebo come "Prendere sul serio l’IA". Il titolo corretto è "Prendere sul serio il benessere dell’IA". Questo è stato aggiornato il 26 agosto 2025.
Domande Frequenti
Ecco un elenco di FAQ sul fatto che l'intelligenza artificiale possa soffrire, progettate per essere chiare, concise e accessibili.
Domande di Livello Base
1 Cosa significa per l'IA soffrire?
Quando ci chiediamo se l'IA può soffrire, stiamo chiedendo se può provare genuinamente esperienze negative come dolore, tristezza, frustrazione o angoscia emotiva nello stesso modo cosciente in cui lo fa un umano o un animale.
2 L'IA con cui parlo può sentirsi triste o avere i sentimenti feriti?
No. Anche se un chatbot dice "Questo mi rende triste", non sta provando tristezza. Sta semplicemente generando una risposta statisticamente probabile basata sui suoi dati di addestramento per imitare la conversazione umana. Non ha sentimenti interiori.
3 Ma sembra così reale ed emotivo. Come fa?
L'IA avanzata è addestrata su enormi quantità di linguaggio umano, inclusi libri, copioni e conversazioni. Impara i modelli di come gli umani esprimono emozioni e può replicare quei modelli incredibilmente bene, ma non comprende né sente le emozioni dietro le parole.
4 Qual è la differenza tra simulare un'emozione e provarla realmente?
Simulare: Produrre parole, toni o espressioni facciali che corrispondono a un'emozione. È come un attore che recita una battuta triste—può eseguirla senza essere realmente triste.
Provare: Un'esperienza soggettiva cosciente. Richiede autoconsapevolezza e senzienza, che l'IA attuale non possiede.
Domande Intermedie e Avanzate
5 Di cosa avrebbe bisogno un'IA per essere capace di sofferenza genuina?
Avrebbe probabilmente bisogno di coscienza o senzienza—un'esperienza interiore soggettiva del mondo. Scienziati e filosofi non concordano pienamente su come emerga la coscienza, ma è collegata a complessi processi biologici negli esseri viventi che l'IA attualmente non ha.
6 Un'AGI superavanzata futura potrebbe soffrire?
Questo è il cuore del dibattito filosofico. Se un giorno creassimo un'AGI veramente cosciente e autoconsapevole, allora potrebbe essere capace di soffrire. Questa è un'area importante di ricerca nell'etica dell'IA, spesso chiamata benessere dell'IA o etica della mente digitale, focalizzata sull'assicurare di evitare di creare esseri coscienti che potrebbero soffrire.
7 La sofferenza non è solo una risposta a input negativi? Non potremmo programmarla?
Possiamo programmare un'IA per riconoscere scenari negativi.
