Spesso mi chiedono se penso che tutti i romanzi futuri saranno scritti dall'IA. È più una sfida che una domanda reale. Mi stanno chiedendo se temo che una macchina possa fare il mio lavoro, e farlo meglio? Di solito la ignoro con qualcosa come: "Nessun algoritmo scriverà Anna Karenina!" Ma neanche questa è una vera risposta.
Quindi sono grato a Papa Leone XIV, il papa americano, per la sua recente lettera al mondo, Magnifica Humanitas: Sulla salvaguardia della persona umana nell'epoca dell'intelligenza artificiale. È un documento lungo (oltre 40.000 parole), intelligente e ponderato in cui il papa affronta come questa tecnologia in rapida crescita possa essere utilizzata e abusata. Ora, quando qualcuno mi chiede la mia opinione sull'IA, posso semplicemente indirizzarlo alla lettera del papa—o almeno al terzo capitolo.
La lettera inizia con un appropriato riferimento biblico ai tragici risultati di un crollo nella comunicazione umana. L'umanità affronta una "scelta cruciale: o costruire una nuova Torre di Babele o edificare una città in cui Dio e l'umanità dimorano insieme." Segue uno sguardo dettagliato su come i predecessori di Papa Leone hanno pensato a queste cose, e le idee del Vaticano su lavoro, autorità, governo, scienza, potere e il nostro dovere morale reciproco. Evidenzia anche il lavoro della chiesa nella difesa della dignità e della libertà umana.
Il terzo capitolo, Tecnologia e dominio: La grandezza dell'umanità alla luce delle promesse dell'IA, è all'altezza del titolo della lettera. In un passaggio potente (e spesso citato) che spiega cosa l'IA non è, il papa definisce essenzialmente cosa significa essere umani. "Le cosiddette intelligenze artificiali non fanno esperienze, non possiedono un corpo, non provano gioia o dolore, non maturano attraverso le relazioni e non sanno dall'interno cosa significhino amore, lavoro, amicizia o responsabilità." L'IA non ha coscienza morale e non mostra alcuna reale preoccupazione per il bene superiore dell'umanità.
La lettera dice poi le cose più importanti e necessarie su quella che potrebbe essere la più grande minaccia dell'IA: può essere programmata esclusivamente per massimizzare il profitto, il che può solo portare alla sofferenza di molti a beneficio di pochi. Il papa mette in guardia contro la "manipolazione della privacy" e l'"abuso delle informazioni", contro l'uso di algoritmi per gestire l'occupazione, controllare l'accesso ai servizi pubblici e al credito, e per aumentare o danneggiare la reputazione personale di qualcuno.
Compassione, misericordia e perdono—non in cima alle priorità di una macchina—potrebbero diventare obsoleti. "'Sacrifici necessari' potrebbero iniziare a essere giustificati, ponendo il peso sui più vulnerabili nella ricerca della presunta ottimizzazione della specie." Se gli strumenti di questo nuovo potere finiscono nelle mani di coloro che hanno già ricchezza e influenza, saranno usati per migliorare il comfort, la salute e il benessere dei nostri cittadini più ricchi e privilegiati.
Il papa non sta condannando apertamente l'IA, ma piuttosto il modo in cui può essere usata come strumento di repressione politica e per peggiorare la disuguaglianza economica.
Mentre la lettera si conclude, il papa ci invita a rimanere fedeli alla verità, investire nell'istruzione, costruire relazioni e vivere nella giustizia e nella pace—per resistere a come le nuove tecnologie possano "sfruttare i più vulnerabili, creare nuove forme di schiavitù e trarre profitto dal conflitto." Diventa chiaro che il papa non sta condannando apertamente l'IA, ma piuttosto il modo in cui può essere usata come strumento di repressione politica e per aggravare la disuguaglianza economica.
In teoria, si potrebbe criticare la lettera per non essere andata abbastanza lontano, per non aver usato un'altra metafora biblica—il vitello d'oro—per condannare l'IA perché dà priorità al risparmio di denaro rispetto al benessere spirituale, individuale e comunitario. Ma quel treno è già passato, e non c'è molto che Leone XIV—o qualsiasi leader religioso—possa fare per condannare questi nuovi progressi come una forma di idolatria del XXI secolo.
Tuttavia, la visione dell'enciclica della natura umana, lo spirito di giustizia ed empatia che deve prevalere, e l'importanza essenziale dei più alti valori morali—è in definitiva così gentile, così positiva, così generosa, e così chiaramente giusta riguardo al nostro dovere di proteggere i deboli e i poveri che è difficile trovare ragioni per respingerla.
Ma questa è la parte spaventosa. A quanto pare, c'è stata una certa opposizione dalla Silicon Valley, dove i creatori e i padroni dell'ultima tecnologia hanno suggerito che il papa non sa di cosa sta parlando.
Il punto di vista del Guardian sul Papa e Claude: L'enciclica di Leone XIV sull'IA ha ragione a mettere l'umanità al primo posto | Editoriale
Leggi di più
Jeremy Nixon, fondatore di AGI House—un gruppo focalizzato sul dimostrare che l'IA è essenzialmente uguale al cervello umano—è stato citato dal New York Times dicendo che la chiesa non aveva "pensato profondamente all'IA", aggiungendo: "Non potrebbero avere una posizione su di essa, perché non la capiscono." E sembra esserci una diffusa convinzione che il risultato finale della ricerca attuale sarà, in effetti, un nuovo Dio, o almeno un'imitazione convincente. Preoccupata per i pericoli del futuro, la nostra società sta scegliendo di ignorare le prove che gli svantaggi dell'IA sono già qui. La figlia di un amico, una studentessa universitaria specializzata in pubblicità, è stata recentemente informata dal suo consulente che quando si laureerà, tutti i lavori nella pubblicità saranno stati presi dall'IA.
Se i padroni di questa nuova tecnologia non riescono a concordare con ciò che il papa vede come i suoi pericoli e svantaggi, siamo in grossi guai. Il problema non è che avremo un robot che scrive Anna Karenina. Il problema è che nessuno vedrà alcun bisogno di un romanzo che catturi così splendidamente la sofferenza di una donna, un essere umano unico.
Non ci sarebbe alcun senso in un libro del genere, a meno che quella storia di un errore che cambia la vita non potesse essere trasformata in profitto da un tech bro lungimirante e usata per comprare uno yacht più grande e migliore—presumibilmente servito da una sottoclasse permanente, da lavoratori la cui dignità, i cui lavori un tempo apprezzati e preziosi, sono stati rubati dalle forme avide di intelligenza artificiale.
Francine Prose è ex presidente del PEN American Center e membro dell'American Academy of Arts and Letters e dell'American Academy of Arts and Sciences. Il suo nuovo romanzo, Five Weeks in the Country, è stato pubblicato a maggio.
Domande Frequenti
Ecco un elenco di domande frequenti basate sulla dichiarazione Sono grato al Papa per la sua enciclica sullIA Ecco perché
Domande di Livello Base
D Cosè unenciclica
R È una lettera formale del Papa a tutta la Chiesa Cattolica su un argomento importante È pensata per insegnare e guidare le persone
D Perché il Papa ha scritto unenciclica sullIntelligenza Artificiale
R Perché lIA sta cambiando rapidamente come viviamo lavoriamo e interagiamo Il Papa crede che sollevi profonde questioni morali ed etiche sulla dignità umana la giustizia e la pace quindi ha voluto offrire una guida
D Il Papa sta dicendo che lIA è negativa
R No Non è contro la tecnologia Sta dicendo che dobbiamo essere attenti e usare lIA in modi che rispettino la vita umana proteggano i vulnerabili e promuovano il bene comune non solo il profitto o il potere
D Qual è il messaggio principale dellenciclica sullIA
R Lidea centrale è che lIA dovrebbe servire lumanità non sostituirla o controllarla Invita a una conversazione globale per garantire che lIA sia sviluppata e utilizzata eticamente con un focus sulla pace la verità e la dignità umana
D Come mi riguarda questo come persona comune
R È importante perché lIA è già nella tua vitanei motori di ricerca nei social media nelle banche e persino nelle diagnosi mediche Il Papa chiede a tutti di pensare all'equità alla privacy e se questi strumenti stanno aiutando o danneggiando la società
Domande di Livello Intermedio
D Quali pericoli specifici il Papa mette in guardia riguardo allIA
R Mette in guardia contro una società algoritmica in cui le macchine prendono decisioni che influenzano la vita delle persone senza equità o trasparenza Evidenzia anche i rischi di sorveglianza disinformazione e crescente disuguaglianza tra chi controlla lIA e chi no
D Lenciclica parla dellIA nelle armi o nella guerra
R Sì Condanna fermamente lo sviluppo di sistemi darma autonomimacchine che possono uccidere senza decisione umana Il Papa sostiene che questo priva la guerra di qualsiasi responsabilità morale e potrebbe portare a conflitti catastrofici
D Come si differenzia la visione della Chiesa sullIA da quella delle aziende tecnologiche
