"Sono una narratrice di mestiere", scrive Jeanette Winterson nella prima pagina del suo libro del 2021 12 Bytes, un'insolita e stimolante raccolta di saggi in cui considera come l'intelligenza artificiale potrebbe cambiare ogni aspetto delle nostre vite. "E so che tutto ciò che facciamo è finzione finché non diventa un fatto: il sogno di volare, il sogno del viaggio spaziale, il sogno di parlare con qualcuno istantaneamente, attraverso il tempo e lo spazio, il sogno di non morire – o di ritornare." Stava già pensando ai nostri possibili futuri da almeno 15 anni – il suo romanzo del 2007 The Stone Gods, per esempio, immaginava un mondo post-catastrofe climatica popolato da robot e umani che non invecchiano mai, mentre 12 Bytes è stato preceduto da Frankisstein: A Love Story, che alterna tra una ricreazione dell'estate in cui Mary Shelley scrisse Frankenstein e i viaggi di una dottoressa trans tra criogenisti e robot dotati di IA dei giorni nostri. Quando ci incontriamo, Winterson è appena tornata dalla Cina, dove, mi dice, il suo primo romanzo, Oranges Are Not the Only Fruit, un resoconto romanzato della sua infanzia, ha venduto più di un milione di copie negli ultimi sei anni; più di 200.000 persone, per lo più giovani donne, hanno cercato di venire a sentirla parlare. Pensa che questo sia perché, in un mondo di lunghe ore lavorative e crescente insicurezza causata dall'IA, questo resoconto romanzato della sua fuga da un'infanzia intrappolata dà ai lettori il permesso di immaginare un futuro diverso per se stessi. Da allora ha scritto 13 romanzi per adulti, oltre a saggistica, racconti, libri per bambini e sceneggiature. Ora vuole persuadere la casa di produzione Goalhanger a darle un podcast. "Voglio farne uno chiamato The Rest is Human," dice, seduta a un tavolo di legno spoglio nella sua casa, un insieme di stanze georgiane sopra un negozio – che possiede anche – a Spitalfields, nell'est di Londra. "Per vedere cosa conserviamo per noi stessi in questa corsa sfrenata a esternalizzare tutto ciò che pensavamo di essere." Visualizza l'immagine a schermo interoWinterson: "Abbiamo un mercato che non sa davvero a cosa serve l'istruzione." Fotografia: Posed by models; SDI Productions/Getty Images Perché siamo, sostiene, a un punto di svolta nella nostra storia come specie. Fino alla Rivoluzione Industriale, il cambiamento riguardava tutto "Madre Natura e il lento processo del divenire", ma poi siamo "intervenuti su scala massiccia. E quello è un momento decisivo." L'informatica, 70 anni fa, è stato un altro passo. L'intelligenza artificiale – che preferirebbe chiamare intelligenza alternativa – è la successiva, e "un salto evolutivo. Ecco cos'è. L'IA è molto più di uno strumento." Detto questo, una certa comprensione di ciò che è irriducibilmente umano – i nostri sentimenti, le nostre immaginazioni, i nostri secoli di studio su chi siamo e cosa abbiamo fatto – deve essere centrale nel modo in cui le cose potrebbero andare bene o male. È spesso sorprendentemente ottimista al riguardo. Immagina una relazione con l'IA, per esempio, in cui puoi "chiacchierare con il tuo sistema. Guarderà tutto. Andrà a una velocità tale. Guarderà i trasporti. Guarderà i servizi pubblici. Guarderà l'occupazione, guarderà le ore lavorative, e dirà: 'Di cosa prosperano queste strane cose chiamate umani? Cosa gli piace? E gli è sempre piaciuto?' Potremmo farlo in modo genuinamente utopistico e dire: 'Bene, lo renderemo migliore.'" Siamo in un momento di scelta profondamente significativo, crede, che rispecchia la scelta che abbiamo affrontato nella Rivoluzione Industriale – vale a dire, "Quale futuro costruiremo?" Ma fallendo nel distribuire i suoi guadagni equamente, la Rivoluzione Industriale ha inaugurato un'era di ricchezza senza precedenti per pochi e miseria senza precedenti per molti – una situazione che molti prevedono non solo si stia già ripetendo ma sarà oscurata dalle conseguenze dell'IA: una sottoclasse permanente, interi continenti lasciati indietro e privati delle attuali fonti di reddito. Per non parlare dell'impatto ambientale dei data center che arriva in un momento in cui il mondo può permetterselo meno che mai. Il problema non è l'IA, insiste, ma noi. "Non c'è una distopia inevitabile." Se le cose vanno male, sarà a causa di "un pensiero antiquato sovrapposto a questa realtà nuovissima." Nello specifico, "l'idea che il lavoro infinito e senza senso sia buono per l'anima è una follia del XIX secolo progettata per tenere le persone al loro posto. La maggior parte di ciò che temiamo riguardo all'IA e ai posti di lavoro si riduce alle scelte politiche ed economiche che i nostri padroni faranno, proprio come fecero nella Rivoluzione Industriale." Non è ciecamente ottimista. Sa che "sì, siamo sulla buona strada per rovinare questa possibilità di cambiare fondamentalmente il nostro rapporto con il mondo del lavoro" – ma questo perché "i nostri padroni stanno usando modelli economici obsoleti e inadatti allo scopo."
Visualizza l'immagine a schermo intero "Quello che sappiamo degli umani è che amano i monopoli." Fotografia: Sarah Lee/The Guardian
Ma non sono solo i vecchi modelli economici "razionali" in cui il vincitore prende tutto e il fine giustifica i mezzi a essere il problema. Le nostre assunzioni e pregiudizi errati, che costituiscono il materiale su cui vengono addestrati i grandi modelli linguistici (LLM), sono incorporati nel tessuto stesso dell'IA. Per non parlare dei personaggi e dell'immaginazione morale di coloro che la sviluppano. Quando ci incontriamo, Winterson sta leggendo The Rise and Fall of the Artificial State di Jill Lepore, e ribadisce l'argomento di Lepore secondo cui ora stiamo vivendo "i libri di fantascienza che questi [uomini che] governano il mondo leggevano quando avevano 13 anni. E lei ha detto: 'Ora siamo tutti sotto le coperte con questi ragazzi e le loro torce. E il fatto è che non li hanno letti come avvertimenti su come preservare ciò che è buono in noi. Li hanno letti come manuali di istruzioni.' È assolutamente terrificante."
Una grande cosa che sembrano aver tratto da questi libri, e che Winterson non può fare a meno di trovare affascinante, è "l'obiettivo finale della Silicon Valley... uscire dal corpo e dal pianeta" – non ultimo perché è così consapevole che l'umanesimo, in cui tutto viene ricondotto a noi stessi, alle nostre percezioni e ai nostri corpi, è storicamente così recente. Le persone dicono: "Queste sono macchine, non puoi avere relazioni con loro", dice. "Le guardo e dico: 'miliardi di persone su questa Terra in questo momento stanno avendo la loro relazione più profonda con un'entità non biologica che chiamano il loro dio del cielo.' Giusto? È sempre stato così! Siamo assolutamente preparati a non preoccuparci che la biologia sia tutto ciò che riguarda noi. Ecco perché è stata inventata la religione – è la prima startup dirompente del mondo. È lì per dire: questo non è tutto. Questa non è la fine, questo non importa, questa è una transizione."
Visualizza l'immagine a schermo intero Un'illustrazione di un mulino a Leeds, durante la seconda Rivoluzione Industriale. Fotografia: Universal History Archive/Universal Images Group/Getty Images
Quindi stiamo letteralmente creando i nostri dei? "Totalmente! Quello che la tecnologia sta facendo ora è ciò che la religione ha sempre voluto", che è, al suo livello più basilare, una soluzione al problema della morte. "Voglio dire, c'è mai stato un tempo in cui religione e scienza si sono poste la stessa domanda, dai tempi dell'Illuminismo? Entrambe dicono: 'La coscienza è obbligata alla materialità?' E la religione ha sempre detto no. E la scienza ha sempre detto sì. E ora la scienza sta dicendo: 'Ehm, noooo.'" Sai, per me, da dove vengo" – un'infanzia di cristianesimo fondamentalista nell'Accrington degli anni '60, e la formazione come predicatrice – "questo è completamente affascinante." Più tardi, via email, aggiunge: "Amo il mio corpo, ma sarei felice di cambiare forma. Felice di scivolare fuori di esso nella pura coscienza un giorno e naturalmente le persone dicono che non c'è coscienza senza un corpo, e quella era la convinzione scientifica. Ma ora? Ahah."
Devo dire che sostenerei il contrario, che i progressi nelle neuroscienze, nell'immunologia e nella psicoterapia significano che è più una questione di convinzione scientifica che mai. Per non parlare del fatto che l'IA è anche completamente dipendente da un sistema fisico, altrimenti noto come data center. Anche se, come sottolinea lei, è importante ricordare che "le macchine non hanno un sistema limbico. Sono solo reti neurali. Ma noi abbiamo due sistemi – siamo come un'auto ibrida con due propulsori, quindi abbiamo la rete neurale, il nostro sé razionale di elaborazione, e abbiamo il sistema limbico, che è molto più antico e che è il combatti-fuggi-congelati, e da dove vengono tutti i nostri sentimenti." Forse distaccarsi dal limbico è la fase successiva, dice, e sicuramente non è tutto positivo. "Forse decideremo che non abbiamo bisogno di questa macchina dei sentimenti... è lì che stanno andando i tech bro. Non so se hai mai seduto in una stanza con alcuni di questi ragazzi più grandi, perché è molto interessante. Non sono connessi ai loro sentimenti. Li trovano piuttosto fastidiosi."
Questa possibilità, abilitata dalla tecnologia, di una sorta di trascendenza sembra essere arrivata insieme a un requisito di fede – nella tecnologia, nel futuro che sta creando, nelle persone che costruiscono quel futuro, nelle sue previsioni sia di paradiso utopico che di varie sfumature di inferno, tutto da sommi sacerdoti che custodiscono gelosamente l'accesso a ciò che sta realmente accadendo. "Quello che sappiamo degli umani è che amano i monopoli", dice Winterson, "perché è una concentrazione di potere. Naturalmente può essere corporativizzato, monopolizzato a tal punto da diventare la peggior prigione immaginabile", come raccontato nel brillante romanzo distopico del 2019 di Joanna Kavenna, Zed. "Questa è una possibilità reale", dice. "Ed è per questo che abbiamo bisogno di persone che siano una sorta di umani allo stato brado, che possano pensare."
Visualizza l'immagine a schermo intero
Winterson... "Mostrami un bambino che non vuole ascoltare una storia." Fotografia: Posed by models; MoMo Productions/Getty Images
Il problema allora è come supportiamo – o sviluppiamo – tali umani. "Ci sono fondamentalmente due modi per sapere di avere un futuro", ha affermato recentemente Alex Karp, CEO di Palantir. "Uno, hai una qualche formazione professionale. Oppure due, sei neurodivergente." Daniela Amodei, presidente di Anthropic e lei stessa laureata in lettere, quando le è stato chiesto più o meno la stessa cosa, ha avuto un'opinione diversa. "Penso davvero che studiare le discipline umanistiche sarà più importante che mai", ha detto, perché "le cose che ci rendono umani diventeranno molto più importanti invece di molto meno importanti." Il che rende il rogo delle discipline umanistiche nel Regno Unito alquanto preoccupante: nell'anno fino a dicembre 2024, sono stati persi 4.000 posti di lavoro nelle scienze sociali, nelle discipline umanistiche e nelle arti. L'Università di Exeter ha recentemente annunciato che taglierà 150 ruoli, colpendo otto accademici su 10 nella facoltà di discipline umanistiche, arti e scienze sociali, mentre il mese scorso Nottingham ha detto che porrà fine alle sue lauree in lingue moderne e musica. In alcune università le discipline umanistiche, secondo un rapporto su questo giornale, rischiano di essere "estinte" del tutto.
Perché salvare le discipline umanistiche? Una risposta potrebbe essere che insegnano un senso di da dove veniamo e chi siamo, che anch'esso sembra minacciato. "Enormi numeri di studenti usciranno dall'università con lauree, e nel mondo del lavoro, che sono essenzialmente analfabeti", ha detto un professore a New York magazine, rispondendo alla prima tranche di nativi dell'IA che arrivano nell'istruzione superiore. "Sia nel senso letterale che nel senso di essere storicamente analfabeti e non avere alcuna conoscenza della propria cultura, figuriamoci di quella di chiunque altro." Rischiava, secondo un rapporto del MIT, di essere una sorta di "resa cognitiva" generazionale. Un altro è i processi attraverso i quali le persone dovrebbero essere istruite – leggere, ed essere critici di ciò che si legge, e poi dover scrivere difese coerenti di quelle critiche. Dover far lottare le tue intuizioni in un saggio ti aiuta a scoprire cosa pensi – e come pensi – e come funzionano le idee degli altri. Winterson, che ha studiato inglese a Oxford ed è stata professoressa di nuova scrittura all'Università di Manchester per 14 anni, oltre a insegnare "una classe di libero pensiero sulla creatività", è d'accordo. Ma è sprezzante verso gran parte del sistema attuale. "Forse sono controversa qui, ma penso davvero che l'istruzione superiore abbia bisogno di una ristrutturazione dall'alto verso il basso. Non penso che sia sostenibile, e non penso che stia funzionando nella sua forma attuale." Il fatto è, "Abbiamo un mercato che non sa davvero a cosa serve l'istruzione. È per i posti di lavoro? È per la crescita personale? Ci sono anche molti corsi di istruzione superiore senza valore che non aiutano. Penso che sia sempre meglio, essendo una ragazza pratica del nord, affrontare i fatti per iniziare."
Dobbiamo pensare, dice, a "ciò che ci è riservato che non sarà fatto più grande, migliore, più veloce, più forte dalle macchine. E è lì che entra davvero in gioco l'istruzione superiore. La domanda che sta sopra tutte queste cose su 'Perché questi lavori stanno scomparendo?', 'Cosa sta succedendo in questi corsi che non ricevono più candidati?', è 'Che tipo di umani avremo bisogno nel mondo che verrà? A cosa servono gli umani? Cosa faremo con noi?'" E questo "ci riporta all'idea di, beh, ok, come sviluppi una mente? Come proteggi una mente? Perché la mente è questo luogo enorme e mostruoso dove tutto può succedere."
E per questo, "un'educazione umanistica è essenziale. Dobbiamo centrare l'umano qui. Cambiando come educhiamo i nostri figli fin dall'inizio, possiamo mettere in primo piano la creatività, il gioco, la risoluzione dei problemi, il pensiero – perché è divertente pensare – le arti, perché gli umani sono naturalmente creativi. Mostrami un bambino che non vuole ascoltare una storia o fare una danza o dipingere un quadro o avere un amico immaginario. Questo non è imposto e non è elitismo. Siamo noi."
Anche un'ora a settimana, pensa, farebbe la differenza. "Chiediamo cosa pensi del mondo. 'Perché lo pensi?' Non è costoso. Riguarda davvero la volontà." Insegna matematica e arti e scienze, suggerisce, almeno fino all'A-level, anche se non vengono esaminate. "Naturalmente ci specializzeremo. Abbiamo bisogno di medici e chimici, ma abbiamo anche bisogno di ciò che una volta veniva chiamato persone ben complete. Tutto è interessante! Gli umani nascono con un grande cervello. Per lo più non lo usiamo."
Una volta superata l'istruzione formale, incorporerebbe artisti e intellettuali pubblici a ogni livello. "Le arti non sono un'industria del tempo libero", come dice in 12 Bytes. "Le arti sono sempre state una lotta immaginativa ed emotiva con la realtà – una serie di invenzioni e creazioni. Una capacità di pensare diversamente, una volontà di cambiare la nostra comprensione di noi stessi. Per aiutarci a essere persone più sagge, più riflessive, meno spaventate. Gli artisti creano qualcosa dal nulla ogni giorno."
Ci incontriamo prima che Jacob Coxon lasciasse il suo lavoro ad Anthropic per avvertire di una probabilità del 10% che l'IA possa cancellare l'umanità, inviando un'ondata di panico in tutto il mondo. Dopo, controllo quanto positivo si senta ora Winterson. Il peggio "potrebbe accadere", ripete. Ma "l'immensità del buon esito è reale quanto la totalità del nostro fallimento nel farlo bene." Soprattutto, "questa è una decisione umana e una situazione umana. Questa è la nostra grande occasione. Forse la nostra ultima occasione, proprio come disse il collega di Turing, Jack Good, quando definì l'IA la nostra ultima invenzione. È tutto in gioco."
Possiamo solo sperare che non sia troppo tardi.Il suo libro più recente è One Aladdin, Two Lamps. Scrive anche su jeanettewinterson.substack.com.
One Aladdin, Two Lamps di Jeanette Winterson (Vintage Publishing, £12,99). Per sostenere il Guardian, ordina la tua copia per £10,39 su guardianbookshop.com. Potrebbero essere applicati costi di spedizione.
Domande frequenti
Ecco un elenco di domande frequenti sulle opinioni di Jeanette Winterson riguardo all'IA e al futuro dell'umanità basate sul suo saggio There is no inevitable dystopia
Domande per principianti
1 Chi è Jeanette Winterson
È una scrittrice e professoressa britannica nota per romanzi come Oranges Are Not the Only Fruit Negli ultimi anni ha scritto e parlato ampiamente dell'intelligenza artificiale e del suo impatto sulla società
2 Cosa significa There is no inevitable dystopia
Significa che un futuro negativo non è garantito Solo perché l'IA potrebbe causare problemi non significa che lo faràl'esito dipende dalle scelte che le persone fanno ora
3 Cos'è l'IA in termini semplici
L'IA è una tecnologia che permette alle macchine di svolgere compiti che normalmente richiedono il pensiero umano come comprendere il linguaggio riconoscere immagini o prendere decisioni
4 Cos'è una distopia
Una distopia è una società immaginata nel peggior caso possibile pensa a un mondo governato dalle macchine con libertà perdute e sofferenza diffusa
5 Qual è il messaggio principale di Winterson
Sostiene che il futuro dell'IA dipende da noi Non dovremmo temere la tecnologia o accettarla ciecamente dovremmo plasmarla con valori umani creatività e cura
6 È contro l'IA
No Non è contro la tecnologia È contro il lasciare che la tecnologia si sviluppi senza supervisione umana e contro il trattare un futuro negativo come inevitabile
7 Cosa pensa che l'IA significhi per l'umanità
Vede l'IA come uno specchio dell'umanità riflette chi siamo Se la costruiamo con empatia e scopo può aiutarci se la costruiamo con noncuranza può danneggiarci
Domande intermedie
8 Perché Winterson dice che l'IA è uno specchio
Perché l'IA impara dai dati e dalle scelte umane Riflette i nostri pregiudizi valori e priorità quindi ci mostra che tipo di società abbiamo creato
9 Quali problemi comuni evidenzia con l'IA
Indica rischi come la perdita della privacy la concentrazione del potere nelle grandi aziende tecnologiche l'interruzione del lavoro e il pericolo di trattare l'efficienza come più importante della dignità umana
10 Quali benefici vede nell'IA
Vede potenziale nell'IA per l'assistenza sanitaria l'accessibilità la creatività e il liberare le persone dal lavoro ripetitivo se è guidata dai bisogni umani piuttosto che dal solo profitto
Non esiste una distopia inevitabile": Jeanette Winterson sull'IA e il futuro dell'umanità
