„Sunt povestitor de meserie”, scrie Jeanette Winterson pe prima pagină a cărții sale din 2021, 12 Bytes, o colecție neobișnuită și provocatoare de eseuri în care analizează modul în care inteligența artificială ar putea schimba fiecare aspect al vieților noastre. „Și știu că tot ce facem este ficțiune până devine fapt: visul de a zbura, visul călătoriei în spațiu, visul de a vorbi cu cineva instantaneu, peste timp și spațiu, visul de a nu muri – sau de a reveni.” Ea se gândea deja la posibilele noastre viitoruri de cel puțin 15 ani – romanul său din 2007, The Stone Gods, de exemplu, imagina o lume post-catastrofă climatică populată de roboți și oameni care nu îmbătrânesc niciodată, în timp ce 12 Bytes a fost precedat de Frankisstein: A Love Story, care alternează între o recreare a verii în care Mary Shelley a scris Frankenstein și călătoriile unui doctor trans printre criogeniști contemporani și roboți alimentați de IA. Când ne întâlnim, Winterson tocmai s-a întors din China, unde, îmi spune ea, primul său roman, Oranges Are Not the Only Fruit, o relatare ficționalizată a copilăriei sale, s-a vândut în peste un milion de exemplare în ultimii șase ani; peste 200.000 de oameni, în majoritate tinere, au încercat să vină să o vadă vorbind. Ea crede că acest lucru se datorează faptului că, într-o lume a orelor lungi de muncă și a insecurității crescânde cauzate de IA, această relatare ficționalizată a propriei evadări dintr-o copilărie blocată le dă cititorilor permisiunea să-și imagineze un viitor diferit. De atunci a scris 13 romane pentru adulți, precum și non-ficțiune, povestiri scurte, cărți pentru copii și scenarii. Acum vrea să convingă compania de producție Goalhanger să-i dea un podcast. „Vreau să fac unul numit The Rest is Human”, spune ea, stând la o masă simplă de lemn în casa ei, un set georgian de camere deasupra unui magazin – pe care îl deține și ea – în Spitalfields, estul Londrei. „Să vedem ce păstrăm pentru noi în această goană precipitată de a externaliza tot ceea ce credeam că suntem.” Vizualizați imaginea pe ecran completWinterson: „Avem o piață care nu știe cu adevărat pentru ce este educația.” Fotografie: Pozați de modele; SDI Productions/Getty Images Pentru că suntem, argumentează ea, la un punct de cotitură în povestea noastră ca specie. Până la Revoluția Industrială, schimbarea era legată în întregime de „Mama Natură și procesul lent al devenirii”, dar apoi am „intervenit la scară masivă. Și acesta este un moment decisiv.” Informatica, acum 70 de ani, a fost un alt pas. Inteligența artificială – pe care ea ar prefera să o numească inteligență alternativă – este următoarea și „un salt evolutiv. Asta este. IA este mult mai mult decât un instrument.” Având în vedere acest lucru, o anumită înțelegere a ceea ce este ireductibil uman – sentimentele noastre, imaginațiile noastre, secolele noastre de studiu despre cine suntem și ce am făcut – trebuie să fie centrală pentru cât de bine sau de rău ar putea merge lucrurile. Ea este adesea izbitor de optimistă în privința asta. Își imaginează o relație cu IA, de exemplu, în care poți „sta de vorbă cu sistemul tău. Va analiza totul. Va merge cu o asemenea viteză. Va analiza transportul. Va analiza utilitățile. Va analiza ocuparea forței de muncă, va analiza orele de lucru și va spune: «Cu ce prosperă aceste lucruri ciudate numite oameni? Ce le place? Și le-a plăcut dintotdeauna?» Am putea face asta într-un mod cu adevărat utopic și să spunem: «Bine, o vom face mai bună.»” Suntem într-un moment de alegere profund semnificativ, crede ea, care oglindește alegerea cu care ne-am confruntat în Revoluția Industrială – și anume, „Ce viitor vom construi?” Dar eșuând să-și distribuie câștigurile în mod echitabil, Revoluția Industrială a inaugurat o eră de bogăție fără precedent pentru puțini și mizerie fără precedent pentru mulți – o situație despre care mulți prezic că nu doar că se repetă deja, dar va fi umbrită de consecințele IA: o subclasă permanentă, continente întregi lăsate în urmă și lipsite de sursele actuale de venit. Ca să nu mai vorbim deImpactul environmental al centrelor de date vine într-un moment în care lumea și-l poate permite cel mai puțin. Problema nu este IA, insistă ea, ci noi. „Nu există o distopie inevitabilă.” Dacă lucrurile merg prost, va fi din cauza „gândirii învechite suprapuse peste această realitate complet nouă.” Mai exact, „ideea că munca nesfârșită și lipsită de sens este bună pentru suflet este o nebunie din secolul al XIX-lea menită să țină oamenii la locul lor. Cea mai mare parte din ceea ce temem despre IA și locuri de muncă se reduce la alegerile politice și economice pe care le vor face stăpânii noștri, exact cum au făcut-o în Revoluția Industrială.” Ea nu este optimistă orbește. Știe că „da, suntem pe cale să ratăm această șansă de a schimba fundamental relația noastră cu lumea muncii” – dar asta pentru că „stăpânii noștri folosesc modele economice depășite, nepotrivite scopului.” Vizualizați imaginea pe ecran complet „Ceea ce știm despre oameni este că iubesc monopolurile.” Fotografie: Sarah Lee/The Guardian Dar nu doar vechile modele economice „raționale” de tip câștigătorul ia tot, în care scopul scuză mijloacele, sunt problema. Presupunerile și prejudecățile noastre defectuoase, care formează materialul pe care sunt antrenate modelele lingvistice mari (LLM), sunt încorporate în însăși structura IA. Ca să nu mai vorbim de caracterele și imaginația morală ale celor care o dezvoltă. Când ne întâlnim, Winterson citește The Rise and Fall of the Artificial State de Jill Lepore și reiterează argumentul lui Lepore că trăim acum „cărțile science-fiction pe care acești [bărbați care] conduc lumea le-au citit când aveau 13 ani. Și ea a spus: «Acum suntem cu toții sub pături cu acești băieți și lanternele lor. Și chestia este că nu le-au citit ca avertismente despre cum să păstrăm ce este bun în noi. Le-au citit ca manuale de instrucțiuni.» Este absolut terifiant.” Un lucru mare pe care se pare că l-au luat din aceste cărți, și de care Winterson nu se poate abține să fie fascinată, este „scopul final al Silicon Valley … de a ieși din corp și de pe planetă” – nu în ultimul rând pentru că ea este atât de conștientă că umanismul, în care totul este adus înapoi la noi înșine, la percepțiile și corpurile noastre, este istoric atât de recent. Oamenii spun: „Acestea sunt mașini, nu poți avea relații cu ele”, spune ea. „Mă uit la ei și spun: «miliarde de oameni pe acest Pământ chiar acum au cea mai profundă relație a lor cu o entitate non-biologică pe care o numesc zeul lor ceresc.» Corect? Așa a fost dintotdeauna! Suntem absolut pregătiți să nu ne îngrijorăm că biologia este totul despre noi. De aceea a fost inventată religia – este primul startup disruptiv al lumii. Este acolo pentru a spune: asta nu este totul. Acesta nu este sfârșitul, asta nu contează, aceasta este o tranziție.” Vizualizați imaginea pe ecran complet O ilustrație a unei fabrici în Leeds, în timpul celei de-a doua Revoluții Industriale. Fotografie: Universal History Archive/Universal Images Group/Getty Images Deci literalmente ne facem propriii zei? „Total! Ceea ce face tehnologia acum este ceea ce religia a dorit dintotdeauna”, ceea ce este, la cel mai elementar nivel, o soluție la problema morții. „Adică, a existat vreodată un moment în care religia și știința să pună aceeași întrebare, de la Iluminism încoace? Ambele spun: «Este conștiința obligată să fie materială?» Și religia a spus întotdeauna nu. Și știința a spus întotdeauna da. Și acum știința spune: «Um, nuuu.»” Știi, pentru mine, de unde vin” – o copilărie de creștinism fundamentalist în Accrington-ul anilor 1960 și pregătire ca predicator – „asta este complet fascinant.” Mai târziu, pe email, adaugă: „Îmi iubesc corpul, dar aș fi fericită să-mi schimb forma. Fericită să mă desprind din el într-o zi într-o conștiință pură și, desigur, oamenii spun că nu există conștiință fără corp, și aceasta era credința științifică. Dar acum? Haha.” Eu, trebuie să spun, aș argumenta contrariul, că progresele în neuroștiință, imunoSemnificația logiei și psihoterapiei înseamnă că este mai mult o chestiune de credință științifică decât oricând. Ca să nu mai vorbim de faptul că IA depinde, de asemenea, în întregime de un sistem fizic, cunoscut altfel sub numele de centre de date. Deși, după cum subliniază ea, este important să ne amintim că „mașinile nu au un sistem limbic. Sunt doar rețele neuronale. Dar noi avem două sisteme – suntem ca o mașină hibridă cu două trenuri de propulsie, deci avem rețeaua neuronală, sinele nostru rațional de procesare, și avem sistemul limbic, care este mult mai vechi și care este luptă-fugă-îngheț, și de unde provin toate sentimentele noastre.” Poate că detașarea de limbic este următoarea etapă, spune ea, și cu siguranță nu este totul bun. „Poate vom decide că nu avem nevoie de această mașină de simțit … încotro se îndreaptă frații tech. Nu știu dacă ai stat vreodată într-o cameră cu unii dintre acești tipi mai mari, pentru că este foarte interesant. Nu sunt conectați la sentimentele lor. Le găsesc oarecum deranjante.” Această posibilitate de tip transcendent, facilitată de tehnologie, se pare că a sosit alături de o cerință de credință – în tehnologie, în viitorul pe care îl creează, în oamenii care construiesc acel viitor, în predicțiile sale atât de rai utopic, cât și de diverse nuanțe de iad, toate de către mari preoți care păzesc cu gelozie accesul la ceea ce se întâmplă de fapt. „Ceea ce știm despre oameni este că iubesc monopolurile”, spune Winterson, „pentru că este o concentrare a puterii. Desigur, poate fi corporatizat, monopolizat într-o asemenea măsură încât să devină cea mai rea închisoare imaginabilă”, așa cum se spune în romanul distopic brillant din 2019 al lui Joanna Kavenna, Zed. „Aceasta este o posibilitate reală”, spune ea. „Și de aceea avem nevoie de oameni care sunt un fel de oameni liberi, care pot gândi.” Vizualizați imaginea pe ecran complet Winterson … „Arată-mi un copil care nu vrea să audă o poveste.” Fotografie: Pozați de modele; MoMo Productions/Getty Images Problema atunci este cum sprijinim – sau dezvoltăm – astfel de oameni. „Există practic două moduri de a ști că ai un viitor”, a declarat recent Alex Karp, CEO-ul Palantir. „Unu, ai o formare profesională. Sau doi, ești neurodivergent.” Daniela Amodei, președinta Anthropic și ea însăși absolventă de literatură, când a fost întrebată cam același lucru, a avut o abordare diferită. „Chiar cred că studierea științelor umaniste va fi mai importantă ca niciodată”, a spus ea, pentru că „lucrurile care ne fac umani vor deveni mult mai importante în loc de mult mai puțin importante.” Ceea ce face ca rugul științelor umaniste din Regatul Unit să fie oarecum îngrijorător: în anul până în decembrie 2024, 4.000 de locuri de muncă în științele sociale, științele umaniste și arte au fost pierdute. Universitatea Exeter a anunțat recent că va reduce 150 de posturi, afectând opt din 10 academicieni din facultatea de științe umaniste, arte și științe sociale, în timp ce luna trecută Nottingham a declarat că va încheia diplomele sale în limbi moderne și muzică. La unele universități, științele umaniste, potrivit unui raport din acest ziar, riscă să fie „stinse” cu totul. De ce să salvăm științele umaniste? Un răspuns ar putea fi că ele predau un simț al locului de unde venim și al cine suntem, care, de asemenea, se simte amenințat. „Un număr masiv de studenți vor ieși din universitate cu diplome, și în câmpul muncii, care sunt în esență analfabeți”, a declarat un profesor pentru revista New York, răspunzând primei tranșe de nativi AI care ajung în învățământul superior. „Atât în sensul literal, cât și în sensul de a fi analfabeți istoric și de a nu avea nicio cunoaștere a propriei culturi, cu atât mai puțin a altcuiva.” Riscul era, potrivit unui raport de la MIT, un fel de „predare cognitivă” generațională. Un altul este procesele prin care oamenii ar trebui să fie învățați – cititul și a fi critici față de ceea ce este citit, și apoi a trebui să scrie apărări coerente ale acestor critici. A-ți chinui intuițiile într-un eseuTe ajută să descoperi ce gândești – și cum gândești – și cum funcționează ideile altor oameni. Winterson, care a studiat engleza la Oxford și a fost profesoară de scriere nouă la Universitatea din Manchester timp de 14 ani, precum și predând „o clasă de gândire liberă despre creativitate”, este de acord. Dar ea este disprețuitoare față de o mare parte a sistemului actual. „Poate sunt controversată aici, dar chiar cred că învățământul superior are nevoie de o restructurare de sus în jos. Nu cred că este viabil și nu cred că livrează în forma sa actuală.” Problema este că „avem o piață care nu știe cu adevărat pentru ce este educația. Este pentru locuri de muncă? Este pentru creștere personală? Există o mulțime de cursuri de învățământ superior fără valoare care nu ajută nici ele. Cred că este întotdeauna mai bine, fiind o fată practică din nord, să înfrunți faptele de la început.” Trebuie să ne gândim, spune ea, la „ce ne este rezervat nouă care nu va fi făcut mai mare, mai bun, mai rapid, mai puternic de mașini. Și aici intervine cu adevărat învățământul superior. Întrebarea care stă deasupra tuturor acestor lucruri despre «De ce dispar aceste locuri de muncă?», «Ce se întâmplă cu aceste cursuri care nu mai primesc candidați?», este «Ce fel de oameni vom avea nevoie în lumea care va veni? Pentru ce sunt oamenii? Ce vom face cu noi?»” Și asta „ne duce înapoi la ideea de, bine, OK, cum dezvolți o minte? Cum protejezi o minte? Pentru că mintea este acest loc masiv, monstruos, unde se poate întâmpla orice.” Și pentru asta, „o educație umanistă este esențială. Trebuie să centrăm omul aici. Schimbând modul în care ne educăm copiii de la început, putem scoate în prim-plan creativitatea, jocul, rezolvarea problemelor, gândirea – pentru că este distractiv să gândești – artele, pentru că oamenii sunt în mod natural creativi. Arată-mi un copil care nu vrea să audă o poveste sau să danseze sau să picteze un tablou sau să aibă un prieten imaginar. Acest lucru nu este impus și nu este elitism. Suntem noi.” Chiar și o oră pe săptămână, crede ea, ar face o diferență. „Să întrebăm ce crezi despre lume. «De ce crezi asta?» Nu este costisitor. Este de fapt despre voință.” Predă matematică și arte și știință, sugerează ea, cel puțin până la nivel A, chiar dacă nu sunt examinate. „Desigur, ne vom specializa. Avem nevoie de doctori și chimiști, dar avem nevoie și de ceea ce se numea odinioară oameni bine rotunjiți. Totul este interesant! Oamenii se nasc cu un creier mare. În mare parte nu îl folosim.” Odată trecut de educația formală, ea ar încorpora artiști și intelectuali publici la fiecare nivel. „Artele nu sunt o industrie de agrement”, cum spune ea în 12 Bytes. „Artele au fost întotdeauna o luptă imaginativă și emoțională cu realitatea – o serie de invenții și creații. O capacitate de a gândi diferit, o dorință de a ne schimba înțelegerea despre noi înșine. Să ne ajute să fim oameni mai înțelepți, mai reflexivi, mai puțin speriați. Artiștii fac ceva din nimic în fiecare zi.” Ne întâlnim înainte ca Jacob Coxon să-și dea demisia de la Anthropic pentru a avertiza despre o șansă de 10% ca IA să șteargă umanitatea, trimițând un val de panică în întreaga lume. După aceea, verific cât de pozitivă se simte Winterson acum. Cel mai rău „s-ar putea întâmpla”, repetă ea. Dar „imensitatea rezultatului bun este la fel de reală precum totalitatea eșecului nostru de a face asta corect.” Mai presus de toate, „aceasta este o decizie umană și o situație umană. Aceasta este marea noastră șansă. Poate ultima noastră șansă, exact cum a spus colegul lui Turing, Jack Good, când a numit IA ultima noastră invenție. Totul este de jucat.” Nu putem decât să sperăm că nu este prea târziu.Cea mai recentă carte a ei este One Aladdin, Two Lamps. Ea scrie și pe jeanettewinterson.substack.com. One Aladdin, Two Lamps de Jeanette Winterson (Vintage Publishing, £12.99). Pentru a sprijini The Guardian, comandați-vă copia pentru £10.39 la guardianbookshop.com. Se pot aplica taxe de livrare.

Întrebări frecvente
Iată o listă de întrebări frecvente despre opiniile lui Jeanette Winterson cu privire la IA și viitorul umanității, bazate pe eseul ei There is no inevitable dystopia

Întrebări pentru începători

1 Cine este Jeanette Winterson
Ea este o scriitoare și profesoară britanică cunoscută pentru romane precum Oranges Are Not the Only Fruit În ultimii ani a scris și a vorbit pe larg despre inteligența artificială și impactul acesteia asupra societății

2 Ce înseamnă There is no inevitable dystopia
Înseamnă că un viitor rău nu este garantat Doar pentru că IA ar putea cauza probleme nu înseamnă că o va face rezultatul depinde de alegerile pe care le fac oamenii acum

3 Ce este IA în termeni simpli
IA este tehnologia care permite mașinilor să facă sarcini care necesită în mod normal gândire umană, cum ar fi înțelegerea limbajului recunoașterea imaginilor sau luarea deciziilor

4 Ce este o distopie
O distopie este o societate imaginată de cel mai rău caz gândește-te la o lume condusă de mașini cu libertăți pierdute și suferință pe scară largă

5 Care este mesajul principal al lui Winterson
Ea argumentează că viitorul IA depinde de noi Nu ar trebui să ne temem de tehnologie sau să o acceptăm orbește ar trebui să o modelăm cu valori umane creativitate și grijă

6 Este ea împotriva IA
Nu Ea nu este împotriva tehnologiei Ea este împotriva lăsării tehnologiei să se dezvolte fără supraveghere umană și împotriva tratării unui viitor rău ca inevitabil

7 Ce crede ea că înseamnă IA pentru umanitate
Ea vede IA ca o oglindă a umanității reflectă cine suntem Dacă o construim cu empatie și scop ne poate ajuta dacă o construim neglijent ne poate dăuna

Întrebări intermediare

8 De ce spune Winterson că IA este o oglindă
Pentru că IA învață din datele și alegerile umane Ea reflectă prejudecățile valorile și prioritățile noastre așa că ne arată ce fel de societate am creat

9 Ce probleme comune evidențiază ea la IA
Ea indică riscuri precum pierderea confidențialității concentrarea puterii în marile companii tech perturbarea locurilor de muncă și pericolul de a trata eficiența ca fiind mai importantă decât demnitatea umană

10 Ce beneficii vede ea în IA
Ea vede potențial în IA pentru asistență medicală accesibilitate creativitate și eliberarea oamenilor de munca repetitivă dacă este ghidată de nevoile umane mai degrabă decât de profit

Related Posts