Oamenii mă întreabă adesea dacă cred că toate romanele viitorului vor fi scrise de inteligența artificială. Nu este atât o întrebare reală, cât mai degrabă o provocare. Mă întreabă dacă mă îngrijorează că o mașină îmi poate face treaba, și chiar mai bine? De obicei, o evit cu ceva de genul: „Niciun algoritm nu va scrie Anna Karenina!” Dar nici acesta nu este un răspuns real.
Așa că îi sunt recunoscător Papei Leon al XIV-lea, papa american, pentru scrisoarea sa recentă adresată lumii, Magnifica Humanitas: Despre protejarea persoanei umane în era inteligenței artificiale. Este un document lung (peste 40.000 de cuvinte), inteligent și bine gândit, în care papa abordează modul în care această tehnologie în rapidă dezvoltare poate fi folosită și folosită greșit. Acum, când cineva îmi cere părerea despre AI, pot pur și simplu să-l trimit la scrisoarea papei – sau cel puțin la capitolul trei.
Scrisoarea începe cu o referință biblică potrivită la rezultatele tragice ale unei defecțiuni în comunicarea umană. Umanitatea se confruntă cu o „alegere crucială: fie să construim un nou Turn Babel, fie să clădim un oraș în care Dumnezeu și oamenii să locuiască împreună.” Urmează o privire detaliată asupra modului în care predecesorii Papei Leon au gândit aceste lucruri și asupra ideilor Vaticanului despre muncă, autoritate, guvernare, știință, putere și datoria noastră morală unii față de alții. De asemenea, evidențiază munca bisericii în apărarea demnității și libertății umane.
Al treilea capitol, Tehnologie și dominație: Măreția umanității în lumina promisiunilor AI, este pe măsura titlului scrisorii. Într-un pasaj puternic (și adesea citat) care explică ceea ce AI nu este, papa definește în esență ceea ce înseamnă să fii om. „Așa-numitele inteligențe artificiale nu au experiențe, nu posedă un corp, nu simt bucurie sau durere, nu se maturizează prin relații și nu știu din interior ce înseamnă iubirea, munca, prietenia sau responsabilitatea.” AI nu are conștiință morală și nu manifestă o preocupare reală pentru binele mai mare al umanității.
Scrisoarea spune apoi cele mai importante și necesare lucruri despre ceea ce ar putea fi cea mai mare amenințare a AI: poate fi programată exclusiv pentru a maximiza profitul, ceea ce nu poate duce decât la suferința multora în beneficiul câtorva. Papa avertizează împotriva „manipulării confidențialității” și a „utilizării greșite a informațiilor”, împotriva folosirii algoritmilor pentru a gestiona angajarea, a controla accesul la servicii publice și credit și pentru a spori sau a deteriora reputația personală a cuiva.
Compasiunea, mila și iertarea – nu foarte sus pe lista de priorități a unei mașini – ar putea deveni învechite. „«Sacrificiile necesare» ar putea începe să fie justificate, punând povara pe cei mai vulnerabili în căutarea așa-numitei optimizări a speciei.” Dacă instrumentele acestei noi puteri ajung în mâinile celor care au deja bogăție și influență, ele vor fi folosite pentru a îmbunătăți confortul, sănătatea și bunăstarea cetățenilor noștri cei mai bogați și mai privilegiați.
Papa nu condamnă direct AI, ci mai degrabă modul în care aceasta poate fi folosită ca instrument de represiune politică și pentru a agrava inegalitatea economică.
Pe măsură ce scrisoarea se încheie, papa ne îndeamnă să rămânem fideli adevărului, să investim în educație, să construim relații și să trăim în dreptate și pace – să rezistăm modului în care noile tehnologii pot „exploata cei mai vulnerabili, crea noi forme de sclavie și obține profit din conflict.” Devine clar că papa nu condamnă direct AI, ci mai degrabă modul în care aceasta poate fi folosită ca instrument de represiune politică și pentru a agrava inegalitatea economică.
În teorie, ai putea critica scrisoarea pentru că nu merge suficient de departe, pentru că nu folosește o altă metaforă biblică – vițelul de aur – pentru a condamna AI, deoarece prioritizează economisirea banilor în detrimentul bunăstării spirituale, individuale și comunitare. Dar acest tren a plecat deja, și nu este mare lucru pe care Leon al XIV-lea – sau orice lider religios – îl poate face pentru a condamna aceste noi progrese ca pe o formă de idolatrie a secolului XXI.
Chiar și așa, viziunea enciclicei asupra naturii umane, spiritul de dreptate și empatie care trebuie să prevaleze și importanța esențială a celor mai înalte valori morale – este, în cele din urmă, atât de blândă, atât de pozitivă, atât de generoasă și atât de clar corectă în privința datoriei noastre de a-i proteja pe cei slabi și săraci, încât este greu să găsești motive să o respingi.
Dar aceasta este partea înfricoșătoare. Se pare că au existat unele reacții negative din partea Silicon Valley, unde creatorii și stăpânii celei mai noi tehnologii au sugerat că papa nu știe despre ce vorbește.
Punctul de vedere al Guardian asupra Papei și Claude: Enciclica lui Leon al XIV-lea despre AI are dreptate să pună umanitatea pe primul loc | Editorial
Citește mai mult
Jeremy Nixon, fondator al AGI House – un grup axat pe demonstrarea faptului că AI este în esență egală cu creierul uman – a fost citat în New York Times spunând că biserica nu s-a „gândit profund la … AI”, adăugând: „Nu ar putea avea o poziție în această privință, pentru că nu o înțeleg.” Și pare să existe o credință larg răspândită că rezultatul final al cercetării actuale va fi, în efect, un nou Dumnezeu, sau cel puțin o imitație convingătoare. Îngrijorată de pericolele viitorului, societatea noastră alege să ignore dovezile că dezavantajele AI sunt deja aici. Fiica unui prieten, o studentă la facultate specializată în publicitate, a fost informată recent de consilierul ei că, până când va absolvi, toate locurile de muncă din publicitate vor fi preluate de AI.
Dacă stăpânii acestei noi tehnologii nu pot fi de acord cu ceea ce papa vede ca fiind pericolele și dezavantajele sale, suntem într-o mare problemă. Problema nu este că vom avea un robot care scrie Anna Karenina. Problema este că nimeni nu va vedea vreo nevoie pentru un roman care surprinde atât de frumos suferința unei femei, a unei ființe umane unice.
Nu ar exista niciun rost pentru o astfel de carte, dacă acea poveste despre o greșeală care schimbă viața nu ar putea fi transformată în profit de către un tip tech vizionar și folosită pentru a cumpăra un iaht mai mare și mai bun – probabil deservit de o subclasă permanentă, de muncitori a căror demnitate, ale căror locuri de muncă odinioară apreciate și valoroase, au fost furate de formele lacome de inteligență artificială.
Francine Prose este fost președinte al PEN American Center și membru al Academiei Americane de Arte și Litere și al Academiei Americane de Arte și Științe. Noul ei roman, Cinci săptămâni în țară, a fost publicat în mai.
Întrebări frecvente
Iată o listă de întrebări frecvente bazate pe afirmația Sunt recunoscător Papei pentru enciclica sa despre AI Iată de ce
Întrebări pentru începători
Q Ce este o enciclică
A Este o scrisoare formală a Papei către întreaga Biserică Catolică despre un subiect important. Scopul ei este de a învăța și de a ghida oamenii.
Q De ce a scris Papa o enciclică despre Inteligența Artificială
A Pentru că AI schimbă rapid modul în care trăim, muncim și interacționăm. Papa consideră că aceasta ridică întrebări morale și etice profunde despre demnitatea umană, dreptate și pace, așa că a vrut să ofere îndrumare.
Q Spune Papa că AI este rău
A Nu. El nu este împotriva tehnologiei. El spune că trebuie să fim atenți și să folosim AI în moduri care respectă viața umană, îi protejează pe cei vulnerabili și promovează binele comun, nu doar profitul sau puterea.
Q Care este mesajul principal al enciclicei despre AI
A Ideea centrală este că AI ar trebui să servească umanitatea, nu să o înlocuiască sau să o controleze. Ea cheamă la o conversație globală pentru a asigura că AI este dezvoltată și utilizată etic, cu accent pe pace, adevăr și demnitate umană.
Q Cum mă afectează acest lucru pe mine, ca persoană obișnuită
A Contează pentru că AI este deja în viața ta – în motoarele de căutare, rețelele sociale, bănci și chiar diagnosticele medicale. Papa cere tuturor să se gândească la corectitudine, confidențialitate și dacă aceste instrumente ajută sau dăunează societății.
Întrebări de nivel intermediar
Q La ce pericole specifice avertizează Papa în legătură cu AI
A El avertizează despre o societate algoritmică în care mașinile iau decizii care afectează viețile oamenilor fără corectitudine sau transparență. El evidențiază, de asemenea, riscurile de supraveghere, dezinformare și inegalitate crescândă între cei care controlează AI și cei care nu o fac.
Q Vorbește enciclica despre AI în arme sau război
A Da. Ea condamnă ferm dezvoltarea sistemelor de arme autonome – mașini care pot ucide fără decizie umană. Papa susține că acest lucru elimină orice responsabilitate morală din război și ar putea duce la conflicte catastrofale.
Q Cum diferă viziunea Bisericii asupra AI de viziunea companiilor tech
A
