Az emberek gyakran kérdezik tőlem, hogy szerintem a jövő összes regényét mesterséges intelligencia fogja-e írni. Ez kevésbé egy valódi kérdés, inkább egy kihívás. Azt kérdezik, hogy aggódom-e amiatt, hogy egy gép el tudja végezni a munkámat, és jobban csinálja? Általában lerázom őket valami olyasmivel, hogy "Egyetlen algoritmus sem fogja megírni az Anna Kareninát!" De ez sem egy igazi válasz.
Ezért hálás vagyok Leo pápa XIV-nek, az amerikai pápának, a világhoz intézett legutóbbi leveléért, a Magnifica Humanitas: Az emberi személy védelméről a mesterséges intelligencia korában címűért. Ez egy hosszú (több mint 40 000 szavas), intelligens és átgondolt dokumentum, amelyben a pápa foglalkozik azzal, hogyan lehet ezt a gyorsan fejlődő technológiát használni és visszaélni vele. Most, amikor valaki a véleményemet kéri a MI-ről, egyszerűen a pápa levelére utalhatom – vagy legalábbis a harmadik fejezetre.
A levél egy találó bibliai utalással kezdődik az emberi kommunikáció összeomlásának tragikus következményeire. Az emberiség egy "sorsdöntő választás előtt áll: vagy egy új Bábel tornyát építi, vagy egy olyan várost, ahol Isten és ember együtt lakik." Ezt követi egy részletes áttekintés arról, hogyan gondolkodtak Leo pápa elődei a dolgokról, valamint a Vatikán elképzeléseiről a munkáról, a tekintélyről, a kormányzásról, a tudományról, a hatalomról és az egymás iránti erkölcsi kötelességünkről. Kiemeli továbbá az egyház munkáját az emberi méltóság és szabadság védelmében.
A harmadik fejezet, a Technológia és dominancia: Az emberiség nagyszerűsége a MI ígéreteinek fényében, méltó a levél címéhez. Egy erőteljes (és gyakran idézett) részben, amely elmagyarázza, mi nem a MI, a pápa lényegében meghatározza, mit jelent embernek lenni. "Az úgynevezett mesterséges intelligenciák nem élnek át tapasztalatokat, nem rendelkeznek testtel, nem éreznek örömöt vagy fájdalmat, nem érlelődnek kapcsolatok által, és nem tudják belülről, mit jelent a szeretet, a munka, a barátság vagy a felelősség." A MI-nek nincs erkölcsi lelkiismerete, és nem mutat valódi aggodalmat az emberiség nagyobb jóléte iránt.
A levél ezután elmondja a legfontosabb és legszükségesebb dolgokat arról, ami a MI legnagyobb fenyegetése lehet: kizárólag a profit maximalizálására lehet programozni, ami csak ahhoz vezethet, hogy sokan szenvednek a kevesek hasznáért. A pápa figyelmeztet a "magánélet manipulálására" és az "információkkal való visszaélésre", az algoritmusok használatára a foglalkoztatás irányítására, a közszolgáltatásokhoz és hitelekhez való hozzáférés szabályozására, valamint valaki személyes hírnevének növelésére vagy károsítására.
Az együttérzés, az irgalom és a megbocsátás – amelyek nem állnak egy gép prioritási listájának élén – elavulttá válhatnak. "A 'szükséges áldozatok' igazolást nyerhetnek, a legkiszolgáltatottabbakra hárítva a terhet a faj állítólagos optimalizálásának nevében." Ha ennek az új hatalomnak az eszközei azok kezébe kerülnek, akik már most is gazdagsággal és befolyással rendelkeznek, akkor azokat leggazdagabb és legkiváltságosabb polgáraink kényelmének, egészségének és jólétének javítására fogják használni.
A pápa nem ítéli el kategorikusan a MI-t, hanem inkább azt, ahogyan a politikai elnyomás eszközeként és a gazdasági egyenlőtlenség súlyosbítására használható.
Ahogy a levél a végéhez közeledik, a pápa arra szólít fel bennünket, hogy maradjunk hűek az igazsághoz, fektessünk be az oktatásba, építsünk kapcsolatokat, és éljünk igazságban és békében – hogy ellenálljunk annak, ahogy az új technológiák "kizsákmányolhatják a legkiszolgáltatottabbakat, új rabszolgaságformákat hozhatnak létre, és hasznot húzhatnak a konfliktusokból". Világossá válik, hogy a pápa nem magát a MI-t ítéli el, hanem azt, ahogyan a politikai elnyomás eszközeként és a gazdasági egyenlőtlenség súlyosbítására használható.
Elméletileg kritizálhatnánk a levelet azért, mert nem megy elég messzire, mert nem használ egy másik bibliai metaforát – az aranyborjút – a MI elítélésére, amiért a pénzmegtakarítást helyezi előtérbe a lelki, egyéni és közösségi jóléttel szemben. De ez a hajó már elment, és nem sok mindent tehet Leo XIV – vagy bármely vallási vezető –, hogy elítélje ezeket az új fejlesztéseket a 21. századi bálványimádás egy formájaként.
Mégis, az enciklika emberi természetről alkotott víziója, az igazságosság és empátia szelleme, amelynek érvényesülnie kell, valamint a legmagasabb erkölcsi értékek alapvető fontossága – végső soron annyira kedves, annyira pozitív, annyira nagylelkű, és annyira egyértelműen igaza van a gyengék és szegények védelmére vonatkozó kötelességünkről, hogy nehéz okokat találni az elutasítására.
De ez a ijesztő része. Úgy tűnik, volt némi ellenállás a Szilícium-völgyből, ahol a legújabb technológia alkotói és mesterei azt sugallták, hogy a pápa nem tudja, miről beszél.
A Guardian véleménye a pápáról és Claude-ról: Leo XIV MI-ről szóló enciklikájának van igaza, amikor az embert helyezi előtérbe | Szerkesztőségi cikk
További információ
Jeremy Nixon, az AGI House – egy olyan csoport alapítója, amely arra összpontosít, hogy bizonyítsa, a MI lényegében egyenlő az emberi aggyal – a New York Timesban idézve azt mondta, hogy az egyház nem "gondolkodott el mélyen a MI-ről", hozzátéve: "Nem lehetne álláspontjuk róla, mert nem értik." És úgy tűnik, elterjedt az a hit, hogy a jelenlegi kutatások végeredménye gyakorlatilag egy új Isten, vagy legalábbis egy meggyőző utánzat lesz. A jövő veszélyei miatt aggódva társadalmunk úgy dönt, hogy figyelmen kívül hagyja a bizonyítékokat arra, hogy a MI hátrányai már itt vannak. Egy barátom lánya, egyetemista, aki reklámszakra jár, nemrég azt mondta neki a tanácsadója, hogy mire végez, a reklámszakmában minden állást átvesz a MI.
Ha ennek az új technológiának a mesterei nem értenek egyet azzal, amit a pápa annak veszélyeiként és hátrányaiként lát, akkor nagyon nagy bajban vagyunk. A probléma nem az, hogy egy robot fogja írni az Anna Kareninát. A probléma az, hogy senki sem fogja látni szükségét egy olyan regényre, amely ilyen gyönyörűen ragadja meg egy nő, egy egyedi emberi lény szenvedését.
Semmi értelme nem lenne egy ilyen könyvnek, hacsak az életet megváltoztató hiba történetét nem lehetne profittá változtatni egy előrelátó tech srác által, és egy nagyobb, jobb jacht vásárlására felhasználni – amelyet feltehetően egy állandó alsó osztály, olyan munkások szolgálnának ki, akiknek méltóságát, egykor értékelt és értékes munkáit ellopták a kapzsi mesterséges intelligencia formák.
Francine Prose a PEN American Center korábbi elnöke, valamint az Amerikai Művészeti és Irodalmi Akadémia és az Amerikai Művészeti és Tudományos Akadémia tagja. Új regénye, a Five Weeks in the Country, májusban jelent meg.
Gyakran Ismételt Kérdések
Íme egy lista a gyakran ismételt kérdésekről a "Hálás vagyok a pápának az MI-ről szóló enciklikájáért" kijelentés alapján
Kezdő Szintű Kérdések
K: Mi az az enciklika
V: Ez egy hivatalos levél a pápától az egész Katolikus Egyházhoz egy fontos témáról. Célja, hogy tanítson és irányítson.
K: Miért írt a pápa egy enciklikát a Mesterséges Intelligenciáról
V: Mert a MI gyorsan változtatja meg, hogyan élünk, dolgozunk és érintkezünk. A pápa úgy véli, hogy ez mély erkölcsi és etikai kérdéseket vet fel az emberi méltóságról, igazságosságról és békéről, ezért útmutatást akart adni.
K: A pápa azt mondja, hogy a MI rossz
V: Nem. Nem a technológia ellen van. Azt mondja, hogy óvatosnak kell lennünk, és a MI-t olyan módon kell használnunk, amely tiszteletben tartja az emberi életet, védi a kiszolgáltatottakat és előmozdítja a közjót, nem csak a profitot vagy a hatalmat.
K: Mi az MI-ről szóló enciklika fő üzenete
V: A központi gondolat az, hogy a MI-nek az emberiséget kell szolgálnia, nem pedig helyettesítenie vagy irányítania. Globális párbeszédre szólít fel annak biztosítására, hogy a MI-t etikusan fejlesszék és használják, a béke, az igazság és az emberi méltóság középpontba állításával.
K: Hogyan érint ez engem, mint hétköznapi embert
V: Azért fontos, mert a MI már jelen van az életedben – a keresőmotorokban, a közösségi médiában, a banki ügyintézésben és még az orvosi diagnózisokban is. A pápa arra kér mindenkit, hogy gondolkodjon el a méltányosságról, a magánéletről és arról, hogy ezek az eszközök segítik vagy ártanak a társadalomnak.
Középhaladó Szintű Kérdések
K: Milyen konkrét veszélyekre figyelmeztet a pápa a MI-vel kapcsolatban
V: Figyelmeztet egy algoritmikus társadalomra, ahol a gépek döntenek az emberek életét befolyásoló kérdésekben méltányosság vagy átláthatóság nélkül. Kiemeli továbbá a megfigyelés, a félretájékoztatás és a MI-t irányítók és az azt nem irányítók közötti egyenlőtlenség növekedésének kockázatait.
K: Az enciklika beszél a MI-ről a fegyverekben vagy a hadviselésben
V: Igen. Határozottan elítéli az autonóm fegyverrendszerek – olyan gépek, amelyek emberi döntéshozatal nélkül képesek ölni – fejlesztését. A pápa azzal érvel, hogy ez megfosztja a háborút minden erkölcsi felelősségre vonhatóságtól, és katasztrofális konfliktusokhoz vezethet.
K: Miben különbözik az Egyház álláspontja a MI-ről a tech cégek álláspontjától
