Ihminen kysyy usein minulta, luulenko että kaikki tulevaisuuden romaanit kirjoitetaan tekoälyn toimesta. Se on vähemmän todellinen kysymys ja enemmän haaste. Kysyvätkö he, pelkäänkö että kone voi tehdä työni ja tehdä sen paremmin? Yleensä sivuutan sen jotenkin kuten: "Yksikään algoritmi ei aio kirjoittaa Anna Kareninaa!" Mutta sekään ei ole todellinen vastaus.
Olen siis kiitollinen paavi Leo XIV:lle, amerikkalaiselle paaville, hänen viimeaikaisesta kirjeestään maailmalle, Magnifica Humanitas: Ihmispersoonan turvaamisesta tekoälyn aikakaudella. Se on pitkä (yli 40 000 sanaa), älykäs ja harkittu asiakirja, jossa paavi käsittelee, miten tätä nopeasti kasvavaa teknologiaa voidaan käyttää ja väärinkäyttää. Nyt kun joku kysyy mielipidettäni tekoälystä, voin vain ohjata heidät paavin kirjeeseen – tai ainakin kolmanteen lukuun.
Kirje alkaa sopivalla raamatullisella viittauksella ihmisviestinnän hajoamisen traagisiin seurauksiin. Ihmiskunta kohtaa "ratkaisevan valinnan: joko rakentaa uuden Baabelin tornin tai rakentaa kaupungin, jossa Jumala ja ihmiskunta asuvat yhdessä." Tämän jälkeen tarkastellaan yksityiskohtaisesti, miten paavi Leon edeltäjät ajattelivat asioista, ja Vatikaanin näkemyksiä työstä, auktoriteetista, hallinnosta, tieteestä, vallasta ja moraalisesta velvollisuudestamme toisiamme kohtaan. Se korostaa myös kirkon työtä ihmisarvon ja vapauden puolustamisessa.
Kolmas luku, Teknologia ja valta-asema: Ihmiskunnan suuruus tekoälyn lupausten valossa, vastaa kirjeen otsikkoa. Voimakkaassa (ja usein siteeratussa) kohdassa, joka selittää mitä tekoäly ei ole, paavi määrittelee olennaisesti, mitä tarkoittaa olla ihminen. "Niin kutsutut tekoälyt eivät koe kokemuksia, niillä ei ole ruumista, ne eivät tunne iloa tai kipua, ne eivät kypsy ihmissuhteiden kautta eivätkä tiedä sisältäpäin mitä rakkaus, työ, ystävyys tai vastuu tarkoittavat." Tekoälyllä ei ole moraalista omatuntoa eikä se osoita todellista huolta ihmiskunnan yhteisestä hyvästä.
Kirje sitten sanoo tärkeimmät ja välttämättömimmät asiat siitä, mikä saattaa olla tekoälyn suurin uhka: se voidaan ohjelmoida yksinomaan maksimoimaan voitto, mikä voi vain johtaa siihen, että monet kärsivät harvojen hyödyn vuoksi. Paavi varoittaa "yksityisyyden manipuloinnista" ja "tiedon väärinkäytöstä", algoritmien käyttämisestä työllisyyden hallintaan, julkisten palvelujen ja luoton saatavuuden kontrollointiin sekä henkilökohtaisen maineen edistämiseen tai vahingoittamiseen.
Myötätunto, armo ja anteeksianto – eivät korkealla koneen prioriteettilistalla – voivat vanhentua. "'Välttämättömiä uhrauksia' saatetaan alkaa oikeuttaa, asettaen taakka haavoittuvimmille lajin oletetun optimoinnin tavoittelussa." Jos tämän uuden vallan työkalut päätyvät niiden käsiin, joilla on jo varallisuutta ja vaikutusvaltaa, niitä käytetään parantamaan rikkaimpien ja etuoikeutetuimpien kansalaistemme mukavuutta, terveyttä ja hyvinvointia.
Paavi ei suoraan tuomitse tekoälyä, vaan pikemminkin tapaa, jolla sitä voidaan käyttää poliittisen sorron välineenä ja taloudellisen eriarvoisuuden pahentamiseen.
Kirjeen päättyessä paavi kehottaa meitä pysymään uskollisina totuudelle, investoimaan koulutukseen, rakentamaan ihmissuhteita ja elämään oikeudenmukaisuudessa ja rauhassa – vastustamaan sitä, miten uudet teknologiat voivat "hyväksikäyttää haavoittuvimpia, luoda uusia orjuuden muotoja ja hyötyä konflikteista." Käy selväksi, ettei paavi tuomitse tekoälyä suoraan, vaan pikemminkin tapaa, jolla sitä voidaan käyttää poliittisen sorron välineenä ja taloudellisen eriarvoisuuden pahentamiseen.
Teoriassa kirjettä voisi kritisoida siitä, ettei se mene tarpeeksi pitkälle, ettei se käytä toista raamatullista vertauskuvaa – kultaista vasikkaa – tuomitakseen tekoälyä, koska se asettaa rahan säästämisen henkisen, yksilöllisen ja yhteisöllisen hyvinvoinnin edelle. Kasvu. Mutta se laiva on jo lähtenyt, eikä Leo XIV – tai kukaan uskonnollinen johtaja – voi tehdä paljoa tuomitakseen näitä uusia edistysaskeleita 2000-luvun epäjumalanpalvonnan muotona.
Silti kiertokirjeen näkemys ihmisluonnosta, oikeudenmukaisuuden ja empatian hengestä, jonka on vallittava, ja korkeimpien moraalisten arvojen olennaisesta tärkeydestä – se on loppujen lopuksi niin ystävällinen, niin positiivinen, niin antelias ja niin selvästi oikeassa velvollisuudestamme suojella heikkoja ja köyhiä, että on vaikea löytää syitä hylätä se.
Mutta se on pelottava osa. Ilmeisesti Piilaaksosta on tullut vastustusta, missä uusimman teknologian luojat ja mestarit ovat vihjanneet, ettei paavi tiedä mistä puhuu.
The Guardianin näkemys paavista ja Claudesta: Leo XIV:n kiertokirje tekoälystä on oikeassa asettaessaan ihmiskunnan etusijalle | Pääkirjoitus
Lue lisää
Jeremy Nixon, AGI House -nimisen ryhmän perustaja – joka keskittyy osoittamaan, että tekoäly on olennaisesti yhtäläinen ihmisaivojen kanssa – lainattiin New York Timesissa sanoneen, ettei kirkko ollut "ajatellut syvällisesti … tekoälyä", lisäten: "Heillä ei voinut olla kantaa siihen, koska he eivät ymmärrä sitä." Ja näyttää olevan laajalle levinnyt uskomus, että nykyisen tutkimuksen lopputulos on käytännössä uusi Jumala, tai ainakin vakuuttava jäljitelmä. Huolissaan tulevaisuuden vaaroista yhteiskuntamme valitsee sivuuttaa todisteet siitä, että tekoälyn haittapuolet ovat jo täällä. Erään ystäväni tytär, mainontaa pääaineenaan opiskeleva yliopisto-opiskelija, sai äskettäin neuvojaltaan kuulla, että siihen mennessä kun hän valmistuu, kaikki mainonnan työpaikat on korvattu tekoälyllä.
Jos tämän uuden teknologian mestarit eivät voi olla samaa mieltä siitä, mitä paavi pitää sen vaaroina ja haittoina, olemme todella syvissä vaikeuksissa. Ongelma ei ole se, että meillä on robotti kirjoittamassa Anna Kareninaa. Ongelma on se, ettei kukaan näe tarvetta romaanille, joka vangitsee niin kauniisti naisen, ainutlaatuisen ihmisolennon, kärsimyksen.
Tuollaisella kirjalla ei olisi mitään tarkoitusta, ellei tuota elämää muuttavan virheen tarinaa voitaisi muuttaa voitoksi eteenpäin katsovan teknologiaveljen toimesta ja käyttää isomman, paremman jahdin ostamiseen – oletettavasti pysyvän alaluokan palvelemana, työntekijöiden, joiden ihmisarvo, joiden kerran arvostetut ja arvokkaat työpaikat, on varastettu ahneilla tekoälyn muodoilla.
Francine Prose on PEN American Centerin entinen puheenjohtaja sekä American Academy of Arts and Lettersin ja American Academy of Arts and Sciencesin jäsen. Hänen uusi romaaninsa, Five Weeks in the Country, julkaistiin toukokuussa.
Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä, jotka perustuvat lausuntoon Olen kiitollinen paaville hänen tekoälyä koskevasta kiertokirjeestään Tässä syy
Aloittelijatason kysymykset
K: Mikä on kiertokirje?
V: Se on paavin virallinen kirje koko katoliselle kirkolle tärkeästä aiheesta. Sen tarkoitus on opettaa ja ohjata ihmisiä.
K: Miksi paavi kirjoitti kiertokirjeen tekoälystä?
V: Koska tekoäly muuttaa nopeasti tapaamme elää, työskennellä ja olla vuorovaikutuksessa. Paavi uskoo sen herättävän syviä moraalisia ja eettisiä kysymyksiä ihmisarvosta, oikeudenmukaisuudesta ja rauhasta, joten hän halusi tarjota ohjausta.
K: Sanooko paavi, että tekoäly on paha?
V: Ei. Hän ei ole teknologiaa vastaan. Hän sanoo, että meidän on oltava varovaisia ja käytettävä tekoälyä tavoilla, jotka kunnioittavat ihmiselämää, suojelevat haavoittuvia ja edistävät yhteistä hyvää, eivät vain voittoa tai valtaa.
K: Mikä on tekoälyä koskevan kiertokirjeen pääviesti?
V: Keskeinen ajatus on, että tekoälyn tulisi palvella ihmiskuntaa, ei korvata tai hallita sitä. Se kutsuu maailmanlaajuiseen keskusteluun varmistamaan, että tekoälyä kehitetään ja käytetään eettisesti keskittyen rauhaan, totuuteen ja ihmisarvoon.
K: Miten tämä vaikuttaa minuun tavallisena ihmisenä?
V: Sillä on merkitystä, koska tekoäly on jo elämässäsi – hakukoneissa, sosiaalisessa mediassa, pankkitoiminnassa ja jopa lääketieteellisissä diagnooseissa. Paavi pyytää kaikkia ajattelemaan oikeudenmukaisuutta, yksityisyyttä ja sitä, auttavatko nämä työkalut yhteiskuntaa vai vahingoittavatko sitä.
Keskitasoiset kysymykset
K: Mistä erityisistä vaaroista paavi varoittaa tekoälyn suhteen?
V: Hän varoittaa algoritmisesta yhteiskunnasta, jossa koneet tekevät päätöksiä, jotka vaikuttavat ihmisten elämään ilman oikeudenmukaisuutta tai läpinäkyvyyttä. Hän korostaa myös valvonnan, väärän tiedon ja eriarvoisuuden kasvamisen riskejä niiden välillä, jotka hallitsevat tekoälyä, ja niiden välillä, jotka eivät.
K: Puhuuko kiertokirje tekoälystä aseissa tai sodankäynnissä?
V: Kyllä. Se tuomitsee jyrkästi autonomisten asejärjestelmien – koneiden, jotka voivat tappaa ilman ihmisen päätöksentekoa – kehittämisen. Paavi väittää, että tämä riistää sodalta moraalisen vastuullisuuden ja voi johtaa katastrofaalisiin konflikteihin.
K: Miten kirkon näkemys tekoälystä eroaa teknologiayritysten näkemyksistä?
V:
