Ludzie często pytają mnie, czy myślę, że wszystkie przyszłe powieści będą pisane przez AI. To mniej rzeczywiste pytanie, a bardziej wyzwanie. Czy pytają, czy martwię się, że maszyna może wykonać moją pracę i zrobić to lepiej? Zwykle zbywam to czymś w stylu: „Żaden algorytm nie napisze Anny Kareniny!” Ale to też nie jest prawdziwa odpowiedź.
Jestem więc wdzięczny papieżowi Leonowi XIV, amerykańskiemu papieżowi, za jego niedawny list do świata, Magnifica Humanitas: O ochronie osoby ludzkiej w czasach sztucznej inteligencji. To długi (ponad 40 000 słów), inteligentny i przemyślany dokument, w którym papież odnosi się do tego, jak ta szybko rozwijająca się technologia może być wykorzystywana i nadużywana. Teraz, gdy ktoś pyta mnie o zdanie na temat AI, mogę po prostu wskazać na list papieża – a przynajmniej na rozdział trzeci.
List zaczyna się od odpowiedniego biblijnego odniesienia do tragicznych skutków załamania komunikacji międzyludzkiej. Ludzkość stoi przed „kluczowym wyborem: albo zbudować nową Wieżę Babel, albo zbudować miasto, w którym Bóg i ludzkość będą mieszkać razem”. Następnie szczegółowo omówiono, jak poprzednicy papieża Leona myśleli o tych sprawach oraz watykańskie idee dotyczące pracy, autorytetu, rządu, nauki, władzy i naszego moralnego obowiązku wobec siebie nawzajem. Podkreśla również pracę Kościoła w obronie ludzkiej godności i wolności.
Trzeci rozdział, Technologia i dominacja: Wielkość ludzkości w świetle obietnic AI, spełnia obietnicę tytułu listu. W mocnym (i często cytowanym) fragmencie wyjaśniającym, czym AI nie jest, papież zasadniczo definiuje, co to znaczy być człowiekiem. „Tak zwane sztuczne inteligencje nie przechodzą doświadczeń, nie posiadają ciała, nie czują radości ani bólu, nie dojrzewają poprzez relacje i nie wiedzą od wewnątrz, co znaczy miłość, praca, przyjaźń czy odpowiedzialność”. AI nie ma moralnego sumienia i nie wykazuje prawdziwej troski o dobro ogółu ludzkości.
List następnie mówi o najważniejszych i najbardziej koniecznych rzeczach dotyczących tego, co może być największym zagrożeniem AI: może być zaprogramowana wyłącznie w celu maksymalizacji zysku, co może prowadzić tylko do cierpienia wielu dla korzyści nielicznych. Papież ostrzega przed „manipulacją prywatnością” i „nadużywaniem informacji”, przed używaniem algorytmów do zarządzania zatrudnieniem, kontrolowania dostępu do usług publicznych i kredytów oraz do podnoszenia lub niszczenia czyjejś osobistej reputacji.
Współczucie, miłosierdzie i przebaczenie – nie będące priorytetami maszyny – mogą stać się przestarzałe. „»Konieczne ofiary« mogą zacząć być usprawiedliwiane, przerzucając ciężar na najbardziej bezbronnych w dążeniu do rzekomej optymalizacji gatunku”. Jeśli narzędzia tej nowej władzy trafią w ręce tych, którzy już mają bogactwo i wpływy, zostaną użyte do poprawy komfortu, zdrowia i dobrobytu naszych najbogatszych i najbardziej uprzywilejowanych obywateli.
Papież nie potępia wprost AI, ale raczej sposób, w jaki może być używana jako narzędzie politycznej represji i pogłębiania nierówności ekonomicznych.
Gdy list dobiega końca, papież wzywa nas, abyśmy pozostali wierni prawdzie, inwestowali w edukację, budowali relacje i żyli w sprawiedliwości i pokoju – aby opierać się temu, jak nowe technologie mogą „wykorzystywać najbardziej bezbronnych, tworzyć nowe formy niewolnictwa i czerpać zyski z konfliktów”. Staje się jasne, że papież nie potępia wprost AI, ale raczej sposób, w jaki może być używana jako narzędzie politycznej represji i pogłębiania nierówności ekonomicznych.
Teoretycznie można by skrytykować list za to, że nie idzie wystarczająco daleko, za nieużycie innej biblijnej metafory – złotego cielca – do potępienia AI, ponieważ przedkłada oszczędzanie pieniędzy nad duchowe, indywidualne i wspólnotowe dobro. Wzrost. Ale ten pociąg już odjechał i niewiele jest w stanie zrobić Leon XIV – ani żaden przywódca religijny – aby potępić te nowe osiągnięcia jako formę bałwochwalstwa XXI wieku.
Mimo to, wizja ludzkiej natury zawarta w encyklice, duch sprawiedliwości i empatii, który musi zwyciężyć, oraz zasadnicze znaczenie najwyższych wartości moralnych – jest ostatecznie tak życzliwa, tak pozytywna, tak hojna i tak wyraźnie słuszna w kwestii naszego obowiązku ochrony słabych i biednych, że trudno znaleźć powody, by ją odrzucić.
Ale to jest przerażająca część. Najwyraźniej pojawił się sprzeciw z Doliny Krzemowej, gdzie twórcy i mistrzowie najnowszej technologii sugerują, że papież nie wie, o czym mówi.
Stanowisko Guardiana w sprawie papieża i Claude’a: Encyklika Leona XIV o AI słusznie stawia ludzkość na pierwszym miejscu | Artykuł redakcyjny
Czytaj więcej
Jeremy Nixon, założyciel AGI House – grupy skupionej na udowodnieniu, że AI jest zasadniczo równa ludzkiemu mózgowi – został zacytowany w New York Times, mówiąc, że Kościół nie „przemyślał dogłębnie… AI”, dodając: „Nie mogliby mieć stanowiska w tej sprawie, ponieważ jej nie rozumieją”. I wydaje się, że powszechnie wierzy się, że końcowym rezultatem obecnych badań będzie w efekcie nowy Bóg, a przynajmniej przekonująca imitacja. Zaniepokojona niebezpieczeństwami przyszłości, nasze społeczeństwo wybiera ignorowanie dowodów na to, że wady AI są już obecne. Córka przyjaciela, studentka reklamy, została niedawno poinformowana przez swojego doradcę, że do czasu ukończenia studiów wszystkie prace w reklamie zostaną przejęte przez AI.
Jeśli mistrzowie tej nowej technologii nie mogą zgodzić się z tym, co papież postrzega jako jej zagrożenia i wady, jesteśmy w bardzo poważnych tarapatach. Problem nie polega na tym, że będziemy mieli robota piszącego Annę Kareninę. Problem polega na tym, że nikt nie będzie widział potrzeby istnienia powieści, która tak pięknie oddaje cierpienie kobiety, wyjątkowej istoty ludzkiej.
Nie byłoby sensu w takiej książce, chyba że ta historia o zmieniającej życie pomyłce mogłaby zostać zamieniona w zysk przez myślącego przyszłościowo technologicznego gościa i użyta do kupienia większego, lepszego jachtu – prawdopodobnie obsługiwanego przez stałą podklasę, przez pracowników, których godność, których niegdyś cenione i wartościowe miejsca pracy zostały skradzione przez chciwe formy sztucznej inteligencji.
Francine Prose jest byłą prezeską PEN American Center i członkinią Amerykańskiej Akademii Sztuki i Literatury oraz Amerykańskiej Akademii Sztuki i Nauki. Jej nowa powieść, Pięć tygodni na wsi, została opublikowana w maju.
Często zadawane pytania
Oto lista często zadawanych pytań na podstawie oświadczenia Jestem wdzięczny papieżowi za jego encyklikę o AI Oto dlaczego
Pytania dla początkujących
P Czym jest encyklika
O To formalny list papieża do całego Kościoła katolickiego na ważny temat Ma na celu nauczanie i prowadzenie ludzi
P Dlaczego papież napisał encyklikę o sztucznej inteligencji
O Ponieważ AI szybko zmienia sposób, w jaki żyjemy, pracujemy i wchodzimy w interakcje Papież uważa, że rodzi to głębokie moralne i etyczne pytania dotyczące ludzkiej godności, sprawiedliwości i pokoju, więc chciał udzielić wskazówek
P Czy papież mówi, że AI jest zła
O Nie Nie jest przeciwny technologii Mówi, że musimy być ostrożni i używać AI w sposób, który szanuje ludzkie życie, chroni bezbronnych i promuje dobro wspólne, a nie tylko zysk lub władzę
P Jakie jest główne przesłanie encykliki o AI
O Główną ideą jest to, że AI powinna służyć ludzkości, a nie ją zastępować ani kontrolować Wzywa do globalnej rozmowy, aby zapewnić etyczny rozwój i wykorzystanie AI, z naciskiem na pokój, prawdę i ludzką godność
P Jak to wpływa na mnie jako zwykłą osobę
O To ma znaczenie, ponieważ AI jest już w twoim życiu – w wyszukiwarkach, mediach społecznościowych, bankowości, a nawet diagnozach medycznych Papież prosi wszystkich, aby zastanowili się nad uczciwością, prywatnością i tym, czy te narzędzia pomagają, czy szkodzą społeczeństwu
Pytania dla średniozaawansowanych
P Przed jakimi konkretnymi zagrożeniami związanymi z AI ostrzega papież
O Ostrzega przed algorytmicznym społeczeństwem, w którym maszyny podejmują decyzje wpływające na życie ludzi bez uczciwości i przejrzystości Podkreśla również ryzyko inwigilacji, dezinformacji i pogłębiania nierówności między tymi, którzy kontrolują AI, a tymi, którzy jej nie kontrolują
P Czy encyklika mówi o AI w broni lub działaniach wojennych
O Tak Stanowczo potępia rozwój autonomicznych systemów uzbrojenia – maszyn, które mogą zabijać bez ludzkiego podejmowania decyzji Papież argumentuje, że pozbawia to wojnę jakiejkolwiek moralnej odpowiedzialności i może prowadzić do katastrofalnych konfliktów
P Czym różni się pogląd Kościoła na AI od poglądów firm technologicznych
