Хората често ме питат дали смятам, че всички бъдещи романи ще бъдат написани от изкуствен интелект. Това е по-скоро предизвикателство, отколкото истински въпрос. Питат ме дали се притеснявам, че машина може да върши работата ми и то по-добре? Обикновено се измъквам с нещо от сорта на: „Никой алгоритъм няма да напише Анна Каренина!“ Но и това не е истински отговор.
Затова съм благодарен на папа Лъв XIV, американския папа, за скорошното му писмо до света, Magnifica Humanitas: За опазването на човешката личност във времето на изкуствения интелект. Това е дълъг (над 40 000 думи), интелигентен и задълбочен документ, в който папата разглежда как тази бързо развиваща се технология може да бъде използвана и злоупотребявана. Сега, когато някой ме пита за мнението ми относно ИИ, мога просто да го насоча към писмото на папата – или поне към трета глава.
Писмото започва с подходящ библейски препратка към трагичните резултати от разпадането на човешката комуникация. Човечеството е изправено пред „решаващ избор: или да построи нова Вавилонска кула, или да изгради град, в който Бог и човечеството да живеят заедно.“ Следва подробен преглед на това как предшествениците на папа Лъв са мислили по тези въпроси, както и идеите на Ватикана за труда, властта, управлението, науката, силата и моралния ни дълг един към друг. Документът също така подчертава работата на църквата в защита на човешкото достойнство и свобода.
Трета глава, Технология и господство: Величието на човечеството в светлината на обещанията на ИИ, оправдава заглавието на писмото. В един силен (и често цитиран) пасаж, обясняващ какво не е ИИ, папата по същество определя какво означава да си човек. „Така наречените изкуствени интелекти не преживяват опит, не притежават тяло, не изпитват радост или болка, не узряват чрез взаимоотношения и не знаят отвътре какво означават любов, работа, приятелство или отговорност.“ ИИ няма морална съвест и не проявява истинска загриженост за общото благо на човечеството.
След това писмото казва най-важните и необходими неща за това, което може да бъде най-голямата заплаха на ИИ: той може да бъде програмиран единствено да максимизира печалбата, което може да доведе само до страдание на мнозина в полза на малцина. Папата предупреждава срещу „манипулирането на неприкосновеността на личния живот“ и „злоупотребата с информация“, срещу използването на алгоритми за управление на заетостта, контрол на достъпа до обществени услуги и кредити, както и за повишаване или увреждане на личната репутация на някого.
Състраданието, милостта и прошката – не точно приоритети за една машина – биха могли да остареят. „Могат да започнат да се оправдават „необходими жертви“, като тежестта се прехвърля върху най-уязвимите в преследване на предполагаемата оптимизация на вида.“ Ако инструментите на тази нова власт попаднат в ръцете на онези, които вече имат богатство и влияние, те ще бъдат използвани за подобряване на комфорта, здравето и благосъстоянието на най-богатите и привилегировани граждани.
Папата не осъжда директно ИИ, а по-скоро начина, по който той може да бъде използван като инструмент за политическо потисничество и за задълбочаване на икономическото неравенство.
Когато писмото приключва, папата ни призовава да останем верни на истината, да инвестираме в образованието, да изграждаме взаимоотношения и да живеем в справедливост и мир – да се противопоставим на начина, по който новите технологии могат да „експлоатират най-уязвимите, да създават нови форми на робство и да извличат печалба от конфликти.“ Става ясно, че папата не осъжда директно ИИ, а по-скоро начина, по който той може да бъде използван като инструмент за политическо потисничество и за влошаване на икономическото неравенство.
На теория бихте могли да критикувате писмото, че не отива достатъчно далеч, че не използва друга библейска метафора – златния телец – за да осъди ИИ, защото той поставя спестяването на пари над духовното, индивидуалното и общностното благополучие. Растеж. Но този влак вече е тръгнал и няма много какво Лъв XIV – или който и да е религиозен лидер – да направи, за да осъди тези нови постижения като форма на идолопоклонство от 21-ви век.
Въпреки това, визията на енцикликата за човешката природа, духът на справедливост и съпричастност, който трябва да надделее, и основното значение на най-висшите морални ценности – в крайна сметка е толкова мила, толкова позитивна, толкова щедра и толкова очевидно права относно нашия дълг да защитаваме слабите и бедните, че е трудно да се намерят причини да я отхвърлим.
Но това е страшната част. Очевидно има известна съпротива от Силициевата долина, където създателите и господарите на най-новата технология предполагат, че папата не знае за какво говори.
Гледната точка на Guardian за папата и Клод: Енцикликата на Лъв XIV за ИИ е права да постави човечеството на първо място | Редакционен коментар
Прочетете повече
Джереми Никсън, основател на AGI House – група, фокусирана върху доказването, че ИИ е по същество равен на човешкия мозък – беше цитиран в New York Times да казва, че църквата не е „мислила задълбочено за ... ИИ“, добавяйки: „Те не биха могли да имат позиция по въпроса, защото не го разбират.“ И изглежда има широко разпространено вярване, че крайният резултат от настоящите изследвания ще бъде, на практика, нов Бог, или поне убедителна имитация. Притеснени от опасностите на бъдещето, нашето общество избира да игнорира доказателствата, че недостатъците на ИИ вече са тук. Дъщерята на приятел, студентка, специалност реклама, наскоро беше казано от нейния съветник, че до момента, в който завърши, всички работни места в рекламата ще бъдат поети от ИИ.
Ако господарите на тази нова технология не могат да се съгласят с това, което папата вижда като нейни опасности и недостатъци, ние сме в много сериозна беда. Проблемът не е, че ще имаме робот, който пише Анна Каренина. Проблемът е, че никой няма да види нужда от роман, който толкова красиво улавя страданието на една жена, уникално човешко същество.
Нямаше да има смисъл от такава книга, освен ако тази история за променяща живота грешка не можеше да бъде превърната в печалба от далновиден технологичен предприемач и използвана за закупуване на по-голяма, по-добра яхта – вероятно обслужвана от постоянна подкласа, от работници, чието достойнство, чиито някога ценени и ценни работни места, са били откраднати от алчните форми на изкуствен интелект.
Франсин Проуз е бивш президент на PEN American Center и член на Американската академия на изкуствата и литературата и Американската академия на изкуствата и науките. Нейният нов роман, Пет седмици в провинцията, беше публикуван през май.
Често задавани въпроси
Ето списък с често задавани въпроси, базирани на изявлението Благодарен съм на папата за неговата енциклика за ИИ Ето защо
Въпроси за начинаещи
Въпрос: Какво е енциклика
Отговор: Това е официално писмо от папата до цялата Католическа църква по важна тема. Предназначено е да учи и напътства хората.
Въпрос: Защо папата написа енциклика за изкуствения интелект
Отговор: Защото ИИ бързо променя начина, по който живеем, работим и взаимодействаме. Папата вярва, че това повдига дълбоки морални и етични въпроси относно човешкото достойнство, справедливостта и мира, затова искаше да предложи насоки.
Въпрос: Казва ли папата, че ИИ е лош
Отговор: Не. Той не е против технологията. Казва, че трябва да бъдем внимателни и да използваме ИИ по начини, които уважават човешкия живот, защитават уязвимите и насърчават общото благо, а не само печалбата или властта.
Въпрос: Какво е основното послание на енцикликата за ИИ
Отговор: Основната идея е, че ИИ трябва да служи на човечеството, а не да го замества или контролира. Тя призовава за глобален разговор, за да се гарантира, че ИИ се разработва и използва етично, с фокус върху мира, истината и човешкото достойнство.
Въпрос: Как това се отразява на мен като обикновен човек
Отговор: Има значение, защото ИИ вече е в живота ви – в търсачките, социалните мрежи, банкирането и дори медицинските диагнози. Папата моли всички да мислят за справедливостта, неприкосновеността на личния живот и дали тези инструменти помагат или вредят на обществото.
Въпроси за средно напреднали
Въпрос: За какви конкретни опасности предупреждава папата относно ИИ
Отговор: Той предупреждава за алгоритмично общество, където машините вземат решения, които засягат живота на хората, без справедливост или прозрачност. Той също така подчертава рисковете от наблюдение, дезинформация и задълбочаване на неравенството между тези, които контролират ИИ, и тези, които не го правят.
Въпрос: Говори ли енцикликата за ИИ в оръжия или война
Отговор: Да. Тя силно осъжда разработването на автономни оръжейни системи – машини, които могат да убиват без човешко решение. Папата твърди, че това лишава войната от всякаква морална отговорност и може да доведе до катастрофални конфликти.
Въпрос: Как се различава възгледът на църквата за ИИ от този на технологичните компании
Отговор:
