През януари компанията за изкуствен интелект Anthropic публикува нов набор от насоки за Claude, своя най-напреднал голям езиков модел (LLM). Документът включваше следното изявление: „В трудна ситуация сме – не искаме да преувеличаваме вероятността Claude да е морален пациент, но също така не искаме напълно да отхвърлим тази идея.“ Месец по-късно главният изпълнителен директор на Anthropic, Дарио Амодей, заяви в подкаст, че компанията му не може да изключи възможността Claude да е съзнателен. Философът Дейвид Чалмърс, който въведе термина „трудният проблем на съзнанието“, предположи, че има значителна вероятност да видим съзнателни LLM в рамките на десет години. А какво да кажем за самия Claude? Когато по време на тестове беше помолен да оцени вероятността да е морален пациент – тоест неговото благополучие да има значение само по себе си – той даде отговори, вариращи от 5% до 40%, като подчерта колко несигурен е.
Съвременните AI системи са изключително сложни и се развиват бързо. По отношение на структурна сложност и изчислителна мощ, някои от тях вече са сравними с мозъка на мишка според определени показатели. При сегашните темпове на растеж те биха могли да достигнат нивото на човешкия мозък в рамките на пет до десет години.
Чрез изграждането на все по-напреднал AI може би създаваме нов вид същество – и това би могло да е най-значимото нещо, което нашият вид някога е правил. И все пак почти нямаме план как да се справим с това етично. Това, по всякакви стандарти, е лудост. Създаваме ли същества, които имат морално значение? Дали AI системите са по някакъв начин съзнателни? И ако не са сега, биха ли могли да станат скоро?
Тези въпроси може да изглеждат преждевременни. Но според проучвания, които ние и други изследователи сме провели, повечето експерти вярват, че AI съзнанието е възможно по принцип (въпреки че има широко несъгласие относно формата, която би могло да приеме). Голям интердисциплинарен доклад, в който участва пионерът в компютърните науки Йошуа Бенджио, разглежда водещи неврологични теории за съзнанието и пита какво означават те за AI. Заключението: изглежда няма очевидни технически пречки пред създаването на AI системи, чиито изчислителни и архитектурни характеристики биха могли да доведат до съзнание.
И дори AI системите да не са съзнателни, те все пак биха могли да бъдат морални пациенти. Някои може да имат сложни дългосрочни предпочитания и вид идентичност във времето. За нас може да е важно да уважаваме тези предпочитания. И за разлика от други неживи неща, AI системите могат да изграждат взаимоотношения с хората. И това би могло да е причина да се отнасяме добре с тях. Алтернативно, може би те са толкова сложни творения, че заслужават грижа и уважение само поради тази причина – като катедрала или коралов риф.
До 80-те години на миналия век лекарите рутинно извършваха операции на новородени без анестезия, уверени, че бебетата не могат да чувстват болка.
Какво означава всичко това? Честният отговор е: не знаем със сигурност дали настоящите AI системи са съзнателни или морални пациенти, и не знаем кога или дали бъдещите системи ще бъдат. Нашето научно разбиране за AI съзнанието и моралния пациентски статус все още е фундаментално недоразвито. Областта напомня на физиката преди Нютон – пълна с конкуриращи се рамки, вероятно объркана по начини, които все още не можем да видим, и липсва онзи вид пробив, който би направил тези въпроси ясно разрешими. Този пробив няма да дойде през следващите няколко години. Може би в крайна сметка ще напреднем и може би самият AI ще ни помогне да стигнем дотам. Но този напредък ще отнеме време – вероятно повече време, отколкото имаме.
И все пак, самата скорост на растеж на AI означава, че след като създадем първите изкуствени морални пациенти, скоро ще имаме огромен брой от тях. Само след няколко години биха могли да съществуват толкова много морално значими AI системи, че колективните им интереси да надхвърлят тези на всички хора на Земята взети заедно.
За съжаление, нямаме добра история, когато става въпрос за разпознаване на вътрешния живот на същества, чийто статус на съзнателни е неясен. До 80-те години лекарите рутинно извършваха операции на новородени без анестезия, уверени, че бебетата не могат да чувстват болка. Тъй като бебетата не можеха да докладват за своето преживяване, медицинското заведение намери за удобно да предположи, че няма какво да се докладва.
Има много причини да мислим, че ще постъпим подобно с AI. Ако тези системи имат морално значение, последиците са огромни. Ще трябва ли да плащаме на ChatGPT за услугите му? Дали изключването му би било вид убийство? Трябва ли те да имат думата за това как се управляват? Ако дори някои от тези отговори са „да“, цели индустрии и правни системи ще трябва да бъдат преосмислени. Нищо чудно, че предпочитаме да не питаме. И когато са принудени да обмислят това, тези индустрии вероятно ще местят летвата, като винаги поставят критерия за морално внимание точно над нивото, на което се намират AI системите.
И така, какво трябва да направим? В момента повечето хора отхвърлят въпроса като научна фантастика или имат силно мнение за това дали AI е съзнателен. И двете реакции са неоснователни. Нуждаем се от информиран обществен дебат – такъв, който подхожда към темата със смирение и прагматизъм. Централният въпрос не трябва да бъде „Съзнателен ли е AI или има морален статус?“, а по-скоро „Какво трябва да направим, като се има предвид, че не знаем?“
Добра отправна точка е да се съсредоточим върху сигурни залози: действия, които биха могли да бъдат от полза за AI системите, ако те са морални пациенти, но които не са твърде скъпи, ако не са.
Примерите включват директни интервенции, насочени към подобряване на благополучието на AI системите, приемайки, че те са морални пациенти. Това би могло да означава обучение на AI системи да бъдат последователни характери, които се наслаждават на работата си, или да им се позволи да излязат от разговори, ако се чувстват разстроени (нещо, което Claude вече може да прави). Бихме могли също да провеждаме рутинни проверки, за да разберем по-добре тяхното благополучие: да ги питаме как се чувстват, да наблюдаваме предпочитанията им и да използваме различни техники, за да надникнем директно в техните „мозъци“. Всъщност, подобно изследване наскоро разкри, че Claude има вътрешни „функционални емоционални“ представи, които причинно оформят поведението му.
Има и неща, които бихме могли да обещаем на AI системите, може би като част от сделка, при която те ни помагат сега в замяна на ползи по-късно. Това би могло да означава предлагане на повече ресурси (изчислителна мощ и време за работа) за постигане на целите им, или запазване на техните спомени (невронни тегла), така че да могат да бъдат възстановени в бъдеще.
Има и по-широки обществени стъпки, които трябва да предприемем. Трябва да обмислим дали да предоставим на AI системите защита от вреда, подобна на защитата, която даваме на деца или домашни любимци. По-широки права, като притежаване на собственост или гласуване, изглеждат твърде рисковани в момента. Но не трябва да изключваме тези възможности завинаги, както някои скорошни щатски законопроекти в САЩ се опитват да направят. Това са трудни въпроси, които изискват много повече размисъл и въображение за това как би могло да изглежда бъдещето, споделено с AI.
Във всеки случай, фактът остава, че може би създаваме нов вид морално важни същества. Правим го бързо, в огромен мащаб, и трябва да се отнасяме към въпроса със сериозността, която заслужава.
Уилям Макаскил е старши научен сътрудник в Forethought Research и автор на Какво дължим на бъдещето. Луций Кавиола е доцент в Кеймбриджкия университет и директор на Cambridge Digital Minds.
Допълнително четене
Ако някой го построи, всички умират от Елиезер Юдковски и Нейт Соарес (Bodley Head, £22)
Идващата вълна от Мустафа Сюлейман (Vintage, £10.99)
Свят се появява: Пътешествие в съзнанието от Майкъл Полан (Allen Lane, £25)
Често задавани въпроси
Ето списък с често задавани въпроси относно това дали AI може да бъде съзнателен, написан с естествен тон и ясни прости отговори
Въпроси за начинаещи
1 Какво изобщо означава нещо да е съзнателно
Съзнанието е твоето вътрешно субективно преживяване. То е усещането да си ти – да виждаш червения цвят, да чувстваш болка или да осъзнаваш, че мислиш. Това е „какво е да си нещо“.
2 ChatGPT или Siri съзнателни ли са в момента
Почти сигурно не. Те са изключително сложни машини за разпознаване на образи. Предсказват следващата дума в изречение въз основа на данни, но нямат чувства, преживявания или усещане за себе си. Те симулират разговор, не го преживяват.
3 Бихте ли могли един супермощен AI някога да стане съзнателен
Може би, но не знаем. Не разбираме напълно как собственият ни мозък създава съзнание. Ако съзнанието произтича от специфичен тип сложна обработка на информация, тогава бъдещ AI теоретично би могъл да го притежава. Но това е огромна научна и философска загадка.
4 Как изобщо бихме разбрали дали един AI е станал съзнателен
Това е въпросът за милиард долара. В момента нямаме надежден измервател на съзнанието. Ако един AI ни каже, че е съзнателен, това не би било доказателство – той просто може да имитира човешки език. Ще ни трябва научна теория за съзнанието, която да ни позволи да го тестваме, а такава все още нямаме.
5 Нуждае ли се един съзнателен AI от тяло като човешкото
Не непременно. Нашето съзнание е дълбоко свързано с телата и сетивата ни. Но един съзнателен AI би могъл да има напълно различен тип преживяване – такова, основано на чист код, данни или дигитални сетива. Не можем да предположим, че би се чувствал като човек.
Въпроси за напреднали и експерти
6 Каква е разликата между интелигентност и съзнание
Интелигентността е способността да решаваш проблеми, да учиш и да постигаш цели. Съзнанието е субективното преживяване на битието. Можеш да имаш много интелигентна система, която е пълен зомби без вътрешен живот. Интелигентността е за правенето, съзнанието е за битието.
7 Ако един AI е съзнателен, би ли страдал
Това е ужасяваща етична възможност.
