„По занятие съм разказвач“, пише Джийнeт Уинтърсън на първата страница на книгата си от 2021 г. „12 байта“, необичаен и провокиращ размисъл сборник с есета, в който тя разглежда как изкуственият интелект може да промени всеки аспект от живота ни. „И знам, че всичко, което правим, е измислица, докато не стане факт: мечтата за летене, мечтата за космически пътувания, мечтата да говориш с някого мигновено, през време и пространство, мечтата да не умираш – или да се завръщаш.“ Тя вече поне 15 години обмисляше възможните ни бъдеща – романът ѝ от 2007 г. „Камъкът на боговете“, например, си представяше свят след климатична катастрофа, населен с роботи и хора, които никога не остаряват, а преди „12 байта“ излезе „Франкищайн: История за любов“, която редува пресъздаване на лятото, в което Мери Шели е написала „Франкенщайн“, и пътуванията на транс лекар сред днешни криогеници и роботи с изкуствен интелект. Когато се срещаме, Уинтърсън току-що се е завърнала от Китай, където, разказва ми тя, първият ѝ роман „Портокали не са единственият плод“, фикционализиран разказ за детството ѝ, е продал над милион копия през последните шест години; над 200 000 души, предимно млади жени, са се опитали да дойдат и да я чуят да говори. Тя смята, че това е така, защото в свят на дълги работни часове и растяща несигурност, причинена от ИИ, този фикционализиран разказ за собственото ѝ бягство от затворено детство дава на читателите разрешение да си представят различно бъдеще за себе си. Оттогава тя е написала 13 романа за възрастни, както и нехудожествена литература, разкази, детски книги и сценарии. Сега иска да убеди продуцентската компания Goalhanger да ѝ даде подкаст. „Искам да направя един, наречен „Останалото е човешко“, казва тя, седнала на голо дървено маса в дома си, грузински набор от стаи над магазин – който тя също притежава – в Спиталфийлдс, източен Лондон. „Да видим какво запазваме за себе си в тази стремителна надпревара да възложим на външни изпълнители всичко, което мислехме, че сме.“ Вижте изображението на цял екранУинтърсън: „Имаме пазар, който наистина не знае за какво е образованието.“ Снимка: Позирано от модели; SDI Productions/Getty Images Защото сме, твърди тя, в повратна точка в историята ни като вид. До Индустриалната революция промяната беше изцяло за „Майка природа и бавния процес на ставане“, но след това ние „се намесихме в огромен мащаб. И това е решаващ момент.“ Изчислителната техника преди 70 години беше още една стъпка. Изкуственият интелект – който тя би предпочела да нарича алтернативен интелект – е следващият, и „еволюционен скок. Това е. ИИ е много повече от инструмент.“ Като се има предвид това, определено разбиране за това какво е несводимо човешко – нашите чувства, нашето въображение, нашите векове на изучаване на това кои сме и какво сме направили – трябва да бъде централно за това колко добре или зле могат да се развият нещата. Тя често е поразително оптимистична за това. Тя си представя връзка с ИИ, например, където можете да „поговорите със системата си. Тя ще погледне всичко. Ще върви с такава скорост. Ще погледне транспорта. Ще погледне комуналните услуги. Ще погледне заетостта, ще погледне работните часове и ще каже: „На какво процъфтяват тези странни същества, наречени хора? Какво им харесва? И винаги ли им е харесвало?“ Можем да направим това по истински утопичен начин и да кажем: „Добре, ще го направим по-добро.““ Ние сме в дълбоко значим момент на избор, вярва тя, който отразява избора, пред който бяхме изправени в Индустриалната революция – а именно: „Какво бъдеще ще изградим?“ Но като не успя да разпредели печалбите си справедливо, Индустриалната революция откри ера на безпрецедентно богатство за малцина и безпрецедентно страдание за мнозина – ситуация, която мнозина предсказват, че не само вече се повтаря, но ще бъде засенчена от последиците от ИИ: постоянна подкласа, цели континенти изоставени и лишени от текущи източници на доходи. Да не говорим за екологичното въздействие на центровете за данни идва в момент, когато светът най-малко може да си го позволи. Проблемът не е ИИ, настоява тя, а ние. „Няма неизбежна антиутопия.“ Ако нещата се объркат, това ще бъде заради „старомодно мислене, насложено върху тази чисто нова реалност“. По-конкретно, „идеята, че безсмислената безкрайна работа е добра за душата, е лудост от 19-ти век, предназначена да държи хората на мястото им. Повечето от това, от което се страхуваме относно ИИ и работните места, се свежда до политическите и икономическите избори, които нашите господари ще направят, точно както направиха в Индустриалната революция.“ Тя не е сляпо оптимистична. Тя знае, че „да, на път сме да провалим този шанс фундаментално да променим връзката си със света на труда“ – но това е така, защото „нашите господари използват остарели, неподходящи за целта икономически модели.“ Вижте изображението на цял екран „Това, което знаем за хората, е, че те обичат монополите.“ Снимка: Сара Лий/The Guardian Но не само старите печеливши-взема-всичко, „рационални“ икономически модели, при които целта оправдава средствата, са проблемът. Нашите погрешни предположения и предразсъдъци, които формират материала, върху който се обучават големите езикови модели (LLM), са вградени в самата тъкан на ИИ. Да не говорим за характерите и моралното въображение на тези, които го разработват. Когато се срещаме, Уинтърсън чете „Възходът и падението на изкуствената държава“ на Джил Лепор и повтаря аргумента на Лепор, че сега живеем „научнофантастичните книги, които тези [мъже, които] управляват света, са чели, когато са били на 13. И тя каза: „Сега всички сме под завивките с тези момчета и техните фенерчета. И работата е там, че те не са ги чели като предупреждения как да запазим доброто в нас. Те са ги чели като инструкции.“ Това е абсолютно ужасяващо.“ Едно голямо нещо, което изглежда са взели от тези книги, и от което Уинтърсън не може да не бъде очарована, е „крайната цел на Силициевата долина… да се измъкне от тялото и от планетата“ – не на последно място, защото тя е толкова наясно, че хуманизмът, в който всичко се свежда до нас самите, нашите възприятия и нашите тела, е исторически толкова скорошен. Хората казват: „Това са машини, не можеш да имаш връзки с тях“, казва тя. „Гледам ги и казвам: „милиарди хора на тази Земя точно сега имат най-дълбоката си връзка с небиологично същество, което наричат своя небесен бог.“ Нали? Винаги е било така! Ние сме абсолютно подготвени да не се тревожим, че биологията е всичко за нас. Ето защо е изобретена религията – тя е първият разрушителен стартъп в света. Тя е там, за да каже: това не е всичко. Това не е краят, това няма значение, това е преход.“ Вижте изображението на цял екран Илюстрация на фабрика в Лийдс по време на Втората индустриална революция. Снимка: Universal History Archive/Universal Images Group/Getty Images Значи буквално създаваме свои собствени богове? „Абсолютно! Това, което технологията прави сега, е това, което религията винаги е искала“, което е, в най-основния си смисъл, решение на проблема със смъртта. „Искам да кажа, имало ли е някога време, когато религията и науката задават един и същ въпрос, от Просвещението насам? И двете казват: „Задължено ли е съзнанието на материалността?“ И религията винаги е казвала не. А науката винаги е казвала да. А сега науката казва: „Ъъъ, неее.“ Знаете ли, за мен, откъдето идвам“ – детство на фундаменталистко християнство в Аклингтън през 60-те години и обучение за проповедник – „това е напълно очарователно.“ По-късно, по имейл, тя добавя: „Обичам тялото си, но бих била щастлива да променям формата си. Щастлива да се изплъзна от него в чисто съзнание един ден и разбира се хората казват, че няма съзнание без тяло, и това беше научното убеждение. Но сега? Хаха.“ Трябва да кажа, бих спорила обратното, че напредъкът в неврологията, имунологията и психотерапията означава, че това е по-скоро въпрос на научно убеждение от всякога. Да не говорим за факта, че ИИ също е напълно зависим от физическа система, иначе известна като центрове за данни. Въпреки че, както тя отбелязва, е важно да се помни, че „машините нямат лимбична система. Те са само невронни мрежи. Но ние имаме две системи – ние сме като хибридна кола с две задвижващи системи, така че имаме невронната мрежа, нашето рационално обработващо аз, и имаме лимбичната система, която е много по-стара и това е борба-бягство-замръзване, и откъдето идват всичките ни чувства.“ Може би отделянето от лимбичната е следващият етап, казва тя, и определено не е всичко добро. „Може би ще решим, че не се нуждаем от тази машина за чувства… натам се насочват техните братя. Не знам дали някога си седяла в стая с някои от тези по-големи момчета, защото е много интересно. Те не са свързани с чувствата си. Те ги намират за досадни.“ Тази технологично позволена възможност за един вид трансцендентност изглежда е пристигнала заедно с изискване за вяра – в технологията, в бъдещето, което тя създава, в хората, изграждащи това бъдеще, в нейните предсказания както за утопичен рай, така и за различни нюанси на ада, всичко от висши жреци, които ревниво пазят достъпа до това, което всъщност се случва. „Това, което знаем за хората, е, че те обичат монополите“, казва Уинтърсън, „защото това е концентрация на власт. Разбира се, може да бъде корпоратизирано, монополизирано до такава степен, че да стане най-лошият въобразим затвор“, както е разказано в брилянтния антиутопичен роман на Джоана Кавена от 2019 г. „Zed“. „Това е реална възможност“, казва тя. „И ето защо се нуждаем от хора, които са един вид свободни хора, които могат да мислят.“ Вижте изображението на цял екран Уинтърсън… „Покажи ми дете, което не иска да чуе история.“ Снимка: Позирано от модели; MoMo Productions/Getty Images Проблемът тогава е как подкрепяме – или развиваме – такива хора. „Има основно два начина да знаеш, че имаш бъдеще“, заяви наскоро Алекс Карп, главен изпълнителен директор на Palantir. „Първо, имаш някакво професионално обучение. Или второ, ти си невроразличен.“ Даниела Амодей, президент на Anthropic и самата тя завършила литература, когато беше попитана горе-долу същото, имаше различно мнение. „Всъщност мисля, че изучаването на хуманитарните науки ще бъде по-важно от всякога“, каза тя, защото „нещата, които ни правят хора, ще станат много по-важни, вместо много по-малко важни.“ Което прави кладата на хуманитарните науки в Обединеното кралство донякъде обезпокоителна: в годината до декември 2024 г. бяха загубени 4000 работни места в социалните науки, хуманитарните науки и изкуствата. Университетът в Ексетър наскоро обяви, че ще съкрати 150 роли, засягайки осем от 10 академици във факултета по хуманитарни науки, изкуства и социални науки, докато миналия месец Нотингам каза, че ще прекрати степените си по съвременни езици и музика. В някои университети хуманитарните науки, според доклад в този вестник, рискуват да бъдат „угасени“ напълно. Защо да спасяваме хуманитарните науки? Един отговор може да бъде, че те преподават усещане за това откъде идваме и кои сме, което също се чувства застрашено. „Огромен брой студенти ще излязат от университета с дипломи и на пазара на труда, които са по същество неграмотни“, каза един професор пред списание New York, отговаряйки на първата вълна от ИИ-местни, пристигащи във висшето образование. „Както в буквалния смисъл, така и в смисъла на това да бъдат исторически неграмотни и да нямат никакво познание за собствената си култура, още по-малко за нечия друга.“ Рискуваше, твърди доклад от MIT, да бъде един вид поколенческо „когнитивно предаване“. Друг е процесите, по които хората трябва да бъдат обучавани – четене и критичност към прочетеното, и след това необходимостта да напишат убедителни защити на тези критики. Необходимостта да впрегнеш интуициите си в есе ти помага да откриеш какво мислиш – и как мислиш – и как работят идеите на другите хора. Уинтърсън, която е изучавала английски в Оксфорд и е професор по ново писане в Университета в Манчестър от 14 години, както и преподава „клас за свободно мислене за творчество“, е съгласна. Но тя е пренебрежителна към голяма част от настоящата система. „Може би съм противоречива тук, но наистина мисля, че висшето образование се нуждае от преструктуриране отгоре надолу. Не мисля, че е жизнеспособно и не мисля, че се справя в настоящата си форма.“ Работата е там, че „имаме пазар, който наистина не знае за какво е образованието. За работа ли е? За личностно развитие ли е? Има и много безполезни курсове за висше образование, които не помагат. Мисля, че винаги е по-добре, като практично северно момиче, да се изправиш пред фактите за начало.“ Трябва да помислим, казва тя, за „какво е запазено за нас, което няма да бъде направено по-голямо, по-добро, по-бързо, по-силно от машините. И тук наистина се намесва висшето образование. Въпросът, който стои над всички тези неща за „Защо си отиват тези работни места?“, „Какво се случва в тези курсове, които вече не получават кандидати?“, е „Какви хора ще ни трябват в света, който идва? За какво са хората? Какво ще правим с нас?““ И това „ни връща към идеята, добре, добре, как развиваш ум? Как защитаваш ум? Защото умът е това огромно, чудовищно място, където всичко може да се случи.“ И за това „хуманистичното образование е от съществено значение. Трябва да поставим човека в центъра тук. Като променим начина, по който образоваме децата си от самото начало, можем да изведем на преден план творчеството, играта, решаването на проблеми, мисленето – защото е забавно да мислиш – изкуствата, защото хората са естествено творчески. Покажи ми дете, което не иска да чуе история или да танцува, или да нарисува картина, или да има въображаем приятел. Това не е наложено и не е елитаризъм. Това сме ние.“ Дори един час седмично, смята тя, би направил разлика. „Нека попитаме какво мислиш за света. „Защо мислиш така?“ Не е скъпо. Всъщност е въпрос на воля.“ Преподавай математика и изкуства и наука, предлага тя, поне до A-level, дори ако не се изпитват. „Разбира се, ще се специализираме. Нуждаем се от лекари и химици, но се нуждаем и от това, което някога се наричаше всестранно развити хора. Всичко е интересно! Хората се раждат с голям мозък. Предимно не го използваме.“ След като премине формалното образование, тя би вградила художници и публични интелектуалци на всяко ниво. „Изкуствата не са развлекателна индустрия“, както се изразява тя в „12 байта“. „Изкуствата винаги са били въображаема и емоционална борба с реалността – серия от изобретения и творения. Способност да мислим различно, готовност да променим разбирането си за себе си. Да ни помогнат да бъдем по-мъдри, по-рефлексивни, по-малко уплашени хора. Художниците правят нещо от нищото всеки ден.“ Срещаме се преди Джейкъб Коксън да напусне работата си в Anthropic, за да предупреди за 10% шанс ИИ да заличи човечеството, изпращайки вълна от паника по целия свят. След това се свързвам с нея относно колко позитивно се чувства Уинтърсън сега. Най-лошото „може да се случи“, повтаря тя. Но „огромността на добрия резултат е точно толкова реална, колкото и тоталността на нашия провал да го направим правилно.“ Над всичко, „това е човешко решение и човешка дилема. Това е нашият голям шанс. Може би последният ни шанс, точно както колегата на Тюринг Джак Гуд каза, когато нарече ИИ последното ни изобретение. Всичко е за игра.“ Можем само да се надяваме, че не е твърде късно.Най-новата ѝ книга е „Един Аладин, две лампи“. Тя също пише на jeanettewinterson.substack.com. „Един Аладин, две лампи“ от Джийнeт Уинтърсън (Vintage Publishing, £12.99). За да подкрепите Guardian, поръчайте копието си за £10.39 на guardianbookshop.com. Може да се прилагат такси за доставка.

Често задавани въпроси
Ето списък с ЧЗВ относно възгледите на Джийнeт Уинтърсън за ИИ и бъдещето на човечеството, базиран на есето ѝ „Няма неизбежна антиутопия“

Въпроси за начинаещи

1 Коя е Джийнeт Уинтърсън
Тя е британска писателка и професор, известна с романи като „Портокали не са единственият плод“. През последните години тя пише и говори extensively за изкуствения интелект и въздействието му върху обществото

2 Какво означава „Няма неизбежна антиутопия“
Означава, че лошото бъдеще не е гарантирано. Само защото ИИ може да причини проблеми, не означава, че ще го направи – резултатът зависи от изборите, които хората правят сега

3 Какво е ИИ с прости думи
ИИ е технология, която позволява на машините да изпълняват задачи, които обикновено изискват човешко мислене, като разбиране на език, разпознаване на изображения или вземане на решения

4 Какво е антиутопия
Антиутопията е въображаемо най-лошо общество – помислете за свят, управляван от машини, със загубени свободи и широко разпространено страдание

5 Какво е основното послание на Уинтърсън
Тя твърди, че бъдещето на ИИ зависи от нас. Не трябва да се страхуваме от технологията или да я приемаме сляпо – трябва да я оформим с човешки ценности, творчество и грижа

6 Тя против ИИ ли е
Не. Тя не е против технологията. Тя е против това технологията да се развива без човешки надзор и против третирането на лошото бъдеще като неизбежно

7 Какво мисли тя, че ИИ означава за човечеството
Тя вижда ИИ като огледало на човечеството – той отразява кои сме ние. Ако го изградим с емпатия и цел, той може да ни помогне; ако го изградим небрежно, той може да ни навреди

Въпроси за средно ниво

8 Защо Уинтърсън казва, че ИИ е огледало
Защото ИИ се учи от човешки данни и избори. Той отразява нашите предразсъдъци, ценности и приоритети – така ни показва какъв вид общество сме създали

9 Какви общи проблеми подчертава тя с ИИ
Тя посочва рискове като загуба на поверителност, концентрация на власт в големите технологични компании, нарушаване на работните места и опасността от третиране на ефективността като по-важна от човешкото достойнство

10 Какви ползи вижда тя в ИИ
Тя вижда потенциал в ИИ за здравеопазване, достъпност, творчество и освобождаване на хората от повтаряща се работа – ако се ръководи от човешки нужди, а не само от печалба

Related Posts