„Mesemondó vagyok a szakmámat tekintve” – írja Jeanette Winterson 2021-es könyve, a 12 Bytes első oldalán, amely szokatlan és gondolatébresztő esszékötet, melyben azt vizsgálja, hogyan változtathatja meg a mesterséges intelligencia életünk minden területét. „És tudom, hogy minden, amit teszünk, fikció, amíg ténnyé nem válik: a repülés álma, az űrutazás álma, az álom, hogy azonnal beszélj valakivel, téren és időn át, az álom, hogy ne halj meg – vagy hogy visszatérj.” Már legalább 15 éve gondolkodott lehetséges jövőinkről – 2007-es regénye, a The Stone Gods például egy klímakatasztrófa utáni világot képzelt el, amelyet soha nem öregedő robotok és emberek népesítenek be, míg a 12 Bytes előtt a Frankisstein: A Love Story jelent meg, amely váltakozik aközött, hogy újraalkotja azt a nyarat, amikor Mary Shelley a Frankensteint írta, és egy transz orvos utazásai között a jelenkori kriogenikusok és MI-vezérelt robotok körében. Amikor találkozunk, Winterson éppen Kínából tért vissza, ahol – mondja nekem – első regénye, az Oranges Are Not the Only Fruit, gyermekkorának fikcionalizált beszámolója, több mint egymillió példányban kelt el az elmúlt hat évben; több mint 200 000 ember, többségükben fiatal nők, próbált eljönni meghallgatni őt. Úgy gondolja, ennek az az oka, hogy egy hosszú munkaidőkkel és a mesterséges intelligencia által okozott növekvő bizonytalansággal teli világban saját, csapdába zárt gyermekkorából való menekülésének ez a fikcionalizált beszámolója engedélyt ad az olvasóknak, hogy más jövőt képzeljenek el maguknak. Azóta 13 regényt írt felnőtteknek, valamint ismeretterjesztő műveket, novellákat, gyerekkönyveket és forgatókönyveket. Most szeretné meggyőzni a Goalhanger produkciós céget, hogy adjon neki egy podcastot. „Szeretnék csinálni egyet The Rest is Human címmel” – mondja, egy csupasz faasztalnál ülve otthonában, egy georgiánus szobasorban egy üzlet felett – amely szintén az övé – Spitalfieldsben, Kelet-Londonban. „Hogy lássuk, mit tartunk meg magunknak ebben a fejvesztett rohanásban, hogy kihelyezzünk mindent, amiről azt hittük, hogy mi vagyunk.” Kép megtekintése teljes képernyőnWinterson: „Van egy piacunk, amely igazából nem tudja, mi az oktatás célja.” Fotó: Pózolt modellek; SDI Productions/Getty Images Mert – érvel – fajunk történetének fordulópontján állunk. Az ipari forradalomig a változás minden volt, csak nem „a Természetanya és a válás lassú folyamata”, de aztán „hatalmas léptékben avatkoztunk be. És ez egy döntő pillanat.” A számítástechnika 70 évvel ezelőtt egy újabb lépés volt. A mesterséges intelligencia – amelyet inkább alternatív intelligenciának nevezne – a következő, és „evolúciós ugrás. Ez az, ami ez. Az MI sokkal több, mint egy eszköz.” Ezt figyelembe véve a megértése annak, ami redukálhatatlanul emberi – érzéseink, képzeletünk, évszázados tanulmányaink arról, kik vagyunk és mit tettünk – központi kell legyen abban, hogy mennyire jól vagy rosszul alakulhatnak a dolgok. Gyakran feltűnően optimista ezzel kapcsolatban. Elképzel például egy kapcsolatot az MI-vel, ahol „beszélgethetsz a rendszereddel. Mindent meg fog nézni. Olyan sebességgel fog haladni. Meg fogja nézni a közlekedést. Meg fogja nézni a közműveket. Meg fogja nézni a foglalkoztatást, megnézi a munkaidőt, és azt mondja: »Min virágzik ez a furcsa dolog, amit embereknek hívnak? Mit szeretnek? És mindig is szerették?« Ezt igazán utópisztikus módon tehetnénk, és azt mondhatnánk: »Rendben, jobbá fogjuk tenni.«” Egy mélyen jelentőségteljes választási pillanatban vagyunk – hiszi –, amely tükrözi az ipari forradalomban szembesült választást – nevezetesen: „Milyen jövőt építsünk?” De mivel nem osztotta el nyereségeit igazságosan, az ipari forradalom példátlan gazdagság korszakát hozta el keveseknek és példátlan nyomort sokaknak – egy helyzet, amelyről sokan jósolják, hogy nemcsak hogy már megismétlődik, hanem eltörpül majd az MI következményei mellett: egy állandó alsóbb osztály, egész kontinensek maradnak hátra és fosztatnak meg jelenlegi bevételi forrásaiktól. Nem is beszélveAz adatközpontok környezeti hatása olyan időpontban jön, amikor a világ a legkevésbé engedheti meg magának. A probléma nem az MI – ragaszkodik hozzá –, hanem mi. „Nincs elkerülhetetlen disztópia.” Ha a dolgok rosszul alakulnak, az „a régimódi gondolkodás miatt lesz, amely erre a vadonatúj valóságra rakódik.” Konkrétan „az az elképzelés, hogy az értelmetlen végtelen munka jó a léleknek, egy 19. századi őrület, amelyet arra terveztek, hogy az embereket a helyükön tartsa. A legtöbb, amitől az MI-vel és a munkahelyekkel kapcsolatban félünk, a politikai és gazdasági döntésekre vezethető vissza, amelyeket uraink hoznak majd, ahogyan az ipari forradalomban is tették.” Nem vakon optimista. Tudja, hogy „igen, jó úton haladunk afelé, hogy elrontsuk ezt az esélyt, hogy alapvetően megváltoztassuk a munka világához való viszonyunkat” – de ez azért van, mert „uraink elavult, a célra nem alkalmas gazdasági modelleket használnak.” Kép megtekintése teljes képernyőn „Amit az emberekről tudunk, az az, hogy imádják a monopóliumokat.” Fotó: Sarah Lee/The Guardian De nem csak a régi győztes mindent visz, „racionális” cél-igazolja-az-eszközt gazdasági modellek a probléma. Hibás feltételezéseink és előítéleteink, amelyek anyagát a nagy nyelvi modellek (LLM-ek) képzik, magába az MI szövetébe vannak beépítve. Nem is beszélve azok karakteréről és erkölcsi képzeletéről, akik fejlesztik. Amikor találkozunk, Winterson Jill Lepore The Rise and Fall of the Artificial State című könyvét olvassa, és megismétli Lepore érvét, miszerint most „azokat a sci-fi könyveket éljük, amelyeket ezek [a világot irányító férfiak] 13 éves korukban olvastak. És azt mondta: »Most mindannyian e fiúk és zseblámpáik takarója alatt vagyunk. És a helyzet az, hogy ők nem figyelmeztetésként olvasták ezeket arról, hogyan őrizzük meg azt, ami jó bennünk. Használati utasításként olvasták őket.« Ez teljesen rémisztő.” Egy nagy dolog, amit úgy tűnik, merítettek ezekből a könyvekből, és ami Winterson számára ellenállhatatlanul lenyűgöző, „a Szilícium-völgy végső célja… hogy kijusson a testből és elhagyja a bolygót” – nem utolsósorban azért, mert annyira tudatában van annak, hogy a humanizmus, amelyben minden visszavezetődik önmagunkhoz, észlelésünkhöz és testünkhöz, történelmileg olyan friss. Az emberek azt mondják: „Ezek gépek, nem lehet kapcsolatod velük” – mondja. „Ránézek rájuk és azt mondom: »A Földön élő emberek milliárdjai most élik legmélyebb kapcsolatukat egy nem biológiai entitással, amelyet égistennek neveznek.« Ugye? Mindig is így volt! Teljesen fel vagyunk készítve arra, hogy ne aggódjunk amiatt, hogy a biológia minden, ami vagyunk. Ezért találták fel a vallást – ez a világ első diszruptív startupja. Azért van, hogy azt mondja, ez nem az. Ez nem a vég, ez nem számít, ez egy átmenet.” Kép megtekintése teljes képernyőn Egy leedsi malom illusztrációja a második ipari forradalom idejéből. Fotó: Universal History Archive/Universal Images Group/Getty Images Tehát szó szerint a saját isteneinket gyártjuk? „Teljesen! Amit a tech most tesz, az az, amit a vallás mindig is akart” – ami legalapvetőbb szinten megoldás a halál problémájára. „Úgy értem, volt-e valaha olyan idő, amikor a vallás és a tudomány ugyanazt a kérdést tette fel a felvilágosodás óta? Mindkettő azt mondja: »A tudat anyagisághoz kötött?« És a vallás mindig azt mondta, nem. És a tudomány mindig azt mondta, igen. És most a tudomány azt mondja: »Ööö, nem.«” Tudod, számomra, ahonnan jövök” – egy fundamentalista kereszténységben töltött gyermekkor az 1960-as évek Accringtonjában, és prédikátorképzés – „ez teljesen lenyűgöző.” Később, e-mailben hozzáteszi: „Szeretem a testemet, de boldog lennék, ha alakot váltanék. Boldog lennék, ha egy nap kicsúsznék belőle a tiszta tudatba, és persze az emberek azt mondják, nincs tudat test nélkül, és ez volt a tudományos hit. De most? Haha.” Nekem, meg kell mondanom, az ellenkezőjét kellene állítanom, hogy az idegtudomány, az immunolóA giai és pszichoterápiás fejlődés azt jelenti, hogy ez inkább tudományos hit kérdése, mint valaha. Nem is beszélve arról, hogy az MI is teljesen függ egy fizikai rendszertől, más néven adatközpontoktól. Bár – ahogy rámutat – fontos emlékezni arra, hogy „a gépeknek nincs limbikus rendszerük. Csak neurális hálózatok. De nekünk két rendszerünk van – olyanok vagyunk, mint egy hibrid autó két hajtáslánccal, tehát megvan a neurális hálózat, a racionális feldolgozó énünk, és megvan a limbikus rendszer, amely sokkal régebbi, és ez a harcolj-menekülj-fagyj meg, és ahonnan minden érzésünk származik.” Talán a limbikustól való leválás a következő szakasz – mondja –, és ez határozottan nem mindenben jó. „Talán úgy döntünk, hogy nincs szükségünk erre az érző gépre… afelé tartanak a tech fickók. Nem tudom, ültél-e már valaha egy szobában néhány ilyen nagyobb fickóval, mert az nagyon érdekes. Nincsenek kapcsolatban az érzéseikkel. Zavarónak találják őket.” Ez a tech által lehetővé tett transzcendenciafajta úgy tűnik, hogy együtt érkezett a hit követelményével – a technológiába, a jövőbe, amelyet teremt, az emberekbe, akik azt a jövőt építik, az előrejelzéseibe, mind az utópisztikus mennyország, mind a pokol különböző árnyalatai tekintetében, mindezt olyan főpapok által, akik féltékenyen őrzik a hozzáférést ahhoz, ami valójában történik. „Amit az emberekről tudunk, az az, hogy imádják a monopóliumokat” – mondja Winterson, „mert ez a hatalom koncentrációja. Persze vállalatosítható, monopóliumként olyan mértékben birtokolható, hogy a legrosszabb elképzelhető börtönné válik” – ahogy Joanna Kavenna 2019-es ragyogó disztópikus regénye, a Zed elmeséli. „Ez valós lehetőség” – mondja. „És ezért van szükségünk olyan emberekre, akik afféle szabadon tartott emberek, akik tudnak gondolkodni.” Kép megtekintése teljes képernyőn Winterson… „Mutass egy gyereket, aki nem akar mesét hallani.” Fotó: Pózolt modellek; MoMo Productions/Getty Images A probléma tehát az, hogyan támogatjuk – vagy fejlesztjük – az ilyen embereket. „Alapvetően két módja van annak, hogy tudd, van jövőd” – állította nemrég Alex Karp, a Palantir vezérigazgatója. „Egy, van valamilyen szakképzésed. Vagy kettő, neurodivergens vagy.” Daniela Amodei, az Anthropic elnöke, aki maga is irodalom szakos, amikor többé-kevésbé ugyanezt kérdezték tőle, más véleményen volt. „Valójában azt gondolom, hogy a humán tudományok tanulmányozása fontosabb lesz, mint valaha” – mondta, mert „azok a dolgok, amelyek emberré tesznek minket, sokkal fontosabbá válnak a sokkal kevésbé fontos helyett.” Ami a bölcsészettudományok máglyáját az Egyesült Királyságban némileg aggasztóvá teszi: a 2024 decemberéig tartó évben 4000 munkahely veszett el a társadalomtudományok, a bölcsészettudományok és a művészetek területén. Az Exeteri Egyetem nemrég jelentette be, hogy 150 állást szüntet meg, ami a bölcsészet-, művészeti és társadalomtudományi kar akadémikusainak nyolcvan százalékát érinti, míg múlt hónapban Nottingham jelentette be, hogy megszünteti modern nyelvek és zene szakjait. Egyes egyetemeken a bölcsészettudományok – egy e lapban megjelent jelentés szerint – azzal a kockázattal járnak, hogy teljesen „kihunynak”. Miért mentsük meg a bölcsészettudományokat? Az egyik válasz az lehet, hogy megtanítják annak érzését, honnan jövünk és kik vagyunk, ami szintén fenyegetettnek tűnik. „Hatalmas számú diák fog kikerülni az egyetemről diplomákkal, és a munkaerőpiacra, akik lényegében írástudatlanok” – mondta egy professzor a New York magazinnak, reagálva a felsőoktatásba érkező MI-bennszülöttek első csoportjára. „Mind szó szerinti értelemben, mind abban az értelemben, hogy történelmileg írástudatlanok és semmilyen ismeretük nincs saját kultúrájukról, nemhogy bárki máséról.” Egy MIT-jelentés szerint ez egyfajta generációs „kognitív megadás” kockázatával jár. Egy másik a folyamatok, amelyekkel az embereket tanítani kellene – olvasni, és kritikusnak lenni az olvasottakkal szemben, majd összefüggő védelmet írni ezekről a kritikákról. Ha meg kell küzdened az intuícióiddal egy esszéértEz segít felfedezni, mit gondolsz – és hogyan gondolkodsz –, és hogyan működnek mások ötletei. Winterson, aki angol szakon tanult Oxfordban, és 14 éve az új írás professzora a Manchesteri Egyetemen, valamint „egy szabad gondolkodású kurzust tanít a kreativitásról”, egyetért. De megvetően nyilatkozik a jelenlegi rendszer nagy részéről. „Talán itt vitatható vagyok, de tényleg azt gondolom, hogy a felsőoktatásnak felülről lefelé irányuló szerkezetátalakításra van szüksége. Nem gondolom, hogy életképes, és nem gondolom, hogy jelenlegi formájában teljesít.” A helyzet az, hogy „van egy piacunk, amely igazából nem tudja, mi az oktatás célja. A munkahelyekért van? A személyes fejlődésért? Sok értéktelen felsőoktatási kurzus van, amelyek szintén nem segítenek. Azt hiszem, mindig jobb, gyakorlatias északi lányként, szembenézni a tényekkel kezdésként.” Gondolkodnunk kell – mondja – arról, hogy „mi van fenntartva nekünk, amit nem fognak nagyobb, jobb, gyorsabb, erősebb módon megtenni a gépek. És itt jön be igazán a felsőoktatás. A kérdés, amely mindezek tetején ül, hogy »Miért mennek el ezek a munkahelyek?«, »Mi történik ezeken a kurzusokon, amelyekre már senki sem jelentkezik?«, az a »Milyen emberekre lesz szükségünk az eljövendő világban? Mire valók az emberek? Mit fogunk tenni magunkkal?«” És ez „visszavezet minket ahhoz az elképzeléshez, hogy nos, rendben, hogyan fejleszted az elmét? Hogyan véded meg az elmét? Mert az elme ez a hatalmas, szörnyű hely, ahol bármi megtörténhet.” És ehhez „humanista oktatás elengedhetetlen. Az embert kell a középpontba állítanunk itt. Azzal, hogy megváltoztatjuk, hogyan oktatjuk gyerekeinket kezdettől fogva, előtérbe helyezhetjük a kreativitást, a játékot, a problémamegoldást, a gondolkodást – mert szórakoztató gondolkodni –, a művészeteket, mert az emberek természetüknél fogva kreatívak. Mutass egy gyereket, aki nem akar mesét hallani vagy táncolni vagy képet festeni vagy képzeletbeli barátja lenni. Ez nem kényszerített és nem elitizmus. Ez mi vagyunk.” Még heti egy óra is – gondolja – különbséget tenne. „Kérdezzük meg, mit gondolsz a világról. »Miért gondolod ezt?« Ez nem költséges. Ez valójában akarat kérdése.” Tanítsunk matematikát és művészetet és tudományt – javasolja –, legalább A-levelig, még ha nem is vizsgáztatják. „Persze specializálódni fogunk. Szükségünk van orvosokra és vegyészekre, de szükségünk van arra is, amit régen sokoldalú embereknek neveztek. Minden érdekes! Az emberek nagy aggyal születnek. Többnyire nem használjuk.” A formális oktatáson túl művészeket és közéleti értelmiségieket ágyazna be minden szinten. „A művészetek nem szabadidős ipar” – ahogy a 12 Bytes-ben fogalmaz. „A művészetek mindig is a valósággal való képzeletbeli és érzelmi birkózás voltak – találmányok és alkotások sorozata. A másként gondolkodás képessége, hajlandóság arra, hogy megváltoztassuk önmagunkról alkotott értelmezésünket. Hogy segítsen nekünk bölcsebb, elgondolkodóbb, kevésbé félős emberekké válni. A művészek mindennap teremtenek valamit a semmiből.” Azelőtt találkozunk, hogy Jacob Coxon felmondott az Anthropicnál, hogy figyelmeztessen egy 10%-os esélyre, hogy az MI kitörölheti az emberiséget, pánikhullámot küldve szerte a világon. Utólag rákérdezek, mennyire érzi magát pozitívan most Winterson. A legrosszabb „megtörténhet” – ismétli. De „a jó kimenetel hatalmassága éppoly valós, mint a kudarcunk teljessége, hogy ezt jól csináljuk.” Mindenekelőtt „ez emberi döntés és emberi helyzet. Ez a nagy esélyünk. Talán az utolsó esélyünk, ahogy Turing kollégája, Jack Good mondta, amikor az MI-t utolsó találmányunknak nevezte. Minden a tét.” Csak remélhetjük, hogy nem túl késő.Legutóbbi könyve a One Aladdin, Two Lamps. A jeanettewinterson.substack.com oldalon is ír. One Aladdin, Two Lamps, Jeanette Winterson (Vintage Publishing, 12,99 £). A Guardian támogatásához rendelje meg példányát 10,39 £-ért a guardianbookshop.com oldalon. Szállítási költségek felmerülhetnek.

Gyakran Ismételt Kérdések
Íme a GYIK listája Jeanette Winterson MI-ről és az emberiség jövőjéről alkotott nézeteiről, a There is no inevitable dystopia című esszéje alapján

Kezdő kérdések

1 Ki az a Jeanette Winterson
Brit író és professzor, olyan regényekről ismert, mint az Oranges Are Not the Only Fruit. Az utóbbi években kiterjedten írt és beszélt a mesterséges intelligenciáról és annak társadalomra gyakorolt hatásáról

2 Mit jelent az, hogy There is no inevitable dystopia
Azt jelenti, hogy egy rossz jövő nincs garantálva. Csak mert az MI problémákat okozhat, nem jelenti azt, hogy fog is – a kimenetel a most hozott döntésektől függ

3 Mi az MI egyszerűen
Az MI olyan technológia, amely lehetővé teszi a gépek számára olyan feladatok elvégzését, amelyek általában emberi gondolkodást igényelnek, mint a nyelv megértése, képek felismerése vagy döntések meghozatala

4 Mi a disztópia
A disztópia egy elképzelt legrosszabb eset társadalom – gondolj egy gépek által uralt világra, elveszett szabadságokkal és széles körű szenvedéssel

5 Mi Winterson fő üzenete
Azt állítja, hogy az MI jövője rajtunk múlik. Nem kellene félnünk a technológiától vagy vakon elfogadnunk – emberi értékekkel, kreativitással és gondoskodással kellene formálnunk

6 Ellenzi az MI-t
Nem. Nem technológiaellenes. Az ellen van, hogy hagyjuk a technológiát emberi felügyelet nélkül fejlődni, és az ellen, hogy egy rossz jövőt elkerülhetetlennek tekintsünk

7 Mit gondol, mit jelent az MI az emberiség számára
Az emberiség tükreként látja az MI-t – azt tükrözi, kik vagyunk. Ha empátiával és céllal építjük, segíthet nekünk; ha gondatlanul építjük, árthat nekünk

Középhaladó kérdések

8 Miért mondja Winterson, hogy az MI tükör
Mert az MI emberi adatokból és döntésekből tanul. Tükrözi előítéleteinket, értékeinket és prioritásainkat – így megmutatja, milyen társadalmat hoztunk létre

9 Milyen gyakori problémákat emel ki az MI-vel kapcsolatban
Olyan kockázatokra mutat rá, mint a magánélet elvesztése, a hatalom koncentrációja a nagy tech cégeknél, a munkahelyek felborulása és annak veszélye, hogy a hatékonyságot fontosabbnak tekintjük az emberi méltóságnál

10 Milyen előnyöket lát az MI-ben
Lehetőséget lát az MI-ben az egészségügyben, a hozzáférhetőségben, a kreativitásban és abban, hogy megszabadítsa az embereket az ismétlődő munkától – ha emberi szükségletek vezérlik, nem csupán a profit

Related Posts