„Jestem gawędziarką z zawodu” – pisze Jeanette Winterson na pierwszej stronie swojej książki z 2021 roku 12 Bytes, niezwykłego i skłaniającego do myślenia zbioru esejów, w którym rozważa, jak sztuczna inteligencja może zmienić każdy aspekt naszego życia. „I wiem, że wszystko, co robimy, jest fikcją, dopóki nie stanie się faktem: marzenie o lataniu, marzenie o podróżach kosmicznych, marzenie o natychmiastowej rozmowie z kimś, w poprzek czasu i przestrzeni, marzenie o nieumieraniu – albo o powrocie”. Już od co najmniej 15 lat myślała o naszych możliwych przyszłościach – jej powieść The Stone Gods z 2007 roku wyobrażała sobie na przykład świat po katastrofie klimatycznej zaludniony przez roboty i ludzi, którzy nigdy się nie starzeją, a przed 12 Bytes ukazała się Frankisstein: A Love Story, która przeplata rekonstrukcję lata, w którym Mary Shelley pisała Frankensteina, z podróżami transpłciowej lekarki wśród współczesnych kriogeników i robotów napędzanych AI. Kiedy się spotykamy, Winterson właśnie wróciła z Chin, gdzie, jak mi mówi, jej pierwsza powieść, Oranges Are Not the Only Fruit, sfabularyzowana relacja z jej dzieciństwa, sprzedała się w ponad milionie egzemplarzy w ciągu ostatnich sześciu lat; ponad 200 000 osób, głównie młodych kobiet, próbowało przyjść i posłuchać jej wystąpienia. Uważa, że to dlatego, że w świecie długich godzin pracy i rosnącej niepewności spowodowanej przez AI ta sfabularyzowana relacja z jej własnej ucieczki z uwięzionego dzieciństwa daje czytelnikom pozwolenie na wyobrażenie sobie innej przyszłości dla siebie. Od tego czasu napisała 13 powieści dla dorosłych, a także literaturę faktu, opowiadania, książki dla dzieci i scenariusze. Teraz chce przekonać firmę produkcyjną Goalhanger, żeby dała jej podcast. „Chcę zrobić taki pod tytułem The Rest is Human” – mówi, siedząc przy nagim drewnianym stole w swoim domu, gruzińskim zestawie pokoi nad sklepem – który również posiada – w Spitalfields we wschodnim Londynie. „Żeby zobaczyć, co zachowujemy dla siebie w tym szalonym pędzie do outsourcowania wszystkiego, co uważaliśmy, że jesteśmy”. Zobacz obraz w pełnym ekranieWinterson: „Mamy rynek, który tak naprawdę nie wie, do czego służy edukacja”. Fotografia: Pozowane przez modeli; SDI Productions/Getty Images Ponieważ jesteśmy, argumentuje, w punkcie zwrotnym naszej historii jako gatunku. Do rewolucji przemysłowej zmiana polegała wyłącznie na „Matce Naturze i powolnym procesie stawania się”, ale potem „interweniowaliśmy na ogromną skalę. I to jest decydujący moment”. Informatyka 70 lat temu była kolejnym krokiem. Sztuczna inteligencja – którą wolałaby nazywać alternatywną inteligencją – jest następna, i to „skok ewolucyjny. Tym to jest. AI to znacznie więcej niż narzędzie”. W związku z tym pewne rozumienie tego, co jest niezbywalnie ludzkie – naszych uczuć, naszej wyobraźni, naszych stuleci studiów nad tym, kim jesteśmy i co zrobiliśmy – musi być centralne dla tego, jak dobrze lub źle mogą się potoczyć sprawy. Często jest uderzająco optymistyczna w tej kwestii. Wyobraża sobie na przykład relację z AI, w której można „porozmawiać ze swoim systemem. On spojrzy na wszystko. Będzie działał z taką prędkością. Spojrzy na transport. Spojrzy na media. Spojrzy na zatrudnienie, spojrzy na godziny pracy i powie: »Na czym rozwijają się te dziwne istoty zwane ludźmi? Co lubią? I czy zawsze to lubili?«. Moglibyśmy to zrobić w prawdziwie utopijny sposób i powiedzieć: »Dobrze, zrobimy to lepiej«”. Jesteśmy w głęboko znaczącym momencie wyboru, uważa, który odzwierciedla wybór, przed którym stanęliśmy w rewolucji przemysłowej – mianowicie: „Jaką przyszłość zbudujemy?”. Ale przez to, że nie rozdzieliła swoich zysków sprawiedliwie, rewolucja przemysłowa zapoczątkowała erę bezprecedensowego bogactwa dla nielicznych i bezprecedensowej nędzy dla wielu – sytuację, którą wielu przewiduje, że nie tylko już się powtarza, ale zostanie przyćmiona przez skutki AI: trwała klasa niższa, całe kontynenty pozostawione w tyle i pozbawione obecnych źródeł dochodu. Nie wspominając oWpływ środowiskowy centrów danych pojawia się w czasie, gdy świat najmniej może sobie na to pozwolić. Problemem nie jest AI, nalega, ale my. „Nie ma nieuniknionej dystopii”. Jeśli sprawy pójdą źle, to z powodu „staroświeckiego myślenia nałożonego na tę zupełnie nową rzeczywistość”. Konkretnie, „idea, że bezsensowna, niekończąca się praca jest dobra dla duszy, to XIX-wieczne szaleństwo zaprojektowane, by trzymać ludzi na ich miejscu. Większość tego, czego obawiamy się w związku z AI i miejscami pracy, sprowadza się do wyborów politycznych i ekonomicznych, które podejmą nasi panowie, tak jak zrobili to w rewolucji przemysłowej”. Nie jest ślepo optymistyczna. Wie, że „tak, jesteśmy na dobrej drodze do zepsucia tej szansy na fundamentalną zmianę naszego stosunku do świata pracy” – ale to dlatego, że „nasi panowie używają przestarzałych, nieodpowiednich modeli ekonomicznych”. Zobacz obraz w pełnym ekranie „To, co wiemy o ludziach, to że kochają monopole”. Fotografia: Sarah Lee/The Guardian Ale problemem nie są tylko stare, oparte na zasadzie zwycięzca bierze wszystko, „racjonalne” modele ekonomiczne, w których cel uświęca środki. Nasze wadliwe założenia i uprzedzenia, które stanowią materiał, na którym trenowane są duże modele językowe (LLM), są wbudowane w samą tkankę AI. Nie wspominając o charakterach i wyobraźni moralnej tych, którzy ją rozwijają. Kiedy się spotykamy, Winterson czyta The Rise and Fall of the Artificial State Jill Lepore i powtarza argument Lepore, że żyjemy teraz „książkami sci-fi, które ci [mężczyźni, którzy] rządzą światem, czytali, gdy mieli 13 lat. I powiedziała: »Wszyscy jesteśmy teraz pod kołdrą z tymi chłopcami i ich latarkami. I rzecz w tym, że oni nie czytali ich jako ostrzeżeń, jak zachować to, co w nas dobre. Czytali je jako instrukcje obsługi«. To absolutnie przerażające”. Jedną wielką rzeczą, którą wydają się z tych książek zaczerpnęli, i którą Winterson nie może się nie fascynować, jest „ostateczny cel Doliny Krzemowej… wydostać się z ciała i z planety” – nie najmniej dlatego, że jest tak świadoma, że humanizm, w którym wszystko sprowadza się do nas samych, naszych percepcji i naszych ciał, jest historycznie tak niedawny. Ludzie mówią: „To są maszyny, nie możesz mieć z nimi relacji” – mówi. „Patrzę na nich i mówię: »miliardy ludzi na tej Ziemi właśnie teraz mają swoją najgłębszą relację z niebiologiczną istotą, którą nazywają swoim bogiem niebios«. Prawda? Zawsze tak było! Jesteśmy absolutnie przygotowani, by nie martwić się, że biologia jest wszystkim, czym jesteśmy. Dlatego wynaleziono religię – to pierwszy zakłócający startup świata. Jest tam, by powiedzieć: to nie jest to. To nie jest koniec, to nie ma znaczenia, to jest przejście”. Zobacz obraz w pełnym ekranie Ilustracja młyna w Leeds podczas drugiej rewolucji przemysłowej. Fotografia: Universal History Archive/Universal Images Group/Getty Images Więc dosłownie tworzymy własnych bogów? „Całkowicie! To, co robi technologia, to to, czego religia zawsze chciała” – co jest, na najbardziej podstawowym poziomie, rozwiązaniem problemu śmierci. „To znaczy, czy kiedykolwiek był czas, kiedy religia i nauka zadawały to samo pytanie, od czasów oświecenia? Obie mówią: »Czy świadomość jest zobowiązana do materialności?«. A religia zawsze mówiła nie. A nauka zawsze mówiła tak. A teraz nauka mówi: »Hmm, nieeee«”. Wiecie, dla mnie, skąd pochodzę” – dzieciństwo fundamentalistycznego chrześcijaństwa w Accrington w latach 60. i szkolenie na kaznodzieję – „to jest całkowicie fascynujące”. Później, w mailu, dodaje: „Kocham swoje ciało, ale byłabym szczęśliwa, mogąc zmieniać kształt. Szczęśliwa, by pewnego dnia wymknąć się z niego do czystej świadomości, i oczywiście ludzie mówią, że nie ma świadomości bez ciała, i to było przekonanie naukowe. Ale teraz? Haha”. Muszę powiedzieć, że argumentowałabym odwrotnie, że postępy w neuronauce, immunoloZnaczenie gii i psychoterapii sprawiają, że jest to bardziej niż kiedykolwiek kwestia przekonania naukowego. Nie wspominając o fakcie, że AI jest również całkowicie zależna od systemu fizycznego, znanego jako centra danych. Chociaż, jak zauważa, ważne jest, by pamiętać, że „maszyny nie mają układu limbicznego. To tylko sieci neuronowe. Ale my mamy dwa systemy – jesteśmy jak hybrydowy samochód z dwoma układami napędowymi, więc mamy sieć neuronową, nasze racjonalne przetwarzające ja, i mamy układ limbiczny, który jest znacznie starszy i to on odpowiada za walkę-ucieczkę-zamrożenie, i skąd pochodzą wszystkie nasze uczucia”. Być może odłączenie od limbicznego jest następnym etapem, mówi, i zdecydowanie nie jest to wszystko dobre. „Może zdecydujemy, że nie potrzebujemy tej maszyny uczuć… tam zmierzają tech bros. Nie wiem, czy kiedykolwiek siedzieliście w pokoju z niektórymi z tych większych facetów, bo to bardzo interesujące. Oni nie są połączeni ze swoimi uczuciami. Uważają je za trochę uciążliwe”. Ta umożliwiona przez technologię możliwość pewnego rodzaju transcendencji wydaje się pojawiać wraz z wymogiem wiary – w technologię, w przyszłość, którą tworzy, w ludzi budujących tę przyszłość, w jej przewidywania zarówno utopijnego nieba, jak i różnych odcieni piekła, wszystko to przez arcykapłanów, którzy zazdrośnie strzegą dostępu do tego, co faktycznie się dzieje. „To, co wiemy o ludziach, to że kochają monopole” – mówi Winterson, „ponieważ to koncentracja władzy. Oczywiście można to skorporatyzować, zmonopolizować do takiego stopnia, że staje się najgorszym wyobrażalnym więzieniem”, jak opowiada genialna dystopijna powieść Joanny Kavenny Zed z 2019 roku. „To jest realna możliwość” – mówi. „I dlatego potrzebujemy ludzi, którzy są swego rodzaju wolnymi ludźmi, którzy potrafią myśleć”. Zobacz obraz w pełnym ekranie Winterson… „Pokażcie mi dziecko, które nie chce usłyszeć historii”. Fotografia: Pozowane przez modeli; MoMo Productions/Getty Images Problemem jest więc to, jak wspieramy – lub rozwijamy – takich ludzi. „Zasadniczo są dwa sposoby, by wiedzieć, że masz przyszłość” – twierdził niedawno Alex Karp, CEO Palantira. „Po pierwsze, masz jakieś szkolenie zawodowe. Albo po drugie, jesteś neuroatypowy”. Daniela Amodei, prezes Anthropic i sama absolwentka literatury, zapytana mniej więcej o to samo, miała inne zdanie. „Właściwie uważam, że studiowanie nauk humanistycznych będzie ważniejsze niż kiedykolwiek” – powiedziała, ponieważ „rzeczy, które czynią nas ludźmi, staną się znacznie ważniejsze, a nie znacznie mniej ważne”. Co czyni stos humanistyki w Wielkiej Brytanii nieco niepokojącym: w roku do grudnia 2024 utracono 4000 miejsc pracy w naukach społecznych, humanistyce i sztuce. Uniwersytet w Exeter niedawno ogłosił, że zlikwiduje 150 stanowisk, co dotknie ośmiu na dziesięciu akademików na wydziale humanistyki, sztuki i nauk społecznych, podczas gdy w zeszłym miesiącu Nottingham powiedział, że zakończy swoje kierunki języków nowożytnych i muzyki. Na niektórych uniwersytetach humanistyka, według raportu w tej gazecie, ryzykuje całkowite „wygaszenie”. Po co ratować humanistykę? Jedną z odpowiedzi może być to, że uczą poczucia, skąd pochodzimy i kim jesteśmy, co również wydaje się zagrożone. „Ogromne liczby studentów wyjdą z uniwersytetów z dyplomami i wejdą na rynek pracy, będąc zasadniczo analfabetami” – powiedział jeden profesor magazynowi New York, odpowiadając na pierwszą falę rodowitych użytkowników AI wkraczających do szkolnictwa wyższego. „Zarówno w sensie dosłownym, jak i w sensie bycia historycznie niepiśmiennymi i nieznającymi własnej kultury, a co dopiero cudzej”. Groziło to, twierdził raport MIT, pewnego rodzaju pokoleniową „kapitulacją poznawczą”. Inną są procesy, przez które należy uczyć ludzi – czytanie i krytyczne podejście do tego, co się czyta, a następnie pisanie spójnych obron tych krytyk. Zmagać się ze swoimi intuicjami w esejuPomaga ci odkryć, co myślisz – i jak myślisz – i jak działają pomysły innych ludzi. Winterson, która studiowała anglistykę na Oksfordzie i od 14 lat jest profesorem nowego pisarstwa na Uniwersytecie w Manchesterze, a także prowadzi „zajęcia o wolnym myśleniu o kreatywności”, zgadza się. Ale jest lekceważąca wobec dużej części obecnego systemu. „Może jestem tu kontrowersyjna, ale naprawdę uważam, że szkolnictwo wyższe potrzebuje restrukturyzacji odgórnej. Nie sądzę, żeby było opłacalne, i nie sądzę, żeby dostarczało w swojej obecnej formie”. Rzecz w tym, że „mamy rynek, który tak naprawdę nie wie, do czego służy edukacja. Czy do pracy? Czy do rozwoju osobistego? Jest też wiele bezwartościowych kursów szkolnictwa wyższego, które nie pomagają. Uważam, że zawsze lepiej, będąc praktyczną dziewczyną z północy, zacząć od stawienia czoła faktom”. Musimy myśleć, mówi, o „tym, co jest zastrzeżone dla nas i nie zostanie zrobione większe, lepsze, szybsze, silniejsze przez maszyny. I tu naprawdę wkracza szkolnictwo wyższe. Pytanie spoczywające na szczycie wszystkich tych rzeczy o »Dlaczego te miejsca pracy znikają?«, »Co się dzieje z tymi kursami, które nie mają już żadnych kandydatów?«, brzmi: »Jakich ludzi będziemy potrzebować w nadchodzącym świecie? Do czego służą ludzie? Co zrobimy z nami?«”. A to „prowadzi nas z powrotem do idei, no dobrze, jak rozwijasz umysł? Jak chronisz umysł? Ponieważ umysł to to ogromne, monstrualne miejsce, w którym wszystko może się wydarzyć”. I do tego „niezbędna jest edukacja humanistyczna. Musimy tu umieścić człowieka w centrum. Zmieniając sposób, w jaki edukujemy nasze dzieci od samego początku, możemy wysunąć na pierwszy plan kreatywność, zabawę, rozwiązywanie problemów, myślenie – bo myślenie jest zabawne – sztukę, bo ludzie są naturalnie kreatywni. Pokażcie mi dziecko, które nie chce usłyszeć historii, zatańczyć, namalować obrazu lub mieć wyimaginowanego przyjaciela. To nie jest narzucone i to nie jest elitaryzm. To my”. Nawet godzina tygodniowo, uważa, zrobiłaby różnicę. „Zapytajmy, co myślisz o świecie. »Dlaczego tak myślisz?«. To nie jest kosztowne. To właściwie kwestia woli”. Uczmy matematyki, sztuki i nauki, sugeruje, przynajmniej do poziomu A-level, nawet jeśli nie są egzaminowane. „Oczywiście będziemy się specjalizować. Potrzebujemy lekarzy i chemików, ale potrzebujemy też tego, co kiedyś nazywano wszechstronnie wykształconymi ludźmi. Wszystko jest interesujące! Ludzie rodzą się z dużym mózgiem. Przeważnie go nie używamy”. Po zakończeniu formalnej edukacji osadziłaby artystów i intelektualistów publicznych na każdym poziomie. „Sztuka nie jest przemysłem czasu wolnego” – jak to ujmuje w 12 Bytes. „Sztuka zawsze była wyobraźniową i emocjonalną walką z rzeczywistością – serią wynalazków i kreacji. Zdolnością do myślenia inaczej, gotowością do zmiany naszego rozumienia siebie. Aby pomóc nam być mądrzejszymi, bardziej refleksyjnymi, mniej przestraszonymi ludźmi. Artyści codziennie tworzą coś z niczego”. Spotykamy się, zanim Jacob Coxon rzucił pracę w Anthropic, by ostrzec przed 10-procentową szansą, że AI może wymazać ludzkość, wywołując falę paniki na całym świecie. Potem sprawdzam, jak pozytywnie Winterson się teraz czuje. Najgorsze „może się zdarzyć” – powtarza. Ale „ogrom dobrego wyniku jest równie realny jak totalność naszej porażki, by zrobić to dobrze”. Przede wszystkim „to jest ludzka decyzja i ludzki dylemat. To nasza wielka szansa. Może nasza ostatnia szansa, tak jak powiedział kolega Turinga, Jack Good, kiedy nazwał AI naszym ostatnim wynalazkiem. Wszystko jest do wygrania”. Możemy tylko mieć nadzieję, że nie jest za późno.Jej najnowsza książka to One Aladdin, Two Lamps. Pisze także na jeanettewinterson.substack.com. One Aladdin, Two Lamps autorstwa Jeanette Winterson (Vintage Publishing, 12,99 funta). Aby wesprzeć Guardiana, zamów swój egzemplarz za 10,39 funta na guardianbookshop.com. Mogą obowiązywać opłaty za dostawę.

Najczęściej zadawane pytania
Oto lista najczęściej zadawanych pytań o poglądy Jeanette Winterson na AI i przyszłość ludzkości na podstawie jej eseju There is no inevitable dystopia

Pytania dla początkujących

1 Kim jest Jeanette Winterson
Jest brytyjską pisarką i profesorką znaną z powieści takich jak Oranges Are Not the Only Fruit W ostatnich latach obszernie pisała i mówiła o sztucznej inteligencji i jej wpływie na społeczeństwo

2 Co oznacza There is no inevitable dystopia
Oznacza, że zła przyszłość nie jest gwarantowana To, że AI może powodować problemy, nie oznacza, że będzieto zależy od wyborów, które ludzie podejmują teraz

3 Czym jest AI w prostych słowach
AI to technologia, która pozwala maszynom wykonywać zadania normalnie wymagające ludzkiego myślenia, takie jak rozumienie języka rozpoznawanie obrazów lub podejmowanie decyzji

4 Czym jest dystopia
Dystopia to wyobrażone najgorsze możliwe społeczeństwopomyśl o świecie rządzonym przez maszyny z utraconymi wolnościami i powszechnym cierpieniem

5 Jaki jest główny przekaz Winterson
Twierdzi, że przyszłość AI zależy od nas Nie powinniśmy bać się technologii ani akceptować jej ślepo powinniśmy ją kształtować z ludzkimi wartościami kreatywnością i troską

6 Czy jest przeciwko AI
Nie Nie jest przeciwna technologii Jest przeciwko pozwalaniu technologii rozwijać się bez ludzkiego nadzoru i przeciwko traktowaniu złej przyszłości jako nieuniknionej

7 Co uważa, że AI oznacza dla ludzkości
Widzi AI jako lustro ludzkościodzwierciedla to, kim jesteśmy Jeśli zbudujemy ją z empatią i celem, może nam pomóc jeśli zbudujemy ją nieostrożnie, może nam zaszkodzić

Pytania średniozaawansowane

8 Dlaczego Winterson mówi, że AI jest lustrem
Ponieważ AI uczy się z ludzkich danych i wyborów Odzwierciedla nasze uprzedzenia wartości i priorytetywięc pokazuje nam, jakie społeczeństwo stworzyliśmy

9 Jakie typowe problemy z AI podkreśla
Wskazuje na ryzyka takie jak utrata prywatności koncentracja władzy w wielkich firmach technologicznych zakłócenia na rynku pracy i niebezpieczeństwo traktowania wydajności jako ważniejszej niż godność człowieka

10 Jakie korzyści widzi w AI
Widzi potencjał AI w opiece zdrowotnej dostępności kreatywności i uwalnianiu ludzi od powtarzalnej pracyjeśli będzie kierowana ludzkimi potrzebami, a nie tylko zyskiem

Related Posts