'Ben doğuştan bir hikâye anlatıcısıyım,' diye yazıyor Jeanette Winterson 2021 tarihli kitabı 12 Bytes'ın ilk sayfasında; yapay zekânın hayatımızın her alanını nasıl değiştirebileceğini ele aldığı, sıra dışı ve düşündürücü bir deneme derlemesi. 'Ve biliyorum ki yaptığımız her şey bir gerçek olana kadar bir kurgudur: uçma hayali, uzay yolculuğu hayali, zaman ve mekân ötesinde birisiyle anında konuşma hayali, ölmeme – ya da geri dönme – hayali.' En az 15 yıldır olası geleceklerimiz hakkında düşünüyordu – örneğin 2007 romanı The Stone Gods, iklim felaketi sonrası bir dünyada hiç yaşlanmayan robotlar ve insanlarla dolu bir dünya hayal ediyordu; 12 Bytes'tan önce ise Mary Shelley'nin Frankenstein'ı yazdığı yazın yeniden canlandırılması ile trans bir doktorun günümüz kriyojenikçileri ve yapay zekâ destekli robotlar arasındaki yolculukları arasında gidip gelen Frankisstein: A Love Story yayımlanmıştı. Buluştuğumuzda Winterson Çin'den yeni dönmüştü; bana anlattığına göre çocukluğunun kurgusallaştırılmış bir anlatısı olan ilk romanı Oranges Are Not the Only Fruit son altı yılda bir milyondan fazla kopya satmış; çoğu genç kadın olmak üzere 200.000'den fazla kişi onu konuşurken dinlemeye gelmeye çalışmış. Bunun nedeninin, uzun çalışma saatleri ve yapay zekânın yol açtığı artan güvensizlik dünyasında, kendi tuzağa düşmüş çocukluğundan kaçışının bu kurgusallaştırılmış anlatısının okuyuculara kendileri için farklı bir gelecek hayal etme izni vermesi olduğunu düşünüyor. O zamandan beri yetişkinler için 13 romanın yanı sıra kurgu dışı eserler, kısa öyküler, çocuk kitapları ve senaryolar yazdı. Şimdi yapım şirketi Goalhanger'ı ona bir podcast vermeye ikna etmek istiyor. 'The Rest is Human adında bir tane yapmak istiyorum,' diyor, doğu Londra'nın Spitalfields semtinde, bir dükkânın üstündeki Gürcü tarzı odalardan oluşan evinde – ki bu dükkân da kendisine ait – çıplak ahşap bir masada otururken. 'Kendimiz olduğunu sandığımız her şeyi dışarıya devretme telaşı içinde kendimize ne sakladığımızı görmek için.' Görseli tam ekranda görüntüleWinterson: 'Eğitimin ne için olduğunu gerçekten bilmeyen bir piyasamız var.' Fotoğraf: Modeller tarafından poz verilmiştir; SDI Productions/Getty Images Çünkü ona göre bir tür olarak hikâyemizde bir dönüm noktasındayız. Sanayi Devrimi'ne kadar değişim tamamen 'Doğa Ana ve yavaşça oluş süreci' ile ilgiliydi, ama sonra 'kitlesel ölçekte müdahale ettik. Ve bu belirleyici bir an.' 70 yıl önce bilgisayar bir başka adımdı. Yapay zekâ – ki o buna alternatif zekâ demeyi tercih ederdi – sırada ve 'evrimsel bir sıçrama. Bu tam olarak bu. Yapay zekâ bir araçtan çok daha fazlası.' Bunu göz önünde bulundurursak, indirgenemez biçimde insani olanın – duygularımızın, hayal gücümüzün, kim olduğumuz ve ne yaptığımız üzerine yüzyıllardır süren çalışmalarımızın – belirli bir kavranışı, işlerin ne kadar iyi ya da kötü gidebileceğinin merkezinde olmalı. Bu konuda çoğu zaman çarpıcı biçimde iyimser. Örneğin yapay zekâyla, 'sisteminizle sohbet edebileceğiniz' bir ilişki hayal ediyor. 'Her şeye bakacak. İnanılmaz bir hızla ilerleyecek. Ulaşıma bakacak. Altyapı hizmetlerine bakacak. İstihdama bakacak, çalışma saatlerine bakacak ve şöyle diyecek: "İnsan denen bu tuhaf şeyler neyle gelişip serpiliyor? Neyi seviyorlar? Ve her zaman sevdiler mi?" Bunu gerçekten ütopik bir şekilde yapabilir ve "Pekâlâ, daha iyi hale getireceğiz" diyebiliriz.' Ona göre, Sanayi Devrimi'nde karşılaştığımız seçimi yansıtan, son derece önemli bir seçim anındayız – yani, 'Nasıl bir gelecek inşa edeceğiz?' Ama kazanımlarını adil biçimde dağıtmayı başaramayarak Sanayi Devrimi, azınlık için eşi görülmemiş bir zenginlik ve çoğunluk için eşi görülmemiş bir sefalet çağını başlattı – birçok kişinin yalnızca hâlihazırda tekrarlanmakla kalmayıp yapay zekânın yol açacağı sonuçlarla gölgede kalacağını öngördüğü bir durum: kalıcı bir alt sınıf, geride bırakılan ve mevcut gelir kaynaklarından yoksun bırakılan bütün kıtalar. Veri merkezlerinin çevresel etkisinden bahsetmeye bile gerek yok; üstelik dünyanın bunu en az karşılayabildiği bir dönemde. Sorun yapay zekâ değil, diye ısrar ediyor, sorun biziz. "Kaçınılmaz bir distopya yok." İşler ters giderse, bunun nedeni "bu yepyeni gerçekliğin üzerine serilmiş eski kafalı düşünce" olacak. Daha spesifik olarak, "anlamsız sonsuz çalışmanın ruha iyi geldiği fikri, insanları yerlerinde tutmak için tasarlanmış 19. yüzyıl deliliğidir. Yapay zekâ ve işler konusunda korktuğumuz şeylerin çoğu, tıpkı Sanayi Devrimi'nde olduğu gibi, efendilerimizin yapacağı siyasi ve ekonomik seçimlere dayanıyor." Körü körüne iyimser değil. "Evet, iş dünyasıyla ilişkimizi kökten değiştirme şansını batırma yolundayız" – ama bunun nedeni "efendilerimizin modası geçmiş, amaca uygun olmayan ekonomik modeller kullanması."
Görseli tam ekranda görüntüle 'İnsanlar hakkında bildiğimiz şey, tekelleri sevdikleridir.' Fotoğraf: Sarah Lee/The Guardian
Ama sorun yalnızca eski kazanan-her-şeyi-alır, "rasyonel" amaca-araç-olan ekonomik modeller değil. Büyük dil modellerinin (LLM'ler) eğitildiği malzemeyi oluşturan kusurlu varsayımlarımız ve önyargılarımız, yapay zekânın dokusuna işlemiş durumda. Geliştirenlerin karakterleri ve ahlaki hayal güçlerinden bahsetmeye bile gerek yok. Buluştuğumuzda Winterson Jill Lepore'un The Rise and Fall of the Artificial State kitabını okuyordu ve Lepore'un artık "dünyayı yöneten bu [adamların] 13 yaşındayken okuduğu bilim kurgu kitaplarını" yaşadığımız yönündeki argümanını yineliyor. Ve şöyle demişti: 'Artık hepimiz bu çocuklarla ve el fenerleriyle yorganın altındayız. Ve işin özü şu ki, onları içimizde iyi olanı nasıl koruyacağımıza dair uyarılar olarak okumadılar. Onları kullanım kılavuzu olarak okudular.' Bu kesinlikle korkutucu."
Bu kitaplardan çıkardıkları tek büyük şey – ve Winterson'ın büyülenmemesi elde değil – "Silikon Vadisi'nin nihai hedefi… bedenden çıkıp gezegenden ayrılmak" – özellikle de her şeyin kendimize, algılarımıza ve bedenlerimize geri götürüldüğü hümanizmin tarihsel olarak ne kadar yakın olduğunun bu kadar farkında olduğu için. İnsanlar, "Bunlar makine, onlarla ilişki kuramazsın" diyor, diye anlatıyor. "Ben onlara bakıp şöyle diyorum: 'Şu anda bu Dünya'da milyarlarca insan, en derin ilişkisini gökyüzü tanrısı dedikleri biyolojik olmayan bir varlıkla yaşıyor.' Doğru mu? Her zaman böyleydi! Biyolojinin bizimle ilgili her şey olduğu konusunda endişelenmememiz için kesinlikle hazırız. Din bu yüzden icat edildi – dünyanın ilk yıkıcı girişimidir. Orada olmasının nedeni şunu söylemektir: mesele bu değil. Son değil, bu önemli değil, bu bir geçiş."
Görseli tam ekranda görüntüle İkinci Sanayi Devrimi sırasında Leeds'te bir fabrikanın illüstrasyonu. Fotoğraf: Universal History Archive/Universal Images Group/Getty Images
Yani kelimenin tam anlamıyla kendi tanrılarımızı mı yaratıyoruz? "Kesinlikle! Teknolojinin şu anda yaptığı şey, dinin her zaman istediği şey," ki bu en temel düzeyde ölüm sorununa bir çözümdür. "Yani, Aydınlanma'dan bu yana din ve bilimin aynı soruyu sorduğu bir zaman oldu mu hiç? İkisi de şöyle diyor: 'Bilinç maddeselliğe mecbur mu?' Ve din her zaman hayır dedi. Ve bilim her zaman evet dedi. Ve şimdi bilim 'Şey, hayııır' diyor." Bilirsiniz, bana göre, benim geldiğim yerden" – 1960'ların Accrington'ında köktendinci Hristiyanlıkla geçen bir çocukluk ve vaiz olarak eğitim – "bu tamamen büyüleyici." Daha sonra e-postayla şunu ekliyor: "Bedenimi seviyorum, ama şekil değiştirmekten mutlu olurdum. Bir gün ondan sıyrılıp saf bilince geçmekten mutlu olurdum ve elbette insanlar beden olmadan bilinç olmadığını söylüyor, ki bilimsel inanç buydu. Ama şimdi? Haha."
Şunu söylemeliyim ki ben tam tersini savunurdum; sinirbilim, immünoloji ve psikoterapideki ilerlemeler bunun her zamankinden daha çok bilimsel inanç meselesi olduğu anlamına geliyor. Yapay zekânın da tamamen fiziksel bir sisteme, diğer adıyla veri merkezlerine bağımlı olduğu gerçeğinden bahsetmeye bile gerek yok. Gerçi onun işaret ettiği gibi, "makinelerin limbik sistemi yok. Onlar sadece sinir ağları. Ama bizim iki sistemimiz var – iki güç aktarma organı olan hibrit bir araba gibiyiz, yani sinir ağımız, rasyonel işlem yapan benliğimiz var, ve çok daha eski olan, savaş-kaç-don ve tüm duygularımızın geldiği yer olan limbik sistemimiz var." Belki de limbikten ayrılmak bir sonraki aşamadır, diyor ve bu kesinlikle tamamen iyi bir şey değil. "Belki bu duygu makinesine ihtiyacımız olmadığına karar vereceğiz… teknoloji kardeşlerinin gittiği yön bu. Bu daha büyük adamlardan bazılarıyla hiç aynı odada oturdunuz mu bilmiyorum, çünkü çok ilginç. Duygularıyla bağlantılı değiller. Onları bir tür zahmet olarak görüyorlar."
Teknoloji destekli bu tür bir aşkınlık olasılığı, bir inanç gereksinimiyle birlikte gelmiş görünüyor – teknolojiye, yarattığı geleceğe, o geleceği inşa eden insanlara, hem ütopik cennet hem de çeşitli cehennem tonlarına dair öngörülerine, hepsi de gerçekte neler olup bittiğine erişimi kıskançlıkla koruyan yüksek rahipler tarafından. "İnsanlar hakkında bildiğimiz şey, tekelleri sevdikleridir," diyor Winterson, "çünkü bu bir güç yoğunlaşmasıdır. Elbette kurumsallaştırılabilir, öyle bir dereceye kadar tekelleştirilebilir ki hayal edilebilecek en kötü hapishane haline gelir," tıpkı Joanna Kavenna'nın 2019 tarihli parlak distopik romanı Zed'de anlatıldığı gibi. "Bu gerçek bir olasılık," diyor. "Ve bu yüzden bir tür serbest dolaşan, düşünebilen insanlara ihtiyacımız var."
Görseli tam ekranda görüntüle
Winterson… 'Bana hikâye dinlemek istemeyen bir çocuk gösterin.' Fotoğraf: Modeller tarafından poz verilmiştir; MoMo Productions/Getty Images
O halde sorun, bu tür insanları nasıl destekleyeceğimiz – ya da geliştireceğimiz. "Temelde bir geleceğiniz olduğunu bilmenin iki yolu var," dedi Palantir'in CEO'su Alex Karp yakın zamanda. "Bir, bir tür mesleki eğitiminiz var. Ya da iki, nöroçeşitlisiniz." Anthropic'in başkanı ve kendisi de edebiyat mezunu olan Daniela Amodei'ye aşağı yukarı aynı şey sorulduğunda farklı bir görüş belirtti. "Aslında beşeri bilimler okumanın her zamankinden daha önemli olacağını düşünüyorum," dedi, çünkü "bizi insan yapan şeyler çok daha az önemli olmak yerine çok daha önemli hale gelecek." Bu da Birleşik Krallık'ta beşeri bilimlerin yakılmasını bir nebze endişe verici kılıyor: 2024 Aralık'a kadar olan yılda sosyal bilimler, beşeri bilimler ve sanatlarda 4.000 iş kaybedildi. Exeter Üniversitesi yakın zamanda beşeri bilimler, sanat ve sosyal bilimler fakültesindeki akademisyenlerin onda sekizini etkileyecek şekilde 150 pozisyonu keseceğini duyurdu; geçen ay ise Nottingham modern diller ve müzik bölümlerini kapatacağını açıkladı. Bu gazetedeki bir habere göre bazı üniversitelerde beşeri bilimler tamamen "yok olma" riskiyle karşı karşıya.
Beşeri bilimler neden kurtarılsın? Bir yanıt, nereden geldiğimiz ve kim olduğumuz duygusunu öğretmeleri olabilir ki bu da tehdit altında hissediliyor. Yükseköğretime gelen ilk yapay zekâ yerlileri dalgasına yanıt olarak bir profesör New York dergisine şöyle dedi: "Çok sayıda öğrenci üniversitelerden diplomalarla ve iş gücüne, esasen okuma yazma bilmeyen bir halde çıkacak. Hem gerçek anlamda hem de tarihsel olarak okuma yazma bilmeme ve kendi kültürleri hakkında hiçbir bilgiye sahip olmama, başkalarınınkinden bahsetmeye bile gerek yok, anlamında." MIT'den bir rapor, bunun bir tür kuşaksal "bilişsel teslimiyet" olma riski taşıdığını iddia etti. Bir diğeri de insanlara öğretilmesi gereken süreçler – okumak, okunan şeylere eleştirel yaklaşmak ve sonra bu eleştirilerin tutarlı savunmalarını yazmak zorunda kalmak. Sezgilerinizi bir denemeye dönüştürmek için uğraşmak, ne düşündüğünüzü – ve nasıl düşündüğünüzü – ve başkalarının fikirlerinin nasıl işlediğini keşfetmenize yardımcı olur. Oxford'da İngilizce okuyan ve 14 yıldır Manchester Üniversitesi'nde yeni yazarlık profesörü olan, ayrıca "yaratıcılık üzerine özgür düşünce dersi" veren Winterson da aynı fikirde. Ancak mevcut sistemin büyük bölümünü küçümsüyor. "Belki burada tartışmalıyım, ama yükseköğretimin tepeden aşağıya yeniden yapılandırılması gerektiğini düşünüyorum. Uygulanabilir olduğunu düşünmüyorum ve mevcut haliyle işlevini yerine getirdiğini düşünmüyorum." İşin özü şu ki, "Eğitimin ne için olduğunu gerçekten bilmeyen bir piyasamız var. İşler için mi? Kişisel gelişim için mi? Yardımcı olmayan bir sürü değersiz yükseköğretim kursu da var. Pratik bir kuzeyli kız olarak, başlangıçta gerçeklerle yüzleşmenin her zaman daha iyi olduğunu düşünüyorum."
Ona göre, "makineler tarafından daha büyük, daha iyi, daha hızlı, daha güçlü yapılmayacak olan, bize ayrılmış şeyin" ne olduğunu düşünmemiz gerekiyor. "Ve yükseköğretimin gerçekten devreye girdiği yer burası. 'Bu işler neden gidiyor?', 'Artık başvuru almayan bu kurslarda neler oluyor?' gibi tüm bu şeylerin üstünde oturan soru şu: 'Gelecek dünyada ne tür insanlara ihtiyacımız olacak? İnsanlar ne için? Kendimizle ne yapacağız?'" Ve bu "bizi şu fikre geri götürüyor: pekâlâ, bir zihni nasıl geliştirirsin? Bir zihni nasıl korursun? Çünkü zihin, her şeyin olabileceği bu devasa, canavarca yerdir."
Ve bunun için "hümanist bir eğitim şart. Burada insanı merkeze almalıyız. Çocuklarımızı başlangıçtan itibaren eğitme biçimimizi değiştirerek yaratıcılığı, oyunu, problem çözmeyi, düşünmeyi – çünkü düşünmek eğlencelidir – sanatları öne çıkarabiliriz, çünkü insanlar doğal olarak yaratıcıdır. Bana hikâye dinlemek, dans etmek, resim yapmak ya da hayali bir arkadaşı olmak istemeyen bir çocuk gösterin. Bu dayatma değil ve seçkincilik değil. Bu biziz."
Ona göre haftada bir saat bile fark yaratırdı. "Dünya hakkında ne düşündüğünü soralım. 'Bunu neden düşünüyorsun?' Maliyetli değil. Aslında mesele irade." Matematik, sanat ve bilim öğretmeyi öneriyor, en azından A-level'a kadar, sınavda test edilmeseler bile. "Elbette uzmanlaşacağız. Doktorlara ve kimyagerlere ihtiyacımız var, ama eskiden çok yönlü insanlar denen şeye de ihtiyacımız var. Her şey ilginç! İnsanlar büyük bir beyinle doğar. Çoğunlukla onu kullanmayız."
Örgün eğitim bittikten sonra, sanatçıları ve kamusal entelektüelleri her düzeye yerleştirirdi. 12 Bytes'ta dediği gibi, "Sanatlar bir boş zaman endüstrisi değildir. Sanatlar her zaman gerçeklikle hayal gücüne ve duygulara dayalı bir güreş olmuştur – bir dizi icat ve yaratım. Farklı düşünme kapasitesi, kendimiz hakkındaki anlayışımızı değiştirme isteği. Daha bilge, daha düşünceli, daha az korkmuş insanlar olmamıza yardımcı olmak için. Sanatçılar her gün yoktan bir şey yaratır."
Jacob Coxon'un yapay zekânın insanlığı yok etme ihtimalinin %10 olduğu uyarısında bulunmak için Anthropic'teki işinden ayrılıp dünyaya bir panik dalgası yaymasından önce buluşuyoruz. Sonrasında Winterson'ın şimdi ne kadar olumlu hissettiğini soruyorum. En kötüsü "olabilir," diye tekrarlıyor. Ama "iyi sonucun büyüklüğü, bunu doğru yapmadaki başarısızlığımızın toplamı kadar gerçek." Her şeyden önce, "bu bir insan kararı ve insan açmazı. Bu bizim büyük şansımız. Belki de son şansımız, tıpkı Turing'in meslektaşı Jack Good'un yapay zekâyı son icadımız olarak adlandırdığında söylediği gibi. Her şey oynanacak."
Tek umudumuz çok geç olmaması.En son kitabı One Aladdin, Two Lamps. Ayrıca jeanettewinterson.substack.com'da yazıyor.
Jeanette Winterson'dan One Aladdin, Two Lamps (Vintage Publishing, £12.99). Guardian'ı desteklemek için kopyanızı guardianbookshop.com'da £10.39'a sipariş edin. Teslimat ücretleri uygulanabilir.
Sıkça Sorulan Sorular
İşte Jeanette Winterson'ın yapay zekâ ve insanlığın geleceği hakkındaki görüşlerine dair, There is no inevitable dystopia adlı denemesine dayanan SSS listesi
Başlangıç Soruları
1 Jeanette Winterson kimdir
Oranges Are Not the Only Fruit gibi romanlarıyla tanınan bir İngiliz yazar ve profesördür. Son yıllarda yapay zekâ ve toplum üzerindeki etkisi hakkında kapsamlı yazılar yazmış ve konuşmalar yapmıştır
2 There is no inevitable dystopia ne anlama gelir
Kötü bir geleceğin garanti olmadığı anlamına gelir. Yapay zekânın sorunlara yol açabilmesi, yol açacağı anlamına gelmez – sonuç insanların şimdi verdiği kararlara bağlıdır
3 Basitçe yapay zekâ nedir
Yapay zekâ, makinelerin normalde insan düşüncesi gerektiren görevleri yapmasını sağlayan teknolojidir; dil anlama, görüntü tanıma veya karar verme gibi
4 Distopya nedir
Distopya, hayal edilen en kötü durumdaki toplumdur – makineler tarafından yönetilen, özgürlüklerin kaybolduğu ve yaygın acının olduğu bir dünya düşünün
5 Winterson'ın ana mesajı nedir
Yapay zekânın geleceğinin bize bağlı olduğunu savunuyor. Teknolojiden korkmamalı ya da körü körüne kabul etmemeliyiz – onu insani değerler, yaratıcılık ve özenle şekillendirmeliyiz
6 Yapay zekâya karşı mı
Hayır. Teknoloji karşıtı değil. Teknolojinin insan gözetimi olmadan gelişmesine izin verilmesine ve kötü bir geleceğin kaçınılmaz olarak görülmesine karşı
7 Yapay zekânın insanlık için ne anlama geldiğini düşünüyor
Yapay zekâyı insanlığın bir aynası olarak görüyor – kim olduğumuzu yansıtıyor. Onu empati ve amaçla inşa edersek bize yardımcı olabilir; dikkatsizce inşa edersek bize zarar verebilir
Orta Düzey Sorular
8 Winterson neden yapay zekânın bir ayna olduğunu söylüyor
Çünkü yapay zekâ insan verilerinden ve seçimlerinden öğrenir. Önyargılarımızı, değerlerimizi ve önceliklerimizi yansıtır – yani bize ne tür bir toplum yarattığımızı gösterir
9 Yapay zekâyla ilgili hangi yaygın sorunları vurguluyor
Gizlilik kaybı, büyük teknoloji şirketlerinde güç yoğunlaşması, iş kesintileri ve verimliliği insan onurundan daha önemli sayma tehlikesi gibi risklere işaret ediyor
10 Yapay zekâda hangi faydaları görüyor
Yapay zekânın sağlık hizmetlerine erişim, yaratıcılık ve insanları tekrarlayan işlerden kurtarma konusunda potansiyel gördüğünü – eğer yalnızca kâr yerine insan ihtiyaçları tarafından yönlendirilirse
Kaçınılmaz bir distopya yok': Jeanette Winterson yapay zeka ve insanlığın geleceği üzerine
