Artık açık olmalı ki yapay zekâ, her yolun felakete çıktığı bir "kendi maceranı seç" kitabı gibi. Karbon emisyonlarının patlaması ve ekolojik çöküş mü? Sayfa 37'ye git. Diğer olası sonuçlar şunların bazılarını ya da tamamını içeriyor: balonun patlaması ve finansal krizi tetiklemesi; otomasyon yüzünden kitlesel işsizlik; demokrasinin sonu ve otoriter gözetim devletlerinin yükselişi; bir örüntü eşleştirme algoritmasının bilinçli olduğuna inanan fanatik tarikatlar; teröristlerin yıkıcı biyolojik silahlar yaratması; ulusların insanların kavrayamayacağı zaman ölçeklerinde işleyen otonom silahlar kullanması; ulusların ya da teröristlerin güvendiğimiz sayısız sistemi hacklemesi; ya da bilinçli olsun ya da olmasın, insan refahıyla çatışan hedefler peşinde koşan bir yapay zekâ.
Elon Musk, OpenAI'ın Sam Altman'ı, Palantir'in Peter Thiel'i ya da Trump'ın teknoloji danışmanı Marc Andreessen gibi isimlerin bizi çevresel uyum, toplumsal barış ve sınırsız boş zamanın olduğu ütopik bir geleceğe taşıyacağını hayal etmek, o kadar aşırı bir yanılsama ve dalkavukluk gerektiriyor ki bunu ancak ChatGPT'nin yazdığı bir "kendi maceranı seç" kitabı kurgulayabilir.
Felakete doğru gittiğimizin giderek artan (her ne kadar çok geç kalınmış olsa da) bir kabulü var; bununla birlikte yavaşlama, düzenleme ve hatta bunu çözene kadar her şeye ara verme çağrıları da yükseliyor. Bu çağrılar yalnızca aktivistlerden değil, Bernie Sanders'tan Bill Gates'e kadar görmezden gelinemeyecek kadar çeşitli bir politikacı, uzman ve büyük teknoloji şirketi içerisinden kişilerden geliyor. Gates yakın zamanda şöyle dedi: "Birinin yapay zekâ ilerlemesini küresel çapta yavaşlatmak için güvenilir bir planı olsaydı, muhtemelen desteklerdim." Kendisi, yapay zekâ şirketi Anthropic'in bu yaz başında bir "fren pedalı" çağrısı yaparak kabul ettiği şeyi itiraf eden en son içeriden kişi. Sektörün kendi kendini sınırlaması işe yaramayacak. Bir duraklama olacaksa, bu dışarıdan dayatılmalı.
Buna rağmen, uluslararası bir anlaşma ne yazık ki pek olası değil. Yapay zekâ nükleer silahlar gibi ve aynı mantığı izliyor: her oyuncu bu pervasız yarışa katılmaya itiliyor; tek gerekçe, kazananın insafına kalmak istememek. İşleri yavaşlatmanın en iyi şansı, görünüşe göre, tek bir aktörün kritik bir darboğazı kontrol etmesi ve onu kapatmak için bir nedeni olması. İlginçtir ki AB böyle bir karta sahip—ve hatta cesaret ederse bunu oynamak için bir gerekçesi bile var.
Tam ekranda görüntüle
Tayvanlı çip üreticisi TSMC'nin Çin'in Nanjing kentindeki fabrikası. Fotoğraf: Sipa US/Alamy
Hollandalı teknoloji şirketi ASML, aşırı ultraviyole (EUV) litografi makineleri üretimi sayesinde Avrupa'nın en değerli şirketi. Bu makineler dünyanın en gelişmiş çip üretimi için hayati önem taşıyor ve tüm yapay zekâ endüstrisindeki birkaç olası boğaz noktasından biri. ASML, ışığı 13,5 nanometre dalga boyuna (insan saçının genişliğinin yaklaşık 1/10.000'i) odaklayarak silikon üzerine desenler kazıyan bu 400 milyon dolarlık makineleri inşa etmek için gereken teknolojiye ve karmaşık tedarik zincirine hâkim oldu. Onun makineleri olmadan çip olmaz; çip olmadan daha fazla veri merkezi olmaz. Bu, Tayvanlı çip üreticisi TSMC'nin gelecekteki üretim tesislerine ("fab" olarak bilinir) yaptığı 265 milyar dolarlık yatırımdan, sektörün 2030'a kadar küresel çapta (çoğunlukla ABD'de) inşa etmesi beklenen 7 trilyon dolarlık veri merkezlerine kadar her şeyi etkiliyor. Bu mevcut ve yeni nesil çipleri kullanan daha fazla veri merkezi olmadan, yapay zekânın üstel büyümesi—ve riski—durma noktasına gelirdi.
Bu yüzden ABD hükümeti, Çin'in çip üretim yeteneklerini yavaşlatmak için ASML'ye sınır ötesi ihracat kontrolleri uyguluyor ve en gelişmiş EUV makinelerinin Çin'e satışını engelliyor. ABD, bu kısıtlamaları ASML'ye dayatarak bu boğaz noktasındaki kendi zayıflığını ortaya koydu: Avrupa, ABD'nin (sonuçta değiştirilebilir) finansal ve yazılım hizmetlerine ne kadar bağımlıysa, çip tabanlı tüm teknolojinin geleceği tamamen ASML'ye bağlı. ASML'nin makinelerinin ihracatına doğrudan bir yasak, küresel yapay zekâ endüstrisini fiilen su üstünde kalmaya ya da yerinde koşmaya zorlar. Ortaya çıkan çip kıtlığı ve yapay zekâ gelişimindeki yavaşlama, düzenleyicilere teknolojiye yetişmek için, yasa koyuculara telif hakkından vergi hukukuna kadar her şeyi güncellemek için ve toplumlara yapay zekânın hayatlarımızda oynamasını istediğimiz rol hakkında gerçek tartışmalar yapmak için zaman kazandırır.
AB neden böyle bir şey yapsın? Yalnızca hümanist nedenlerle değil, aynı zamanda çıkar odaklı nedenlerle. En iyi senaryoda, düz bir ihracat yasağı tedarik zincirinin yeniden organize olmasına ve kilit kararların daha fazlasının AB kontrolüne geçmesine yol açar—burada da yapay zekâyı kapsamlı şekilde düzenleyeceğini gösteren tek oyuncunun denetimine tabi olurlar. Elbette, en iyi senaryo zorlama bir beklenti: ABD'nin misilleme olarak ASML'nin ABD merkezli tedarikçilere erişimini engellemesi daha olası. Ama bu olsa bile, saf ekonomik ve jeopolitik çıkar mantığına dayanarak, böyle bir hesaplaşmayı kışkırtmak yine de AB'nin çıkarına olurdu; çünkü AB, yapay zekâ modellerinde ve bunları çalıştırmak için gereken veri merkezi "hesaplama gücünde" (işlem gücü) göreceli olarak geride kalmayı bırakırdı.
Avrupa'nın kendi yapay zekâ savunucuları da aynı fikirde—her ne kadar onları endişelendiren şey yapay zekânın geniş risk yelpazesi değil de AB'nin göreceli dezavantajı olsa da. Europe 2031 projesi, bir grup endüstri uzmanı tarafından hazırlanan, yapay zekânın ekonomiyi kökten dönüştürmesi ve AB'nin ABD'nin çok gerisinde kalması durumunda AB'ye ne olabileceğine dair teknopolitik bir öngörü. Onlar, Avrupa'nın öncü modeller ve "hesaplama gücü", TSMC ve ASML'nin bugün olduğu şeye—hiçbir rakibin kapatamayacağı kadar büyük bir farkın yararlanıcıları—dönüşmeden önce yapay zekâ silahlanma yarışına yüz milyarlarca dolar akıtması gerektiğini savunuyorlar.
Onların senaryosunda, yakın gelecekte bir zamanda, AB, ekonomisinin ve güvenliğinin bağlı olacağı ABD kontrolündeki modellere ve hesaplama gücüne erişimi güvence altına almak için ASML'ye erişimi masaya koymak zorunda kalacak—ancak ASML'nin hâkimiyetinin zamanla zayıfladığını görecek. (Ne kadar çok EUV makinesi ihraç edilirse, başka yerlerde o kadar çok fab inşa edilir ve Çin ile ABD'nin ASML'nin teknolojisini kopyalamak için o kadar çok zamanı olur.)
Nükleer silah teorisyenleri, düşünülemez olanın gerçekleşmesi durumunda devletlerin "kullan ya da kaybet" hesabı yüzünden fırlatmaya itilebileceğinden endişeleniyor. Aynı mantık, yapay zekâ endüstrisinin baş döndürücü gelişimini durdurabilecek tek şey için de geçerli: AB, ASML'nin şu an sağladığı kaldıracı kullanabilir ya da bu şansı tamamen kaybetme riskini göze alabilir. Bu kadar farklı grupların aynı sonuca varması nadirdir: oynanacak tek bir Avrupa kartı var ve oynanmalı. Aptallığa doğru yarışmak yerine, hadi yarışı durduralım. Şimdi ve herkes için.
Alexander Hurst, Guardian Europe için Paris'ten yazıyor. Anı kitabı Generation Desperation çıktı.
**Sıkça Sorulan Sorular**
Makalenin önermesine dayanan, başlangıç seviyesinden ileri seviyeye kadar bir SSS listesi:
**Başlangıç Seviyesi Sorular**
1. Yapay zekâ silahlanma yarışı tam olarak nedir?
Bu, teknoloji devlerinin en güçlü yapay zekâyı ilk önce inşa etmek için verdiği çılgın rekabettir. Güvenlik veya etiğe öncelik vermek yerine, rakiplerini yenmek ve pazar payı kapmak için yeni modelleri piyasaya sürmek için acele ederler.
2. Bill Gates ve Bernie Sanders neden bu konuda hemfikir?
Tamamen farklı siyasi taraflardan geliyorlar ama ikisi de aynı tehlikeyi görüyor. Gates, yapay zekânın insan kontrolünden çıkıp kitlesel iş kaybına yol açmasından endişeleniyor. Sanders ise denetimsiz kurumsal güçten ve yapay zekânın işçileri sömürmek veya halkı manipüle etmek için kullanılmasından endişeleniyor. İkisi de saf kâr güdüsünün insanlığın geleceğini belirlememesi gerektiği konusunda hemfikir.
3. Neden özellikle Avrupa, bunu durdurabilecek tek yer olarak belirtiliyor?
Çünkü ABD ve Çin, kazananın her şeyi aldığı bir teknoloji savaşında kilitlenmiş durumda ve yavaşlamayacaklar. Avrupa ise yapay zekâ yarışında önde değil, bu yüzden kaybedeceği daha az şey var. Daha da önemlisi, AB'nin tüm dünyaya uygulanan katı düzenlemeler çıkarma geçmişi var—Avrupa'da iş yapmak istiyorsanız onların kurallarına uymak zorundasınız.
4. "Buna bir dur demek" gerçekte ne anlama geliyor?
Yapay zekâyı tamamen yasaklamak anlamına gelmiyor. Tehlikeli yarışı durdurmak anlamına geliyor. Sıkı güvenlik testleri uygulamak, yapay zekânın neler yapabileceği hakkında şeffaflık talep etmek ve güvenli olmayan ürünler çıkaran şirketlere ağır para cezaları kesmek anlamına geliyor. Güvenliğin hıza yetişmesini sağlamak için bir yavaşlama dayatmakla ilgili.
5. Yapay zekâ silahlanma yarışı gerçekten bir felaket mi?
Argüman, evet olduğu yönünde. Felaket, yapay zekânın var olması değil—hızı. Şirketler, bu güçlü araçların seçimleri, işleri veya ruh sağlığını nasıl etkileyeceğini anlamadan piyasaya sürüyorlar. Felaket, pervasızlık; teknolojinin kendisi değil.
**İleri Seviye Sorular**
6. Avrupa düzenlemeleri Amerikan şirketlerini gerçekten nasıl durdurur?
AB'nin bir "Brüksel Etkisi" var. Meta veya OpenAI gibi bir Amerikan şirketi 450 milyon Avrupalı tüketiciye hizmet vermek istiyorsa, AB yasalarına uymak zorundadır. AB, "üçüncü taraf güvenlik denetimi olmadan süper zeki bir modeli dağıtamazsınız" derse, şirket bunu küresel çapta yapmak zorunda kalır.
