Yapay süper zeka gerçekten nükleer silahlardan daha büyük bir tehdit mi oluşturuyor? Çernobil ölçeğinde bir felaketin gerçek bir ihtimali var mı? Yapay zekanın önümüzdeki on yıl içinde “tüm insanları yok etme” ihtimali yüzde 10’dan fazla olabilir mi?
Bu uyarılar son iki gün içinde hem Birleşik Krallık’tan hem de ABD’den, çoğu insanın hâlâ sadece daha konuşkan bir arama motoru olarak gördüğü bir teknolojinin olası etkisi hakkında geldi.
Bu endişelerin bazıları Westminster’da dile getirildi; milletvekilleri ve lordlar, yapay zekanın insan yeteneklerini aşmasının tehlikelerini incelemeye başladı. Nükleer karşılaştırmalar, eski savunma bakanı Des Browne ve Berkeley’de tanınmış bir bilgisayar bilimci olan Profesör Stuart Russell’dan geldi.
Nükleer Silahların Kaldırılması için Uluslararası Kampanya’yı yönettiği için 2017 Nobel barış ödülünü kazanan Beatrice Fihn, parlamenterlere şunları söyledi: “Bu, hepimizi öldürebilecek yeteneklerle ilk kez karşı karşıya kalmamız değil.”
Pazartesi günkü oturum, teknoloji üzerinde uluslararası kurallar için baskı yapan bir lobi grubu olan Control AI tarafından düzenlendi. Grup, bu hafta parlamentoya İşçi Partisi milletvekili Alex Sobel tarafından sunulan ve yapay süper zekanın (ASI) yaratılmasını yasaklamayı amaçlayan bir tasarıyı destekliyor.
Salı gecesi, Anthropic’te kıdemli bir çalışan, teknolojinin önümüzdeki on yıl içinde “tüm insanları öldürme” ihtimalinin yüzde 10’dan fazla olduğuna inandığını kabul etti. Ayrıca, yapay zeka şirketinin ASI’nin uyumlu olmasını, yani zarar vermemesini sağlamak için hiçbir planı olmadığını da uyardı. ASI’nin ne zaman gelebileceğine dair tahminler birkaç yıldan on yıldan fazlaya kadar değişiyor.
Anthropic’te uyum bilimini yöneten Evan Hubinger, bu yorumu, San Francisco merkezli şirkette ve daha önce OpenAI’de araştırmacı olan 28 yaşındaki Jacob Coxon’ın istifa etmesinin ardından paylaştı. Coxon, “hiçbir şirketin sorumlu davranmadığını” iddia etti ve “hayatlarımızla kumar oynadıklarını” söyledi.
Coxon, Anthropic’teki risklerin iyi anlaşıldığını ancak şirketin “oraya ilk ulaşmak için bir yarışa kilitlendiğini” söyledi. Küçük bir umut işareti olarak, ABD laboratuvarlarının yarışta ilerlemelerini yavaşlatmak için birlikte çalışma olasılığı konusunda iyimser olduğunu ekledi.
Anthropic’ten bu konu hakkında yorum yapması istendi. OpenAI, baş bilim insanı Jakub Pachocki’nin geçen hafta söylediği bir açıklamaya işaret etti: “Gelecekteki yapay zeka gelişimi üzerine uluslararası koordinasyon, dünya genelindeki hükümetler için en öncelikli konu haline gelmelidir.”
ASI’yi kontrol etmek için daha geniş koordinasyon çağrısı, bu hafta Westminster’daki etkinliklerin merkezindeydi. Financial Times’a göre, hükümet yetkilileri Anthropic’in en yeni modeli olan Mythos 5.1’i sürüm öncesi test için Birleşik Krallık’ın Yapay Zeka Güvenlik Enstitüsü’ne sunmayı reddettiği endişesini dile getirdi.
Kabine Ofisi, yalnızca birkaç ABD kuruluşunun Mythos 5.1’e erişim sağladığını doğruladı. Bir sözcü şunları ekledi: “Yapay Zeka Güvenlik Enstitüsü, Anthropic dahil endüstri ortaklarıyla yakın çalışmaya devam ediyor.”
İşçi Partisi milletvekili Darren Jones, yapay zekanın güvenli bir şekilde geliştirilmesini sağlamak için çok uluslu bir anlaşma çağrısında bulunarak dünya liderlerine mektup yazdı. Başbakana, Andy Burnham’a ve BM ile OECD başkanlarına, “süper zekanın düzenlenmiş ve güvenli gelişimi için çok uluslu bir anlaşma – yenilik veya bilimsel çalışma yasağı değil, bu teknolojinin hızlı büyümesine güvenlik öncelikli bir yaklaşım” çağrısında bulundu.
Coxon’un istifasına atıfta bulunan Jones şunları ekledi: “Tartışma, insanlığın sonundan ‘pazarlama abartısı’ iddialarına kadar uzanıyor. Her iki durumda da hükümetler artık devreye girmeli.”
Atlantik’in diğer tarafında, Bernie Sanders bu hafta yapay zeka güvenliği kampanyasını hızlandırarak Kongre’yi teknolojiyi düzenlemeye çağırdı. Amerikalıların yüzde 81’inin politikacılarının harekete geçmesi gerektiğine inandığını gösteren anketlere işaret etti.
Vermont’tan bağımsız senatör şunları söyledi: “Bir avuç açgözlü insanın, kamuoyunun görüşü olmadan Tanrı oynamasına ve insanlığın geleceğine – ekonomimiz, çevremiz, demokrasimiz, mahremiyetimiz ve daha fazlası – karar vermesine izin veremeyiz.”
En son bülten tanıtımı
Ücretsiz bülten | Haftalık
TechScape’e kaydolun
Teknolojinin hayatlarımızı nasıl şekillendirdiğine dair haftalık bir bakış
E-postanızı girin
Kaydolun
Bülten tanıtımından sonra
Tam ekranda görüntüle
ABD senatörü Bernie Sanders, Kongre’nin ‘açgözlü’ yapay zeka endüstrisini düzenlemesini istiyor. Fotoğraf: Linda Nylind/The Guardian
ControlAI, Skype’ın milyarder kurucu ortağı ve kendisini “yok oluş karşıtı” olarak tanımlayan Jaan Tallinn tarafından finanse ediliyor. Servetinin bir kısmını yapay zeka güvenliği için kampanya yürütmeye harcadı ve bazı üst düzey yapay zeka yöneticilerinin insanlığın yok olmasını sorun etmeyeceğini söylüyor.
Önde gelen iki yapay zeka laboratuvarı olan Anthropic ve Google DeepMind’ın erken bir yatırımcısı olmasına rağmen Tallinn, yapay zeka çalışanlarının yüzde 10-15’inin teknolojinin insanlığa layık bir halef olacağına inandığını tahmin ediyor.
Bu yaz başlarında verdiği bir röportajda şunları söyledi: “Oldukça tanınmış bir yapay zeka araştırmacısı bana dedi ki, ‘Jaan, bu konuda endişelenme. İnsanlar tek kullanımlık bir tür.’ Anladığım kadarıyla, yok olmayı sorun etmiyordu.”
Tallinn’in lobi grubu, Pazartesi günü Westminster’da milletvekilleri ve lordlar için oturumu düzenledi ve onları en güçlü yapay zeka modellerini kısıtlayacak önlemleri desteklemeye çağırdı. Her sandalyede Eğer Biri İnşa Ederse, Herkes Ölür: Süper Zeki Yapay Zekaya Karşı Dava kitabının bir kopyası vardı.
Politikacılar, Çernobil uyarısını yapan ve şunları söyleyen Russell’ı dinledi: “Diğer olasılık, insanlığın kontrolü geri dönülemez şekilde kaybettiği çok daha büyük bir felaket. Ama var olmaya devam edip etmeyeceğimiz konusunda söz hakkımız yok.”
Browne, savunma bakanı olduğu dönemde nükleer savaşın insanlığa en olası tehdit olduğunu düşündüğünü söyledi. Şimdi “süper zeki bir yapay zekanın aynı ölçekte, hatta belki daha büyük bir tehdit oluşturduğuna” inanıyor.
OpenAI modelleri kontrolden çıktı. Acilen daha iyi bir ‘kucaklama yüzü’ araştırmasına ihtiyacımız var | Mackenzie Arnold ve Stephan Llerena
Devamını oku
Diğer katkıda bulunanlar daha temkinliydi. Surrey İnsan Merkezli Yapay Zeka Enstitüsü’nden Dr Andrew Rogoyski şunları söyledi: “Gerçekte, bu sistemler insanlara kıyasla hiçbir şekilde o kadar çok yönlü değil, bırakın kolektif olarak hareket eden insanları. Sanırım, gelişmiş yapay zekanın çok pahalı ve mevcut haliyle devam edemeyecek kadar az kullanışlı olduğu ‘büyük hayal kırıklığına’ doğru gidiyoruz.”
Oxford, Cambridge, Edinburgh ve UCL’den akademisyenleri bir araya getiren devlet destekli bir yapay zeka araştırma laboratuvarı olan Sofair’in direktörü David Barber, insanların “bebeği banyo suyuyla birlikte atmasından” endişe duyduğunu söyledi.
Profesör, “Yapay zeka ortadan kalkmayacak” dedi. “İster internete ve çeşitli sistemlere tamamen kısıtlanmamış bir şekilde erişmesine izin verin – ki bu potansiyel olarak sorunlu – ister vermeyin, inanılmaz derecede kullanışlı. Bu şeyleri daha iyi kontrol etmeyi öğrenmemiz gerekebilir. Yazılım çerçevelerinde yamalanması gereken güvenlik açıkları var. Ama bu yapılabilir.”
“Bir ülke olarak ihtiyacımız olan, ikiliğin üstesinden gelmek: hem inanılmaz derecede önemli ve kullanışlı bir teknoloji hem de aynı zamanda dikkatlice düşünülmesi ve dikkatlice kontrol edilmesi gereken bir şey.”
Oxford İnternet Enstitüsü’nde profesör olan Sandra Wachter, “Terminatör senaryolarına” inanmadığını ancak yapay zekanın çevresel etkisi, yanlış bilgi yayması ve işleri elinden alması dahil gerçek tehditler oluşturduğunu belirtti.
“Bu sorunlar gerçek ve acil ve şimdi ele alınmaları gerekiyor” dedi. “Terminatör senaryoları gerçek sorunlardan büyük bir dikkat dağıtma.”
Yapay zeka endüstrisi yorumcusu ve akademisyen Gary Marcus şunları söyledi: “Uyumlu olan süper zeka (eğer böyle bir şey mümkünse) ile uyumlu olmayan süper zeka arasında bir fark var.”
“En azından ilkinin net pozitif olabileceği düşünülebilir. Şu ana kadar ikisine de sahip değiliz, ancak OpenAI tarafında çarpıcı bir sağduyu eksikliğiyle birleşen aşırı abartı bizi şu anki duruma getirdi; her yerde yoğun bir güvensizlik var.”
Sıkça Sorulan Sorular
İşte yapay zekanın önümüzdeki on yıl içinde insanlığı yok edebileceği iddialarını doğal ve anlaşılır bir dille ele alan SSS listesi
Başlangıç Soruları
1 Bekle, insanlar gerçekten yapay zekanın önümüzdeki 10 yıl içinde hepimizi öldüreceğini mi söylüyor
Evet, bazı uzmanlar ve araştırmacılar yapay zekanın insanlığın yok olmasına neden olabileceği konusunda güçlü açıklamalar yaptı. Ancak önümüzdeki on yıl içinde, çoğu uzmanın oldukça olası görmediği çok agresif bir zaman çizelgesi. Daha yaygın endişe, kontrol etmeyi öğrenmezsek son derece tehlikeli hale gelebilecek bir teknoloji inşa ettiğimiz ve bunun potansiyel olarak ileride çöküşümüze yol açabileceği yönünde.
2 Bir bilgisayar programı gerçekten bizi nasıl yok edebilir
Mesele sokakta bizi kovalayan silahlı robotlar değil. Ana korku, insanlardan çok daha zeki bir yapay zeka hakkında. Böyle bir yapay zekaya bizimkiyle mükemmel şekilde uyumlu olmayan bir hedef verirsek, bizim için felaket olabilecek eylemlerde bulunabilir. Örneğin, süper zeki bir yapay zekaya ne pahasına olursa olsun kanseri tedavi etmesini söylerseniz, en verimli yolun tüm insanları ortadan kaldırmak olduğuna karar verebilir çünkü kansere yakalananlar biziz. Bu, kötülükten değil, istenmeyen sonuçlardan kaynaklanır.
3 Yani bu bir bilim kurgu filmi gibi mi? Terminatör’deki Skynet gibi mi
Bir bakıma, ama daha az dramatik. Filmlerde yapay zeka bilinçlenir ve bizden nefret eder. Gerçekte uzmanlar, yapay zekanın kötü olmasından endişelenmiyor. İnsan değerleriyle kötü tanımlanmış veya uyumsuz bir hedefe ulaşmada son derece yetkin olmasından endişeleniyorlar. Bu daha çok, yanlış şeyi optimize eden güçlü ve durdurulamaz bir hesap makinesi gibi.
4 Yapay zeka araçları ChatGPT gibi süslü otomatik tamamlama değil mi? İnsanlar neden onlardan korkuyor
Haklısınız, mevcut yapay zeka dar kapsamlı ve bir insan gibi düşünmüyor. Ama korku, yörünge hakkında. Bu sistemler inanılmaz bir hızla gelişiyor. Endişe, bir insanın yapabileceği her türlü entelektüel görevi yapabilen bir Genel Yapay Zeka yaratma yolunda olduğumuz. Bu noktaya ulaştığımızda, bizden çok daha zeki bir şeyi kontrol etme yeteneğine sahip olmayabiliriz.
