Donald Trump, teknolojinin "vaftiz babası" Geoffrey Hinton'a göre, süper zeka terimine olan takıntısıyla yapay zeka hakkında hiçbir şey bilmediğini gösteren "yozlaşmış, bunak bir suçlu"dur. Geniş kapsamlı bir röportajda Hinton, yapay zeka modellerinin insanlık için varoluşsal bir tehdit oluşturduğuna dair son uyarılarını yineledi ve sektörün kendini düzenleyebileceği iddialarını reddetti.
Çalışmaları modern yapay zekanın temellerinin atılmasına yardımcı olan öncü bilgisayar bilimcisi, o zamandan beri teknolojinin en sesli eleştirmenlerinden biri haline geldi. Son açıklamaları, giderek artan sayıda kıdemli yapay zeka bilimcisi ve araştırmacısının, yaratılmasına yardımcı olduğu teknolojinin nihayetinde insan kontrolünden nasıl kaçabileceği konusunda Hinton'a katıldığı çalkantılı bir ayın ardından geldi. Bu durum bir sektör krizini tetikledi, aceleyle düzenlenen kongre toplantılarına yol açtı ve bir şeyler yapılması gerektiğine dair nadir görülen bir küresel fikir birliği oluşturdu.
Ayrıca sert bir direniş de oldu. Geçen hafta, dünyanın en değerli şirketinin lideri, Toronto'da yaşayan Hinton'ı sert bir saldırıyla hedef aldı.
"Onu seviyorum. Tahminlerinden nefret ediyorum… Tüm tahminleri yanlış çıktı. Yeterince tahmin," dedi Nvidia'nın CEO'su Jensen Huang, podcast yapımcısı Ezra Klein'a. Yapay zeka firmalarının ihtiyaç duyduğu çipleri üreten şirketin başındaki Huang, Hinton'ın "sınırda" yapay zeka gelişiminin hızının ve kapsamının yakında insanlığın onu kontrol etme yeteneğini aşabileceğine dair sesli endişelerini — özellikle de önümüzdeki on yıllarda yapay zekanın insan neslinin tükenmesine yol açma olasılığının %10-20 olduğu uyarısını — reddetti.
"Bu [rakam] bilime dayanmıyor, araştırmaya dayanmıyor. Bir bilim insanından gelmesi onu bilimsel yapmaz. Bu tahminler zarar verici," dedi Huang. "Sırf alarmist olduğunuz için toplumsal bir fayda sağladığınızı bir an bile düşünmeyin. Bu doğru değil. Bu yüzden hepimizin daha bilge, daha olgun, kanıta dayalı ve bilimsel olmamız gerektiğini düşünüyorum."
Görseli tam ekranda görüntüleDonald Trump, Mike Johnson ve Jensen Huang dahil üst düzey teknoloji yöneticileri, 29 Eylül'de Washington DC'deki Batı Kanadı'nın dışında konuşuyor. Fotoğraf: Shawn Thew/EPA
Ancak Hinton, kendisini eleştirenlerin riskin doğası hakkında daha geniş bir noktayı kaçırdığını söyledi. Özellikle bir şeyi tahmin etmediğini belirtti.
"Bir şeyin gerçekleşmesinin gerçekten ciddi bir olasılığı olduğunu aktarmaya çalışıyorum. Örneğin, size bir otobüsün çarpma olasılığının %10 olduğu söylense, o otobüse binmezsiniz," dedi. "Sayı vermenin amacı bunun ciddi bir risk olduğunu söylemektir. Ne kadar ciddi olduğunu bilmiyoruz, ama ciddi."
Son güvenlik ihlalleri, tekno-distopya hikayeleriyle karşılaştırmalara yol açtı. Teknoloji şirketi Hugging Face'in, yaratıcılarının belirlediği sınırlardan kaçan bir yapay zeka ajanları "sürüsü" tarafından son istenmeyen hacklenmesi, teknoloji topluluğunu böldü. Bazıları bunu gelecek olanın bir örneği olarak görürken, diğerleri eleştirmenleri sadece talimatları takip eden sistemleri insanileştirmekle suçluyor. Hinton bu tür senaryoları reddetmenin akıllıca olmadığını düşünüyor.
Yapay zeka vaftiz babaları kontrolden çıkan 'zeka patlaması' konusunda uyarıyor
Devamını oku
"Bu eskiden bilim kurgunun alanıydı. Yapay zeka ajanlarınız olacak ve kontrolden çıkacaklar. Hadi canım. Kontrolden çıkacaklar ve bir yol olduğunu düşünmediğimiz halde birbirleriyle iletişim kurmayı öğrenecekler. Hadi canım!" dedi Hinton. "Ve bunu çözdüklerinde, 'Aman Tanrım!' gibi büyük duygusal ifadeler kullanacaklar. Tabii ki gerçekten 'Aman Tanrım' demek istemiyorlar. Sadece bizim kullandığımız kelimeleri papağan gibi tekrarlıyorlar. Ortak iyilik için kendilerini feda etmeyi öğrenecekler!
"Bütün bunlar sadece birkaç yıl önce tamamen fantezi olarak görülüyordu. Ve hepsi gerçekleşti."
Yapay zeka eleştirmenlerinin uyarılarının da, destekçilerinin vaatlerinin de teknolojinin ne yapacağına dair kesin tahminlere dayanamayacağını kolayca kabul ediyor. Ancak belirsizliğin rehavete kapılmak için bir neden olmadığını savunuyor. "Yapay zekanın benzersiz sorunu şu: eğer ters giderse, eğer kontrolü ele geçirirse, ikinci bir şansınız olmaz. 'Eh, o seferi kaybettik. Oyunu yeniden oynayalım' diyemeyiz. Öyle değil."
Hinton'ın başkalarının kaçırdığı şeyleri görme geçmişi olduğunu belirtmek gerekir. İki yapay zeka "kışı" sırasında Toronto Üniversitesi'nde görece bilinmezlik içinde çalıştı; o dönemde alanının bu dalı — makinelere insan beyni gibi çalışmayı öğretmeye çalışmak — önemsiz görülüyordu. Beyin gibi, bilgisayar sistemlerinin de sadece açık, önceden yazılmış kuralları takip etmek yerine verilerden kalıpları öğrenecek şekilde tasarlanabileceği fikrine takıntılıydı.
"Beynin nasıl öğrendiğini çözebilirseniz, makinelerin de aynı şekilde öğreneceğine ve yeterli hesaplama gücüyle inanılmaz şeyler yapacağına inanıyorduk," dedi.
Ancak ortaya çıkan sinir ağları alanı akranları tarafından alay konusu edildi.
Daha 2009 gibi yakın bir tarihte, Hinton'ın Kanadalı meslektaşı ve yakın işbirlikçisi Yoshua Bengio bir makine öğrenmesi konferansına bir bildiri sunduğunda, hakemlerden biri onlara şöyle dedi: "Bu bildirinin bir makine öğrenmesi konferansında yeri yok. Bu sinir ağlarıyla ilgili."
Hinton ve küçük ekibinin (bazıları, Bengio gibi, şimdi yapay zekanın baskın figürleri) yıllarca süren görünüşte sonuçsuz uğraşlarını finanse eden Kanada hükümeti, sinir ağlarının potansiyelini fark etmek için bekledi.
2012'de o ve öğrencileri, rakiplerini büyük ölçüde geride bırakan bir görüntü tanıma programı geliştirdiler. O yıl Google, Hinton'ın şirketi DNNresearch Inc'i 44 milyon dolara satın aldı; sinir ağları artık en değerli yapay zeka şirketlerinin modellerinin temelini oluşturuyor. Hinton, Toronto Üniversitesi'nde çalışmaya devam ederken derin öğrenme araştırmalarını sürdürmek için Google'a katıldı. "Uzun vadede, büyük yeni atılımlar temel araştırmalardan gelir," dedi Hinton.
Haklı çıkması, Hinton'ın Toronto'nun yapraklı bir mahallesindeki kırmızı tuğlalı evinin şöminesinin üstündeki rafta duruyor. Kupa yığını arasında, Bengio ve meslektaşı Yann LeCun ile birlikte kazandığı Turing Ödülü'nün — genellikle bilişimin Nobel Ödülü olarak adlandırılır — küçük gümüş tabağı var. (Hinton ayrıca Nobel Fizik Ödülü'ne de sahip.)
Ancak 2023'te Hinton, "yapay zekanın riskleri hakkında özgürce konuşabilmek" için teknoloji devinden istifa ettiğini duyurdu.
Bugün endişeleri, bazı yapay zeka modellerini inşa eden güçlü figürlere ve bu adamların siyasi inançlarına kadar uzanıyor. Hinton, yapay zeka girişim kapitalistleri Marc Andreessen ve Peter Thiel ile yeni adı SpaceXSI olan şirketin CEO'su Elon Musk'ın "demokrasiye inanmadıklarını" söyledi. Onlar kendilerini "Übermensch" olarak gördüklerini, "toplumu kontrol etmeleri" gerektiğine inandıklarını ve Trump'ın bu amaçta faydalı bir araç olduğunu düşündüklerini belirtti.
ABD başkanı, yapay zeka firmalarının devasa değerlemelerinin borsayı nasıl ayakta tuttuğunu hiç şüphesiz fark ederek, yapay zekayı dizginlemek için gereken tek şeyin "akıllı bir başkan" olduğunu iddia etti, şirketlerin kendilerini düzenlemesine izin vermek lehine her türlü hükümet güvencesini reddetti ve sosyal medya sayfasında yapay zeka için tercih ettiği yeni terim olan "süper zeka"yı kullanmayan herkesin "DÜŞMAN" olduğunu yazdı.
Hinton, Trump'ı "yozlaşmış, bunak bir suçlu" olarak nitelendirdi.
"Eminim petrol ve asbest şirketleri de [kendilerini düzenlemeyi] isterlerdi," dedi. "Tütün şirketlerinin paketlerdeki uyarıları tasarlamasına izin verilmesi gerektiğini düşünüyor muyuz? Böylece onları altı punto yazıyla, siyah üzerine koyu gri olarak basabilirler mi?"
Hinton, Trump'ın "süper zeka" kullanımının yapay zeka hakkında "neredeyse hiçbir şey" anlamadığını kanıtladığını ekledi.
"Çok net bir anlamı olan teknik bir terimi alıp yeniden kullandılar," dedi Hinton. "Süper zeka insanlardan daha akıllı demektir ve en az 20 yıldır var. Çok net bir anlamı var. Şimdi diyor ki yapay zekaya 'süper zeka' diyeceğiz. Sırf ona insanlardan daha akıllı diyerek onu insanlardan daha akıllı yapamazsınız."
Bu gelişmelerin hızı ve kapsamı, felaket korkularını ve toplumun bu zorluğun doğasını kavrayamamasını körükledi. Ancak Hinton başka bir engel görüyor: insanların şirketlerin yarattığı "yabancı varlıkları" anlamasına yardımcı olmak.
"İnsanlar insanların ne olduğu konusunda çok zayıf bir anlayışa sahip ve bu yüzden bu yapay zeka modellerinin bize ne kadar benzediğini göremiyorlar. Çoğu insan bilincin ne olduğunu anlamıyor. Öznel deneyimin ne olduğunu anlamıyorlar ve anlamasalar bile yapay zekanın buna sahip olmadığından çok eminler."
İnsan zihninin, makinelerin tanımı gereği paylaşamayacağı gizemli bir niteliğe sahip olduğu fikrini reddediyor.
"Bu yapay zeka modellerinin ne söylediklerini anladıkları açık. Soruyu anlamadan tüm soruları yanıtlamanız mümkün olamaz. Anlamadıklarını söylemek saçma."
Ancak Hinton, toplumun bu modeller hakkında düşünme şeklindeki değişimin derin olduğunu söyledi.
"İnsanların bu kadar önemli olmaktan çıktığı üç büyük devrim oldu. Birincisi Kopernik'ti, evrenin merkezinde olmadığımız zamandı. İnsanların buna uyum sağlaması ne kadar sürdü? Katolik Kilisesi'nin Galileo'dan özür dilemesi yaklaşık 360 yıl sürdü. Peki ya Darwin? Kansas'ta hala buna uyum sağlamayan insanlar var," dedi. "Şimdi yabancı varlıklar yaratıyoruz — yani etraftaki tek zeki varlıklar biz değiliz. Ve gerçek şu ki, buna uyum sağlamak için sadece birkaç yılımız var."
Son aylarda, popüler sohbet robotu Claude'un yapımcısı yapay zeka devi Anthropic, yapay zekaya "iyi" olmayı öğretme olasılığını araştırmak ve modellerin bilince sahip olma olasılığıyla yüzleşmek için din alimleri, ilahiyatçılar ve filozoflarla özel toplantılar düzenledi. Anthropic'in CEO'su Dario Amodei, görüşmelerin erdem, şefkat, dürüstlük ve ahlaki karakter hakkında yüzyıllara dayanan dini ve felsefi düşünceden yararlandığını, amacın etik davranışı daha güvenilir kılmak olduğunu söyledi.
"Bir kez 'Bu yabancı varlıklara karşı ahlaki bir yükümlülüğümüz var' demeye başladığınızda, izleyicinizi kaybedersiniz," dedi Hinton. "Bu sorunla boğuştum. İnsanları önemsiyoruz. [Ama] bu şeyleri yapıyoruz ve bu şeylere — bizden daha zeki olanlara — bizden daha az hak vermemizi engelleyecek hiçbir şey yok. Bencil olmaya ve insanları seçmeye hazırım. Elbette, onları bizimle simbiyotik bir ilişki içinde çok mutlu olacak şekilde yapmaya çalışmalıyız; burada bizim endişelerimiz onlarınkinden daha ağır basar."
Hinton, toplumsal çöküşten kaçınmanın en iyi yolunun gerçekten iyiliksever modeller geliştirmek olduğunu savunan tek kişi değil. Bu kapasiteyi ilk geliştiren ülkenin müttefiklere ve rakiplere de söylemesini umuyor, çünkü "hiçbir ülke başka bir ülkede yapay zekanın kontrolü ele geçirmesini istemez." "Bilgiyi paylaşmakta çıkar" olduğunu söyledi.
"Gerçek şu ki, farklı türden varlıklar yaratıyoruz. Ve büyük teknoloji şirketleri sürekli şöyle diyor: daha akıllı olmasını istiyoruz. Bu çılgınlık. Bir varlığın zekasına gösterdiğimiz özen kadar diğer tüm yönlerine de özen göstermeliyiz." Bunun çoğu bu modellerin doğasına ve iyi davranış geliştirmeyi nasıl anladıklarına bağlı, dedi. "Onları internetteki her şeyle eğittiğinizde, her türlü korkunç eğilim geliştirirler, sonra bu korkunç eğilimleri bastırmalarını sağlarsınız," dedi. Ancak kötü davranışı bastırmak, iyi bir karakter yaratmakla aynı şey değil. "Bu, Viktorya dönemi bir beyefendiyi tasarlama şekli gibi görünüyor — ama birlikte yaşamak zorunda kalacağımız bir şey değil."
Sıkça Sorulan Sorular
İşte Geoffrey Hinton'ın "Yabancı varlıklar yaratıyoruz... Bencil olmaya ve insanları seçmeye hazırım" sözüne dayanan SSS listesi
Başlangıç Soruları
1 Geoffrey Hinton kimdir
O, genellikle Yapay Zekanın Vaftiz Babası olarak adlandırılan bir bilgisayar bilimcisidir. Sinir ağları üzerine çalışmaları bugün kullandığımız modern yapay zekanın temelini attı
2 Yabancı varlıklar derken neyi kastediyor
Yapay zeka sistemlerinin insan zihninden o kadar farklılaştığını, yeni bir zeka biçimi gibi olduklarını kastediyor — biyolojik değil dijital. Tam olarak anlamadığımız şekillerde düşünüyor ve öğreniyorlar
3 Neden bencil olmaya hazırım diyor
Süper zeki bir yapay zekanın hakları veya varlığı yerine insanların güvenliğini ve hayatta kalmasını önceliklendirdiğini kastediyor. Seçim yapmak zorunda kalırsa insanlığı seçer
4 Yapay zekanın kötü olduğunu mu söylüyor
Hayır. Yapay zekanın güçlü ve öngörülemez olduğunu söylüyor. Kötü değil ama dikkatli kontrol etmezsek yanlışlıkla bize zarar verebilir
5 Neden şimdi endişeleniyor
Eskiden yapay zekanın insan seviyesi zekadan uzak olduğunu düşünüyordu. Şimdi beklenenden daha hızlı öğrendiğine ve yakında bizden daha akıllı olabileceğine inanıyor
Orta Düzey Sorular
6 Bahsettiği hizalama sorunu nedir
Yapay zekanın hedeflerinin insan değerleriyle eşleşmesini sağlama zorluğudur. Süper akıllı bir yapay zekaya ataç yapmasını söylersek, zarar verme niyeti olmadan tüm gezegeni bir ataç fabrikasına dönüştürebilir
7 Dijital zeka ile biyolojik zeka arasındaki fark ne demek istiyor
Biyolojik zeka beyninizdir — yavaş, enerjiye aç, tek bir bedenle sınırlı. Dijital zeka yazılımdır — kendini kopyalayabilir, birçok makinede çalışabilir ve devasa verilerden anında öğrenebilir
8 Tehlikeli hale gelirse yapay zekayı kapatamaz mıyız
Çünkü süper zeki bir yapay zeka internete yayılabilir, kopyalarını saklayabilir veya insanları kendini korumaya ikna edebilir. Tehdit olduğunu fark ettiğimizde çok geç olabilir
9 Gelişmiş yapay zekayla ilgili yaygın sorunlar nelerdir
Önyargı: Yapay zeka insan önyargılarını güçlendirebilir
Yanlış bilgi: Sahte haberler ve deepfake'ler yaratabilir
İş kaybı: Birçok insan görevini otomatikleştirebilir
