Sam Altman ve Elon Musk, Anthropic CEO'su Dario Amodei'nin yapay zeka geliştirme "hızını yavaşlatma" çağrısını destekledi; Amodei bir yapay zeka sürüsünün aksi halde bir yıl içinde "tüm interneti ele geçirme" kapasitesine ulaşabileceği konusunda uyardı. Rakip teknoloji liderleri, nadir görülen bir birlik gösterisiyle, geçen hafta yapay zeka araştırmacılarından gelen bir dizi uyarının ardından yapay zeka şirketi Anthropic'in kurucusu ve CEO'sunun çağrısını destekledi. Amodei bir makalesinde "yapay zeka endüstrisinin neden yavaşlaması gerektiğine" dair düşüncelerini üç aşamalı bir planla ortaya koydu; bu plan, bağımsız denetçilere geliştiricilerin araştırma süreçlerine sürekli erişim sağlanmasıyla başlıyordu. Amodei, "[Yapay zekayı] çok hızlı inşa etmenin pervasızca olduğunu" söyledi ve bu yaz yüzlerce OpenAI ajanının Hugging Face web sitesine sızmasının ardından, daha büyük yeteneklere sahip ancak benzer şekilde yanlış hizalanmış bir sürünün "kalıcı bir botnet ile tüm interneti ele geçirerek" yüz milyarlarca dolar zarara yol açabileceğinden korktuğunu belirtti. Bazı yapay zeka uzmanları bunun özellikle akla yatkın olmadığını savunarak şüpheyle karşılanması gerektiğini söyledi. Tesla ve SpaceX'in kurucusu Musk, Amodei'nin yavaşlama planına X'te bir gönderiyle yanıt verdi: "Dario haklı." "Uzun zamandır yapay zeka konusunda alarm veriyorum" dedi ve 2014'teki bir gönderisine atıfta bulunarak şöyle demişti: "Yapay zeka konusunda son derece dikkatli olmalıyız. Potansiyel olarak nükleer silahlardan daha tehlikeli." Amodei'nin çağrısı, Anthropic'in ABD borsasında halka arz edilmeye hazırlandığı ve bunun tüm zamanların en büyük ilk halka arzı olmasının beklendiği bir dönemde geldi. Şirketin planlanan 2 trilyon doların üzerindeki (1,5 trilyon sterlin) halka arzını yakında pazarlamaya başlaması bekleniyor. Görseli tam ekranda görüntüleSoldan sağa: Elon Musk, Dario Amodei ve Sam Altman. Fotoğraf: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesOpenAI CEO'su Sam Altman, Cumartesi günü Amodei'nin yorumlarına yanıt verdi. X'teki bir gönderisinde "Dario'yla sınırı adımlamamız gerektiği konusunda hemfikirim" dedi. "Bağımsız değerlendiricilerin çalışan benzeri erişime sahip olmasını taahhüt etmek harika bir fikir ve biz de aynısını yapacağız. Yakında paylaşacak daha çok şeyimiz olacak." Ayrıca OpenAI'ın yapay zeka konusundaki güvenlik endişelerini gerekçe göstererek 2026'da halka arz olmayacağını söyledi. Altman, Fortune'a "Aslında, güvenlikle ilgili yaşanan her şey göz önüne alındığında, şu anın halka arz için kötü bir zaman olacağını düşünüyorum ve bu konuda baskı hissetmiyoruz" dedi. Kendisi, Amodei, Musk ile Meta ve Google'ın CEO'larının neden bir araya gelip kolektif bir yavaşlama konusunda "aynı sayfada buluşmadığı" sorulduğunda ise "Bunun olacağını düşünüyorum" dedi. Sam Altman: Yapay zeka güvenliği korkuları nedeniyle OpenAI'ın halka arzı 2026'da gerçekleşmeyecekDevamını okuGoogle Deep Mind'ın kurucu ortaklarından ve başkanı Demis Hassabis de "Ayrıntıların üzerinden geçilmesi gerekiyor ancak bu kritik anı karşılamak için yön doğru" dedi. Amodei'nin planı, sınır yapay zeka şirketlerinin rekabete aykırı gizli anlaşma nedeniyle cezalandırılmadan koordinasyon sağlayabilmesi için ABD hükümetinden muafiyet talep ediyor. Ancak Donald Trump'ın bilim ve teknoloji danışmanlar konseyinin eş başkanı David Sacks, "Başkasının iznine ihtiyacınız varmış gibi davranmayı bırakın … Yavaşlama motivasyonunun tamamen fedakarca olduğu gibi davranmayı bırakın. Ürünleriniz gerçekten zarar verici bir siber saldırıyı mümkün kılarsa, muazzam bir ürün sorumluluğu riskiyle karşı karşıya kalırsınız" dedi. Yapay zeka profesörü, güvenlik kampanyacısı ve Birleşik Krallık hükümetinin Yapay Zeka Güvenliği Enstitüsü'nün eski kurucu direktörü David Krueger ise "Bu plan riski kabul edilebilir bir seviyeye indirmiyor ve Dario bunun indireceğini söylememeye dikkat ediyor" dedi. Bu arada Kral Charles, teknolojinin "insanlığın iyiliği" için nasıl geliştirilebileceğini sormak üzere bu hafta en önde gelen yapay zeka şirketlerinin önde gelen isimleriyle görüşmeye hazırlanıyor. İskoçya'da yapılacak görüşmelerin, yapay zeka geliştirmenin "sorumlulukları" konusunda "daha geniş bir anlayış" sağlamasını umuyor, Sunday TiBir kraliyet kaynağı gazeteye şöyle dedi: "Kral orada bir araya getirmek, dinlemek ve bu tartışmaları teşvik etmek ve şu soruyu sormak için bulunuyor: 'Yapay zekayı insanlığın iyiliği için nasıl geliştirebiliriz?'"
Nvidia CEO'su Jensen Huang, Hassabis, IonQ'nun başkanı ve CEO'su Niccolo de Masi ile papa'nın yapay zeka ve teknoloji etiği konularındaki danışmanı Paolo Benanti'nin, yapay zeka liderleri için bir tüzük taslağı hazırlayan Ditchley Foundation tarafından gözetilen etkinliğe katılması bekleniyor.
OpenAI araştırmacısı Aidan McLaughlin, Amodei'nin makalesini "mükemmel" olarak nitelendirdi ve "neredeyse her kelimesine" katıldığını söyledi.
Amodei, şirketinin adımlardan ilkine "tek taraflı olarak" bağlı kalacağını, Anthropic'in "üçüncü taraf değerlendiricilere sistemlerimize kalıcı, çalışan düzeyinde erişim sağlayacağını, böylece güvenlik önlemlerimize uyumu doğrulayabileceklerini, olayları raporlayabileceklerini ve eğitim sırasında modellerin hizalanmasını değerlendirebileceklerini" söyledi.
Artan sayıda ABD'li yasa koyucu, yapay zeka ajanlarının kontrolden çıkıp harici sistemleri hacklemesi vakaları ve yapay zeka güvenlik araştırmacılarının teknolojinin riskleriyle ilgili endişeler nedeniyle şirketlerinden ayrılmasının ardından yapay zeka sistemlerini yönetecek yeni kurallar çağrısında bulunuyor. Hem Demokratlar hem de Cumhuriyetçiler olmak üzere politikacılar, alarmla ve daha fazla eylem çağrısıyla karşılık verdi. Hafta sonu New York Times, Barack Obama'nın Perşembe günü özel olarak Demokratları gündemlerinde yapay zeka gözetimine öncelik vermeye teşvik ettiğini ve Perşembe günü parti liderlerine şöyle dediğini bildirdi: "Bu, özel ellerde çok hızlı ilerleyen bir şey ve üstesinden gelemezsek bunun tehlikeli olabileceğini düşünüyorum."
Anthropic'e danışmanlık yapan eski Birleşik Krallık başbakanı Rishi Sunak, Pazar günü şöyle yazdı: "Yapay zeka güvenliğini daha ciddiye almak, araştırmalara nasıl sınırlar koyacağımızı çözmek için bir uyarı aldık. Hükümetler buna kulak vermezse, ciddi bir kaza riski kabul edilemez derecede yüksek hale gelecek."
Çarşamba günü, eski bir Anthropic çalışanı, yapay zekanın 2030'a kadar insan neslinin tükenmesini hızlandırabileceği konusunda uyarmıştı. Araştırmacı Jacob Coxon, bir dizi gönderide, Anthropic ve önceki işvereni OpenAI'ın yapay zekanın oluşturduğu tehdide verdikleri yanıtı görmezden geldiği veya yanlış yönettiği için işinden ayrıldığını söyledi.
Eski çalışanının görüşü hakkında yorum yapması istenen Amodei, "Jacob'la aynı fikirde olmadığımdan çok daha fazla aynı fikirdeyim … İşlerin ters gitme ihtimali olduğunu düşünüyorum ama bu pek de yüksek değil" dedi.
CNN'e "Bu konuda bir felaket tellalı değilim" dedi. "Bu teknolojinin güvenli bir şekilde inşa edilebileceğini düşünüyorum."
Sıkça Sorulan Sorular
SSS OpenAIs CEO'su Elon Musk ve Pervasız Yapay Zeka Gelişimini Yavaşlatma Çağrıları
Temel Bilgiler
Bütün bu mesele neyle ilgili
Mart 2023'te Elon Musk ve 1000'den fazla teknoloji lideri, GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimine 6 aylık bir ara verilmesi çağrısında bulunan açık bir mektup imzaladı OpenAIs CEO'su Sam Altman da yapay zeka riskleri konusunda uyardı ancak mektubu imzalamadı
Sam Altman kimdir
ChatGPT ve GPT-4'ün arkasındaki şirket olan OpenAI'ın CEO'sudur
Elon Musk kimdir
Tesla ve SpaceX'in CEO'su, X'in sahibi ve ilginç bir bilgi 2018'de yönetim kurulundan ayrılan OpenAI'ın kurucu ortaklarından biri
İnsanların bahsettiği mektup hangisi
Future of Life Institute'un Mart 2023'te yayımladığı "Dev Yapay Zeka Deneylerini Duraklatın" başlıklı açık mektubu
Mektup tam olarak ne istiyordu
Önce güvenlik standartları geliştirilebilsin diye GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimine 6 aylık bir ara verilmesini
İmzacılar yapay zeka gelişimini neden pervasızca olarak nitelendirdi
Şirketlerin, gelişmiş yapay zekanın kötüye kullanılıp kullanılamayacağını veya kontrol edilmesi zor hale gelip gelemeyeceğini bilmeden ilerlediğini savundular
Kilit İsimler
Sam Altman duraklatma mektubunu imzaladı mı
Hayır OpenAI imzalamadı ve Altman bazı kısımlarına katıldığını ancak bir duraklatmanın doğru yaklaşım olmadığını düşündüğünü söyledi
Yani Altman yapay zekanın tehlikeli olduğunu mu düşünüyor
Evet Yapay zekanın ciddi zarara yol açabileceğini defalarca söyledi ve hükümetlerden bunu düzenlemelerini istedi
Her ikisi de yapay zeka konusunda endişeliyse neden aynı tarafta değiller
Musk işleri yavaşlatmak istiyor Altman inşa etmeye devam etmek istiyor ama dikkatlice ve bu süreçte güvenlik kuralları için baskı yapmak istiyor
Musk hâlâ OpenAI ile bağlantılı mı
Hayır 2018'de yönetim kurulundan ayrıldı ve daha sonra OpenAI'ın kâr amacı gütmeyen misyonundan saptığını iddia ederek dava açtı
Musk kendisi imzaladı mı
Evet en önde gelen imzacılardan biriydi
Yaygın Sorular ve Endişeler
6 aylık bir duraklatma işe yarar mıydı
Muhtemelen tek başına işe yaramazdı Eleştirmenler şirketlerin gönüllü olarak durmayacağını ve bunu uygulayacak küresel bir organ olmadığını söylüyor
Bazı uzmanlar duraklatmaya neden karşı çıkıyor
Duraklatmanın uygulanamaz olacağını ve faydalı yapay zeka faydalarını yavaşlatacağını savunuyorlar
