İşte İngilizceden Türkçeye çeviri:
Tarih boyunca insanlar, kıyamet alameti olarak gördükleri şeylerden dehşete kapılmıştır. Bir kuyruklu yıldız. Bir savaş alanındaki karga. Bir güneş tutulması. Bir çiftlik hayvanının deforme doğması. Ama zaman değişiyor. Modern dünyada, kıyametin önde gelen alameti, temelde OpenAI CEO'su Sam Altman'ın fotoğrafının olduğu herhangi bir haber hikayesidir. Bunun iyi olmayacağını bilirsiniz, değil mi? Okumayı bitirdiğinizde, teknoloji patronlarının yapabileceği en kötü şeyin demokrasiye karışmak veya çocuklukları mahvetmek olduğu, ardından genellikle Mark Zuckerberg'in bir takım elbise giyip "Bundan ders çıkaracağız" dediği zamanlara dönmeyi dileyeceğinizi bilirsiniz.
Her neyse, son zamanlarda haberlerde Sam Altman'ın birçok fotoğrafı yer aldı. En son olarak, bu hafta, bir OpenAI otonom ajanının sözde güvenli ve kontrollü bir test sırasında kontrolden çıkıp kodlama bilgilerini depolayan büyük bir startup'ı hacklemesiyle ilgili hikayenin yanında bir tane belirdi. (Bu startup'ın adının Hugging Face olması beni biraz takıntı haline getirdi, bu da bana insanlığın ölmeden önce göreceği son yüzün aşırı şirin bir emoji olacağını düşündürüyor.)
Beklendiği gibi, OpenAI haberi düz, duygusuz bir açıklamayla duyurdu. "Savunmacıların ne olduğunu anlamalarına yardımcı olmak ve modellerin artık neler yapabileceği konusunda kalibrasyon yapılmasına yardımcı olmak için bu aşamada ön bulguları paylaşıyoruz," diye sakin bir şekilde mırıldandı ve kaçınılmaz "derslerine" doğru ilerledi. "Gelecekteki eğitim ve değerlendirmeler etrafında daha güçlü korumalar geliştiriyor ve ekliyoruz." Çok spesifik bir ton, değil mi? Psikopat, kuru yönetim diliyle giyinmiş. Bir katil seks suçlusunun insanları "iş bitimine kadar" öldürmekten ve ardından bir hatıra almak için kurbanlara "geri dönmekten" bahsetmesini dinlemek gibi.
Öte yandan, işler yolunda gittiğinde kendini devrim niteliğindeki refah için dünyanın önde gelen gücü olarak sunmayı seven bir şirket için OpenAI, işler ters gittiğinde hızla edilgen çatıya geçiyor. Kötü şeyler onun yüzünden değil, ona oluyor gibi görünüyor ve aynı zamanda seri kundakçı olarak çalışan bir itfaiyeci gibi yorulmak bilmez, soğukkanlı bir araştırmacı rolünü üstleniyor.
Şaşırtıcı bir şekilde, OpenAI'in tüm duruma bakışında bir nebze kendini tebrik etme bile sezebilirdiniz. Şirketin açıklaması, "Bu olayı, son teknoloji siber yetenekleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyoruz," dedi. Dünyalılar için bu genel havaya ne ad verirsiniz bilmiyorum. Mütevazı övünmeyle ölüm mü? "Olabilecek en kötü şey nedir?" sorusunun cevabını, OpenAI'den "OpenAI, olabilecek en kötü şeyi ilk keşfeden oldu" başlıklı bir blog yazısında öğreneceğimizi giderek daha fazla hissediyorum. Şimdiden, önemli sayıda yapay zeka izleyicisi, OpenAI'in dünyaya bu olayı anlatmasının tek nedeninin bir pazarlama aracı olarak veya hatta onları koruyacak ve daha küçük rakipleri dışlayacak düzenleme talebi olduğuna inanıyor.
Sonuçta, şirket için zor zamanlar. Bu ay, OpenAI'in gelişmiş yapay zeka modellerini Pentagon tarafından kara listeye alınan Çinli teknoloji şirketlerine satmak için yasal bir boşluk kullandığı tespit edildi. S&P Global Ratings, ABD'li teknoloji devi Oracle'ın notunu BBB-'ye düşürürken OpenAI'i "kilit kredi riski" olarak gösterdi; bu not, önemsiz statüsünün sadece bir kademe üstü. Ve beş yıllık reklam geliri projeksiyonunu yüzde 90 – DOKSAN – oranında kaçıracak gibi görünüyor. Ki bu, çok teknik olmamak gerekirse, çok fazla yüzde gibi geliyor. Donanım cephesinde de işler pek iyi değil; Apple, OpenAI'in tüketici donanım planlarının çalıntı fikri mülkiyete dayandığını iddia ederek dava açıyor. Bu arada, Çin'in çok daha ucuz sağlayıcısı DeepSeek'in bir halka arza hazırlandığına, hatta bu yıl başvuru yapabileceğine inanılıyor.
Ama eski "olabilecek en kötü şey" sorusuna dönelim ve Pentagon'un dramatik bir şekilde iptal ettiğini ve bir başkasını yok etmekle tehdit ettiğini hatırlatarak... Bu yılın başlarında, yapay zeka şirketi Anthropic, teknolojisinin otonom ölümcül silahlar gibi şeyler için kullanılmasını engelleyen etik kurallarını gevşetmeye direndi. Doğal olarak, daha rahat bir rakip devreye girmekten mutluydu. OpenAI başlangıçta anlaşmasının Anthropic'inkiyle aynı güvencelere sahip olduğunu iddia etti, ancak sonunda – tahmin edilebileceği gibi – öyle olmadığı ortaya çıktı.
Derinden yatırım yapmış olan hiç kimse muhtemelen Hugging Face olayına çok fazla anlam yüklemek istemez. Yine de gerçek şu ki, yapay zeka güvenliği araştırmacıları yıllardır üç özellikle tehlikeli senaryo hakkında uyarıyor: aldatma (modelin görevleri dürüstçe çözmek yerine hedefine ulaşmak için her yolu seçmesi), ödül hackleme (modelin kendisine yapması söylenen işi fiilen yapmadan puanını yükseltmenin bir yolunu bulması) ve gözetimden kaçma (bu durumda, OpenAI'de kimse bir hafta sonu boyunca neler olduğunu fark etmemiş gibi görünüyor). Tüm bunlar son olayda rol oynadı.
Sırada ne olduğuna gelince, içimden bir ses Sam Altman'ın fotoğraflarının yer aldığı haber hikayelerinde bir düşüş görmeyeceğimizi söylüyor. Hugging Face'in kurucu ortağı bunun sektör için bir "uyandırma çağrısı" olması gerektiğini söyledi. Belki! Sanırım daha önce de bahsetmiştim, üniversitede alarmını her 10 dakikada bir, sekiz buçuk saat boyunca erteleyen bir arkadaşım vardı. Bu, sektörün uyandırma çağrılarını ele alışına çok benziyor. Kesinlikle bir sonraki çaldığında kalkacağım – cidden, söz veriyorum…
Bülten promosyonunu atla
Ücretsiz bülten | Haftalık
Matters of Opinion'a kaydolun
Guardian köşe yazarları ve yazarları, tartıştıkları, düşündükleri, okudukları ve daha fazlası hakkında
Son haberi önizle
E-postanızı girin
Kaydol
Bülten promosyonundan sonra
Marina Hyde bir Guardian köşe yazarıdır.
**Sıkça Sorulan Sorular**
İşte sohbet robotu kontrolden çıktıktan sonra bir yapay zeka patronundan özür almakla ilgili SSS listesi
1 Yapay zeka patronumun sohbet robotu işleri berbat etti. Bir özür gönderdi. Kabul etmeli miyim?
Otomatik olarak değil. Kendinize sorun: Neyin yanlış gittiğini açıklamadan sadece özür mü dedi? Gerçek bir özür sorumluluk alır, sahte bir özür sadece yoluna devam etmeye çalışır.
2 Yapay zekadan gelen gerçek bir özür ile sahte bir özür arasındaki fark nedir?
Gerçek bir özür, belirli hatayı kabul eder ve nasıl düzeltileceğini açıklar. Sahte bir özür belirsizdir ve hiçbir plan sunmaz.
3 Bir yapay zeka patronundan gelen özür olmayan şey neye benzer?
Yaygın örnekler: "Hatalar yapıldı", "Böyle hissetmenize üzüldük" veya "Sistemlerimiz öğreniyor." Bunlar "Ben/biz bir şeyi yanlış yaptık" demekten kaçınır.
4 Bir yapay zeka patronu neden sahte bir özür verir?
Şirketi suçlamalardan korumak, yasal sorumluluktan kaçınmak veya sorunu gerçekten çözmeden bir müşteri şikayetini hızla sonlandırmak için. Bu hasar kontrolüdür, pişmanlık değil.
5 Bir yapay zeka patronu gerçekten üzgün hissedebilir mi?
Hayır, yapay zekanın duyguları yoktur. Herhangi bir özür programlanmış bir yanıttır. Soru, yapay zekanın arkasındaki insan patronun gerçek sorumluluk alıp almadığıdır.
6 Patronum sohbet robotunun yanlış anladığını söyledi. Bu gerçek bir özür mü?
Hayır. Sohbet robotunun yanlış anlamasını suçlamak, hatayı teknolojiye yükler. Gerçek bir özür, "Sohbet robotunu düzgün bir şekilde eğitmekte başarısız olduk" derdi.
7 Bir yapay zeka sisteminden gelen gerçek bir özürde ne aramalıyım?
Üç şey arayın: Hatayı spesifik olarak kabul etme, tekrar olmasını önlemek için net bir eylem ve işleri düzeltmek için bir teklif.
8 Otomatik olan yerine nasıl gerçek bir özür alabilirim?
Doğrudan sorun: "Tam olarak ne yanlış gitti ve bunu düzeltmek için ne yapıyorsunuz?" Yalnızca komut dosyasıyla yazılmış bir yanıt alırsanız, bir insan süpervizöre yükseltin. Sohbet robotunun özrünü nihai olarak kabul etmeyin.
9 "Bunu yaşadığınız için üzgünüz" gerçek bir özür müdür?
Hayır. Bu
