Anthropic'ten Dario Amodei, aşırı rekabetin dünyayı zararlı bir toplumsal sonuca doğru ittiğini savunan ilk CEO değil. OpenAI'nin bir güvenlik ihlalini açıklaması—bir ajan sürüsünün sözde güvenli korumalı alanlarından kaçmak, internete erişmek ve yapay zeka platformu Hugging Face'i hacklemek için koordineli hareket etmesi—acil eylem gerektiriyor. Bu, teknolojinin insan kontrolünün ötesine ne kadar kolay kayabileceğini gösterdi ve güvenli bir şekilde tasma altında tutulmazsa insanlığa neler yapabileceğine dair varoluşsal korkulara somut bir biçim verdi. Yapay zeka endüstrisindeki bazılarının uyardığı gibi, dünyanın sonu gerçekten de yakın olabilir. Bunlar gerçekten korkutucu zamanlar. Ancak Amodei'nin önde gelen yapay zeka laboratuvarlarına gelişimin baş döndürücü hızını yavaşlatmada koordinasyon çağrısı, güvenlik standartları üzerinde anlaşma ve "sınırı adımlama"—OpenAI'den Sam Altman, Elon Musk ve Google DeepMind'dan Demis Hassabis tarafından hızla onaylanan bir çağrı—eski bir kurumsal Amerika önerisinin yüksek teknoloji versiyonudur: Amerikan ekonomisini gizli anlaşma yapan işletmelerden korumak için tasarlanmış antitröst yasalarından muafiyet almak. Bu tehlikeli bir fikirdir. Teknoloji kardeşlerini antitröst kısıtlamalarından kurtarmak, sözde yapay zekanın tehlikeli kusurlarını düzeltmek için birlikte çalışabilmeleri için, teknolojiden en çok risk altında olan sıradan Amerikalıları haklarından mahrum bırakacak ve zenginlik, büyüklük ve bilinmeyen diğer fantastik hedefler peşinde, birçok boyutta tehlike eşiklerini bu kadar rahatça aşarak varoluşsal tehditleri ortaya çıkaran laboratuvarları daha da güçlendirecektir. Görseli tam ekranda görüntüle Elon Musk ve Sam Altman. Fotoğraf: Getty Images Amodei ve diğerleri, özünde, işletmelerinin bir mahkum ikileminde tuzağa düştüğünü savunuyorlar. Yapay süper zekaya yönelik ateşli arayışlarını daha güvenli hale getirmek için tek taraflı olarak yavaşlatırlarsa, rakipleri—elbette varoluşsal riskler konusunda daha az endişeli olanlar—ilk oraya varacak ve insanlık için potansiyel olarak yıkıcı sonuçlar doğuracak, ayağını gazdan çeken laboratuvarın kâr hanesinden bahsetmeye bile gerek yok. "Yavaşlamak mantıklı görünüyor," dedi Toulouse School of Economics'te Nobel ödüllü ekonomist Jean Tirole. "Ancak bu, koordineli yavaşlamanın uygulanabilir ve sürdürülebilir olduğunu varsayar. OpenAI, Anthropic veya Grok, ABD'deki direnişçilerin—veya Çin laboratuvarlarının—yetiştiği sonucuna vardığında ne olur? Hemen, belki de gizlice devam ederler mi?" Bill Gates'in yazdığı gibi, "birinin küresel olarak yapay zeka ilerlemelerini yavaşlatmak için inandırıcı bir planı olsaydı, muhtemelen desteklerdim. Ancak bunun olacağını sanmıyorum. Jeopolitik ve ekonomik teşvikler tam hız ilerlemek için çok fazla baskı yapıyor." Bu açıdan bakıldığında, hükümetin herkesin yavaşlaması için dostane bir anlaşmayı teşvik etmesi harika bir fikir gibi görünebilir. Değildir. Aşırı rekabetin dibe doğru bir yarışı tetiklediği argümanı muhtemelen kapitalizm kadar eskidir ve çevresel bozulmadan çocuk işçiliğine kadar her şeyi açıklamak için kullanılmıştır. Ancak bu, işletmelere uygun gördükleri şekilde gizli anlaşma yapma hakkı verilmesini haklı çıkarmaz. Bu, hükümet düzenlemelerinin işletmelerin toplumsal olarak zararlı araçlar kullanarak rekabet etmesini önlemek için tasarlanması çağrısıdır. Dahası, aşırı rekabetin pervasız davranışı teşvik ettiği iddiası şüphelidir. Yapay zeka laboratuvarları, kazananın her şeyi aldığı bir yarış içindedir ve bu yarışı sürdürmek son derece pahalıdır. Pervasızlık buradan gelir. Görseli tam ekranda görüntüle Bill Gates, Ocak 2026'da İsviçre'nin Davos kentinde düzenlenen yıllık Dünya Ekonomik Forumu toplantısında. Fotoğraf: Denis Balibouse/Reuters Amodei kusursuz bir adam olabilir. Yapay zeka gelişiminin hızını yavaşlatma, laboratuvara dış değerlendiriciler getirme ve operasyonlarının şeffaflığını artırma çağrısı, riskler konusunda samimi bir endişeye işaret ediyor. Önerileri yayınlandıktan sonra önde gelen teknoloji hisselerinin fiyatındaki düşüş, iyileştirilmiş güvenlik hizmetinde finansal bir darbe almaya istekli olduğunu gösteriyor. Ancak Amodei'nin bu yılın ilerleyen aylarında Anthropic'in halka arzında hisseleri hevesle kapacağını umduğu yatırımcılar bu kadar özgecil olmayabilir. Sermaye piyasalarındaki sarsıntılar, trilyon dolarlık yapay zeka yatırım yarışını finanse etmek için para toplamanın zorlaşacağını gösteriyor, bu da önde gelen laboratuvarların rakiplerine karşı avantajını kısıtlayabilecek stratejileri caydıracaktır. Bu teşvikler göz önüne alındığında, yapay zeka liderlerine gizli anlaşma ve öz-düzenleme için serbest el vermek aptallık olur.
Chicago Üniversitesi Hukuk Fakültesi'nde antitröst uzmanı olan Eric Posner, "genel olarak şirketlerin motivasyonlarına güvenmememiz gerektiğini" söyledi. Yapay zeka laboratuvarlarının kendi hallerine bırakıldığında mutlaka iyi, toplumsal olarak kabul edilebilir sonuçlar üreteceğine inanmak için hiçbir neden yok. Herhangi bir şirket gibi, riskleri kârlarla tartacaklar. Ve Posner'ın gözlemlediği gibi, "kamuyla aynı ağırlıkları kullanmıyorlar."
Peki nasıl düzenlemeliyiz? Trump görevdeyken bu cephede hiçbir şey olmayacak. O gittikten sonra bile, yeniliği köreltmeden yapay zekadan kaynaklanan tehditleri ele almak için etkili düzenlemeler hazırlamak zor olacak. Hangi kuralların kullanılacağı, nasıl uygulanacağı ve kime uygulanması gerektiği konusunda sorular var. Ve tek taraflı eylemin tehlikesi gerçek. Ya Pekin katılmayı reddederse? Amerikan laboratuvarları yavaşlarken Çinli yapay zeka şirketlerinin ilerlemesinin riskleri nelerdir? Ancak nükleer gücü düzenleyebildiysek, muhtemelen yapay zekayı da düzenleyebiliriz.
Dahası, hükümet düzenlemesi olmadan bile yardımcı olabilecek ve rekabeti bastırmayı gerektirmeyen uygulanabilir fikirler var. Yapay zeka sistemlerinin güvenliğini artıran yenilikleri teşvik etmek için fikri mülkiyet haklarını değiştirme önerileri var. Güvenlik yeniliklerinin mucitleri, yeni yapay zeka modellerini rakiplerinden önce yayınlamalarına izin verilerek ödüllendirilecektir. Ancak güvenlik geliştirmeleri hemen tüm firmaların kullanımına sunulacaktır.
Cezalandırıcı tarafta, zarara neden olan bir yapay zeka aracının tasarımından ve konuşlandırılmasından fayda sağlayan firmaları cezalandırarak yapay zeka geliştiricilerinin teşviklerini değiştirmek için bir yasal sorumluluk rejimi tasarlanabilir, zarar kasıtsız olsa bile. Örneğin, Hugging Face saldırısı, OpenAI'nin modelleri eğitim sırasında yanlış davranış için istemeden ödüllendirilmeseydi önlenebilirdi. Amodei'nin önerisinin yasal sorumluluktan bahsetmemesi, yapay zeka liderlerinin güvenlik endişesinin kâr hanesi endişesinin önüne geçmediğini gösteriyor.
Her halükarda, sınır laboratuvarlarının hakimiyetini pekiştirmek, rantlarını korumak ve şimdiye kadarki gözü kara stratejilerini onaylamak güvenlik yanlısı değildir. Aksine, liderleri yavaşlatarak geride kalanların yetişmesine izin vermek, arzu edilen yeniliği davet ederek ve güvenlik boyutunda rekabeti teşvik ederek yapay zeka ekosistemini muhtemelen daha güvenli hale getirecektir.
Güvenlik ile rekabet arasında temel bir çatışma yoktur. Bu davayı savunmak isteyen yapay zeka ustalarına şüpheyle bakılmalıdır.
Sıkça Sorulan Sorular
SSS Yapay Zeka Şirketlerinin Sınırı Adımlamak İçin Gizli Anlaşma Yapmasına İzin Vermek
1 Sınırı adımlamak ne anlama gelir
Önde gelen yapay zeka şirketlerinin daha gelişmiş yapay zeka geliştirme hızı konusunda rekabet etmek yerine koordinasyon sağlaması ve en ileri noktada kasıtlı olarak yavaşlaması fikridir
2 Bunu kim öneriyor
Bazı yapay zeka araştırmacıları, yöneticileri ve güvenlik savunucuları, giderek daha güçlü sistemlere doğru tehlikeli bir yarış riskini azaltmanın bir yolu olarak bunu ortaya attılar
3 Neden biri bunun iyi bir fikir olduğunu düşünür
Argüman şu: eğer şirketler birlikte yavaşlarsa, hiçbiri belirleyici bir ilk hamle avantajı elde etmez, bu da ilk olma telaşında güvenlik köşelerini kesme baskısını azaltabilir
4 Neden tehlikeli
Çünkü rakip olması gereken yarışmacıların yenilik hızı üzerinde anlaşması anlamına gelir. Bu esasen gizli anlaşmadır ve rekabete, tüketicilere ve topluma zarar verebilir
5 Bu sadece teknoloji için fiyat sabitleme değil mi
Etkili olarak evet. Şirketler fiyatlar üzerinde anlaşmak yerine ürünleri ne kadar hızlı piyasaya sürecekleri veya geliştirecekleri konusunda anlaşırlar. Rekabete verilen zarar benzerdir
6 Bu hangi yasaları ihlal edebilir
ABD'de Sherman Yasası gibi antitröst yasaları ticareti kısıtlayan anlaşmaları yasaklar. Benzer rekabet yasaları AB ve başka yerlerde de mevcuttur. Koordineli bir yavaşlama yasadışı koordinasyon olarak görülebilir
7 Yapay zekayı yavaşlatmak daha güvenli olmaz mıydı
Teoride belki, ancak gizli anlaşmalı bir yavaşlama bunu yapmanın güvenli yolu değildir. Gücü birkaç büyük şirkette yoğunlaştırır, daha küçük yenilikçileri dışlar ve bir kez yerleştikten sonra kolayca geri alınamaz
8 Bu tür bir koordinasyondan kim zarar görür
Girişimler, araştırmacılar ve halk. Devler hızı belirlerse daha küçük oyuncular rekabet edemez ve kullanıcılar daha az seçenek ve daha yavaş ilerleme elde eder
9 Peki ya güvenlik? Bu iyi bir neden değil mi
Güvenlik meşru bir hedeftir ancak herkes için hıza karar verenler şirketler olmamalıdır. Bu, yönetim kurulu anlaşmaları değil, düzenleyicilerin ve kamu politikasının işidir
10 Şirketler birlikte güvenlik standartlarına uymayı kabul edemez mi
Ortak güvenlik standartları belirlemek yavaşlamayı kabul etmekten farklıdır. Standartlar iyi olabilir, koordineli geliştirme hızı sınırları sorundur
11 Daha önce buna benzer bir şey oldu mu
Evet. Tarihte rakiplerin gizli anlaşma yaptığı birçok örnek vardır
