Anthropic, ABD hükümetinin ulusal güvenlik endişelerini gerekçe göstererek şirkete yabancı uyrukluların erişimini engelleme talimatı vermesinin ardından, en gelişmiş yapay zeka modellerini tüm kullanıcılar için "aniden devre dışı bırakacağını" duyurdu.
Anthropic bir açıklamada, şirketin Fable 5 ve Mythos 5'e tüm yabancı uyrukluların erişimini askıya almak için bir ihracat kontrol talimatı aldığını, ancak ulusal güvenlik sorunuyla ilgili belirli ayrıntıların verilmediğini belirtti.
Şirkete göre, hükümetin Fable 5'in yazılımdaki güvenlik açıklarını tespit etmek için kullanılmasını engellemek amacıyla tasarlanmış bir güvenlik önlemini atlatmanın veya "jailbreak" yapmanın bir yolu olduğuna inandığı anlaşılıyor.
Bu emir, Trump yönetimi yetkilileri ile halka arza hazırlanan Anthropic arasındaki önceki bir anlaşmazlığın ABD hükümetinin bazı kesimlerinde yatışmaya başladığı bir dönemde geldi.
Anthropic'in hükümetle ilişkisi, şirketin ABD ordusunun yapay zeka modellerini yurt içi gözetim ve tam otonom silah sistemleri için kullanmasına izin vermeyi reddetmesinin ardından bu yılın başlarında bozulmuştu. Buna karşılık hükümet, Anthropic'i bu yılın sonlarında yürürlüğe girmesi planlanan bir tedarik zinciri kara listesine aldı.
Bu eylem aynı zamanda ABD'nin yabancı rakiplerin yapay zeka yeteneklerini sınırlama çabalarında önemli bir tırmanışa işaret ediyor. Yıllardır ABD ihracat kontrolleri, yabancıların yapay zekanın kendisine erişimini kısıtlamaktan ziyade, yapay zekayı güçlendiren çiplere ve araçlara odaklanmıştı.
Anthropic, hükümetin yalnızca "potansiyel dar, evrensel olmayan bir jailbreak'in sözlü kanıtını" sağladığını söyledi.
Şirket, "Dar bir potansiyel jailbreak bulgusunun, yüz milyonlarca insana sunulan ticari bir modelin geri çağrılması için bir neden olması gerektiği konusunda hemfikir değiliz" dedi.
Hükümetin talimatı ve Anthropic'in yanıtı, yapay zeka geliştiricileri ile düzenleyiciler arasında, model güvenlik önlemlerini atlatmak için kullanılan yöntemler olan "jailbreak'lerden" kaynaklanan risklerin nasıl değerlendirileceği konusunda artan gerilimi vurguluyor.
Anthropic, daha Çarşamba günü, kabul edilemez risklere sahip modelleri engelleme yeteneği de dahil olmak üzere, ABD'nin yapay zeka üzerinde daha fazla denetim yapması çağrısında bulunmuştu. Ancak, Cuma günü hükümetin eyleminin adil ve gerçeklere dayalı düzenleme ilkelerini takip etmediğini söyledi.
Pentagon'un baş bilgi sorumlusu Kirsten Davies, X'teki bir paylaşımında savunma bakanlığının ulusal güvenliğe öncelik verilmesini desteklediğini söyledi.
Davies, "Bazı şeyler gelir döngülerinden, tık tuzağından ve halka arz öncesi değerlemeden basitçe daha önemlidir. Önce Amerika. Her zaman" dedi.
Anthropic, geçen ay rakip OpenAI'in halka açık piyasalara ulaşma yarışında öne geçerek ABD'de gizli bir halka arz başvurusunda bulundu.
Bu haftanın başlarında Anthropic, "Mythos-sınıfı" olarak adlandırdığı yeni bir yetenek seviyesini temsil eden Claude Fable 5 adlı bir yapay zeka modelini piyasaya sürdü. Anthropic, modelin siber güvenlik gibi riskli alanlarda kullanımını engelleyen ve bazı kullanıcılar tarafından "aşırı geniş" olarak eleştirilen güvenlik önlemleri içerdiğini söyledi.
Uzmanlar, Mythos modellerinin kötüye kullanılması halinde, özellikle karmaşık, birbirine bağlı ve genellikle güncel olmayan teknoloji sistemlerine dayanan bankacılık gibi sektörlerde, karmaşık siber saldırıları önemli ölçüde hızlandırabileceği konusunda uyardı.
Anthropic, Fable'ın piyasaya sürülmesinden önce ABD hükümeti ve diğerleriyle güvenlik konusunda çalıştığını ve rakip yapay zeka sağlayıcılarının modellerinin de kodda küçük hataları ortaya çıkarma konusunda benzer bir yetenek gösterdiğini söyledi.
Anthropic, "Bu emrin net etkisi, uyumu sağlamak için Fable 5 ve Mythos 5'i tüm müşterilerimiz için aniden devre dışı bırakmamız gerektiğidir. Diğer tüm Anthropic modellerine erişim etkilenmeyecektir" dedi.
Anthropic, bir "yanlış anlaşılma" olduğuna inandıklarını ve modellere erişimi mümkün olan en kısa sürede geri yüklemek için çalıştıklarını ekledi.
ABD'li bir yetkili, ticaret bakanlığının Fable 5 ve Mythos 5'e yabancı uyruklular tarafından tüm erişimi askıya almak için bir ihracat kontrol talimatı yayınladığını doğruladı.
Sıkça Sorulan Sorular
İşte Anthropic'in, ABD hükümetinin yabancı erişimini kısıtlayan bir emrinin ardından en gelişmiş yapay zeka modellerini devre dışı bıraktığı varsayımsal senaryoya ilişkin SSS listesi
Genel Sorular
S Anthropic neden en gelişmiş yapay zeka modellerini devre dışı bırakıyor
C Çünkü yeni bir ABD hükümet emri, yabancı kuruluşların en güçlü yapay zeka sistemlerine erişimini kısıtlıyor Anthropic, yasalara uymak için bu emre uyuyor
S Bu, Claude'u artık hiç kullanamayacağım anlamına mı geliyor
C Hayır Bu büyük olasılıkla yalnızca en gelişmiş modelleri etkiler Muhtemelen Claude'un standart veya daha az güçlü sürümlerini kullanmaya devam edebileceksiniz
S Bu kalıcı mı
C Emre bağlı Hükümet güvenlik risklerini incelerken geçici bir duraklama olabilir veya yasalar değişene kadar kalıcı bir kısıtlama olabilir
S Bu kısıtlamadan kimler etkileniyor
C Öncelikle Amerika Birleşik Devletleri dışında bulunan veya yabancı kuruluşlara ait olan kullanıcılar, şirketler veya geliştiriciler ABD merkezli kullanıcılar büyük olasılıkla etkilenmez
Kullanıcılar ve Geliştiriciler Üzerindeki Etki
S Kanada/Avrupa/Asya'da yaşıyorum Claude aboneliğim çalışmayı durduracak mı
C Büyük olasılıkla en gelişmiş model katmanına erişiminizi kaybedeceksiniz Hesabınız daha az güçlü bir modele düşürülebilir veya API'yi yalnızca daha eski/küçük modellerle kullanabiliyor olabilirsiniz
S API kullanan bir geliştiriciyim Kodumu değiştirmem gerekiyor mu
C Evet, muhtemelen API çağrılarınızı farklı bir model adı kullanacak şekilde güncellemeniz gerekecek İzin verilen belirli modeller için Anthropic'in belgelerini kontrol edin
S ABD'deymişim gibi davranmak için VPN kullanırsam ne olur
C Bu, hizmet şartlarını ve yeni yasayı ihlal eder Anthropic, kısıtlamayı atlatmak için VPN kullandığı tespit edilen hesapları büyük olasılıkla engelleyecektir Tüm hesabınızı kaybetme riskiniz vardır
S Mevcut konuşmalarım veya verilerim silinecek mi
C Olası değil Hesap geçmişiniz ve verileriniz bozulmadan kalmalıdır ancak kısıtlanmış modeli kullanarak yeni yanıtlar oluşturamayacaksınız
Teknik ve Güvenlik Soruları
