İnsanlar sık sık bana gelecekteki tüm romanların yapay zeka tarafından yazılıp yazılmayacağını soruyorlar. Bu, gerçek bir sorudan çok bir meydan okuma. Bir makinenin benim işimi yapıp yapamayacağından ve hatta daha iyisini yapıp yapamayacağından endişe edip etmediğimi mi soruyorlar? Genellikle "Hiçbir algoritma Anna Karenina'yı yazmayacak!" gibi bir şeyle geçiştiriyorum. Ama bu da gerçek bir cevap değil.
Bu yüzden, Amerikalı papa olan Papa XIV. Leo'ya, dünyaya yazdığı son mektubu Magnifica Humanitas: Yapay Zeka Çağında İnsan Kişiliğini Korumak Üzerine için minnettarım. Bu, papanın bu hızla büyüyen teknolojinin nasıl kullanılabileceğini ve kötüye kullanılabileceğini ele aldığı uzun (40.000 kelimenin üzerinde), zeki ve düşünceli bir belge. Artık biri bana yapay zeka hakkındaki fikrimi sorduğunda, onları papanın mektubuna ya da en azından üçüncü bölüme yönlendirebiliyorum.
Mektup, insan iletişimindeki bir kopukluğun trajik sonuçlarına dair uygun bir İncil referansıyla başlıyor. İnsanlık "belirleyici bir seçimle karşı karşıya: ya yeni bir Babil Kulesi inşa etmek ya da Tanrı ve insanlığın birlikte yaşadığı bir şehir inşa etmek." Bunu, Papa Leo'nun seleflerinin konular hakkında nasıl düşündüklerine ve Vatikan'ın emek, otorite, hükümet, bilim, güç ve birbirimize karşı ahlaki görevimiz hakkındaki fikirlerine ayrıntılı bir bakış izliyor. Ayrıca kilisenin insan onurunu ve özgürlüğünü savunmadaki çalışmalarını da vurguluyor.
Üçüncü bölüm olan Teknoloji ve Tahakküm: Yapay Zekanın Vaadleri Işığında İnsanlığın İhtişamı, mektubun başlığını sonuna kadar karşılıyor. Yapay zekanın ne olmadığını açıklayan güçlü (ve sık sık alıntılanan) bir pasajda, papa esasen insan olmanın ne anlama geldiğini tanımlıyor. "Sözde yapay zekalar deneyim yaşamazlar, bir bedene sahip değildirler, neşe ya da acı hissetmezler, ilişkiler yoluyla olgunlaşmazlar ve sevginin, işin, arkadaşlığın ya da sorumluluğun ne demek olduğunu içten içe bilmezler." Yapay zekanın ahlaki bir vicdanı yoktur ve insanlığın daha büyük iyiliği için gerçek bir endişe göstermez.
Mektup daha sonra yapay zekanın belki de en büyük tehdidi olabilecek şey hakkında en önemli ve gerekli şeyleri söylüyor: yalnızca karı maksimize etmek için programlanabilir, bu da kaçınılmaz olarak çoğunluğun azınlığın yararına acı çekmesine yol açar. Papa, "mahremiyetin manipülasyonu" ve "bilginin kötüye kullanılması" konusunda, istihdamı yönetmek, kamu hizmetlerine ve krediye erişimi kontrol etmek ve bir kişinin kişisel itibarını yükseltmek veya zedelemek için algoritmaların kullanılmasına karşı uyarıyor.
Şefkat, merhamet ve bağışlama -bir makinenin öncelikler listesinde üst sıralarda yer almaz- modası geçmiş hale gelebilir. "'Gerekli fedakarlıklar', türün sözde optimizasyonu peşinde en savunmasız olanlara yük bindirilerek haklı çıkarılmaya başlanabilir." Bu yeni gücün araçları, halihazırda zenginlik ve nüfuza sahip olanların eline geçerse, en zengin ve en ayrıcalıklı vatandaşlarımızın konforunu, sağlığını ve refahını iyileştirmek için kullanılacaktır.
Papa, yapay zekayı tamamen kınamıyor, daha çok onun siyasi baskı aracı olarak ve ekonomik eşitsizliği daha da kötüleştirmek için nasıl kullanılabileceğini kınıyor.
Mektup sona ererken, papa bizi gerçeğe bağlı kalmaya, eğitime yatırım yapmaya, ilişkiler kurmaya ve adalet ve barış içinde yaşamaya çağırıyor - yeni teknolojilerin "en savunmasız olanları sömürmesine, yeni kölelik biçimleri yaratmasına ve çatışmadan kar elde etmesine" direnmeye. Papanın yapay zekayı tamamen kınamadığı, daha çok onun siyasi baskı aracı olarak ve ekonomik eşitsizliği kötüleştirmek için nasıl kullanılabileceğini kınadığı netleşiyor.
Teoride, mektubu yeterince ileri gitmemekle, yapay zekayı paradan tasarruf etmeyi ruhsal, bireysel ve toplumsal refaha tercih ettiği için kınamak için başka bir İncil metaforu kullanmamakla eleştirebilirsiniz. Ama o gemi çoktan kalktı ve XIV. Leo'nun -ya da herhangi bir dini liderin- bu yeni gelişmeleri 21. yüzyılın bir putperestlik biçimi olarak kınamak için yapabileceği pek bir şey yok.
Yine de, genelgenin insan doğası vizyonu, hakim olması gereken adalet ve empati ruhu ve en yüksek ahlaki değerlerin temel önemi - sonuçta o kadar nazik, o kadar olumlu, o kadar cömert ve zayıfları ve yoksulları koruma görevimiz konusunda o kadar açıkça haklı ki, onu reddetmek için nedenler bulmak zor.
Ama asıl korkutucu olan kısım da bu. Görünüşe göre, en son teknolojinin yaratıcıları ve efendilerinin papanın ne hakkında konuştuğunu bilmediğini öne sürdüğü Silikon Vadisi'nden bazı tepkiler gelmiş.
The Guardian'ın Papa ve Claude hakkındaki görüşü: XIV. Leo'nun yapay zeka üzerine genelgesi insanlığı ilk sıraya koymakta haklı | Başyazı
Devamını oku
AGI House'un kurucusu Jeremy Nixon -yapay zekanın temelde insan beynine eşit olduğunu kanıtlamaya odaklanmış bir grup- New York Times'a kilisenin "yapay zeka hakkında derinlemesine düşünmediğini" söyleyerek şunları ekledi: "Bu konuda bir pozisyonları olamaz çünkü anlamıyorlar." Ve mevcut araştırmanın nihai sonucunun, etkili bir şekilde yeni bir Tanrı ya da en azından ikna edici bir taklit olacağına dair yaygın bir inanış var gibi görünüyor. Geleceğin tehlikelerinden endişe duyan toplumumuz, yapay zekanın olumsuz yönlerinin zaten burada olduğuna dair kanıtları görmezden gelmeyi seçiyor. Bir arkadaşımın reklamcılık okuyan üniversite öğrencisi kızına, danışmanı yakın zamanda mezun olduğunda reklamcılıktaki tüm işlerin yapay zeka tarafından devralınmış olacağını söylemiş.
Bu yeni teknolojinin efendileri, papanın tehlikeleri ve sakıncaları olarak gördüğü şeylerle aynı fikirde olamıyorsa, çok büyük bir beladayız demektir. Sorun, bir robotun Anna Karenina yazması değil. Sorun, kimsenin bir kadının, eşsiz bir insan varlığının acısını bu kadar güzel yakalayan bir romana ihtiyaç görmemesi.
Hayat değiştiren bir hatanın bu hikayesi, ileri görüşlü bir teknoloji girişimcisi tarafından kara dönüştürülüp daha büyük, daha iyi bir yat satın almak için kullanılmadıkça -ki muhtemelen kalıcı bir alt sınıf tarafından, bir zamanlar değer verilen ve değerli olan işleri açgözlü yapay zeka biçimleri tarafından çalınmış işçiler tarafından bakımı yapılır- böyle bir kitabın anlamı olmazdı.
Francine Prose, PEN American Center'ın eski başkanı ve American Academy of Arts and Letters ile American Academy of Arts and Sciences üyesidir. Yeni romanı Five Weeks in the Country, Mayıs ayında yayımlandı.
Sıkça Sorulan Sorular
İşte "Papa'nın yapay zeka genelgesi için minnettarım İşte nedeni" ifadesine dayanan bir SSS listesi
Başlangıç Seviyesi Sorular
S Genelge nedir
A Papa'nın tüm Katolik Kilisesi'ne önemli bir konu hakkında yazdığı resmi bir mektuptur İnsanlara öğretmeyi ve rehberlik etmeyi amaçlar
S Papa neden Yapay Zeka hakkında bir genelge yazdı
A Çünkü yapay zeka yaşama, çalışma ve etkileşim şeklimizi hızla değiştiriyor Papa bunun insan onuru, adalet ve barış hakkında derin ahlaki ve etik soruları gündeme getirdiğine inanıyor, bu yüzden rehberlik sunmak istedi
S Papa yapay zekanın kötü olduğunu mu söylüyor
A Hayır Teknolojiye karşı değil Sadece dikkatli olmamız ve yapay zekayı insan hayatına saygı duyan, savunmasızları koruyan ve sadece kar veya güç değil, ortak iyiyi teşvik eden şekillerde kullanmamız gerektiğini söylüyor
S Yapay zeka genelgesinin ana mesajı nedir
A Temel fikir, yapay zekanın insanlığa hizmet etmesi gerektiği, onun yerini almaması veya onu kontrol etmemesi gerektiğidir Barış, hakikat ve insan onuruna odaklanarak yapay zekanın etik bir şekilde geliştirilmesini ve kullanılmasını sağlamak için küresel bir tartışma çağrısında bulunuyor
S Bu sıradan bir insan olarak beni nasıl etkiler
A Önemlidir çünkü yapay zeka zaten hayatınızın içindedir arama motorlarında, sosyal medyada, bankacılıkta ve hatta tıbbi teşhislerde Papa herkesten adalet, mahremiyet ve bu araçların topluma yardım mı ettiğini yoksa zarar mı verdiğini düşünmesini istiyor
Orta Seviye Sorular
S Papa yapay zeka ile ilgili hangi belirli tehlikelere karşı uyarıyor
A Makinelerin adalet veya şeffaflık olmadan insanların hayatlarını etkileyen kararlar aldığı algoritmik bir toplum konusunda uyarıyor Ayrıca gözetim, yanlış bilgi ve yapay zekayı kontrol edenlerle etmeyenler arasındaki eşitsizliğin artması risklerini vurguluyor
S Genelge silahlarda veya savaşta yapay zekadan bahsediyor mu
A Evet İnsan kararı olmadan öldürebilen otonom silah sistemlerinin geliştirilmesini şiddetle kınıyor Papa bunun savaştan her türlü ahlaki hesap verebilirliği ortadan kaldırdığını ve felaketle sonuçlanabilecek çatışmalara yol açabileceğini savunuyor
S Kilisenin yapay zeka hakkındaki görüşü teknoloji şirketlerinin görüşlerinden nasıl farklıdır
