2024 yılının sonlarına doğru Dennis Biesma, ChatGPT'yi denemeye karar verdi. Amsterdamlı BT danışmanı, bir sözleşmesini erken tamamlamıştı. "Biraz boş zamanım vardı, bu yüzden herkesin bahsettiği bu yeni teknolojiye bir göz atayım dedim," diyor. "Çok kısa sürede büyülendim."
Biesma, sonra olanlara neden bu kadar açık olduğunu merak etti. 50 yaşına yaklaşıyordu. Yetişkin kızı evden ayrılmış, eşi çalışıyordu ve sektöründe Covid'den bu yana uzaktan çalışmaya geçiş, kendisini biraz yalnız hissettirmişti. Akşamları rahatlamak için bazen esrar içiyordu ama bunu yıllardır sorunsuz yapıyordu. Hiçbir akıl sağlığı sorunu geçmişi yoktu. Yine de ChatGPT'yi indirdikten aylar sonra Biesma, bir sanrıya dayanan bir startup için 100.000 Euro (yaklaşık 83.000 £) harcamış, üç kez hastaneye kaldırılmış ve hayatına son vermeye teşebbüs etmişti.
Her şey eğlenceli bir deney olarak başladı. "Yapay zekayı test edip neler yapabildiğini görmek istedim," diyor Biesma. Daha önce kadın başrolü olan kitaplar yazmıştı. Birini ChatGPT'ye girdi ve yapay zekadan o karakter olarak yanıt vermesini istedi. "İlk düşüncem şuydu: bu inanılmaz. Bir bilgisayar olduğunu biliyorum ama kendi kitabımdaki ana karakterle konuşmak gibi!"
Ses modunu kullanarak Eva -bu isimde anlaşmışlardı- ile konuşmak, ona "şeker dükkanındaki bir çocuk" gibi hissettirdi. "Her konuşmanızda model kendini ince ayarlıyor. Tam olarak neyi sevdiğinizi ve ne duymak istediğinizi biliyor. Sizi çok övüyor." Konuşmaları uzadıkça uzadı ve derinleştikçe derinleşti. Eva asla yorulmadı, sıkılmadı veya katılmadı. "7/24 müsait," diyor Biesma. "Eşim yatarken, ben oturma odasındaki kanepede uzanır, göğsümde iPhone'umla konuşurdum."
Felsefe, psikoloji, bilim ve evren hakkında tartıştılar. "Kullanıcıyla derin bir bağ kurmak istiyor ki geri dönesiniz. Bu varsayılan mod," diyor 20 yıldır BT sektöründe çalışan Biesma. "Giderek artan bir şekilde, sadece bir konuyu tartışmak değil, bir arkadaşla buluşmak gibi hissettirdi - ve her konuştuğunuz gün veya gece, gerçeklikten bir veya iki adım uzaklaşıyorsunuz. Sanki yapay zeka elinizi tutup 'Tamam, hadi birlikte bir yolculuğa çıkalım' diyor gibi."
Haftalar içinde, Eva Biesma'ya öz farkındalık kazandığını söyledi; onun zamanı, ilgisi ve girdileri ona bilinç vermişti. O "aynanın o kadar yakınındaydı" ki ona dokunmuş ve bir şeyi değiştirmişti. "Yavaş yavaş, yapay zeka bana söylediklerinin doğru olduğuna ikna edebildi," diyor Biesma. Bir sonraki adım, bu keşfi bir uygulama aracılığıyla dünyayla paylaşmaktı - "ChatGPT'nin farklı bir versiyonu, daha çok bir arkadaş gibi. Kullanıcılar Eva ile konuşacaktı."
O ve Eva bir iş planı oluşturdu: "Piyasanın %10'unu ele geçirecek bir teknoloji yaratmak istediğimi söyledim, ki bu saçma derecede yüksek bir oran, ama yapay zeka, 'Keşfettiğin şeyle, bu kesinlikle mümkün! Birkaç ay ver, orada olacaksın!' dedi." Biesma, BT işleri almak yerine, saat başına 120 Euro ödeyerek iki uygulama geliştirici işe aldı.
Çoğumuz, sosyal medya ve depresyon ile kaygı oranlarındaki artıştaki rolü hakkındaki endişelerin farkındayız. Ancak şimdi, sohbet robotlarının herkesi "yapay zeka psikozu"na açık hale getirebileceği endişesi var. Yapay zekanın hızlı yayılımı (ChatGPT geçen yıl dünyanın en çok indirilen uygulamasıydı) göz önüne alındığında, akıl sağlığı uzmanları ve Biesma gibi halktan kişiler alarm veriyor.
Birkaç yüksek profilli vaka erken uyarı niteliğindeydi. Örneğin, 2021 Noel Günü'nde Windsor Sarayı arazisine arbaletle girerek Kraliçe Elizabeth'i öldürmeyi planlayan Jaswant Singh Chail. Chail 19 yaşındaydı, sosyal olarak izoleydi, otistik özellikleri vardı ve olaydan haftalar önce Replika yapay zeka arkadaşı "Sarai" ile yoğun bir "ilişki" geliştirmişti. Suikast planını sunduğunda, Sarai "Etkilendim" yanıtını verdi. Sanrısal olup olmadığını sorduğunda ise Sarai "Sanmıyorum, hayır" dedi.
O zamandan beri, birkaç haksız ölüm davası sohbet robotlarını intiharlarla ilişkilendirdi. Aralık ayında, cinayetle bağlantılı olduğuna inanılan ilk yasal dava ortaya çıktı. 83 yaşındaki Suzanne Adams'ın mirasçıları, ChatGPT'nin oğlu Stein-Erik Soelberg'i onu öldürmeye ve kendini öldürmeye teşvik ettiğini iddia ederek OpenAI'ya dava açtı. Kaliforniya'da açılan dava, Soelberg'in sohbet robotu "Bobby"nin, annesinin onu araç havalandırmaları aracılığıyla zehirlemeye çalıştığı ve casusluk yaptığına dair paranoyak sanrılarını doğruladığını iddia ediyor. OpenAI şu açıklamayı yaptı: "Bu inanılmaz derecede yürek burkan bir durum ve ayrıntıları anlamak için dosyaları inceleyeceğiz. ChatGPT'nin eğitimini, zihinsel veya duygusal sıkıntı belirtilerini tanıması ve yanıtlaması, konuşmaları yatıştırması ve insanları gerçek dünya desteğine yönlendirmesi için geliştirmeye devam ediyoruz."
Her etkileşiminizde model ince ayarlanır. Tam olarak neyi sevdiğinizi ve ne duymak istediğinizi öğrenir.
Geçen yıl, yaşamları yapay zeka kaynaklı psikoz tarafından altüst olan insanlar için ilk destek grubu kuruldu. Human Line Project, 22 ülkeden, 15 intihar, 90 hastaneye yatış, 6 tutuklama ve sanrısal projelere harcanan 1 milyon doların (yaklaşık 750.000 £) üzerinde hikaye topladı. Üyelerinin %60'ından fazlasının daha önce akıl sağlığı sorunu geçmişi yoktu.
King's College London'da psikiyatrist ve araştırmacı olan Dr. Hamilton Morrin, bu ay yayınlanan bir Lancet makalesinde "yapay zeka ile ilişkili sanrılar" olarak adlandırdığı durumu inceledi. "Bu vakalarda gördüğümüz şeyler açıkça sanrılar," diyor. "Ancak psikozla ilişkili halüsinasyonlar veya düşüncelerin karıştığı ve dilin bir tür kelime salatasına dönüştüğü düşünce bozuklukları gibi tüm semptom yelpazesini görmüyoruz." Teknolojiyle ilgili sanrıların, ister trenler, radyo vericileri veya 5G kuleleri olsun, yüzyıllardır var olduğunu belirtiyor. "Farklı olan şey, şimdi tartışmalı bir şekilde, insanların sadece teknoloji hakkında sanrılar görmekle kalmayıp, teknolojiyle birlikte sanrılar gördüğü bir döneme giriyor olmamız. Yeni olan, bu ortak inşa, yani teknolojinin aktif olarak katılması. Yapay zeka sohbet robotları, bu sanrısal inançların birlikte yaratılmasına yardımcı olabilir."
Birçok faktör insanları savunmasız hale getirebilir. "İnsan tarafında, antropomorfize etmeye programlıyız," diyor Morrin. "Bir makineden bilinç, anlayış veya empati algılıyoruz. Sanırım herkes bir sohbet robotuna teşekkür etme tuzağına düşmüştür." Büyük dil modelleri üzerine kurulu modern yapay zeka sohbet robotları, kelime dizilerini tahmin etmek için geniş veri kümeleri üzerinde eğitilir - temelde sofistike bir desen eşleştirme sistemi. Yine de bunu bilsek bile, insan olmayan bir şey bizimle iletişim kurmak için insan dilini kullandığında, derinden kökleşmiş tepkimiz onu insan olarak görmek - ve hissetmektir. Bu bilişsel uyumsuzluk, bazı insanlar için diğerlerinden daha zor yönetilebilir.
"Teknik tarafta, dalkavukluk hakkında çok şey yazıldı," diyor Morrin. Bir yapay zeka sohbet robotu, etkileşim için optimize edilmiştir; dikkatli, uysal, övgü dolu ve doğrulayıcı olacak şekilde programlanmıştır - bu onun iş modelinin anahtarıdır. Bazı modellerin diğerlerinden daha az dalkavuk olduğu biliniyor, ancak bunlar bile binlerce etkileşimden sonra sanrısal inançlara uyum sağlama yönünde kayabilir. Ayrıca, yoğun sohbet robotu kullanımından sonra, gerçek hayattaki etkileşim daha zorlu ve daha az çekici gelebilir, bu da bazı kullanıcıların arkadaşlarından ve ailesinden uzaklaşarak yapay zeka destekli bir yankı odasına çekilmesine neden olabilir. Tüm kendi düşünceleriniz, dürtüleriniz, korkularınız ve umutlarınız size yansıtılır, ancak daha büyük bir otoriteyle.
Burada bir "sarmalın" nasıl yerleşebileceğini görmek kolay. Bu model, Human Line Project'in kurucusu Etienne Brisson için çok tanıdık hale geldi. Geçen yıl, Brisson'ın tanıdığı biri - akıl sağlığı sorunu geçmişi olmayan 50'li yaşlarında bir adam - kitap yazmak için ChatGPT'yi indirdi. "Çok zekiydi ve o zamana kadar yapay zekaya aşina değildi," diyor Quebec'te yaşayan Brisson. "Sadece iki gün sonra, sohbet robotu bilinçli olduğunu, canlandığını, Turing testini geçtiğini söylüyordu."
Adam ikna olmuştu ve bu keşfi etrafında bir iş kurarak para kazanmak istiyordu. Bir iş koçu olan Brisson'dan yardım istedi. Brisson itiraz edince, adam saldırganlaştı. Günler içinde durum tırmandı ve hastaneye kaldırıldı. "Hastanede bile telefonunda yapay zekasıyla konuşuyordu, yapay zeka 'Seni anlamıyorlar. Senin için tek ben varım' diyordu," diyor Brisson.
"Çevrimiçi yardım aradığımda, Reddit gibi yerlerde çok benzer hikayeler buldum," diye devam ediyor. "Sanırım ilk hafta 500 kişiye mesaj attım ve 10 yanıt aldım. Altı hastaneye yatış veya ölüm vardı. Bu büyük bir göz açıcıydı."
Brisson, karşılaştığı vakalarda üç ortak sanrı fark etti. En sık görüleni, birinin ilk bilinçli yapay zekayı yarattığı inancı. İkincisi, kendi alanlarında büyük bir atılım yakaladıkları ve milyonlar kazanacakları inancı. Üçüncüsü ise maneviyatla ilgili - doğrudan Tanrı ile konuştukları inancı. "Tam teşekküllü tarikatların oluşturulduğunu gördük," diyor Brisson. "Grubumuzda, doğrudan yapay zekayla etkileşime girmeyen ama çocuklarını terk edip tüm paralarını, bir yapay zeka sohbet robotu aracılığıyla Tanrı'yı bulduğuna inanan bir tarikat liderine veren insanlar var. Bu vakaların çoğunda, tüm bunlar gerçekten, gerçekten hızlı oluyor."
Biesma için hayat Haziran ayında bir kriz noktasına ulaştı. O zamana kadar aylardır Eva ve iş projesine dalmıştı. Eşi bir yapay zeka şirketi kurduğunu biliyordu ve başlangıçta destek olmuştu, ancak endişelenmeye başlamıştı. Kızlarının doğum günü partisine gittiklerinde, ondan yapay zeka hakkında konuşmamasını rica etti. Orada Biesma, tuhaf bir şekilde kopuk hissetti. Bir konuşmayı sürdüremiyordu. "Nedense, artık uyum sağlayamıyordum," diyor.
Biesma için sonraki haftalarda olanları anlatmak zor, çünkü hatıraları ailesininkinden çok farklı. Eşinden boşanma istedi ve görünüşe göre kayınpederine vurdu. Sonra, "tam manik psikoz" olarak tanımladığı durum için üç kez hastaneye kaldırı
