Sokağınızdaki lamba direkleri arabanızın plakasını ve yüzünüzü tanıyabilseydi ne hissederdiniz? Uzun süredir otomatik plaka tanıma ve güvenlik kameralarına sahip olduğumuz düşünülürse, belki de umursamazdınız. Peki ya o lamba direği kendi güneş panelleriyle kendine güç sağlayabilse ve ürettiği fazla enerjiyi başka bir amaç için kullanabilseydi – bu iyi olurdu, değil mi? Warwickshire'daki Conflow Power Group (CPG), Birleşik Krallık'ta türünün ilk örneği olan iLamp'leri için tam olarak bunu iddia ediyor.
Peki ya lamba direkleri, henüz duymadığınız yeni yapay zeka özelliklerini de içerseydi – örneğin yürüyüş şeklinizi analiz etmek veya şüpheli davranışları tespit etmek gibi? Big Brother Watch örgütünü endişelendiren şey tam olarak bu. Peki ya İçişleri Bakanı (Shabana Mahmood gibi) "panoptikon devlet"e – yani sizi her an izleyebilen bir devlete – inandığını söylemiş olsaydı ve lamba direkleri güncellendiğinde hâlâ görevde olsaydı? Ya da bir sonraki İçişleri Bakanı aşırı gözetime daha da hevesli olsaydı (hayal etmesi zor) ve sokak ekipmanları zaten yerleştirilmiş olsaydı? Peki ya tüm bunların toplayacağı verilere ne olacak – bunlara kim sahip olacak?
Warwickshire'da çiseleyen yağmur altında, bu yeni "akıllı" lamba direklerinden bazılarının kurulduğu hastane otoparkında bu sorulardan en azından bazılarına yanıt bulmayı umuyorum. Ama ben olmasaydım, muhtemelen kimse onlar hakkında konuşmazdı, çünkü neredeyse hiç kimse onları duymadı. Çok az kişi iLamp'ın sadece güneş enerjisiyle çalışmadığını, aynı zamanda CPG'ye göre "gelir getiren dağıtılmış bir yapay zeka veri merkezi olarak da işlev görebildiğini" biliyor, bunun ne anlama geldiğini anlamak bir yana. Ve hiç kimse, ben bile, bu potansiyelin ne kadarının Birleşik Krallık modeline gerçekten entegre edildiğini bilmiyor – sadece CPG'nin duyurduklarını biliyoruz: Nijerya'nın Katsina eyalet hükümetiyle, araçlar ve yüzler için ek gözetim yeteneklerine sahip 50.000 adet iLamp tedarik etmek üzere bir anlaşma imzaladığını. CPG'nin başkanı Edward Fitzpatrick, BBC Dünya Servisi'nin Tech Life programına, lamba direklerinin nihayetinde kayıp kişilerin bulunmasına veya suçla mücadeleye yardımcı olabileceğini, ancak bunun "ilgili makamla" birlikte geliştirilmesi gerektiğini söyledi.
CPG, "dünya çapındaki medya tarafından kapsamlı bir şekilde ele alındığını" belirterek daha fazla soru kabul etmiyor ve medyayı çevrimiçi materyallerine yönlendiriyor. Warwickshire'daki lamba direklerine gelince, yerel konsey tüm soruları hastaneye yönlendiriyor ve hastane yanıt vermiyor. Makul – sonuçta burası bir hastane.
Bir dizi yerel sakin, bir otobüs durağında yağmurdan korunuyor, çoğu bir partnerin kendilerini almasını bekliyor ve birçoğu sohbet etmekten mutlu. Yakındaki bir barda olan 52 yaşındaki Karl, neredeyse herkes adına konuşuyor: "Şehir merkezi zaten kameralarla dolu ve sorun yok. Kötü bir şey yapmıyorsanız, orada olmalarını umursamazsınız." Ne kadar yüklü soru sorarsam sorayım (Ya bugün yasal olan bir şey bir yıl sonra yasa dışı olursa? Ya gözetim reaktif olmak yerine tahmine dayalı hale gelirse? Ya hastaneye gittiğinizi kimsenin bilmesini istemezseniz? Ya bir barda olmamanız gerekseydi? En azından bunu isteyip istemediğinizin sorulması gerekmez miydi?), konuştuğum hiç kimseyi, yüz tanımanın yasalara uyan bir vatandaş için hayatın tolere edilebilir bir parçası olduğu görüşünü değiştiremiyorum.
Hastane otobüs durağında bekleyen 41 yaşındaki Tejal şöyle diyor: "Bence devam etmeli ve işlerin değiştiğini kabul etmeliyiz." Kendisi bir radyolog ve kendi alanında yapay zekanın yeteneklerini görmek, onu genel olarak yapay zeka konusunda çok endişelendiriyor. "Çocuklarım için endişelerim var," diyor. Giriş seviyesi iş bulamayacakları için mi? "O da var, bir de eskiden keyif aldığımız şeyleri kutlama ve onlardan neşe bulma yeteneklerini kaybedecekleri için." Gizlilik endişeleri buna kıyasla nispeten önemsiz görünüyor.
Uzmanlar, akıllı lamba direkleriyle ilgili bazı iddialara şüpheyle yaklaşıyor. Big Brother Watch'un kıdemli hukuk ve politika sorumlusu Jasleen Chaggar şunları söylüyor: "Bunu oldukça sık görüyoruz; yerel konseyler veya diğer devlet kurumları ... 'dolandırılıyor' güçlü bir kelime, ancak bu araçlar onlara sihirli değnekler olarak satılıyor, oysa gerçekte yapabileceklerinin sınırları var."
Doğu Londra Üniversitesi Yapay Zeka ve Veri İnovasyonu Merkezi direktörü Prof. Rabih Bashroush ise açık sözlü: "Yapay zeka veri merkezleri mi? Bunun işe yarama ihtimali kesinlikle yok: teknoloji çalışmıyor, yeterli güç yok ve ekonomi de tutmuyor..." Güneş enerjisiyle iLamp'leri şebekeden bağımsız çalıştırmanın Nijerya'da işe yarayabileceğini, ancak İngiltere'de lamba direklerinin ürettiği enerjinin "ihmal edilebilir" olduğunu söylüyor. "Kritik görev olmayan, birkaç günlüğüne kapatılmasını umursamayacağınız" bir uygulamayı (bir park yerinin dolu olup olmadığını tespit etmek gibi) çalıştırabilirsiniz, ancak yüz tanıma gibi daha büyük iddialar "sadece abartı. Unutun gitsin – bunun geleceği yok."
Sabırsız görünüyorsa, bunun nedeni gerçekten sabırsız olması: "Bir şeyler hakkında bağımsız bir görüş almak giderek zorlaşıyor, çünkü birçok uzman artık sektörde çalışıyor ve görüşleri kuruluşlarıyla uyumlu olmak zorunda," diyor. Yani bir şirket, bir fonlama turu öncesinde büyük iddialarda bulunup birkaç yapay zeka moda sözcüğü ekleyebilir; mühendisler onlara karşı çıkmaz, yerel yönetimler anlamaz ve güvenlik kameraları icat edildiğinden beri hiçbir şeyin değiştiğini kimse fark etmez.
Chaggar, yüz tanıma ile güvenlik kamerası arasındaki kavramsal farkı açıklamak için çok çaba harcıyor: "Yüz tanıma, güvenlik kamerası gibi pasif bir şekilde bir şey kaydetmez, sonradan kontrol edersiniz. Yüz tanımanın yaptığı şey, gerçek zamanlı bir kimlik kontrolüdür: parmak izi veya DNA'ya çok daha benzer. Pasaport gibi değil – başka bir yüz alamazsınız."
Chaggar'a göre bir diğer sorun da "bu teknolojilerin ve altyapıların birçoğunun daha sonra işlev ekleyebilmesi. Hammersmith ve Fulham [Londra'da] güvenlik kameralarını güncelliyor ve yüz tanımayı yerleştirmek, şüpheli alışveriş davranışlarını izlemek veya saldırganlık tespiti eklemek mümkün. Yani bir düğmeye basıyorsunuz ve hepsi bir gecede orada oluyor." Fulham'da yaşayan bir arkadaşım, bir park yasağı levhasının üzerindeki bir kameranın resmini gönderdi – Darth Vader ile bir böceğin karışımına benziyor ve yanından geçerken hareketlerinizi takip ettiğini göstermek için uğultu yapıyor.
Bu, tüm eski gizlilik endişelerini gündeme getiriyor ve birçok insanın güvenlik kameralarını modern hayatın bir gerçeği olarak görmezden gelirken, telefonları tarafından dinlenmekten ne kadar nefret ettiklerinden kendiliğinden şikayet etmeleri ilginç. Karl şöyle diyor: "Geçen gün annemle köpek tırnak makası hakkında konuşuyordum ve o akşam telefonumda reklam çıktı. Mikrofonum kapalıydı. Köpeğim bile yok!" Arkadaşı 48 yaşındaki Bob, neredeyse şebekeden tamamen kopmuş durumda, bilgisayarı yok ve temel bir tuşlu telefon kullanıyor – bir politika yapıcı muhtemelen onu "dışlanmış" olarak adlandırırdı – sırf "bazı insanlar özel olmayı seviyor" diye.
Yüz tanıma yazılımıyla ilgili bir diğer soru da şu: algoritmalar saldırganlığı ve şüpheli davranışı tespit etmede ne kadar iyi? "Yazılımın çoğu sözde bilimsel," diyor Chaggar. "Yani bir şirket duygu tespiti satmaya çalışabilir, [insanların bir tren istasyonunda yürürken kızgın olup olmadıklarını veya saldırganlaşmak üzere olup olmadıklarını görebileceğinizi iddia ederek]. Bunun doğru olduğuna dair çok az kanıt var. Farklı hareket eden engelli bir kişiyseniz, işaretlenebilir ve bir müdahaleyle karşı karşıya kalabilirsiniz." Ancak yerel yönetimler ve herhangi bir devlet görevlisi için asıl soru şudur... Chaggar, insanların kendilerine şunu sorması gerektiğini söylüyor: "Siyasi düşmanlarınızın bu yeteneklere sahip olmasından rahatsızlık duyar mısınız? Çünkü kalıcı olacak bir altyapı inşa ediyorsunuz."
Bunu polislikte açıkça görebilirsiniz. İçişleri Bakanlığı, yüz tanımanın kullanımını on yıldan uzun bir süre önce onayladı ve polis "temelde son 10 yıldır halkı kobay olarak kullanıyor," diyor Chaggar. İçişleri Bakanı'nın bu yılın başlarında BBC 5 Live'a yaptığı gibi, "güvende değilseniz hiçbir ülkede özgürlüklerinizin hiçbirinden yararlanamazsınız" dediğinde ne olur? Tüm özgürlüklerin devletin sizi koruyucu rolünün arkasında ikinci planda kaldığı bu ağır mantık, sözde sol görüşlü bir hükümetten gelmesi açısından rahatsız edici. Ancak daha büyük endişe, siyasette gözetim teknolojisine kumar oynamak, kabulümüzü tüm gelecekteki hükümetlerin toplum yanlısı ve demokratik olacağı umuduna dayandırmak için doğru anmışız gibi hissettirmemesi.
Veri toplama potansiyelinin olduğu her yerde, verilere kimin sahip olduğu sorusu gündeme gelir. Bashroush, Avrupa Komisyonu'nun "fiziksel dünyayı dijital bir ortama bağlama" çabası olan Nesnelerin İnterneti ile çalışıyordu. "Bu, Avrupa'dan ayrılmadan çok önceydi," diye hatırlıyor. "Gördüğümüz zorluklardan biri, temelde Hollanda'daki evlerden çöp toplayan, ardından alışkanlıklarınıza göre kamyon rotalarını optimize eden ve planlama yapan bir tedarikçiyle ilgiliydi. Programı yürüten konsey bundan çok memnundu ve bir yıl sonra daha rekabetçi bir fiyat almak için ihaleyi açmaya çalıştı. Şirket, 'Tabii, ama veriler bizim' dedi." Bu sorun hiçbir zaman çözülmedi: sözleşmeler kötü yazılmıştı ve yerel yönetim verileri kaybetti.
Herhangi bir otoriter niyet veya teknolojik hile olmadan yüz tanımanın yanlış gittiğini görmek istiyorsanız, zaten hırsızlığı önlemek için yaygın olarak kullanıldığı perakende sektörüne bakın. "Polis tarafından yanlış teşhis edildiğini gördük," diyor Chaggar, "ancak perakendede, insanlar yanlış teşhis edildiğinde, bu Kafkaesk bir hal alıyor. Sadece mağazadan men ediliyorsunuz."
Ve yine, insanlar gerçekten ne kadar umursuyor? Bir mağazadan yasaklanıp nedenini bilmiyorsanız; özel bir şirketin NHS güveninizle, henüz faaliyete geçmemiş ve belki de asla çalışmayacak bir teknolojiyi tanıtan bir sözleşmesi varsa, ancak size kimse söylemedi, hatta sormadı bile; İçişleri Bakanı devletin sizi her an izlemesinin sorun olmadığını düşünüyorsa – bunlar bir distopyanın yapı taşları mı, yoksa bize bu gözetim yetenekleri var olmadan önce distopyayı nasıl tanımladığımızı mı hatırlatıyor?
New Yorker deneme yazarı Ted Chiang bir süre önce, aslında teknolojiyle değil ekonomik sistemlerle ilgili olan olumsuzlukları yapay zekaya yansıtma alışkanlığı hakkında yazmıştı. Şu sonuca varmıştı: "Kapitalizm, bizi kapatmamızı engellemek için ne gerekiyorsa yapacak olan makinedir." Otoriter siyasetle ilgili endişeleri yapay zekaya ve gözetim teknolojisine mi yansıtıyorum?
"Şey, saklayacak bir şeyiniz yoksa," diyor 55 yaşındaki Sarah, "bunun nasıl bir sorun olabileceğini anlayamıyorum. Ayrıca gerçekten lamba olduklarını varsayıyorum, değil mi?"
