Cum te-ai simți dacă stâlpii de iluminat de pe strada ta ar putea recunoaște numărul de înmatriculare al mașinii tale și fața ta? Poate că nu te-ar deranja, având în vedere cât de mult timp avem sisteme automate de recunoaștere a plăcuțelor și camere de supraveghere video. Dar dacă acel stâlp s-ar putea alimenta singur cu ajutorul propriilor panouri solare și ar găsi o altă utilizare pentru orice energie suplimentară pe care o generează – asta ar fi bine, nu? Asta susține Conflow Power Group (CPG) din Warwickshire pentru iLamps-urile sale, primele de acest fel din Regatul Unit.
Ce s-ar întâmpla dacă stâlpii de iluminat ar putea include și funcții noi de inteligență artificială pe care nici măcar nu le-ai auzit încă – cum ar fi analizarea modului în care mergi sau detectarea comportamentului suspect? De asta se teme organizația Big Brother Watch. Și ce s-ar întâmpla dacă ministrul de interne ar fi spus deja că crede într-un „stat panopticon” – adică un stat care te-ar putea urmări în orice moment (așa cum a făcut Shabana Mahmood) – și ce s-ar întâmpla dacă ea ar fi încă la conducere când stâlpii ar primi actualizările? Sau ce s-ar întâmpla dacă următorul ministru de interne ar fi și mai înclinat către supravegherea excesivă (greu de imaginat), iar echipamentul stradal ar fi deja instalat? Și ce se întâmplă cu toate datele pe care le-ar colecta – cine le-ar deține?
Burniță în Warwickshire, unde sper să răspund la cel puțin câteva dintre aceste întrebări în parcarea spitalului unde au fost instalați câțiva dintre acești noi stâlpi „inteligenți”. Dar dacă nu era vorba de mine, probabil că nimeni nu ar vorbi despre ei, în principal pentru că aproape nimeni nu a auzit de ei. Nu mulți oameni știu că iLamp nu este doar alimentat cu energie solară – poate, de asemenea, „să funcționeze ca un centru de date AI distribuit care generează venituri”, potrivit CPG, darămite să înțeleagă ce înseamnă asta. Și nimeni, nici măcar eu, nu știe cât de mult din acest potențial a fost de fapt integrat în modelul din Regatul Unit – doar ceea ce a anunțat CPG: că a semnat un acord cu guvernul statului Katsina din Nigeria pentru a furniza 50.000 dintre aceste iLamp-uri, care au capacități suplimentare de supraveghere atât pentru vehicule, cât și pentru fețe. Președintele CPG, Edward Fitzpatrick, a declarat pentru programul Tech Life al BBC World Service că stâlpii ar putea ajuta în cele din urmă la găsirea persoanelor dispărute sau la combaterea criminalității, dar numai dacă sunt dezvoltați „cu autoritatea relevantă”.
CPG spune că a fost „acoperit pe scară largă de mass-media mondială” și nu răspunde la întrebări suplimentare, îndrumând mass-media către materialele sale online. Cât despre stâlpii din Warwickshire, consiliul local trimite toate întrebările către spital, iar spitalul nu răspunde. De înțeles – este un spital.
Un număr de locuitori locali s-au adăpostit de ploaie într-o stație de autobuz, majoritatea așteptând ca un partener să îi ia, și mulți sunt dispuși să stea de vorbă. Karl, 52 de ani, care a fost într-un pub din apropiere, vorbește pentru aproape toată lumea când spune: „Centrul orașului este deja plin de camere, și este în regulă. Nu te deranjează să fie acolo, decât dacă faci ceva rău.” Indiferent câte întrebări încărcate pun (Ce-ar fi dacă ai face ceva legal astăzi, dar ilegal peste un an? Ce-ar fi dacă supravegherea ar deveni predictivă în loc de reactivă? Ce-ar fi dacă nu ai vrea ca nimeni să știe că ai fost la spital? Ce-ar fi dacă nu ar fi trebuit să fii într-un pub? Nu crezi că măcar ar fi trebuit să fii întrebat dacă vrei asta?), nu pot face pe nimeni cu care vorbesc să-și schimbe părerea că recunoașterea facială este o parte tolerabilă a vieții pentru un cetățean care respectă legea.
Tejal, 41 de ani, care așteaptă și ea la stația de autobuz a spitalului, spune: „Cred că trebuie să mergem mai departe și să acceptăm că lucrurile se schimbă.” Este radiolog, iar faptul că vede capacitățile AI în propriul domeniu o face foarte anxioasă în legătură cu AI în general. „Am anxietăți pentru copiii mei,” spune ea. Că nu vor găsi locuri de muncă de nivel de intrare? „Asta, și că vor pierde capacitatea de a sărbători și de a găsi bucurie din lucrurile pe care le făceam noi.” Preocupările legate de confidențialitate par relativ minore în comparație cu asta.
Experții sunt sceptici cu privire la unele dintre afirmațiile făcute despre stâlpii inteligenți. Jasleen Chaggar, ofițer superior de politici și juridic la Big Brother Watch, spune: „Vedem asta destul de des, unde consiliile locale sau alte agenții guvernamentale sunt… ‘înșelate’ este un cuvânt puternic, dar li se vând aceste instrumente ca pe niște baghete magice, când există limite la ceea ce pot face de fapt.”
Prof. Rabih Bashroush, director al Centrului pentru Inteligență Artificială și Inovare în Date de la Universitatea din East London, este direct: „Centre de date AI? Nu există absolut nicio șansă ca asta să funcționeze: tehnologia nu funcționează, nu există suficientă energie, iar economia nu se justifică…” El spune că energia solară pentru a alimenta iLamp-urile în afara rețelei ar putea funcționa în Nigeria, dar în Marea Britanie, energia generată de stâlpi este „neglijabilă”. Ai putea poate rula o aplicație care „nu era critică pentru misiune, pe care nu te-ar deranja să o oprești câteva zile” – cum ar fi detectarea dacă un loc de parcare este ocupat – dar afirmațiile mai mari despre recunoașterea facială sunt „doar hype. Uită de asta – asta nu are viitor.”
Dacă pare nerăbdător, este pentru că este: „Devine din ce în ce mai greu să obții o opinie independentă asupra lucrurilor, pentru că mulți experți lucrează acum în industrie, iar opiniile lor trebuie să se alinieze cu organizația lor,” spune el. Așadar, o companie ar putea face afirmații mari, aruncând câteva cuvinte la modă AI, înainte de o rundă de finanțare; inginerii nu le contestă, autoritățile locale nu le înțeleg, iar nimeni altcineva nici măcar nu își dă seama că ceva s-a schimbat de când a fost inventată supravegherea video.
Chaggar depune eforturi mari pentru a explica diferența conceptuală dintre recunoașterea facială și supravegherea video: „Recunoașterea facială nu înregistrează doar pasiv ceva, ca supravegherea video, pe care o verifici după fapt. Ceea ce face recunoașterea facială este o verificare a identității în timp real: este mult mai asemănătoare cu o amprentă sau ADN. Nu este ca un pașaport – nu poți obține o altă față.”
O altă problemă, spune Chaggar, este că „multe dintre aceste tehnologii și infrastructuri pot adăuga funcții mai târziu. Hammersmith și Fulham [din Londra] își actualizează sistemele de supraveghere video și este posibil să încorporeze recunoașterea facială, să monitorizeze comportamentul suspect la cumpărături sau să adauge detectarea agresiunii. Așa că poți doar să acționezi un comutator și totul este acolo peste noapte.” Un prieten care locuiește în Fulham a trimis întâmplător o poză cu o cameră deasupra unui semn de restricții de parcare – arată ca o încrucișare între Darth Vader și un gândac, și bâzâie când treci pe lângă ea, ca și cum ar arăta că îți urmărește mișcările.
Acest lucru ridică toate vechile preocupări legate de confidențialitate și este interesant câți oameni resping supravegherea video ca pe un fapt al vieții moderne, dar se plâng spontan cât de mult urăsc să fie ascultați de telefonul lor. Karl spune: „Vorbeam cu mama mea zilele trecute despre clești pentru unghii de câine, și reclama a apărut pe telefonul meu în acea seară. Aveam microfonul oprit. Nici măcar nu am un câine!” Prietenul său Bob, 48 de ani, a ajuns practic în afara rețelei, fără computer și cu un telefon simplu de cărămidă – un factor de decizie l-ar numi probabil „exclus” – pur și simplu pentru că „unor oameni le place să fie privați.”
O altă întrebare despre software-ul de recunoaștere facială este: cât de bune sunt algoritmii la detectarea agresiunii și a comportamentului suspect? „O mare parte din software este pseudo-științific,” spune Chaggar. „Așadar, o companie ar putea încerca să vândă detectarea emoțiilor, [susținând că] dacă oamenii merg printr-o gară, poți vedea dacă sunt furioși sau pe cale să devină agresivi. Există foarte puține dovezi care să sugereze că este precis. Dacă ești o persoană cu dizabilități care se mișcă diferit, ai putea fi marcat și să te confrunți cu o intervenție.” Dar adevărata întrebare pentru autoritățile locale și orice agenți statali este… Chaggar spune că oamenii ar trebui să se întrebe: „Ești confortabil ca dușmanii tăi politici să aibă aceste capacități? Pentru că construiești o infrastructură care rămâne.”
Poți vedea asta clar în poliție. Ministerul de Interne a aprobat utilizarea recunoașterii faciale acum peste un deceniu, iar poliția a „folosit practic publicul ca pe niște cobai în ultimii 10 ani,” spune Chaggar. Ce se întâmplă când ministrul de interne îi spune BBC 5 Live, așa cum a făcut-o la începutul acestui an, că „nu te poți bucura de nicio libertate în nicio țară dacă nu ești în siguranță”? Această logică autoritară – unde toate libertățile vin pe locul doi după rolul statului de protector al tău – este tulburătoare venind de la un guvern presupus de stânga. Dar preocuparea mai mare este că acesta nu pare momentul potrivit în politică pentru a paria pe tehnologia de supraveghere, bazându-ne acceptarea pe speranța că toate guvernele viitoare vor fi prosociale și democratice.
Vizualizare imagine la ecran întreg
„Dacă nu ai nimic de ascuns, nu văd cum ar fi o problemă.” Fotografie: Justin Paget/Getty Images
Oriunde există potențial de a colecta date, se ridică întrebarea cine le deține. Bashroush a lucrat cu Internetul Lucrurilor, efortul Comisiei Europene de a „conecta lumea fizică la un mediu digital.” „Asta a fost cu mult timp în urmă, înainte de a părăsi Europa,” își amintește el. „Una dintre provocările pe care le-am văzut a fost cu un furnizor care colecta practic gunoiul de la casele din Olanda, apoi optimiza rutele camioanelor și planifica pe baza obiceiurilor tale. Consiliul care conducea programul era foarte mulțumit de el și a încercat să deschidă licitația un an mai târziu pentru a obține un preț mai competitiv. Compania a spus: ‘Sigur, dar datele sunt ale noastre.’” Această problemă nu a fost niciodată rezolvată: contractele au fost prost redactate, iar autoritatea locală a pierdut datele.
Dacă vrei să vezi recunoașterea facială cum merge prost fără nicio intenție autoritară sau trucaj tehnologic, uită-te doar la sectorul de retail, unde este deja utilizată pe scară largă pentru a preveni furtul din magazine. „Am văzut identificări greșite de către poliție,” spune Chaggar, „dar în retail, când oamenii sunt identificați greșit, este kafkian. Ești pur și simplu pe lista neagră a magazinului.”
Și din nou, cât de mult le pasă oamenilor cu adevărat? Dacă ești interzis dintr-un magazin și nu știi de ce; dacă o companie privată are un contract cu trustul tău NHS, promovând o tehnologie care nu este încă operațională și s-ar putea să nu funcționeze niciodată, dar nimeni nu ți-a spus – darămite să te fi întrebat; dacă ministrul de interne crede că este în regulă ca statul să te urmărească în orice moment – sunt acestea elementele constitutive ale unei distopii, sau ne amintesc doar de cum obișnuiam să descriem distopia înainte ca aceste capacități de supraveghere să existe?
Eseistul de la New Yorker, Ted Chiang, a scris acum ceva timp despre obiceiul de a proiecta asupra AI aspecte negative care erau de fapt despre sisteme economice, nu despre tehnologie. El a concluzionat: „Capitalismul este mașina care va face orice pentru a ne împiedica să o oprim.” Proiectez eu asupra AI și a tehnologiei de supraveghere anxietăți care sunt de fapt despre politica autoritară?
„Ei bine, dacă nu ai nimic de ascuns,” spune Sarah, 55 de ani, „nu văd cum ar fi o problemă. Presupun că sunt și lămpi, nu?”
Întrebări Frecvente
Iată o listă de întrebări frecvente despre stâlpii inteligenți bazați pe AI, care acoperă preocupări de la începători la avansați.
Întrebări pentru Începători
1 Ce este exact un stâlp inteligent bazat pe AI
Este un lampadar cu senzori, camere și microfoane încorporate. În loc să se aprindă doar noaptea, poate colecta date și folosi AI pentru a analiza acele date în timp real.
2 De ce ar vrea orașele să instaleze acestea
În principal pentru eficiență. Se pot diminua când nu este nimeni în apropiere pentru a economisi energie, detecta focuri de armă pentru a alerta poliția mai repede, monitoriza ambuteiajele și chiar găsi locuri de parcare libere. Pot, de asemenea, să încarce vehicule electrice și să ofere WiFi public.
3 Pot acești stâlpi să mă spioneze de fapt în casa mea
Nu. Camerele și senzorii sunt îndreptați spre stradă și spațiile publice, nu în casele private. Sunt proiectați să monitorizeze zonele publice, nu interioarele private.
4 Înregistrează video cu mine în timp ce merg pe stradă
Pot, dar majoritatea sistemelor sunt proiectate să proceseze video în timp real fără a stoca înregistrările. Cu toate acestea, unele orașe stochează înregistrări pentru o perioadă scurtă. Întrebarea cheie este dacă datele sunt salvate sau doar analizate live.
Întrebări de Nivel Intermediar
5 Cum este aceasta diferit de camerele de supraveghere video deja prezente la fiecare colț
Supravegherea video tradițională doar înregistrează video pe care cineva trebuie să îl urmărească mai târziu. Stâlpii AI sunt inteligenți – pot înțelege ceea ce văd. De exemplu, pot alerta automat autoritățile dacă o mașină circulă pe contrasens, în loc să aștepte ca un om să observe pe o înregistrare.
6 Cine deține datele pe care acești stâlpi le colectează
Variează. De obicei, guvernul orașului deține datele brute. Cu toate acestea, companiile private de tehnologie care construiesc sistemele au adesea acces la date anonimizate sau la algoritmii AI. Acesta este un punct major de îngrijorare pentru susținătorii confidențialității.
7 Poate AI să îmi recunoască fața
Multe modele avansate pot. Unele orașe folosesc recunoașterea facială pentru a găsi persoane dispărute sau infractori căutați. Cu toate acestea, acest lucru este extrem de controversat și mai multe orașe au interzis această funcție din cauza preocupărilor legate de confidențialitate și părtinire.
8 Ce împiedică un hacker să preia controlul asupra unei întregi rețele de acești stâlpi
Acesta este un risc real de securitate. Dacă o rețea nu este corect
