Come ti sentiresti se i lampioni della tua strada potessero riconoscere la targa della tua auto e il tuo volto? Forse non ti importerebbe, visto da quanto tempo abbiamo il riconoscimento automatico delle targhe e le telecamere a circuito chiuso. Ma se quel lampione potesse alimentarsi da solo con i propri pannelli solari e trovare un altro uso per l'energia extra che genera – sarebbe positivo, giusto? Questo è ciò che la Conflow Power Group (CPG) nel Warwickshire sostiene per i suoi iLamp, i primi del loro genere nel Regno Unito.
E se i lampioni potessero includere anche nuove funzionalità di IA di cui non hai ancora sentito parlare – come analizzare il modo in cui cammini o individuare comportamenti sospetti? Questo è ciò che preoccupa l'organizzazione Big Brother Watch. E se il ministro dell'Interno avesse già detto di credere in uno "stato panottico" – cioè uno stato che potrebbe osservarti in ogni momento (come ha fatto Shabana Mahmood) – e se fosse ancora al comando quando i lampioni ricevessero i loro aggiornamenti? O se il prossimo ministro dell'Interno fosse ancora più favorevole all'iper-sorveglianza (difficile da immaginare), e le attrezzature stradali fossero già in posizione? E per quanto riguarda tutti i dati che questo raccoglierebbe – chi li possiederebbe?
Pioviggina nel Warwickshire, dove spero di rispondere ad almeno alcune di queste domande nel parcheggio dell'ospedale dove sono stati installati alcuni di questi nuovi lampioni "intelligenti". Ma se non fosse per me, probabilmente nessuno ne parlerebbe, principalmente perché quasi nessuno ne ha sentito parlare. Non molti sanno che l'iLamp non è solo alimentato a energia solare – può anche "fungere da datacenter distribuito di IA che genera entrate", secondo CPG, figuriamoci capire cosa significhi. E nessuno, nemmeno io, sa quanto di quel potenziale sia stato effettivamente integrato nel modello del Regno Unito – solo ciò che CPG ha annunciato: di aver firmato un accordo con il governo dello stato di Katsina in Nigeria per fornire 50.000 di questi iLamp, che hanno capacità di sorveglianza aggiuntive sia per i veicoli che per i volti. Il presidente di CPG, Edward Fitzpatrick, ha detto al programma Tech Life della BBC World Service che i lampioni potrebbero eventualmente aiutare a trovare persone scomparse o combattere il crimine, ma solo se sviluppati "con l'autorità competente".
CPG afferma di essere stata "ampiamente coperta dai media mondiali" e non accetta ulteriori domande, indirizzando i media ai suoi materiali online. Per quanto riguarda i lampioni del Warwickshire, il consiglio locale invia tutte le domande all'ospedale, e l'ospedale non risponde. Giusto – è un ospedale.
Alcuni residenti locali si sono riparati dalla pioggia in una fermata dell'autobus, la maggior parte in attesa che un partner li venga a prendere, e molti sono felici di chiacchierare. Karl, 52 anni, che è stato in un pub vicino, parla per quasi tutti quando dice: "Il centro città è già pieno di telecamere, e va bene. Non ti danno fastidio a meno che tu non stia combinando qualcosa." Non importa quante domande cariche di implicazioni io faccia (E se stessi facendo qualcosa di legale oggi ma illegale tra un anno? E se la sorveglianza diventasse predittiva invece che reattiva? E se non volessi che nessuno sapesse che sei stato in ospedale? E se non dovessi essere in un pub? Non pensi che almeno avresti dovuto essere consultato se lo volevi?), non riesco a far cambiare idea a nessuno con cui parlo sul fatto che il riconoscimento facciale sia una parte tollerabile della vita per un cittadino rispettoso della legge.
Tejal, 41 anni, anche lei in attesa alla fermata dell'autobus dell'ospedale, dice: "Penso che dobbiamo andare avanti e accettare che le cose cambiano." È una radiologa, e vedere le capacità dell'IA nel suo campo la rende molto ansiosa riguardo all'IA in generale. "Ho ansie per i miei figli," dice. Che non troveranno lavori entry-level? "Quello, e che perderanno la capacità di celebrare e trovare gioia dalle cose che facevamo noi." Le preoccupazioni per la privacy sembrano relativamente minori rispetto a questo.
Gli esperti sono scettici riguardo ad alcune delle affermazioni fatte per i lampioni intelligenti. Jasleen Chaggar, responsabile legale e politiche senior di Big Brother Watch, dice: "Vediamo abbastanza spesso che i consigli locali o altre agenzie governative vengono ... 'truffati' è una parola forte, ma gli vengono venduti questi strumenti come bacchette magiche quando ci sono limiti a ciò che possono effettivamente fare."
Il Prof. Rabih Bashroush, direttore del Centro per l'Intelligenza Artificiale e l'Innovazione dei Dati all'Università di East London, è schietto: "Datacenter di IA? Non c'è assolutamente possibilità che funzioni: la tecnologia non funziona, non c'è abbastanza energia, e l'economia non torna ..." Dice che l'energia solare per far funzionare gli iLamp fuori rete potrebbe funzionare in Nigeria, ma in Gran Bretagna, l'energia generata dai lampioni è "trascurabile". Potresti essere in grado di far funzionare un'app che "non fosse mission-critical, che non ti dispiacesse spegnere per qualche giorno" – come rilevare se un parcheggio è occupato – ma affermazioni più grandi sul riconoscimento facciale sono "solo hype. Dimenticatelo – questo non ha futuro."
Se sembra impaziente, è perché lo è: "Sta diventando sempre più difficile ottenere un'opinione indipendente sulle cose, perché molti esperti ora lavorano nell'industria, e le loro opinioni devono allinearsi con la loro organizzazione," dice. Quindi un'azienda potrebbe fare grandi affermazioni, infilando qualche parola d'ordine sull'IA, prima di un round di finanziamento; gli ingegneri non le contestano, le autorità locali non le capiscono, e nessun altro si rende nemmeno conto che qualcosa è cambiato da quando è stata inventata la CCTV.
Chaggar si sforza di spiegare la differenza concettuale tra riconoscimento facciale e CCTV: "Il riconoscimento facciale non è solo registrare passivamente qualcosa, come la CCTV, che controlli dopo i fatti. Ciò che fa il riconoscimento facciale è un controllo dell'identità in tempo reale: è molto più simile a un'impronta digitale o al DNA. Non è come un passaporto – non puoi ottenere un altro volto."
Un altro problema, dice Chaggar, è che "molte di queste tecnologie e infrastrutture possono aggiungere funzioni in seguito. Hammersmith e Fulham [a Londra] stanno aggiornando la loro CCTV, ed è possibile incorporare il riconoscimento facciale, monitorare comportamenti di acquisto sospetti, o aggiungere il rilevamento dell'aggressività. Quindi puoi semplicemente premere un interruttore, ed è tutto lì dall'oggi al domani." Un amico che vive a Fulham ha mandato per caso una foto di una telecamera sopra un cartello di restrizioni di parcheggio – sembra un incrocio tra Darth Vader e uno scarabeo, e ronza mentre passi, come per mostrare che sta tracciando i tuoi movimenti.
Questo solleva tutte le vecchie preoccupazioni sulla privacy, ed è interessante quante persone liquidino la CCTV come un dato di fatto della vita moderna, ma si lamentino spontaneamente di quanto odino essere ascoltati dal loro telefono. Karl dice: "Stavo parlando con mia madre l'altro giorno di tagliaunghie per cani, e l'annuncio è apparso sul mio telefono quella sera. Avevo il microfono spento. Non ho nemmeno un cane!" Il suo amico Bob, 48 anni, è finito praticamente fuori rete, senza computer e con un telefono mattoncino di base – un politico probabilmente lo chiamerebbe "escluso" – semplicemente perché "ad alcune persone piace essere private."
Un'altra domanda sul software di riconoscimento facciale è: quanto sono bravi gli algoritmi a rilevare aggressività e comportamenti sospetti? "Molto del software è pseudo-scientifico," dice Chaggar. "Quindi un'azienda potrebbe cercare di vendere il rilevamento delle emozioni, [affermando che] se le persone camminano attraverso una stazione ferroviaria, puoi vedere se sono arrabbiate o stanno per diventare aggressive. Ci sono pochissime prove che suggeriscano che sia accurato. Se sei una persona disabile che si muove diversamente, potresti essere segnalato e affrontare un intervento." Ma la vera domanda per le autorità locali e qualsiasi agente statale è... Chaggar dice che le persone dovrebbero chiedersi: "Sei a tuo agio con i tuoi nemici politici che hanno queste capacità? Perché stai costruendo un'infrastruttura che è qui per restare."
Puoi vederlo chiaramente nelle forze di polizia. Il Ministero dell'Interno ha approvato l'uso del riconoscimento facciale oltre un decennio fa, e la polizia ha "essenzialmente usato il pubblico come cavie per gli ultimi 10 anni," dice Chaggar. Cosa succede quando il ministro dell'Interno dice a BBC 5 Live, come ha fatto all'inizio di quest'anno, che "non puoi goderti nessuna delle tue libertà in nessun paese se non sei al sicuro"? Questa logica pesante – dove tutte le libertà vengono dopo il ruolo dello stato come tuo protettore – è inquietante provenendo da un governo presumibilmente di sinistra. Ma la preoccupazione maggiore è che questo non sembra il momento giusto in politica per scommettere sulla tecnologia di sorveglianza, basando la nostra accettazione su di essa sulla speranza che tutti i futuri governi siano pro-sociali e democratici.
Visualizza immagine a schermo intero
'Se non hai nulla da nascondere, non vedo come potrebbe essere un problema.' Fotografia: Justin Paget/Getty Images
Ovunque ci sia potenziale per raccogliere dati, sorge la domanda su chi li possieda. Bashroush lavorava con l'Internet delle Cose, lo sforzo della Commissione Europea di "connettere il mondo fisico a un ambiente digitale." "Questo era molto tempo fa, prima di lasciare l'Europa," ricorda. "Una delle sfide che abbiamo visto è stata con un fornitore che raccoglieva fondamentalmente rifiuti dalle case nei Paesi Bassi, poi ottimizzava i percorsi dei camion e pianificava in base alle tue abitudini. Il consiglio che gestiva il programma era molto soddisfatto e ha cercato di aprire la gara d'appalto un anno dopo per ottenere un prezzo più competitivo. L'azienda ha detto: 'Certo, ma i dati sono nostri.'" Quel problema non è mai stato risolto: i contratti erano mal scritti, e l'autorità locale ha perso i dati.
Se vuoi vedere il riconoscimento facciale andare storto senza alcuna intenzione autoritaria o trucco tecnologico, guarda al settore della vendita al dettaglio, dove è già ampiamente usato per prevenire i furti nei negozi. "Abbiamo visto identificazioni errate da parte della polizia," dice Chaggar, "ma nella vendita al dettaglio, quando le persone vengono identificate erroneamente, è kafkiano. Vieni semplicemente inserito nella lista nera del negozio."
E ancora, quanto importa davvero alle persone? Se vieni bandito da un negozio e non sai perché; se un'azienda privata ha un contratto con il tuo NHS trust, promuovendo una tecnologia che non è ancora operativa e potrebbe non funzionare mai, ma nessuno te lo ha detto – figuriamoci chiesto –; se il ministro dell'Interno pensa che vada bene che lo stato ti osservi in ogni momento – sono questi gli elementi costitutivi di una distopia, o ci ricordano solo come descrivevamo la distopia prima che queste capacità di sorveglianza esistessero?
Il saggista del New Yorker Ted Chiang ha scritto qualche tempo fa sull'abitudine di proiettare sull'IA negatività che in realtà riguardavano i sistemi economici, non la tecnologia. Ha concluso: "Il capitalismo è la macchina che farà tutto il necessario per impedirci di spegnerla." Sto proiettando sull'IA e sulla tecnologia di sorveglianza ansie che riguardano in realtà la politica autoritaria?
"Beh, se non hai nulla da nascondere," dice Sarah, 55 anni, "non vedo come potrebbe essere un problema. Presumo che siano anche lampade, vero?"
Domande Frequenti
Ecco un elenco di FAQ sui lampioni intelligenti basati sull'IA che coprono preoccupazioni da principianti ad avanzati
Domande di Livello Principiante
1 Cosa è esattamente un lampione intelligente basato sull'IA
È un lampione con sensori, telecamere e microfoni integrati. Invece di accendersi solo di notte, può raccogliere dati e usare l'IA per analizzarli in tempo reale.
2 Perché le città vorrebbero installarli
Principalmente per efficienza. Possono attenuarsi quando non c'è nessuno per risparmiare energia, rilevare spari per allertare la polizia più velocemente, monitorare ingorghi e persino trovare parcheggi liberi. Possono anche caricare veicoli elettrici e fornire WiFi pubblico.
3 Questi lampioni possono davvero spiarmi in casa mia
No. Le telecamere e i sensori sono puntati sulla strada e sugli spazi pubblici, non all'interno delle case private. Sono progettati per monitorare aree pubbliche, non interni privati.
4 Registrano video di me mentre cammino per strada
Possono, ma la maggior parte dei sistemi è progettata per elaborare il video in tempo reale senza memorizzare le riprese. Tuttavia, alcune città memorizzano le riprese per un breve periodo. La domanda chiave è se i dati vengono salvati o solo analizzati in diretta.
Domande di Livello Intermedio
5 In cosa è diverso dalle telecamere CCTV già presenti a ogni angolo
La CCTV tradizionale registra solo video che qualcuno deve guardare dopo. I lampioni con IA sono intelligenti: possono capire ciò che vedono. Ad esempio, possono allertare automaticamente le autorità se un'auto sta guidando contromano, invece di aspettare che un umano lo noti in una registrazione.
6 Chi possiede i dati raccolti da questi lampioni
Varia. Di solito il governo della città possiede i dati grezzi. Tuttavia, le aziende tecnologiche private che costruiscono i sistemi hanno spesso accesso a dati anonimizzati o agli algoritmi di IA. Questo è un punto di grande preoccupazione per i difensori della privacy.
7 L'IA può riconoscere il mio volto
Molti modelli avanzati possono. Alcune città usano il riconoscimento facciale per trovare persone scomparse o criminali ricercati. Tuttavia, questo è altamente controverso e diverse città hanno vietato la funzione a causa di preoccupazioni sulla privacy e sui pregiudizi.
8 Cosa impedisce a un hacker di prendere il controllo di un'intera rete di questi lampioni
Questo è un vero rischio per la sicurezza. Se una rete non è adeguatamente
