Hvordan ville du have det, hvis lygtepælene på din gade kunne genkende din bils nummerplade og dit ansigt? Måske ville du ikke have noget imod det, i betragtning af hvor længe vi har haft automatisk nummerpladegenkendelse og overvågningskameraer. Men hvad hvis den lygtepæl kunne forsyne sig selv med strøm via sine egne solpaneler og finde en anden anvendelse for den overskydende energi, den genererer – det ville være godt, ikke? Det er, hvad Conflow Power Group (CPG) i Warwickshire hævder om deres iLamps, de første af deres slags i Storbritannien.
Hvad hvis lygtepæle også kunne inkludere nye AI-funktioner, du endnu ikke har hørt om – som at analysere den måde, du går på, eller opdage mistænkelig adfærd? Det er, hvad organisationen Big Brother Watch er bekymret for. Og hvad hvis indenrigsministeren allerede havde sagt, at hun troede på en "panoptisk stat" – hvilket betyder en stat, der kunne overvåge dig hele tiden (som Shabana Mahmood har gjort) – og hvad hvis hun stadig var ved magten, når lygtepælene fik deres opdateringer? Eller hvad hvis den næste indenrigsminister var endnu mere ivrig efter hyperovervågning (svært at forestille sig), og gadeudstyret allerede var på plads? Og hvad med alle de data, dette ville indsamle – hvem ville eje dem?
Det støvregner i Warwickshire, hvor jeg håber at få svar på i det mindste nogle af disse spørgsmål på hospitalets parkeringsplads, hvor nogle af disse nye "smarte" lygtepæle er blevet installeret. Men hvis det ikke var for mig, ville sandsynligvis ingen tale om dem, primært fordi næsten ingen har hørt om dem. Ikke mange ved, at iLamp ikke kun er solcelledrevet – den kan også "fungere som et indtægtsgenererende distribueret AI-datacenter," ifølge CPG, for slet ikke at tale om at forstå, hvad det betyder. Og ingen, ikke engang jeg, ved, hvor meget af det potentiale, der faktisk er blevet indbygget i den britiske model – kun hvad CPG har annonceret: at de har indgået en aftale med regeringen i Katsina-staten i Nigeria om at levere 50.000 af disse iLamps, som har ekstra overvågningskapaciteter for både køretøjer og ansigter. CPG's formand, Edward Fitzpatrick, fortalte BBC World Service's Tech Life-program, at lygtepælene til sidst kunne hjælpe med at finde forsvundne personer eller bekæmpe kriminalitet, men kun hvis de udvikles "med den relevante myndighed."
CPG siger, at de er blevet "dækket bredt af verdensmedierne" og tager ikke imod yderligere spørgsmål, men henviser medierne til deres online-materialer. Hvad angår lygtepælene i Warwickshire, sender det lokale råd alle spørgsmål til hospitalet, og hospitalet svarer ikke. Fair nok – det er et hospital.
En række lokale beboere har søgt ly for regnen i et busstoppested, de fleste venter på, at en partner henter dem, og mange er glade for at snakke. Karl, 52, som har været på en nærliggende pub, taler for næsten alle, når han siger: "Bycentret er allerede fyldt med kameraer, og det er fint. Man har ikke noget imod, at de er der, medmindre man er ude på noget." Uanset hvor mange ledende spørgsmål, jeg stiller (Hvad hvis du gjorde noget lovligt i dag, men ulovligt om et år? Hvad hvis overvågningen blev forudsigende i stedet for reaktiv? Hvad hvis du ikke ønskede, at nogen skulle vide, du havde været på hospitalet? Hvad hvis du ikke skulle være på en pub? Synes du ikke, du i det mindste burde være blevet spurgt, om du ville have det?), kan jeg ikke få nogen af dem, jeg taler med, til at ændre deres opfattelse af, at ansigtsgenkendelse er en acceptabel del af livet for en lovlydig borger.
Tejal, 41, som også venter ved hospitalets busstoppested, siger: "Jeg tror, vi må komme videre og acceptere, at tingene ændrer sig." Hun er radiolog, og det at se AI's evner inden for hendes eget felt gør hende meget bekymret for AI generelt. "Jeg er bekymret for mine børn," siger hun. At de ikke vil kunne finde entry-level jobs? "Det, og at de vil miste evnen til at fejre og finde glæde ved de ting, vi plejede." Bekymringer om privatlivets fred virker relativt mindre sammenlignet med det.
Eksperter er skeptiske over for nogle af påstandene om smarte lygtepæle. Jasleen Chaggar, senior juridisk og politisk medarbejder hos Big Brother Watch, siger: "Vi ser det ret ofte, hvor lokale råd eller andre offentlige myndigheder bliver ... 'snydt' er et stærkt ord, men de får solgt disse værktøjer som tryllestave, når der er grænser for, hvad de faktisk kan gøre."
Prof Rabih Bashroush, direktør for Center for Kunstig Intelligens og Data Innovation ved University of East London, er direkte: "AI-datacentre? Der er absolut ingen chance for, at dette vil fungere: teknologien fungerer ikke, der er ikke nok strøm, og økonomien hænger ikke sammen ..." Han siger, at solenergi til at drive iLamps off-grid måske kunne fungere i Nigeria, men i Storbritannien er den energi, lygtepælene genererer, "ubetydelig". Du kunne måske køre en app, der "ikke var missionskritisk, som du ikke havde noget imod at lukke ned i et par dage" – som at registrere, om en parkeringsplads var optaget – men større påstande om ansigtsgenkendelse er "bare hype. Glem det – dette har ingen fremtid."
Hvis han lyder utålmodig, er det fordi han er det: "Det bliver sværere og sværere at få en uafhængig mening om ting, fordi mange eksperter nu arbejder i industrien, og deres synspunkter skal være i overensstemmelse med deres organisation," siger han. Så en virksomhed kan komme med store påstande, smide et par AI-buzzwords ind, før en finansieringsrunde; ingeniører udfordrer dem ikke, lokale myndigheder forstår dem ikke, og ingen andre er overhovedet klar over, at noget har ændret sig, siden overvågningskameraer blev opfundet.
Chaggar gør sig store anstrengelser for at forklare den konceptuelle forskel mellem ansigtsgenkendelse og overvågningskameraer: "Ansigtsgenkendelse optager ikke bare passivt noget, som overvågningskameraer, som man tjekker bagefter. Hvad ansigtsgenkendelse gør, er en identitetskontrol i realtid: det minder meget mere om et fingeraftryk eller DNA. Det er ikke som et pas – du kan ikke få et andet ansigt."
Et andet problem, siger Chaggar, er, at "mange af disse teknologier og infrastrukturer kan tilføje funktioner senere. Hammersmith og Fulham [i London] opdaterer deres overvågningskameraer, og det er muligt at indlejre ansigtsgenkendelse, overvåge mistænkelig indkøbsadfærd eller tilføje aggressionsdetektion. Så du kan bare trykke på en kontakt, og det er der hele natten." En ven, der bor i Fulham, sendte tilfældigvis et billede af et kamera over et skilt med parkeringsrestriktioner – det ligner en krydsning mellem Darth Vader og en bille, og det summer, når man går forbi, som for at vise, at det sporer dine bevægelser.
Dette rejser alle de gamle bekymringer om privatlivets fred, og det er interessant, hvor mange mennesker der afviser overvågningskameraer som et faktum i det moderne liv, men spontant klager over, hvor meget de hader at blive lyttet til af deres telefon. Karl siger: "Jeg talte med min mor forleden om hundekloklippere, og annoncen dukkede op på min telefon den aften. Jeg havde min mikrofon slået fra. Jeg har ikke engang en hund!" Hans ven Bob, 48, er endt praktisk talt off-grid, uden computer og en simpel murstens telefon – en politiker ville sikkert kalde ham "ekskluderet" – simpelthen fordi "nogle mennesker kan lide at være private."
Et andet spørgsmål om ansigtsgenkendelsessoftware er: hvor gode er algoritmer til at opdage aggression og mistænkelig adfærd? "Meget af softwaren er pseudovidenskabelig," siger Chaggar. "Så en virksomhed kan forsøge at sælge følelsesdetektion, [påstå] at hvis folk går gennem en togstation, kan man se, om de er vrede eller ved at blive aggressive. Der er meget lidt evidens, der tyder på, at det er præcist. Hvis du er en handicappet person, der bevæger dig anderledes, kan du blive markeret og stå over for en intervention." Men det virkelige spørgsmål for lokale myndigheder og eventuelle statslige aktører er ... Chaggar siger, at folk bør spørge sig selv: "Er du tryg ved, at dine politiske fjender har disse evner? Fordi du bygger en infrastruktur, der er kommet for at blive."
Du kan se dette tydeligt i politiarbejde. Indenrigsministeriet godkendte brugen af ansigtsgenkendelse for over et årti siden, og politiet har "dybest set brugt offentligheden som forsøgskaniner i de sidste 10 år," siger Chaggar. Hvad sker der, når indenrigsministeren fortæller BBC 5 Live, som hun gjorde tidligere i år, at "du kan ikke nyde nogen af dine friheder i noget land, hvis du ikke er sikker"? Denne hårdhændede logik – hvor alle friheder kommer i anden række efter statens rolle som din beskytter – er urovækkende, når den kommer fra en angiveligt venstreorienteret regering. Men den større bekymring er, at dette ikke føles som det rigtige tidspunkt i politik til at satse på overvågningsteknologi, baseret vores accept af den på håbet om, at alle fremtidige regeringer vil være prosociale og demokratiske.
Se billedet i fuld skærm
'Hvis du ikke har noget at skjule, kan jeg ikke se, hvordan det ville være et problem.' Foto: Justin Paget/Getty Images
Hvor end der er potentiale for at indsamle data, rejser det spørgsmålet om, hvem der ejer dem. Bashroush arbejdede tidligere med Internet of Things, Europa-Kommissionens forsøg på at "forbinde den fysiske verden med et digitalt miljø." "Dette var langt tilbage, før vi forlod Europa," husker han. "En af de udfordringer, vi så, var med en leverandør, der dybest set indsamlede affald fra hjem i Holland og derefter optimerede lastbilruter og planlagde baseret på dine vaner. Rådet, der kørte programmet, var meget tilfreds med det og forsøgte at åbne budrunden et år senere for at få en mere konkurrencedygtig pris. Virksomheden sagde: 'Selvfølgelig, men dataene er vores.'" Det problem blev aldrig løst: kontrakterne var dårligt skrevet, og den lokale myndighed mistede dataene.
Hvis du vil se ansigtsgenkendelse gå galt uden nogen autoritær hensigt eller teknisk fidus, skal du bare se på detailsektoren, hvor det allerede er udbredt til at forhindre butikstyveri. "Vi har set fejlidentifikation af politiet," siger Chaggar, "men i detailhandelen, når folk bliver fejlidentificeret, er det kafkaesk. Du bliver bare sortlistet fra butikken."
Og igen, hvor meget bekymrer folk sig egentlig? Hvis du bliver forbudt fra en butik og ikke ved hvorfor; hvis et privat firma har en kontrakt med din NHS-trust, der fremmer teknologi, som endnu ikke er operationel og måske aldrig vil fungere, men ingen fortalte dig – for slet ikke at tale om at spørge dig; hvis indenrigsministeren synes, det er fint, at staten overvåger dig hele tiden – er disse byggestenene til et dystopi, eller minder de os bare om, hvordan vi plejede at beskrive dystopi, før disse overvågningskapaciteter eksisterede?
New Yorker-essayisten Ted Chiang skrev for nogen tid siden om vanen med at projicere negativer over på AI, som faktisk handlede om økonomiske systemer, ikke teknologi. Han konkluderede: "Kapitalismen er den maskine, der vil gøre alt, hvad der kræves for at forhindre os i at slukke den." Projicerer jeg bekymringer over på AI og overvågningsteknologi, der egentlig handler om autoritær politik?
"Tja, hvis du ikke har noget at skjule," siger Sarah, 55, "kan jeg ikke se, hvordan det ville være et problem. Jeg går ud fra, at de også faktisk er lamper?"
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål om AI-drevne smarte lygtepæle, der dækker begynder- til avancerede bekymringer
Begynderniveau spørgsmål
1 Hvad er præcist en AI-drevet smart lygtepæl
Det er en gadelampe med indbyggede sensorer, kameraer og mikrofoner I stedet for bare at tænde om natten kan den indsamle data og bruge AI til at analysere disse data i realtid
2 Hvorfor ville byer ønske at installere disse
Primært for effektivitet De kan dæmpe lyset, når der ikke er nogen i nærheden for at spare energi, opdage skud for at alarmere politiet hurtigere, overvåge trafikpropper og endda finde ledige parkeringspladser De kan også oplade elbiler og tilbyde offentlig WiFi
3 Kan disse lygtepæle faktisk spionere på mig i mit hjem
Nej Kameraerne og sensorerne er rettet mod gaden og offentlige rum, ikke ind i private hjem De er designet til at overvåge offentlige områder, ikke private interiører
4 Optager de video af mig, når jeg går ned ad gaden
Det kan de, men de fleste systemer er designet til at behandle video i realtid uden at gemme optagelserne Nogle byer gemmer dog optagelser i en kort periode Nøglespørgsmålet er, om dataene gemmes eller bare analyseres live
Mellemniveau spørgsmål
5 Hvordan adskiller dette sig fra de overvågningskameraer, der allerede er på hvert gadehjørne
Traditionelle overvågningskameraer optager bare video, som nogen skal se senere AI-lygtepæle er smarte – de kan forstå, hvad de ser For eksempel kan de automatisk alarmere myndighederne, hvis en bil kører den forkerte vej, i stedet for at vente på, at et menneske opdager det på en optagelse
6 Hvem ejer de data, disse lygtepæle indsamler
Det varierer Normalt ejer bystyret rådataene Dog har de private teknologivirksomheder, der bygger systemerne, ofte adgang til anonymiserede data eller AI-algoritmerne Dette er et stort bekymringspunkt for fortalere for privatlivets fred
7 Kan AI genkende mit ansigt
Mange avancerede modeller kan Nogle byer bruger ansigtsgenkendelse til at finde forsvundne personer eller eftersøgte kriminelle Dette er dog meget kontroversielt, og flere byer har forbudt funktionen på grund af bekymringer om privatlivets fred og bias
8 Hvad forhindrer en hacker i at overtage et helt netværk af disse lygtepæle
Dette er en reel sikkerhedsrisiko Hvis et netværk ikke er ordentligt
