Spioner i himlen: hur oroliga bör vi vara över ankomsten av AI-drivna smarta lyktstolpar?

Hur skulle du känna om lyktstolparna på din gata kunde känna igen din bilnummerplåt och ditt ansikte? Kanske skulle du inte ha något emot det, med tanke på hur länge vi har haft automatisk nummerplåtsigenkänning och övervakningskameror. Men tänk om den lyktstolpen kunde driva sig själv med sina egna solpaneler och hitta en annan användning för den extra energi den genererar – det skulle vara bra, eller hur? Det är vad Conflow Power Group (CPG) i Warwickshire hävdar för sina iLamps, de första i sitt slag i Storbritannien.

Tänk om lyktstolpar också kunde inkludera nya AI-funktioner som du inte ens har hört talas om än – som att analysera hur du går eller upptäcka misstänkt beteende? Det är vad organisationen Big Brother Watch är orolig för. Och tänk om inrikesministern redan hade sagt att hon trodde på en "panoptikonstat" – vilket innebär en stat som kan övervaka dig hela tiden (som Shabana Mahmood har gjort) – och tänk om hon fortfarande hade makten när lyktstolparna fick sina uppdateringar? Eller tänk om nästa inrikesminister var ännu mer förtjust i hyperövervakning (svårt att föreställa sig), och gatuequipment redan fanns på plats? Och vad sägs om all data detta skulle samla in – vem skulle äga den?

Det duggar i Warwickshire, där jag hoppas kunna besvara åtminstone några av dessa frågor på sjukhusparkeringen där några av dessa nya "smarta" lyktstolpar har installerats. Men om det inte vore för mig, skulle förmodligen ingen prata om dem, främst för att nästan ingen har hört talas om dem. Inte många vet att iLamp inte bara är soldriven – den kan också "fungera som en intäktsgenererande distribuerad AI-datacenter," enligt CPG, för att inte tala om att förstå vad det innebär. Och ingen, inte ens jag, vet hur mycket av den potentialen som faktiskt har byggts in i den brittiska modellen – bara vad CPG har meddelat: att de har undertecknat ett avtal med regeringen i delstaten Katsina i Nigeria om att leverera 50 000 av dessa iLamps, som har extra övervakningskapacitet för både fordon och ansikten. CPG:s ordförande, Edward Fitzpatrick, berättade för BBC World Service:s Tech Life-program att lyktstolparna så småningom skulle kunna hjälpa till att hitta försvunna personer eller bekämpa brott, men bara om de utvecklas "med relevant myndighet."

CPG säger att de har "behandlats utförligt av världsmedia" och tar inte emot ytterligare frågor, utan hänvisar media till sina online-material. När det gäller lyktstolparna i Warwickshire skickar den lokala kommunen alla frågor till sjukhuset, och sjukhuset svarar inte. Det är förståeligt – det är ett sjukhus.

Ett antal lokala invånare har sökt skydd från regnet vid en busshållplats, de flesta väntar på att en partner ska hämta dem, och många är glada att prata. Karl, 52, som har varit på en närliggande pub, talar för nästan alla när han säger: "Stadskärnan är redan full av kameror, och det är okej. Du har inget emot att de är där om du inte har något otillåtet för dig." Oavsett hur många laddade frågor jag ställer (Tänk om du gjorde något lagligt idag men olagligt om ett år? Tänk om övervakningen blev prediktiv istället för reaktiv? Tänk om du inte ville att någon skulle veta att du hade varit på sjukhuset? Tänk om du inte borde ha varit på en pub? Tycker du inte att du åtminstone borde ha blivit tillfrågad om du ville ha det?), kan jag inte få någon jag pratar med att ändra sin uppfattning om att ansiktsigenkänning är en tolerabel del av livet för en laglydig medborgare.

Tejal, 41, som också väntar vid sjukhusbusshållplatsen, säger: "Jag tror att vi måste gå vidare och acceptera att saker förändras." Hon är radiolog, och att se AI:s kapacitet inom sitt eget område gör henne mycket orolig för AI i allmänhet. "Jag har oro för mina barn," säger hon. Att de inte kommer att hitta ingångsjobb? "Det, och att de kommer att förlora förmågan att fira och finna glädje i de saker vi brukade." Integritetsfrågor verkar faktiskt relativt mindre jämfört med det.

Experter är skeptiska till några av påståendena om smarta lyktstolpar. Jasleen Chaggar, senior juridisk och policyansvarig på Big Brother Watch, säger: "Vi ser detta ganska ofta där lokala kommuner eller andra statliga myndigheter blir ... 'lurade' är ett starkt ord, men de säljs dessa verktyg som trollspön när det finns begränsningar för vad de faktiskt kan göra."

Prof Rabih Bashroush, chef för Centrum för artificiell intelligens och datainnovation vid University of East London, är rak: "AI-datacenter? Det finns absolut ingen chans att detta kommer att fungera: tekniken fungerar inte, det finns inte tillräckligt med ström, och ekonomin går inte ihop ..." Han säger att solkraft för att driva iLamps utanför elnätet kanske skulle fungera i Nigeria, men i Storbritannien är energin som genereras av lyktstolparna "försumbar". Du kanske skulle kunna köra en app som "inte var kritisk, som du inte hade något emot att stänga ner i några dagar" – som att upptäcka om en parkeringsplats var upptagen – men större påståenden om ansiktsigenkänning är "bara hype. Glöm det – detta har ingen framtid."

Om han låter otålig är det för att han är det: "Det blir svårare och svårare att få en oberoende åsikt om saker, eftersom många experter nu arbetar inom industrin, och deras åsikter måste överensstämma med deras organisation," säger han. Så ett företag kan komma med stora påståenden, kasta in några AI-buzzwords, inför en finansieringsrunda; ingenjörer utmanar dem inte, lokala myndigheter förstår dem inte, och ingen annan inser ens att något har förändrats sedan CCTV uppfanns.

Chaggar går långt för att förklara den konceptuella skillnaden mellan ansiktsigenkänning och CCTV: "Ansiktsigenkänning spelar inte bara in passivt något, som CCTV, som du kontrollerar i efterhand. Vad ansiktsigenkänning gör är en realtidsidentitetskontroll: det är mycket mer som ett fingeravtryck eller DNA. Det är inte som ett pass – du kan inte få ett annat ansikte."

Ett annat problem, säger Chaggar, är att "många av dessa teknologier och infrastrukturer kan lägga till funktioner senare. Hammersmith och Fulham [i London] uppdaterar sin CCTV, och det är möjligt att bädda in ansiktsigenkänning, övervaka misstänkt shoppingbeteende eller lägga till aggressionsdetektering. Så du kan bara slå på en strömbrytare, och allt är där över natten." En vän som bor i Fulham råkade skicka en bild på en kamera ovanför en parkeringsskylt – den ser ut som en korsning mellan Darth Vader och en skalbagge, och den surrar när du går förbi, som för att visa att den spårar dina rörelser.

Detta väcker alla gamla integritetsfrågor, och det är intressant hur många människor avfärdar CCTV som ett faktum i det moderna livet, men spontant klagar på hur mycket de hatar att bli avlyssnade av sin telefon. Karl säger: "Jag pratade med min mamma häromdagen om hundkloklippare, och annonsen dök upp på min telefon den kvällen. Jag hade mikrofonen avstängd. Jag har inte ens en hund!" Hans vän Bob, 48, har hamnat praktiskt taget utanför nätet, utan dator och en grundläggande tegelstensmobil – en beslutsfattare skulle förmodligen kalla honom "exkluderad" – helt enkelt för att "vissa människor gillar att vara privata."

En annan fråga om ansiktsigenkänningsprogramvara är: hur bra är algoritmer på att upptäcka aggression och misstänkt beteende? "Mycket av programvaran är pseudovetenskaplig," säger Chaggar. "Så ett företag kan försöka sälja känslodetektering, [påstå att] om människor går genom en tågstation, kan du se om de är arga eller på väg att bli aggressiva. Det finns väldigt lite bevis som tyder på att det är korrekt. Om du är en funktionshindrad person som rör dig annorlunda, kan du bli flaggad och möta en intervention." Men den verkliga frågan för lokala myndigheter och alla statliga agenter är ... Chaggar säger att människor borde fråga sig själva: "Är du bekväm med att dina politiska fiender har dessa förmågor? För du bygger en infrastruktur som är här för att stanna."

Du kan se detta tydligt inom polisarbete. Inrikesdepartementet godkände användningen av ansiktsigenkänning för över ett decennium sedan, och polisen har "i princip använt allmänheten som försökskaniner under de senaste 10 åren," säger Chaggar. Vad händer när inrikesministern säger till BBC 5 Live, som hon gjorde tidigare i år, att "du kan inte njuta av några av dina friheter i något land om du inte är säker"? Denna hårdhänta logik – där alla friheter kommer i andra hand efter statens roll som din beskyddare – är oroande från en påstådd vänsterregering. Men den större oron är att detta inte känns som rätt ögonblick i politiken för att satsa på övervakningsteknik, basera vår acceptans av den på hoppet att alla framtida regeringar kommer att vara prosociala och demokratiska.

Visa bild i fullskärm
'Om du inte har något att dölja, ser jag inte hur det skulle vara ett problem.' Fotografi: Justin Paget/Getty Images

Varhelst det finns potential att samla in data, väcker det frågan om vem som äger den. Bashroush arbetade tidigare med Internet of Things, Europeiska kommissionens ansträngning att "koppla den fysiska världen till en digital miljö." "Detta var långt tillbaka, innan vi lämnade Europa," minns han. "En av utmaningarna vi såg var med en leverantör som i princip samlade in sopor från hem i Nederländerna, och sedan optimerade lastbilsrutter och planerade baserat på dina vanor. Kommunen som drev programmet var mycket nöjd med det och försökte öppna anbudet ett år senare för att få ett mer konkurrenskraftigt pris. Företaget sa, 'Visst, men datan är vår.'" Det problemet löstes aldrig: kontrakten var dåligt skrivna, och den lokala myndigheten förlorade datan.

Om du vill se ansiktsigenkänning gå fel utan någon auktoritär avsikt eller teknisk finess, titta bara på detaljhandelssektorn, där den redan används i stor utsträckning för att förhindra butiksstölder. "Vi har sett felidentifiering av polisen," säger Chaggar, "men inom detaljhandeln, när människor blir felidentifierade, är det kafkaartat. Du blir bara svartlistad från butiken."

Och igen, hur mycket bryr sig människor egentligen? Om du blir avstängd från en butik och inte vet varför; om ett privat företag har ett kontrakt med din NHS-stiftelse, som främjar teknik som inte är operativ ännu och kanske aldrig kommer att fungera, men ingen berättade för dig – än mindre frågade dig; om inrikesministern tycker att det är okej för staten att övervaka dig hela tiden – är dessa byggstenarna i en dystopi, eller påminner de oss bara om hur vi brukade beskriva dystopi innan dessa övervakningsförmågor fanns?

New Yorker-essayisten Ted Chiang skrev för en tid sedan om vanan att projicera på AI negativa aspekter som egentligen handlade om ekonomiska system, inte teknik. Han avslutade: "Kapitalism är maskinen som kommer att göra allt som krävs för att hindra oss från att stänga av den." Projicerar jag på AI och övervakningsteknik ångest som egentligen handlar om auktoritär politik?

"Tja, om du inte har något att dölja," säger Sarah, 55, "kan jag inte se hur det skulle vara ett problem. Jag antar att de faktiskt är lampor också?"



Vanliga frågor
Här är en lista med vanliga frågor om AI-drivna smarta lyktstolpar som täcker frågor från nybörjare till avancerade



Nybörjarfrågor



1 Vad är egentligen en AI-driven smart lyktstolpe

Det är en gatlykta med inbyggda sensorer, kameror och mikrofoner. Istället för att bara tändas på natten kan den samla in data och använda AI för att analysera den datan i realtid.



2 Varför skulle städer vilja installera dessa

Främst för effektivitet. De kan dimmas när ingen är i närheten för att spara energi, upptäcka skottlossning för att larma polisen snabbare, övervaka trafikstockningar och till och med hitta lediga parkeringsplatser. De kan också ladda elfordon och tillhandahålla allmän WiFi.



3 Kan dessa lyktstolpar faktiskt spionera på mig i mitt hem

Nej. Kamerorna och sensorerna är riktade mot gatan och offentliga utrymmen, inte in i privata hem. De är utformade för att övervaka offentliga områden, inte privata interiörer.



4 Spelar de in video av mig när jag går på gatan

Det kan de, men de flesta system är utformade för att bearbeta video i realtid utan att lagra inspelningen. Vissa städer lagrar dock inspelning under en kort period. Den viktiga frågan är om datan sparas eller bara analyseras live.



Medelnivåfrågor



5 Hur skiljer sig detta från CCTV-kamerorna som redan finns vid varje hörn

Traditionell CCTV spelar bara in video som någon måste titta på senare. AI-lyktstolpar är smarta – de kan förstå vad de ser. Till exempel kan de automatiskt larma myndigheter om en bil kör åt fel håll, istället för att vänta på att en människa ska upptäcka det på en inspelning.



6 Vem äger datan som dessa lyktstolpar samlar in

Det varierar. Vanligtvis äger stadens regering rådatan. Men de privata teknikföretagen som bygger systemen har ofta tillgång till anonymiserad data eller AI-algoritmerna. Detta är en stor orospunkt för integritetsförespråkare.



7 Kan AI känna igen mitt ansikte

Många avancerade modeller kan. Vissa städer använder ansiktsigenkänning för att hitta försvunna personer eller efterlysta brottslingar. Detta är dock mycket kontroversiellt och flera städer har förbjudit funktionen på grund av integritets- och partiskhetsproblem.



8 Vad hindrar en hackare från att ta över ett helt nätverk av dessa lyktstolpar

Detta är en verklig säkerhetsrisk. Om ett nätverk inte är ordentligt