Hvordan ville du følt det hvis gatelyktene i gaten din kunne gjenkjenne bilskiltet og ansiktet ditt? Kanskje du ikke ville brydd deg, gitt hvor lenge vi har hatt automatisk skiltgjenkjenning og overvåkningskameraer. Men hva om den gatelykten kunne drive seg selv med sine egne solcellepaneler, og finne en annen bruk for eventuell ekstra energi den genererer – det ville vært bra, ikke sant? Det er det Conflow Power Group (CPG) i Warwickshire hevder om sine iLamper, de første av sitt slag i Storbritannia.
Hva om gatelykter også kunne inkludere nye AI-funksjoner du ikke engang har hørt om ennå – som å analysere måten du går på eller oppdage mistenkelig atferd? Det er det organisasjonen Big Brother Watch er bekymret for. Og hva om innenriksministeren allerede hadde sagt at hun trodde på en "panoptisk stat" – altså en stat som kunne overvåke deg til enhver tid (slik Shabana Mahmood har gjort) – og hva om hun fortsatt hadde ansvaret når gatelyktene fikk oppdateringene sine? Eller hva om den neste innenriksministeren var enda mer ivrig etter hyperovervåking (vanskelig å forestille seg), og gateutstyret allerede var på plass? Og hva med alle dataene dette ville samle inn – hvem ville eid dem?
Det duskregner i Warwickshire, hvor jeg håper å få svar på i det minste noen av disse spørsmålene på sykehusparkeringen der noen av disse nye "smarte" gatelyktene er installert. Men hvis det ikke var for meg, ville sannsynligvis ingen snakket om dem, hovedsakelig fordi nesten ingen har hørt om dem. Ikke mange vet at iLampen ikke bare er solcelledrevet – den kan også "fungere som et inntektsgenererende distribuert AI-datasenter," ifølge CPG, for ikke å snakke om å forstå hva det betyr. Og ingen, ikke engang jeg, vet hvor mye av det potensialet som faktisk er bygget inn i den britiske modellen – bare hva CPG har annonsert: at de har signert en avtale med regjeringen i Katsina-staten i Nigeria om å levere 50 000 av disse iLampene, som har ekstra overvåkingskapasitet for både kjøretøy og ansikter. CPGs styreleder, Edward Fitzpatrick, fortalte BBC World Services Tech Life-program at gatelyktene til slutt kunne hjelpe med å finne savnede personer eller bekjempe kriminalitet, men bare hvis de utvikles "med relevant myndighet."
CPG sier de har blitt "omfattende dekket av verdensomspennende medier" og tar ikke flere spørsmål, og henviser media til nettmateriellet deres. Når det gjelder gatelyktene i Warwickshire, sender lokalkommunen alle spørsmål til sykehuset, og sykehuset svarer ikke. Greit nok – det er et sykehus.
Flere lokale beboere har søkt ly for regnet i en busskur, de fleste venter på at en partner skal hente dem, og mange er glade for å prate. Karl, 52, som har vært på en nærliggende pub, snakker for nesten alle når han sier: "Sentrum er allerede fullt av kameraer, og det er greit. Du bryr deg ikke om at de er der med mindre du har noe ugang for." Uansett hvor mange ladede spørsmål jeg stiller (Hva om du gjorde noe lovlig i dag, men ulovlig om et år? Hva om overvåkingen ble prediktiv i stedet for reaktiv? Hva om du ikke ville at noen skulle vite at du hadde vært på sykehuset? Hva om du ikke skulle være på en pub? Synes du ikke du i det minste burde ha blitt spurt om du ville ha det?), kan jeg ikke få noen jeg snakker med til å endre synet på at ansiktsgjenkjenning er en tolerabel del av livet for en lovlydig borger.
Tejal, 41, som også venter ved sykehusbusskuret, sier: "Jeg tror vi må gå videre og akseptere at ting endrer seg." Hun er radiolog, og det å se AIs evner innen hennes eget felt gjør henne veldig engstelig for AI generelt. "Jeg har bekymringer for barna mine," sier hun. At de ikke vil finne inngangsjobber? "Det, og at de vil miste evnen til å feire og finne glede i tingene vi pleide å gjøre." Personvernbekymringer virker relativt små sammenlignet med det.
Eksperter er skeptiske til noen av påstandene som blir fremsatt om smarte gatelykter. Jasleen Chaggar, senior juridisk og politisk ansvarlig i Big Brother Watch, sier: "Vi ser dette ganske ofte, der lokale kommuner eller andre offentlige etater blir ... 'lurt' er et sterkt ord, men de blir solgt disse verktøyene som tryllestaver når det er begrensninger for hva de faktisk kan gjøre."
Prof Rabih Bashroush, direktør for Senter for kunstig intelligens og datainnovasjon ved University of East London, er direkte: "AI-datasentre? Det er absolutt ingen sjanse for at dette vil fungere: teknologien fungerer ikke, det er ikke nok strøm, og økonomien går ikke opp ..." Han sier at solkraft for å drive iLampene utenfor strømnettet kanskje kan fungere i Nigeria, men i Storbritannia er energien som genereres av gatelyktene "ubetydelig". Du kan kanskje kjøre en app som "ikke var kritisk, som du ikke hadde noe imot å slå av i noen dager" – som å oppdage om en parkeringsplass var opptatt – men større påstander om ansiktsgjenkjenning er "bare hype. Glem det – dette har ingen fremtid."
Hvis han høres utålmodig ut, er det fordi han er det: "Det blir vanskeligere og vanskeligere å få en uavhengig mening om ting, fordi mange eksperter nå jobber i bransjen, og deres synspunkter må samsvare med organisasjonen deres," sier han. Så et selskap kan komme med store påstander, kaste inn noen AI-buzzord, før en finansieringsrunde; ingeniører utfordrer dem ikke, lokale myndigheter forstår dem ikke, og ingen andre innser engang at noe har endret seg siden CCTV ble oppfunnet.
Chaggar går langt i å forklare den konseptuelle forskjellen mellom ansiktsgjenkjenning og CCTV: "Ansiktsgjenkjenning er ikke bare passivt å registrere noe, som CCTV, som du sjekker i etterkant. Det ansiktsgjenkjenning gjør er en sanntids identitetssjekk: det er mye mer som et fingeravtrykk eller DNA. Det er ikke som et pass – du kan ikke få et annet ansikt."
Et annet problem, sier Chaggar, er at "mye av disse teknologiene og infrastrukturene kan legge til funksjoner senere. Hammersmith og Fulham [i London] oppdaterer CCTV-en sin, og det er mulig å bygge inn ansiktsgjenkjenning, overvåke mistenkelig handleatferd, eller legge til aggresjonsdeteksjon. Så du kan bare slå på en bryter, og alt er der over natten." En venn som bor i Fulham, sendte tilfeldigvis et bilde av et kamera over et skilt med parkeringsrestriksjoner – det ser ut som en krysning mellom Darth Vader og en bille, og det surrer når du går forbi, som for å vise at det sporer bevegelsene dine.
Dette reiser alle de gamle personvernbekymringene, og det er interessant hvor mange som avfeier CCTV som et faktum i det moderne livet, men spontant klager over hvor mye de hater å bli lyttet til av telefonen sin. Karl sier: "Jeg snakket med moren min om hundekloklippere her om dagen, og annonsen dukket opp på telefonen min den kvelden. Jeg hadde mikrofonen av. Jeg har ikke engang hund!" Hans venn Bob, 48, har endt opp praktisk talt utenfor nettet, uten datamaskin og med en enkel mursteinsmobil – en politiker ville sannsynligvis kalt ham "ekskludert" – rett og slett fordi "noen mennesker liker å være private."
Et annet spørsmål om ansiktsgjenkjenningsprogramvare er: hvor gode er algoritmer til å oppdage aggresjon og mistenkelig atferd? "Mye av programvaren er pseudovitenskapelig," sier Chaggar. "Så et selskap kan prøve å selge følelsesdeteksjon, [og hevde] at hvis folk går gjennom en togstasjon, kan du se om de er sinte eller i ferd med å bli aggressive. Det er svært lite bevis som tyder på at det er nøyaktig. Hvis du er en funksjonshemmet person som beveger seg annerledes, kan du bli flagget og møte en intervensjon." Men det virkelige spørsmålet for lokale myndigheter og eventuelle statlige aktører er ... Chaggar sier folk bør spørre seg selv: "Er du komfortabel med at dine politiske fiender har disse egenskapene? Fordi du bygger en infrastruktur som er her for å bli."
Du kan se dette tydelig i politiarbeid. Innenriksdepartementet godkjente bruken av ansiktsgjenkjenning for over et tiår siden, og politiet har "i hovedsak brukt publikum som forsøkskaniner de siste 10 årene," sier Chaggar. Hva skjer når innenriksministeren forteller BBC 5 Live, som hun gjorde tidligere i år, at "du kan ikke nyte noen av frihetene dine i noe land hvis du ikke er trygg"? Denne hardhendte logikken – der alle friheter kommer i andre rekke etter statens rolle som din beskytter – er urovekkende fra en angivelig venstreorientert regjering. Men den større bekymringen er at dette ikke føles som det rette øyeblikket i politikken for å satse på overvåkingsteknologi, og basere vår aksept av den på håpet om at alle fremtidige regjeringer vil være prososiale og demokratiske.
Vis bilde i fullskjerm
'Hvis du ikke har noe å skjule, ser jeg ikke hvordan det skulle være et problem.' Foto: Justin Paget/Getty Images
Uansett hvor det er potensial for å samle inn data, reiser det spørsmålet om hvem som eier dem. Bashroush jobbet tidligere med tingenes internett, EU-kommisjonens forsøk på å "koble den fysiske verden til et digitalt miljø." "Dette var lenge siden, før vi forlot Europa," husker han. "En av utfordringene vi så var med en leverandør som i utgangspunktet samlet inn søppel fra hjem i Nederland, og deretter optimaliserte lastebilruter og planla basert på vanene dine. Kommunen som drev programmet var veldig fornøyd med det og prøvde å åpne anbudet et år senere for å få en mer konkurransedyktig pris. Selskapet sa: 'Selvfølgelig, men dataene er våre.'" Det problemet ble aldri løst: kontraktene var dårlig skrevet, og lokale myndigheter mistet dataene.
Hvis du vil se ansiktsgjenkjenning gå galt uten noen autoritær hensikt eller teknologisk lureri, se bare på detaljhandelen, hvor det allerede er mye brukt for å forhindre butikktyveri. "Vi har sett feilidentifikasjon av politiet," sier Chaggar, "men i detaljhandelen, når folk blir feilidentifisert, er det kafkaesque. Du blir bare svartelistet fra butikken."
Og igjen, hvor mye bryr folk seg egentlig? Hvis du blir utestengt fra en butikk og ikke vet hvorfor; hvis et privat selskap har en kontrakt med din NHS-tillit, og promoterer teknologi som ikke er operativ ennå og kanskje aldri vil fungere, men ingen fortalte deg – for ikke å snakke om å spørre deg; hvis innenriksministeren synes det er greit at staten overvåker deg til enhver tid – er disse byggesteinene i et dystopisk samfunn, eller minner de oss bare om hvordan vi pleide å beskrive dystopi før disse overvåkingsegenskapene eksisterte?
New Yorker-essayisten Ted Chiang skrev for en tid siden om vanen med å projisere på AI negative sider som egentlig handlet om økonomiske systemer, ikke teknologi. Han konkluderte: "Kapitalismen er maskinen som vil gjøre hva som helst for å hindre oss i å slå den av." Projiserer jeg på AI og overvåkingsteknologi bekymringer som egentlig handler om autoritær politikk?
"Vel, hvis du ikke har noe å skjule," sier Sarah, 55, "kan jeg ikke se hvordan det skulle være et problem. Jeg antar at de faktisk også er lamper?"
Ofte stilte spørsmål
Her er en liste over vanlige spørsmål om AI-drevne smarte gatelykter som dekker bekymringer fra nybegynnernivå til avansert nivå
Spørsmål på nybegynnernivå
1 Hva er egentlig en AI-drevet smart gatelykt
Det er en gatelykt med innebygde sensorer, kameraer og mikrofoner. I stedet for bare å slå seg på om natten, kan den samle inn data og bruke AI til å analysere disse dataene i sanntid.
2 Hvorfor ville byer ønske å installere disse
Hovedsakelig for effektivitet. De kan dimme når ingen er i nærheten for å spare energi, oppdage skudd for å varsle politiet raskere, overvåke trafikkorker og til og med finne ledige parkeringsplasser. De kan også lade elbiler og tilby offentlig WiFi.
3 Kan disse gatelyktene faktisk spionere på meg i hjemmet mitt
Nei. Kameraene og sensorene er rettet mot gaten og offentlige rom, ikke inn i private hjem. De er designet for å overvåke offentlige områder, ikke private interiører.
4 Tar de opp video av meg når jeg går nedover gaten
Det kan de, men de fleste systemer er designet for å behandle video i sanntid uten å lagre opptakene. Noen byer lagrer imidlertid opptak i en kort periode. Nøkkelspørsmålet er om dataene lagres eller bare analyseres live.
Spørsmål på mellomnivå
5 Hvordan skiller dette seg fra CCTV-kameraene som allerede er på hvert gatehjørne
Tradisjonell CCTV tar bare opp video som noen må se på senere. AI-gatelykter er smarte – de kan forstå hva de ser. For eksempel kan de automatisk varsle myndighetene hvis en bil kjører feil vei, i stedet for å vente på at et menneske skal oppdage det på et opptak.
6 Hvem eier dataene disse gatelyktene samler inn
Det varierer. Vanligvis eier bystyret rådataene. Imidlertid har de private teknologiselskapene som bygger systemene ofte tilgang til anonymiserte data eller AI-algoritmene. Dette er et stort bekymringspunkt for personvernforkjempere.
7 Kan AI-en gjenkjenne ansiktet mitt
Mange avanserte modeller kan det. Noen byer bruker ansiktsgjenkjenning for å finne savnede personer eller ettersøkte kriminelle. Dette er imidlertid svært kontroversielt, og flere byer har forbudt funksjonen på grunn av personvern- og skjevhetsbekymringer.
8 Hva hindrer en hacker i å ta over et helt nettverk av disse gatelyktene
Dette er en reell sikkerhetsrisiko. Hvis et nettverk ikke er forsvarlig
