Vakoilijat taivaalla: kuinka huolissamme meidän tulisi olla tekoälyllä toimivien älykkäiden katuvalaisinten saapumisesta?

Miltä sinusta tuntuisi, jos katulamput kadullasi tunnistaisivat autosi rekisterikilven ja kasvosi? Ehkä et välittäisi, ottaen huomioon, kuinka kauan meillä on ollut automaattinen rekisterikilven tunnistus ja valvontakamerat. Mutta entä jos tuo katulamppu voisi tuottaa itse sähkönsä omilla aurinkopaneeleillaan ja löytää muuta käyttöä ylimääräiselle energialle, jota se tuottaa – sehän olisi hyvä, eikö? Näin väittää Conflow Power Group (CPG) Warwickshiressä iLamppuistaan, jotka ovat ensimmäisiä laatuaan Isossa-Britanniassa.

Entä jos katulamput voisivat sisältää myös uusia tekoälyominaisuuksia, joista et ole vielä edes kuullut – kuten analysoida tapaasi kävellä tai havaita epäilyttävää käytöstä? Siitä Big Brother Watch -järjestö on huolissaan. Ja entä jos sisäministeri olisi jo sanonut uskovansa "panopticon-valtioon" – eli valtioon, joka voisi tarkkailla sinua koko ajan (kuten Shabana Mahmood on tehnyt) – ja entä jos hän olisi edelleen vallassa, kun katulamput saisivat päivityksensä? Tai entä jos seuraava sisäministeri olisi vielä innostuneempi hypervalvonnasta (vaikea kuvitella), ja katulaitteet olisivat jo paikoillaan? Entä kaikki tämä kerättävä data – kuka omistaisi sen?

Warwickshiressä tihuttaa, ja toivon saavani vastauksia ainakin joihinkin näistä kysymyksistä sairaalan parkkipaikalla, jonne on asennettu joitakin näitä uusia "älykkäitä" katulamppuja. Mutta jos minua ei olisi, kukaan ei luultavasti puhuisi niistä, lähinnä siksi, että tuskin kukaan on kuullut niistä. Harva tietää, että iLamppu ei ole vain aurinkovoimalla toimiva – se voi myös "toimia tuloja tuottavana hajautettuna tekoälydatakeskuksena", CPG:n mukaan, puhumattakaan siitä, että ymmärtäisi, mitä se tarkoittaa. Eikä kukaan, edes minä, tiedä, kuinka paljon tästä potentiaalista on todella rakennettu Ison-Britannian malliin – vain sen, mitä CPG on ilmoittanut: että se on allekirjoittanut sopimuksen Nigerian Katsinan osavaltion hallituksen kanssa toimittaakseen 50 000 tällaista iLamppua, joissa on lisävalvontaominaisuuksia sekä ajoneuvoille että kasvoille. CPG:n puheenjohtaja Edward Fitzpatrick kertoi BBC World Servicen Tech Life -ohjelmalle, että katulamput voisivat lopulta auttaa kadonneiden henkilöiden löytämisessä tai rikollisuuden torjunnassa, mutta vain jos niitä kehitetään "asianomaisen viranomaisen kanssa".

CPG sanoo, että se on saanut "laajasti huomiota maailmanlaajuisessa mediassa", eikä vastaa lisäkysymyksiin, vaan ohjaa median verkkosivustonsa materiaaleihin. Mitä tulee Warwickshiren katulamppuihin, paikallinen valtuusto ohjaa kaikki kysymykset sairaalalle, eikä sairaala vastaa. Ihan ymmärrettävää – se on sairaala.

Joukkopaikallisia asukkaita on hakeutunut sateensuojaan bussipysäkille, useimmat odottavat kumppania noutamaan heitä, ja monet ovat halukkaita juttelemaan. Karl, 52, joka on ollut läheisessä pubissa, puhuu lähes kaikkien puolesta sanoessaan: "Keskusta on jo täynnä kameroita, ja se on ihan ok. Et välitä niiden olemassaolosta, ellet ole tekemässä jotain luvatonta." Riippumatta siitä, kuinka monta johdattelevaa kysymystä esitän (Entä jos tekisit tänään jotain laillista, mutta vuoden päästä se olisi laitonta? Entä jos valvonnasta tulisi ennakoivaa reagoivan sijaan? Entä jos et haluaisi kenenkään tietävän, että olet käynyt sairaalassa? Entä jos sinun ei pitäisi olla pubissa? Eikö mielestäsi sinulta olisi ainakin pitänyt kysyä, haluatko sitä?), en saa ketään puhumistani ihmisistä muuttamaan käsitystään siitä, että kasvojentunnistus on siedettävä osa lainkuuliaisen kansalaisen elämää.

Tejal, 41, myös odottamassa sairaalan bussipysäkillä, sanoo: "Mielestäni meidän on mentävä eteenpäin ja hyväksyttävä, että asiat muuttuvat." Hän on radiologi, ja tekoälyn kykyjen näkeminen omalla alallaan tekee hänet hyvin ahdistuneeksi tekoälystä yleensä. "Minulla on huolia lasteni puolesta", hän sanoo. Että he eivät löydä perustason töitä? "Sitä, ja että he menettävät kyvyn juhlia ja löytää iloa asioista, joista me ennen nautimme." Yksityisyyshuolet vaikuttavat melko vähäisiltä verrattuna siihen.

Asiantuntijat suhtautuvat skeptisesti joihinkin älykkäistä katulampuista tehtyihin väitteisiin. Jasleen Chaggar, Big Brother Watchin vanhempi lakiasiain- ja politiikka-asiantuntija, sanoo: "Näemme tätä melko usein, että paikalliset valtuustot tai muut valtion virastot ovat ... 'huijattuja' on vahva sana, mutta heille myydään näitä työkaluja taikasauvoina, vaikka niiden todellisilla kyvyillä on rajoja."

Prof Rabih Bashroush, Itä-Lontoon yliopiston tekoäly- ja datainnovaatiokeskuksen johtaja, on suorasanainen: "Tekoälydatakeskuksia? Ei ole mitään mahdollisuutta, että tämä toimisi: teknologia ei toimi, virtaa ei ole tarpeeksi, eikä talouslaskelmat pidä ..." Hän sanoo, että aurinkovoima iLamppujen käyttämiseen irti verkosta saattaisi toimia Nigeriassa, mutta Britanniassa katulamppujen tuottama energia on "mitätöntä". Saatat pystyä pyörittämään sovellusta, joka "ei ollut kriittinen, jota ei haitannut sammuttaa muutamaksi päiväksi" – kuten havaitsemaan, onko parkkipaikka varattu – mutta suuremmat väitteet kasvojentunnistuksesta ovat "vain hypeä. Unohda se – tällä ei ole tulevaisuutta."

Jos hän kuulostaa kärsimättömältä, se johtuu siitä, että hän on: "On yhä vaikeampaa saada riippumaton mielipide asioista, koska monet asiantuntijat työskentelevät nyt alalla, ja heidän näkemyksensä on oltava linjassa heidän organisaationsa kanssa", hän sanoo. Joten yritys saattaa tehdä suuria väitteitä, heittäen joukkoon muutaman tekoälyn muotisanan, ennen rahoituskierrosta; insinöörit eivät haasta niitä, paikalliset viranomaiset eivät ymmärrä niitä, eikä kukaan muu edes tajua, että mikään on muuttunut sitten valvontakameroiden keksimisen.

Chaggar selittää perusteellisesti käsitteellisen eron kasvojentunnistuksen ja valvontakameroiden välillä: "Kasvojentunnistus ei ole vain passiivista tallentamista, kuten valvontakamerat, joita tarkistat jälkikäteen. Mitä kasvojentunnistus tekee, on reaaliaikainen henkilöllisyyden tarkistus: se on paljon enemmän kuin sormenjälki tai DNA. Se ei ole kuin passi – et voi saada toisia kasvoja."

Toinen ongelma, Chaggar sanoo, on, että "moniin näihin teknologioihin ja infrastruktuureihin voidaan lisätä toimintoja myöhemmin. Hammersmith ja Fulham [Lontoossa] päivittävät valvontakameroitaan, ja on mahdollista upottaa kasvojentunnistus, seurata epäilyttävää ostoskäyttäytymistä tai lisätä aggression tunnistus. Joten voit vain kääntää kytkintä, ja kaikki on siellä yhdessä yössä." Ystävä, joka asuu Fulhamissa, sattui lähettämään kuvan kamerasta pysäköintirajoituskyltin yläpuolella – se näyttää risteykseltä Darth Vaderin ja kovakuoriaisen välillä, ja se surisee, kun kävelet ohi, ikään kuin osoittaakseen seuraavansa liikkeitäsi.

Tämä herättää kaikki vanhat yksityisyyshuolet, ja on mielenkiintoista, kuinka monet ihmiset ohittavat valvontakamerat tosiasiana nykyaikaisessa elämässä, mutta valittavat spontaanisti siitä, kuinka paljon he vihaavat, että heidän puhelimensa kuuntelee heitä. Karl sanoo: "Puhuin äitini kanssa toissapäivänä koiran kynsileikkureista, ja mainos tuli puhelimeeni samana iltana. Mikrofonini oli pois päältä. Minulla ei ole edes koiraa!" Hänen ystävänsä Bob, 48, on päätynyt käytännössä irti verkosta, ilman tietokonetta ja perus tiiliskivipuhelimella – poliittinen päättäjä kutsuisi häntä luultavasti "syrjäytyneeksi" – yksinkertaisesti siksi, että "jotkut ihmiset haluavat olla yksityisiä."

Toinen kysymys kasvojentunnistusohjelmistosta on: kuinka hyviä algoritmit ovat havaitsemaan aggressiota ja epäilyttävää käytöstä? "Suuri osa ohjelmistosta on pseudotieteellistä", Chaggar sanoo. "Joten yritys saattaa yrittää myydä tunnetunnistusta, [väittäen], että jos ihmiset kävelevät rautatieaseman läpi, voit nähdä, ovatko he vihaisia tai aikeissa tulla aggressiivisiksi. On hyvin vähän näyttöä siitä, että se olisi tarkkaa. Jos olet vammainen henkilö, joka liikkuu eri tavalla, saatat tulla merkityksi ja kohdata toimenpiteen." Mutta todellinen kysymys paikallisille viranomaisille ja kaikille valtion toimijoille on... Chaggar sanoo, että ihmisten pitäisi kysyä itseltään: "Oletko mukava sen kanssa, että poliittisilla vihollisillasi on nämä kyvyt? Koska rakennat infrastruktuuria, joka on täällä pysyäkseen."

Näet tämän selvästi poliisitoiminnassa. Sisäministeriö hyväksyi kasvojentunnistuksen käytön yli vuosikymmen sitten, ja poliisi on "olennaisesti käyttänyt yleisöä marsuina viimeiset 10 vuotta", Chaggar sanoo. Mitä tapahtuu, kun sisäministeri kertoo BBC 5 Livelle, kuten hän teki aiemmin tänä vuonna, että "et voi nauttia mistään vapauksistasi missään maassa, jos et ole turvassa"? Tämä raskas logiikka – jossa kaikki vapaudet tulevat toisena valtion roolin jälkeen suojelijana – on huolestuttavaa tullessaan väitetysti vasemmistolaiselta hallitukselta. Mutta suurempi huolenaihe on, että tämä ei tunnu oikealta hetkeltä politiikassa panostaa valvontateknologiaan, perustaen hyväksyntämme sille toivolle, että kaikki tulevat hallitukset ovat yhteiskunnallisia ja demokraattisia.

'Jos sinulla ei ole mitään salattavaa, en näe, miten se olisi ongelma.' Valokuva: Justin Paget/Getty Images

Missä tahansa on potentiaalia kerätä dataa, se herättää kysymyksen siitä, kuka sen omistaa. Bashroush työskenteli aiemmin esineiden internetin parissa, Euroopan komission pyrkimyksessä "yhdistää fyysinen maailma digitaaliseen ympäristöön". "Tämä oli kauan sitten, ennen Euroopasta lähtöä", hän muistelee. "Yksi haasteista, joita kohtasimme, oli toimittajan kanssa, joka periaatteessa keräsi roskia kodeista Alankomaissa ja optimoi sitten rekkareittejä ja suunnitteli tottumustesi perusteella. Ohjelmaa pyörittävä valtuusto oli erittäin tyytyväinen siihen ja yritti avata tarjouskilpailun vuotta myöhemmin saadakseen kilpailukykyisemmän hinnan. Yritys sanoi: 'Totta kai, mutta data on meidän.'" Tätä ongelmaa ei koskaan ratkaistu: sopimukset oli huonosti kirjoitettu, ja paikallinen viranomainen menetti datan.

Jos haluat nähdä kasvojentunnistuksen menevän pieleen ilman autoritaarista tarkoitusta tai teknistä temppuilua, katso vain vähittäiskauppasektoria, jossa sitä käytetään jo laajalti estämään myymälävarkauksia. "Olemme nähneet virheellisiä tunnistuksia poliisin toimesta", Chaggar sanoo, "mutta vähittäiskaupassa, kun ihmisiä tunnistetaan väärin, se on kafkamaista. Sinut vain asetetaan mustalle listalle kaupassa."

Ja taas, kuinka paljon ihmiset todella välittävät? Jos sinut on kielletty kaupasta etkä tiedä miksi; jos yksityisellä yrityksellä on sopimus NHS-säätiösi kanssa, mainostaen teknologiaa, joka ei ole vielä toiminnassa eikä ehkä koskaan toimi, mutta kukaan ei kertonut sinulle – saati kysynyt sinulta; jos sisäministeri ajattelee, että on ok, että valtio tarkkailee sinua koko ajan – ovatko nämä dystopian rakennuspalikoita, vai muistuttavatko ne meitä vain siitä, miten kuvailimme dystopiaa ennen kuin nämä valvontakyvyt olivat olemassa?

New Yorkerin esseisti Ted Chiang kirjoitti jokin aika sitten tavasta projisoida tekoälyyn negatiivisia asioita, jotka todella koskivat talousjärjestelmiä, eivät teknologiaa. Hän päätteli: "Kapitalismi on kone, joka tekee kaikkensa estääkseen meitä sammuttamasta sitä." Projisoinko tekoälyyn ja valvontateknologiaan ahdistuksia, jotka todella koskevat autoritaarista politiikkaa?

"No, jos sinulla ei ole mitään salattavaa", sanoo Sarah, 55, "en näe, miten se olisi ongelma. Oletan, että ne ovat myös oikeasti lamppuja?"

**Usein kysytyt kysymykset**
Tässä on lista usein kysytyistä kysymyksistä tekoälyllä varustetuista älykkäistä katulampuista, kattaen aloittelijoiden ja edistyneiden tason huolenaiheita.

**Aloittelijatason kysymykset**

1. **Mikä tarkalleen on tekoälyllä varustettu älykäs katulamppu?**
Se on katuvalo, jossa on sisäänrakennetut anturit, kamerat ja mikrofonit. Sen sijaan, että se syttyisi vain yöllä, se voi kerätä dataa ja käyttää tekoälyä analysoidakseen sitä reaaliajassa.

2. **Miksi kaupungit haluaisivat asentaa näitä?**
Lähinnä tehokkuuden vuoksi. Ne voivat himmentää, kun kukaan ei ole lähellä, säästääkseen energiaa, havaita laukauksia hälyttääkseen poliisia nopeammin, seurata liikenneruuhkia ja jopa löytää tyhjiä parkkipaikkoja. Ne voivat myös ladata sähköajoneuvoja ja tarjota julkista WiFiä.

3. **Voivatko nämä katulamput todella vakoilla minua kotona?**
Ei. Kamerat ja anturit on suunnattu kadulle ja julkisiin tiloihin, eivät yksityisiin koteihin. Ne on suunniteltu valvomaan julkisia alueita, eivät yksityisiä sisätiloja.

4. **Tallentavatko ne videota minusta, kun kävelen kadulla?**
Ne voivat, mutta useimmat järjestelmät on suunniteltu käsittelemään videota reaaliajassa tallentamatta materiaalia. Jotkut kaupungit kuitenkin tallentavat materiaalia lyhyeksi ajaksi. Keskeinen kysymys on, tallennetaanko data vai analysoidaanko se vain livenä.

**Keskitasoiset kysymykset**

5. **Miten tämä eroaa valvontakameroista, jotka ovat jo joka kulmalla?**
Perinteiset valvontakamerat vain tallentavat videota, jota jonkun on katsottava myöhemmin. Tekoälylamput ovat älykkäitä – ne voivat ymmärtää, mitä näkevät. Esimerkiksi ne voivat automaattisesti hälyttää viranomaisia, jos auto ajaa väärään suuntaan, sen sijaan että odotettaisiin ihmisen huomaavan se tallenteelta.

6. **Kuka omistaa datan, jota nämä katulamput keräävät?**
Se vaihtelee. Yleensä kaupungin hallitus omistaa raakadatan. Kuitenkin yksityisillä teknologiayrityksillä, jotka rakentavat järjestelmät, on usein pääsy anonymisoituun dataan tai tekoälyalgoritmeihin. Tämä on merkittävä huolenaihe yksityisyyden puolustajille.

7. **Voiko tekoäly tunnistaa kasvoni?**
Monet edistyneet mallit voivat. Jotkut kaupungit käyttävät kasvojentunnistusta kadonneiden henkilöiden tai etsittyjen rikollisten löytämiseen. Tämä on kuitenkin erittäin kiistanalaista, ja useat kaupungit ovat kieltäneet ominaisuuden yksityisyys- ja harhaan liittyvien huolenaiheiden vuoksi.

8. **Mikä estää hakkeria ottamasta haltuunsa kokonaista verkkoa näitä katulamppuja?**
Tämä on todellinen turvallisuusriski. Jos verkkoa ei ole kunnolla suojattu, se voi olla haavoittuvainen.