Hogy éreznéd magad, ha az utcádban lévő lámpaoszlopok felismernék az autód rendszámát és az arcodat? Talán nem bánnád, tekintve, hogy milyen régóta használunk automata rendszámfelismerőt és térfigyelő kamerákat. De mi lenne, ha az a lámpaoszlop saját napelemeivel tudná táplálni magát, és a megtermelt többletenergiának más felhasználást találna – az jó lenne, igaz? Ezt állítja a Warwickshire-i Conflow Power Group (CPG) az iLampjairól, amelyek az elsők a maguk nemében az Egyesült Királyságban.
Mi lenne, ha a lámpaoszlopok olyan új AI-funkciókat is tartalmaznának, amelyekről még nem is hallottál – például elemeznék a járásodat, vagy észlelnék a gyanús viselkedést? A Big Brother Watch szervezet pontosan emiatt aggódik. És mi lenne, ha a belügyminiszter már kijelentette volna, hogy hisz egy "panoptikum államban" – vagyis egy olyan államban, amely folyamatosan figyelhet téged (ahogy Shabana Mahmood tette) –, és még mindig ő lenne a posztján, amikor a lámpaoszlopok frissítéseket kapnának? Vagy mi lenne, ha a következő belügyminiszter még lelkesebb lenne a hiper-megfigyelés iránt (ezt nehéz elképzelni), és az utcai berendezések már a helyükön lennének? És mi lenne azzal a rengeteg adattal, amit ez gyűjtene – kié lenne?
Warwickshire-ben szemerkél az eső, ahol remélem, hogy legalább néhány ilyen kérdésre választ kapok a kórház parkolójában, ahol néhány ilyen új "okos" lámpaoszlopot telepítettek. De ha nem lennék itt, valószínűleg senki sem beszélne róluk, főleg azért, mert alig hallott róluk valaki. Kevesen tudják, hogy az iLamp nem csak napelemes – a CPG szerint "megduplázható bevételt termelő elosztott AI adatközpontként is funkcionálhat", nem is beszélve arról, hogy ez mit jelent. És senki, még én sem tudom, hogy ebből a potenciálból mennyit építettek be ténylegesen a brit modellbe – csak azt, amit a CPG bejelentett: hogy megállapodást írt alá a nigériai Katsina állam kormányával 50 000 ilyen iLamp szállításáról, amelyek további megfigyelési képességekkel rendelkeznek járművek és arcok számára egyaránt. A CPG elnöke, Edward Fitzpatrick a BBC World Service Tech Life műsorában elmondta, hogy a lámpaoszlopok végső soron segíthetnek eltűnt személyek megtalálásában vagy a bűnözés elleni küzdelemben, de csak akkor, ha "az illetékes hatósággal" együttműködve fejlesztik őket.
A CPG azt állítja, hogy "széles körben foglalkozott vele a világsajtó", és nem válaszol további kérdésekre, az online anyagaihoz irányítva a médiát. Ami a warwickshire-i lámpaoszlopokat illeti, a helyi önkormányzat minden kérdést a kórházhoz továbbít, a kórház pedig nem válaszol. Teljesen érthető – ez egy kórház.
Számos helyi lakos húzódott be egy buszmegállóba az eső elől, legtöbben arra várva, hogy a partnerük felvegye őket, és sokan szívesen beszélgetnek. Karl, 52 éves, aki a közeli kocsmában volt, szinte mindenki nevében beszél, amikor azt mondja: "A városközpont már így is tele van kamerákkal, és ez rendben van. Nem bánod, hogy ott vannak, hacsak nem csinálsz valami rosszat." Akármennyi súlyos kérdést teszek fel (Mi van, ha ma valami legálisat csinálsz, ami egy év múlva illegális lesz? Mi van, ha a megfigyelés előrejelzővé válik a reaktív helyett? Mi van, ha nem akarod, hogy bárki is tudja, hogy a kórházban jártál? Mi van, ha nem lett volna szabad a kocsmában lenned? Nem gondolod, hogy legalább meg kellett volna kérdezniük, hogy akarod-e?), senkit sem tudok rávenni, hogy megváltoztassa a véleményét arról, hogy az arcfelismerés egy törvénytisztelő polgár számára az élet elviselhető része.
Tejal, 41 éves, szintén a kórház buszmegállójában vár, azt mondja: "Szerintem tovább kell lépnünk, és el kell fogadnunk, hogy a dolgok változnak." Radiológus, és látva az AI képességeit a saját területén, nagyon szorong az AI általában véve. "Aggódom a gyerekeim miatt" – mondja. Hogy nem találnak majd belépő szintű állásokat? "Az is, és hogy elveszítik a képességüket, hogy ünnepeljenek és örömöt találjanak azokban a dolgokban, amiket mi szoktunk." Az adatvédelmi aggályok ehhez képest viszonylag kisebbnek tűnnek.
A szakértők szkeptikusak az okos lámpaoszlopokkal kapcsolatos néhány állítással kapcsolatban. Jasleen Chaggar, a Big Brother Watch vezető jogi és politikai tisztviselője azt mondja: "Elég gyakran látjuk, hogy a helyi önkormányzatok vagy más kormányzati szervek... 'átverve' – erős szó, de eladják nekik ezeket az eszközöket varázspálcaként, miközben korlátai vannak annak, amit ténylegesen tudnak."
Rabih Bashroush professzor, a Kelet-Londoni Egyetem Mesterséges Intelligencia és Adatinnovációs Központjának igazgatója nyers: "AI adatközpontok? Abszolút semmi esély, hogy ez működni fog: a technológia nem működik, nincs elég energia, és a gazdaságosság sem jön ki..." Azt mondja, hogy a napelemes energia az iLampok hálózaton kívüli működtetéséhez Nigériában működhet, de Nagy-Britanniában a lámpaoszlopok által termelt energia "elhanyagolható". Lehet, hogy futtathatsz egy olyan alkalmazást, ami "nem kritikus fontosságú, és nem bánod, ha néhány napra leáll" – mint például annak érzékelése, hogy egy parkolóhely foglalt-e –, de az arcfelismeréssel kapcsolatos nagyobb állítások "csak felhajtás. Felejtsd el – ennek nincs jövője."
Ha türelmetlennek hangzik, az azért van, mert az is: "Egyre nehezebb független véleményt kapni a dolgokról, mert sok szakértő ma már az iparban dolgozik, és a nézeteiknek összhangban kell lenniük a szervezetükkel" – mondja. Tehát egy cég nagy állításokat tehet, bedobva néhány AI-buzzwordöt, egy finanszírozási kör előtt; a mérnökök nem vitatják őket, a helyi hatóságok nem értik őket, és senki más nem is veszi észre, hogy bármi változott volna a térfigyelő kamerák feltalálása óta.
Chaggar nagy erőfeszítéseket tesz, hogy elmagyarázza a fogalmi különbséget az arcfelismerés és a CCTV között: "Az arcfelismerés nem csak passzívan rögzít valamit, mint a CCTV, amit utólag ellenőrzöl. Az arcfelismerés valós idejű személyazonosság-ellenőrzést végez: sokkal inkább hasonlít az ujjlenyomathoz vagy a DNS-hez. Nem olyan, mint egy útlevél – nem kapsz másik arcot."
Egy másik probléma Chaggar szerint, hogy "ezek a technológiák és infrastruktúrák később is hozzáadhatnak funkciókat. Hammersmith és Fulham [Londonban] frissíti a CCTV-rendszerét, és lehetséges arcfelismerést beágyazni, gyanús vásárlási viselkedést figyelni, vagy agresszióérzékelést hozzáadni. Szóval csak át kell kapcsolni egy kapcsolót, és egyik napról a másikra minden ott van." Egy Fulhamben élő barátom véletlenül küldött egy képet egy kameráról egy parkolási korlátozást jelző tábla felett – úgy néz ki, mint Darth Vader és egy bogár keresztezése, és zúg, ahogy elmész mellette, mintha mutatná, hogy követi a mozgásodat.
Ez felveti a régi adatvédelmi aggályokat, és érdekes, hogy sokan elintézik a CCTV-t a modern élet tényeként, de spontán panaszkodnak arról, mennyire utálják, hogy a telefonjuk hallgatja őket. Karl azt mondja: "A minap a kutyakörömvágókról beszéltem anyámmal, és aznap este feljött a hirdetés a telefonomon. Ki volt kapcsolva a mikrofon. Még kutyám sincs!" A barátja, Bob, 48 éves, gyakorlatilag a hálózaton kívülre került, nincs számítógépe, és egy alap téglatelefonja van – egy döntéshozó valószínűleg "kirekesztettnek" nevezné – egyszerűen azért, mert "vannak, akik szeretnek privátak lenni."
Egy másik kérdés az arcfelismerő szoftverrel kapcsolatban: mennyire jók az algoritmusok az agresszió és a gyanús viselkedés észlelésében? "A szoftver nagy része áltudományos" – mondja Chaggar. "Tehát egy cég megpróbálhat érzelemfelismerést eladni, [azt állítva], hogy ha emberek sétálnak át egy vasútállomáson, láthatod, hogy dühösek-e, vagy agresszívvé válnak-e. Nagyon kevés bizonyíték van arra, hogy ez pontos. Ha egy fogyatékkal élő személy vagy, aki másképp mozog, megjelölhetnek, és beavatkozással szembesülhetsz." De a valódi kérdés a helyi hatóságok és bármely állami szereplő számára az... Chaggar szerint az embereknek fel kell tenniük maguknak a kérdést: "Kényelmesen érzed magad azzal, hogy a politikai ellenségeid rendelkeznek ezekkel a képességekkel? Mert egy olyan infrastruktúrát építesz, ami itt marad."
Ezt tisztán láthatod a rendészetben. A Belügyminisztérium több mint egy évtizede hagyta jóvá az arcfelismerés használatát, és a rendőrség "lényegében az elmúlt 10 évben tengerimalacként használta a nyilvánosságot" – mondja Chaggar. Mi történik, amikor a belügyminiszter azt mondja a BBC 5 Live-nak, ahogyan azt idén tette, hogy "nem élvezheted a szabadságjogaidat egyetlen országban sem, ha nem vagy biztonságban"? Ez a nehézkes logika – ahol minden szabadság másodlagos az állam védelmező szerepe mögött – nyugtalanító egy állítólag baloldali kormánytól. De a nagyobb aggodalom az, hogy ez nem tűnik a megfelelő politikai pillanatnak arra, hogy a megfigyelési technológiára fogadjunk, az elfogadásunkat arra a reményre alapozva, hogy minden jövőbeli kormány társadalmi és demokratikus lesz.
Teljes képernyős kép megtekintése
'Ha nincs mit rejtegetned, nem látom, hogy ez probléma lenne.' Fotó: Justin Paget/Getty Images
Ahol van lehetőség adatgyűjtésre, felmerül a kérdés, hogy kié az adat. Bashroush korábban a Dolgok Internetével dolgozott, az Európai Bizottság azon erőfeszítésével, hogy "összekapcsolja a fizikai világot egy digitális környezettel". "Ez még jóval azelőtt volt, hogy elhagytuk volna Európát" – emlékszik vissza. "Az egyik kihívás, amivel szembesültünk, egy beszállítóval kapcsolatos volt, aki lényegében szemetet gyűjtött a hollandiai otthonokból, majd optimalizálta a teherautók útvonalait és tervezett a szokásaid alapján. A programot működtető önkormányzat nagyon elégedett volt vele, és egy évvel később megpróbálta újra meghirdetni a pályázatot, hogy versenyképesebb árat kapjon. A cég azt mondta: 'Persze, de az adatok a miénk.'" Ezt a problémát soha nem oldották meg: a szerződések rosszul voltak megírva, és a helyi hatóság elvesztette az adatokat.
Ha látni akarod, hogy az arcfelismerés hogyan romlik el autoriter szándék vagy technológiai trükközés nélkül, csak nézz a kiskereskedelmi szektorra, ahol már széles körben használják a bolti lopások megelőzésére. "Láttunk téves azonosítást a rendőrség részéről" – mondja Chaggar –, "de a kiskereskedelemben, amikor az embereket tévesen azonosítják, az kafkai. Egyszerűen feketelistára kerülsz az üzletben."
És ismét: mennyire törődnek ezzel az emberek? Ha kitiltanak egy üzletből, és nem tudod, miért; ha egy magáncégnek szerződése van az NHS-trösztöddel, olyan technológiát népszerűsítve, ami még nem működik, és talán soha nem is fog, de senki sem mondta el neked – nemhogy megkérdezett volna; ha a belügyminiszter szerint rendben van, hogy az állam folyamatosan figyeljen téged – ezek egy disztópia építőkövei, vagy csak arra emlékeztetnek minket, hogyan írtuk le a disztópiát, mielőtt ezek a megfigyelési képességek léteztek?
A New Yorker esszéistája, Ted Chiang egy ideje arról írt, hogy az AI-ra vetítjük ki azokat a negatívumokat, amelyek valójában a gazdasági rendszerekről szóltak, nem a technológiáról. Arra a következtetésre jutott: "A kapitalizmus az a gép, amely bármit megtesz, hogy megakadályozzon minket a kikapcsolásában." Az AI-ra és a megfigyelési technológiára vetítem ki azokat a szorongásokat, amelyek valójában az autoriter politikáról szólnak?
"Hát, ha nincs mit rejtegetned" – mondja Sarah, 55 éves – "nem látom, hogy ez probléma lenne. Feltételezem, hogy ezek ténylegesen lámpák is, igaz?"
Gyakran Ismételt Kérdések
Itt található egy lista a gyakran ismételt kérdésekről az AI-alapú okos lámpaoszlopokkal kapcsolatban, kezdőtől a haladó szintű aggályokig.
Kezdő Szintű Kérdések
1 Mi is pontosan az AI-alapú okos lámpaoszlop
Ez egy utcai lámpa beépített érzékelőkkel, kamerákkal és mikrofonokkal. Ahelyett, hogy csak éjszaka kapcsolna be, képes adatokat gyűjteni és AI segítségével valós időben elemezni azokat.
2 Miért akarnának a városok ilyeneket telepíteni
Főleg a hatékonyság miatt. Lecsökkenthetik a fényerőt, ha nincs senki a közelben, hogy energiát takarítsanak meg, észlelhetik a lövéseket, hogy gyorsabban riasszák a rendőrséget, figyelhetik a forgalmi dugókat, és akár szabad parkolóhelyeket is találhatnak. Tölthetnek elektromos járműveket és biztosíthatnak nyilvános Wi-Fi-t.
3 Kémkedhetnek ezek a lámpaoszlopok utánam az otthonomban
Nem. A kamerák és érzékelők az utcára és a nyilvános terekre irányulnak, nem a magánlakásokba. Úgy tervezték őket, hogy a nyilvános területeket figyeljék, nem a magánbelsőket.
4 Rögzítenek videót arról, ahogy az utcán sétálok
Rögzíthetnek, de a legtöbb rendszert úgy tervezték, hogy valós időben dolgozza fel a videót anélkül, hogy a felvételt tárolná. Egyes városok azonban rövid ideig tárolják a felvételeket. A kulcskérdés az, hogy az adatokat elmentik-e, vagy csak élőben elemzik.
Középhaladó Szintű Kérdések
5 Miben különbözik ez a már minden sarkon lévő CCTV kameráktól
A hagyományos CCTV csak videót rögzít, amit valakinek később meg kell néznie. Az AI lámpaoszlopok okosak – megértik, amit látnak. Például automatikusan riaszthatják a hatóságokat, ha egy autó rossz irányba halad, ahelyett, hogy megvárnák, amíg egy ember észreveszi egy felvételen.
6 Kié az adat, amit ezek a lámpaoszlopok gyűjtenek
Változó. Általában a városi önkormányzaté a nyers adat. Azonban a rendszereket építő magán technológiai cégek gyakran hozzáférnek anonimizált adatokhoz vagy az AI algoritmusokhoz. Ez az adatvédelmi aktivisták fő aggodalmának egyik pontja.
7 Felismerheti az AI az arcomat
Sok fejlett modell képes erre. Egyes városok arcfelismerést használnak eltűnt személyek vagy körözött bűnözők megtalálására. Ez azonban erősen vitatott, és több város betiltotta ezt a funkciót az adatvédelmi és elfogultsági aggályok miatt.
8 Mi akadályozza meg, hogy egy hacker átvegye az irányítást ezeknek a lámpaoszlopoknak a teljes hálózata felett
Ez egy valós biztonsági kockázat. Ha egy hálózat nincs megfelelően
