Jak byste se cítili, kdyby pouliční lampy ve vaší ulici dokázaly rozpoznat poznávací značku vašeho auta a váš obličej? Možná by vám to nevadilo, vzhledem k tomu, jak dlouho už máme automatické rozpoznávání poznávacích značek a kamerové systémy. Ale co kdyby se tato lampa dokázala napájet vlastními solárními panely a našla další využití pro přebytečnou energii, kterou vyrobí – to by bylo dobré, že? To tvrdí společnost Conflow Power Group (CPG) z Warwickshire o svých iLampách, prvních svého druhu ve Spojeném království.
Co kdyby lampy mohly také obsahovat nové funkce umělé inteligence, o kterých jste ještě ani neslyšeli – například analyzovat způsob, jakým chodíte, nebo odhalovat podezřelé chování? Právě toho se obává organizace Big Brother Watch. A co kdyby ministryně vnitra již dříve řekla, že věří v „panoptický stát“ – tedy stát, který vás může sledovat neustále (jak to učinila Shabana Mahmood) – a co kdyby byla stále ve funkci, až by lampy dostaly své aktualizace? Nebo co kdyby byl příští ministr vnitra ještě více nakloněn hypersledování (těžko si představit) a pouliční vybavení by již bylo na místě? A co všechna data, která by se tím shromáždila – kdo by je vlastnil?
Ve Warwickshire mrholí, kde doufám, že alespoň na některé z těchto otázek najdu odpověď na parkovišti u nemocnice, kde bylo instalováno několik těchto nových „chytrých“ lamp. Ale kdyby nebylo mě, pravděpodobně by o nich nikdo nemluvil, hlavně proto, že o nich téměř nikdo neslyšel. Málokdo ví, že iLampa není jen solárně napájená – podle CPG může také „sloužit jako výdělečné distribuované datové centrum AI“, natož aby chápal, co to znamená. A nikdo, ani já, neví, kolik z tohoto potenciálu bylo skutečně zabudováno do britského modelu – jen to, co CPG oznámila: že podepsala dohodu s vládou státu Katsina v Nigérii na dodávku 50 000 těchto iLampek, které mají další sledovací schopnosti pro vozidla i obličeje. Předseda CPG Edward Fitzpatrick řekl programu BBC World Service Tech Life, že by lampy mohly nakonec pomoci najít pohřešované osoby nebo bojovat proti zločinu, ale pouze pokud budou vyvinuty „s příslušným orgánem“.
CPG uvádí, že byla „rozsáhle pokryta světovými médii“ a nepřijímá další otázky, přičemž média odkazuje na své online materiály. Pokud jde o lampy ve Warwickshire, místní rada posílá všechny dotazy do nemocnice a nemocnice nereaguje. To je pochopitelné – je to nemocnice.
Několik místních obyvatel se schovává před deštěm na autobusové zastávce, většinou čekají, až je někdo vyzvedne, a mnozí jsou ochotni si popovídat. Padesátiletý Karel, který byl v nedaleké hospodě, mluví za téměř všechny, když říká: „Centrum města je už plné kamer a je to v pohodě. Nevadí vám, že tam jsou, pokud neprovádíte nic špatného.“ Bez ohledu na to, kolik záludných otázek položím (Co kdybyste dělali něco legálního, ale za rok by to bylo nelegální? Co kdyby se sledování stalo prediktivním místo reaktivního? Co kdybyste nechtěli, aby někdo věděl, že jste byli v nemocnici? Co kdybyste neměli být v hospodě? Nemyslíte si, že byste měli být alespoň dotázáni, zda to chcete?), nemohu nikoho, s kým mluvím, přimět změnit názor, že rozpoznávání obličejů je pro řádného občana snesitelnou součástí života.
Jedenačtyřicetiletá Tejal, která také čeká na autobusové zastávce u nemocnice, říká: „Myslím, že se musíme posunout dál a přijmout, že se věci mění.“ Je rentgenoložkou a vidět schopnosti AI ve vlastním oboru ji velmi znepokojuje ohledně AI obecně. „Mám obavy o své děti,“ říká. Že nenajdou vstupní zaměstnání? „To, a že ztratí schopnost radovat se a nacházet potěšení z věcí, které jsme mívali my.“ Obavy o soukromí se ve srovnání s tím zdají být relativně menší. Odborníci jsou skeptičtí k některým tvrzením o chytrých lampách. Jasleen Chaggar, vrchní právní a politická pracovnice organizace Big Brother Watch, říká: „Setkáváme se s tím poměrně často, kdy místní rady nebo jiné vládní agentury jsou … ‚podvedeny‘ je silné slovo, ale jsou jim prodávány tyto nástroje jako kouzelné hůlky, přestože existují limity toho, co skutečně dokážou.“
Profesor Rabih Bashroush, ředitel Centra pro umělou inteligenci a datové inovace na University of East London, je přímočarý: „Datová centra AI? Není absolutně žádná šance, že by to fungovalo: technologie nefunguje, není dostatek energie a ekonomika nedává smysl …“ Říká, že solární energie pro provoz iLampek mimo síť by mohla fungovat v Nigérii, ale v Británii je energie generovaná lampami „zanedbatelná“. Možná byste mohli provozovat aplikaci, která „není kritická a nevadilo by vám, kdyby se na pár dní vypnula“ – například detekci, zda je parkovací místo obsazené – ale větší tvrzení o rozpoznávání obličejů jsou „jen humbuk. Zapomeňte na to – tohle nemá budoucnost.“
Pokud zní netrpělivě, je to proto, že je: „Je stále těžší získat nezávislý názor na věci, protože mnoho odborníků nyní pracuje v průmyslu a jejich názory musí být v souladu s jejich organizací,“ říká. Společnost tak může před kolem financování učinit velká tvrzení, přidat pár buzzwordů o AI; inženýři je nezpochybňují, místní úřady jim nerozumí a nikdo jiný si ani neuvědomuje, že se od doby vynálezu kamerových systémů něco změnilo.
Chaggar podrobně vysvětluje koncepční rozdíl mezi rozpoznáváním obličejů a kamerovými systémy: „Rozpoznávání obličejů není jen pasivní nahrávání něčeho, jako kamerový systém, který zkontrolujete až po události. Rozpoznávání obličejů provádí kontrolu totožnosti v reálném čase: je mnohem více jako otisk prstu nebo DNA. Není to jako pas – nemůžete získat jiný obličej.“
Dalším problémem, říká Chaggar, je, že „mnoho z těchto technologií a infrastruktur může později přidávat funkce. Hammersmith a Fulham [v Londýně] aktualizují své kamerové systémy a je možné do nich zabudovat rozpoznávání obličejů, monitorovat podezřelé nákupní chování nebo přidat detekci agrese. Takže stačí přepnout vypínač a je to všechno přes noc hotové.“ Přítel, který žije ve Fulhamu, mi náhodou poslal fotografii kamery nad značkou o parkovacích omezeních – vypadá jako kříženec Dartha Vadera a brouka a při procházení kolem vrčí, jako by dávala najevo, že sleduje vaše pohyby.
To vyvolává všechny staré obavy o soukromí a je zajímavé, kolik lidí odmítá kamerové systémy jako fakt moderního života, ale spontánně si stěžuje, jak nesnášejí, když je jejich telefon poslouchá. Karel říká: „Nedávno jsem mluvil s matkou o kleštičkách na psí drápky a ten večer se mi v telefonu objevila reklama. Měl jsem vypnutý mikrofon. Ani psa nemám!“ Jeho přítel Bob, 48 let, skončil prakticky mimo síť, bez počítače a se základním cihlovým telefonem – politik by ho pravděpodobně nazval „vyloučeným“ – jednoduše proto, že „někteří lidé mají rádi soukromí.“
Další otázka ohledně softwaru pro rozpoznávání obličejů zní: jak dobré jsou algoritmy v detekci agrese a podezřelého chování? „Spousta softwaru je pseudovědecká,“ říká Chaggar. „Společnost se může snažit prodat detekci emocí [s tvrzením], že pokud lidé procházejí vlakovým nádražím, můžete vidět, zda jsou naštvaní nebo se chystají být agresivní. Existuje jen velmi málo důkazů, které by naznačovaly, že je to přesné. Pokud jste zdravotně postižená osoba, která se pohybuje jinak, můžete být označeni a čelit zásahu.“ Ale skutečná otázka pro místní úřady a jakékoli státní agenty je… Chaggar říká, že by si lidé měli položit otázku: „Jste v pohodě s tím, že vaši političtí nepřátelé mají tyto schopnosti? Protože budujete infrastrukturu, která tu zůstane.“
To je jasně vidět v policejní práci. Ministerstvo vnitra schválilo používání rozpoznávání obličejů před více než deseti lety a policie „v podstatě používá veřejnost jako pokusné králíky posledních 10 let,“ říká Chaggar. Co se stane, když ministryně vnitra řekne BBC 5 Live, jak to udělala dříve letos, že „si nemůžete užívat žádné své svobody v žádné zemi, pokud nejste v bezpečí?“ Tato těžkopádná logika – kde všechny svobody ustupují do pozadí před rolí státu jako vašeho ochránce – je znepokojující, pochází-li od údajně levicové vlády. Ale větší obavou je, že toto není správný okamžik v politice k hazardování se sledovací technologií, přičemž naše přijetí zakládáme na naději, že všechny budoucí vlády budou prosociální a demokratické.
Zobrazit obrázek v plné velikosti
„Pokud nemáte co skrývat, nevidím, v čem by to byl problém.“ Fotografie: Justin Paget/Getty Images
Všude, kde je potenciál sbírat data, vyvstává otázka, kdo je vlastní. Bashroush dříve pracoval s Internetem věcí, snahou Evropské komise „propojit fyzický svět s digitálním prostředím.“ „To bylo dávno, před odchodem z Evropy,“ vzpomíná. „Jednou z výzev, kterým jsme čelili, byl dodavatel, který v podstatě sbíral odpadky z domácností v Nizozemsku, pak optimalizoval trasy nákladních vozů a plánoval na základě vašich zvyklostí. Rada, která program provozovala, byla s ním velmi spokojena a o rok později se pokusila otevřít nabídkové řízení, aby získala konkurenceschopnější cenu. Společnost řekla: ‚Jistě, ale data jsou naše.‘“ Tento problém nebyl nikdy vyřešen: smlouvy byly špatně napsané a místní úřad o data přišel.
Pokud chcete vidět, jak rozpoznávání obličejů selže bez jakéhokoli autoritářského záměru nebo technických triků, stačí se podívat na maloobchodní sektor, kde se již široce používá k prevenci krádeží. „Viděli jsme chybnou identifikaci policií,“ říká Chaggar, „ale v maloobchodě, když jsou lidé chybně identifikováni, je to kafkovské. Jste prostě na černé listině obchodu.“
A opět, jak moc lidem skutečně záleží? Pokud jste zakázáni v obchodě a nevíte proč; pokud má soukromá společnost smlouvu s vaším trustem NHS, propaguje technologii, která ještě není funkční a možná nikdy fungovat nebude, ale nikdo vám to neřekl – natož se vás zeptal; pokud si ministryně vnitra myslí, že je v pořádku, aby vás stát sledoval neustále – jsou toto stavební kameny dystopie, nebo nám jen připomínají, jak jsme dystopii popisovali předtím, než tyto sledovací schopnosti existovaly?
Esejista z New Yorkeru Ted Chiang před časem psal o zvyku promítat do AI negativa, která se ve skutečnosti týkala ekonomických systémů, nikoli technologie. Dospěl k závěru: „Kapitalismus je stroj, který udělá cokoli, aby nám zabránil ho vypnout.“ Promítám do AI a sledovací technologie úzkosti, které se ve skutečnosti týkají autoritářské politiky?
„No, pokud nemáte co skrývat,“ říká pětapadesátiletá Sarah, „nevidím, v čem by to byl problém. Předpokládám, že to jsou také skutečné lampy?“
