Jak byś się czuł, gdyby latarnie na twojej ulicy mogły rozpoznawać tablice rejestracyjne twojego samochodu i twoją twarz? Może nie miałbyś nic przeciwko, biorąc pod uwagę, jak długo mamy już automatyczne rozpoznawanie tablic rejestracyjnych i monitoring CCTV. Ale co, gdyby ta latarnia mogła zasilać się własnymi panelami słonecznymi i znaleźć inne zastosowanie dla nadmiaru wyprodukowanej energii – to byłoby dobre, prawda? Tak twierdzi Conflow Power Group (CPG) z Warwickshire w przypadku swoich iLamp, pierwszych tego typu w Wielkiej Brytanii.
Co, gdyby latarnie mogły również zawierać nowe funkcje AI, o których jeszcze nie słyszałeś – takie jak analizowanie sposobu chodzenia czy wykrywanie podejrzanego zachowania? Tego obawia się organizacja Big Brother Watch. A co, gdyby minister spraw wewnętrznych już powiedziała, że wierzy w "państwo panoptykon" – czyli państwo, które może cię obserwować przez cały czas (jak Shabana Mahmood) – i co, gdyby nadal sprawowała władzę, gdy latarnie otrzymają aktualizacje? Albo co, gdyby następny minister spraw wewnętrznych był jeszcze bardziej entuzjastycznie nastawiony do hiperinwigilacji (trudno sobie wyobrazić), a sprzęt uliczny był już na miejscu? A co z wszystkimi danymi, które by to zebrało – kto by je posiadał?
W Warwickshire mży deszcz, gdzie mam nadzieję odpowiedzieć na przynajmniej niektóre z tych pytań na parkingu szpitalnym, na którym zainstalowano kilka z tych nowych "inteligentnych" latarni. Ale gdyby nie ja, prawdopodobnie nikt by o nich nie rozmawiał, głównie dlatego, że prawie nikt o nich nie słyszał. Niewiele osób wie, że iLamp nie tylko jest zasilany energią słoneczną – może również "służyć jako generujące przychody rozproszone centrum danych AI", według CPG, nie mówiąc już o zrozumieniu, co to oznacza. I nikt, nawet ja, nie wie, ile z tego potencjału zostało faktycznie wbudowane w brytyjski model – tylko to, co CPG ogłosiło: że podpisało umowę z rządem stanu Katsina w Nigerii na dostawę 50 000 tych iLamp, które mają dodatkowe możliwości inwigilacji zarówno pojazdów, jak i twarzy. Prezes CPG, Edward Fitzpatrick, powiedział w programie Tech Life BBC World Service, że latarnie mogłyby ostatecznie pomóc w znajdowaniu zaginionych osób lub walce z przestępczością, ale tylko jeśli zostaną opracowane "z odpowiednimi władzami".
CPG twierdzi, że było "szeroko opisywane przez światowe media" i nie odpowiada na dalsze pytania, kierując media do swoich materiałów online. Jeśli chodzi o latarnie w Warwickshire, lokalna rada wysyła wszystkie pytania do szpitala, a szpital nie odpowiada. Trudno się dziwić – to szpital.
Kilku lokalnych mieszkańców schroniło się przed deszczem na przystanku autobusowym, większość czeka na partnera, który ich odbierze, i wielu chętnie rozmawia. Karl, 52 lata, który był w pobliskim pubie, mówi za prawie wszystkich: "Centrum miasta jest już pełne kamer i jest w porządku. Nie masz nic przeciwko nim, chyba że knujesz coś złego." Bez względu na to, ile podchwytliwych pytań zadaję (Co, gdybyś robił coś legalnego dzisiaj, ale nielegalnego za rok? Co, gdyby inwigilacja stała się predykcyjna zamiast reaktywnej? Co, gdybyś nie chciał, żeby ktokolwiek wiedział, że byłeś w szpitalu? Co, gdybyś nie powinien być w pubie? Nie uważasz, że przynajmniej powinieneś zostać zapytany, czy tego chcesz?), nie mogę sprawić, by ktokolwiek, z kim rozmawiam, zmienił zdanie, że rozpoznawanie twarzy jest tolerowaną częścią życia dla przestrzegającego prawa obywatela.
Tejal, 41 lat, również czekająca na przystanku autobusowym przy szpitalu, mówi: "Myślę, że musimy iść naprzód i zaakceptować, że rzeczy się zmieniają." Jest radiologiem i widząc możliwości AI w swojej dziedzinie, bardzo martwi się o AI w ogóle. "Martwię się o moje dzieci" – mówi. Że nie znajdą prac na poziomie podstawowym? "To, a także że stracą zdolność do świętowania i czerpania radości z rzeczy, które my kiedyś mieliśmy." Obawy o prywatność wydają się stosunkowo niewielkie w porównaniu z tym.
Eksperci są sceptyczni wobec niektórych twierdzeń dotyczących inteligentnych latarni. Jasleen Chaggar, starszy prawnik i specjalista ds. polityki w Big Brother Watch, mówi: "Widzimy to dość często, gdy lokalne rady lub inne agencje rządowe są… 'oszukiwane' to mocne słowo, ale sprzedaje się im te narzędzia jako magiczne różdżki, podczas gdy istnieją ograniczenia co do tego, co faktycznie mogą zrobić."
Prof. Rabih Bashroush, dyrektor Centrum Sztucznej Inteligencji i Innowacji Danych na Uniwersytecie Wschodniego Londynu, jest bezpośredni: "Centra danych AI? Nie ma absolutnie żadnej szansy, że to zadziała: technologia nie działa, nie ma wystarczającej mocy, a ekonomia się nie zgadza…" Mówi, że energia słoneczna do zasilania iLamp poza siecią może działać w Nigerii, ale w Wielkiej Brytanii energia generowana przez latarnie jest "znikoma". Można by uruchomić aplikację, która "nie była krytyczna, której nie przeszkadzałoby wyłączenie na kilka dni" – jak wykrywanie, czy miejsce parkingowe jest zajęte – ale większe twierdzenia o rozpoznawaniu twarzy to "tylko szum. Zapomnij o tym – to nie ma przyszłości."
Jeśli brzmi niecierpliwie, to dlatego, że jest: "Coraz trudniej uzyskać niezależną opinię na różne tematy, ponieważ wielu ekspertów pracuje teraz w branży, a ich poglądy muszą być zgodne z ich organizacją" – mówi. Firma może więc składać wielkie obietnice, dorzucając kilka modnych słów o AI, przed rundą finansowania; inżynierowie ich nie kwestionują, lokalne władze ich nie rozumieją, a nikt inny nawet nie zdaje sobie sprawy, że cokolwiek się zmieniło od czasu wynalezienia CCTV.
Chaggar szczegółowo wyjaśnia koncepcyjną różnicę między rozpoznawaniem twarzy a CCTV: "Rozpoznawanie twarzy nie polega tylko na biernym nagrywaniu czegoś, jak CCTV, które sprawdzasz po fakcie. Rozpoznawanie twarzy to sprawdzanie tożsamości w czasie rzeczywistym: jest znacznie bardziej podobne do odcisku palca lub DNA. To nie jest jak paszport – nie możesz dostać innej twarzy."
Innym problemem, mówi Chaggar, jest to, że "wiele z tych technologii i infrastruktur może później dodawać funkcje. Hammersmith i Fulham [w Londynie] aktualizują swoje CCTV i możliwe jest osadzenie rozpoznawania twarzy, monitorowanie podejrzanych zachowań zakupowych lub dodanie wykrywania agresji. Więc wystarczy przełączyć przełącznik i wszystko jest gotowe z dnia na dzień." Znajomy mieszkający w Fulham przypadkowo wysłał zdjęcie kamery nad znakiem ograniczeń parkingowych – wygląda jak skrzyżowanie Dartha Vadera z żukiem i buczy, gdy przechodzisz obok, jakby pokazywała, że śledzi twoje ruchy.
To rodzi wszystkie stare obawy o prywatność i interesujące jest, jak wiele osób odrzuca CCTV jako fakt współczesnego życia, ale spontanicznie narzeka, jak bardzo nienawidzi być podsłuchiwanym przez swój telefon. Karl mówi: "Rozmawiałem ostatnio z matką o obcinaczach do pazurów dla psów i tego wieczoru pojawiła się reklama na moim telefonie. Miałem wyłączony mikrofon. Nawet nie mam psa!" Jego przyjaciel Bob, 48 lat, praktycznie zszedł z sieci, nie ma komputera i ma podstawowy telefon z klawiaturą – polityk prawdopodobnie nazwałby go "wykluczonym" – po prostu dlatego, że "niektórzy ludzie lubią prywatność."
Kolejne pytanie dotyczące oprogramowania do rozpoznawania twarzy brzmi: jak dobre są algorytmy w wykrywaniu agresji i podejrzanego zachowania? "Wiele z tego oprogramowania jest pseudonaukowe" – mówi Chaggar. "Firma może próbować sprzedać wykrywanie emocji, [twierdząc], że jeśli ludzie przechodzą przez stację kolejową, można zobaczyć, czy są źli, czy mają zamiar stać się agresywni. Jest bardzo mało dowodów na to, że jest to dokładne. Jeśli jesteś osobą niepełnosprawną, która porusza się inaczej, możesz zostać oznaczony i spotkać się z interwencją." Ale prawdziwe pytanie dla lokalnych władz i wszelkich agentów państwowych brzmi… Chaggar mówi, że ludzie powinni zadać sobie pytanie: "Czy czujesz się komfortowo, mając swoich politycznych wrogów wyposażonych w te możliwości? Ponieważ budujesz infrastrukturę, która zostanie na stałe."
Widać to wyraźnie w policji. Ministerstwo Spraw Wewnętrznych zatwierdziło użycie rozpoznawania twarzy ponad dekadę temu, a policja "zasadniczo używała społeczeństwa jako królików doświadczalnych przez ostatnie 10 lat" – mówi Chaggar. Co się dzieje, gdy minister spraw wewnętrznych mówi BBC 5 Live, jak zrobiła to wcześniej w tym roku, że "nie możesz cieszyć się żadnymi ze swoich wolności w żadnym kraju, jeśli nie jesteś bezpieczny"? Ta ciężka logika – gdzie wszystkie wolności są podporządkowane roli państwa jako twojego opiekuna – jest niepokojąca, pochodząca od rzekomo lewicowego rządu. Ale większym zmartwieniem jest to, że nie wydaje się to odpowiednim momentem w polityce, aby ryzykować technologią inwigilacyjną, opierając naszą akceptację na nadziei, że wszystkie przyszłe rządy będą prospołeczne i demokratyczne.
Zobacz obraz w pełnym rozmiarze
„Jeśli nie masz nic do ukrycia, nie widzę, jak to miałoby być problemem.” Fotografia: Justin Paget/Getty Images
Wszędzie tam, gdzie istnieje potencjał do zbierania danych, pojawia się pytanie, kto jest ich właścicielem. Bashroush pracował kiedyś z Internetem Rzeczy, wysiłkiem Komisji Europejskiej, aby "połączyć świat fizyczny ze środowiskiem cyfrowym". "To było dawno temu, przed opuszczeniem Europy" – wspomina. "Jednym z wyzwań, które widzieliśmy, był dostawca, który zasadniczo zbierał śmieci z domów w Holandii, a następnie optymalizował trasy ciężarówek i planował na podstawie twoich nawyków. Rada prowadząca program była bardzo zadowolona i próbowała rok później otworzyć przetarg, aby uzyskać bardziej konkurencyjną cenę. Firma powiedziała: 'Jasne, ale dane są nasze.'" Ta kwestia nigdy nie została rozwiązana: umowy były źle napisane, a lokalna władza straciła dane.
Jeśli chcesz zobaczyć, jak rozpoznawanie twarzy idzie źle bez żadnych autorytarnych intencji lub technicznych sztuczek, spójrz na sektor detaliczny, gdzie jest już szeroko stosowane do zapobiegania kradzieżom sklepowym. "Widzieliśmy błędną identyfikację przez policję" – mówi Chaggar – "ale w handlu detalicznym, gdy ludzie są błędnie identyfikowani, to jest jak u Kafki. Jesteś po prostu umieszczany na czarnej liście sklepu."
I znowu, jak bardzo ludzi to naprawdę obchodzi? Jeśli jesteś zbanowany w sklepie i nie wiesz dlaczego; jeśli prywatna firma ma umowę z twoim NHS Trust, promując technologię, która jeszcze nie działa i może nigdy nie zadziałać, ale nikt ci nie powiedział – a tym bardziej nie zapytał; jeśli minister spraw wewnętrznych uważa, że to w porządku, by państwo obserwowało cię przez cały czas – czy to elementy budowania dystopii, czy tylko przypominają nam, jak opisywaliśmy dystopię, zanim istniały te możliwości inwigilacji?
Eseista z New Yorkera, Ted Chiang, pisał jakiś czas temu o nawyku projektowania na AI negatywów, które tak naprawdę dotyczyły systemów ekonomicznych, a nie technologii. Podsumował: "Kapitalizm to maszyna, która zrobi wszystko, aby uniemożliwić nam jej wyłączenie." Czy projektuję na AI i technologię inwigilacyjną obawy, które tak naprawdę dotyczą autorytarnej polityki?
"Cóż, jeśli nie masz nic do ukrycia" – mówi Sarah, 55 lat – "nie widzę, jak to miałoby być problemem. Zakładam, że to jednak są też lampy?"
Często zadawane pytania
Oto lista często zadawanych pytań dotyczących inteligentnych latarni zasilanych AI, obejmująca zagadnienia od podstawowych do zaawansowanych
Pytania na poziomie podstawowym
1 Czym dokładnie jest inteligentna latarnia zasilana AI
To latarnia uliczna z wbudowanymi czujnikami, kamerami i mikrofonami Zamiast tylko włączać się w nocy, może zbierać dane i używać AI do analizowania tych danych w czasie rzeczywistym
2 Dlaczego miasta chciałyby je instalować
Głównie dla wydajności Mogą przyciemniać się, gdy nikogo nie ma w pobliżu, aby oszczędzać energię, wykrywać strzały, aby szybciej powiadamiać policję, monitorować korki, a nawet znajdować wolne miejsca parkingowe Mogą również ładować pojazdy elektryczne i zapewniać publiczne WiFi
3 Czy te latarnie mogą mnie szpiegować w moim domu
Nie Kamery i czujniki są skierowane na ulicę i przestrzenie publiczne, a nie do prywatnych domów Są zaprojektowane do monitorowania obszarów publicznych, a nie prywatnych wnętrz
4 Czy nagrywają wideo, gdy idę ulicą
Mogą, ale większość systemów jest zaprojektowana do przetwarzania wideo w czasie rzeczywistym bez przechowywania nagrań Jednak niektóre miasta przechowują nagrania przez krótki okres Kluczowe pytanie brzmi, czy dane są zapisywane, czy tylko analizowane na żywo
Pytania na poziomie średniozaawansowanym
5 Czym to się różni od kamer CCTV, które są już na każdym rogu
Tradycyjne CCTV tylko nagrywa wideo, które ktoś musi później obejrzeć Latarnie AI są inteligentne – mogą rozumieć, co widzą Na przykład mogą automatycznie powiadamiać władze, jeśli samochód jedzie pod prąd, zamiast czekać, aż człowiek zauważy to na nagraniu
6 Kto jest właścicielem danych zbieranych przez te latarnie
To zależy Zazwyczaj surowe dane należą do miasta Jednak prywatne firmy technologiczne, które budują systemy, często mają dostęp do anonimowych danych lub algorytmów AI To jest główny punkt obaw dla obrońców prywatności
7 Czy AI może rozpoznać moją twarz
Wiele zaawansowanych modeli może Niektóre miasta używają rozpoznawania twarzy do znajdowania zaginionych osób lub poszukiwanych przestępców Jest to jednak wysoce kontrowersyjne i kilka miast zakazało tej funkcji ze względu na obawy o prywatność i stronniczość
8 Co powstrzymuje hakera przed przejęciem całej sieci tych latarni
To realne ryzyko bezpieczeństwa Jeśli sieć nie jest odpowiednio
