Ето превода на текста от английски на български:
Как бихте се почувствали, ако уличните лампи на вашата улица можеха да разпознаят регистрационния номер на колата ви и лицето ви? Може би няма да ви притесни, предвид колко отдавна имаме автоматично разпознаване на номера и видеонаблюдение. Но какво ще кажете, ако тази улична лампа можеше да се захранва сама чрез собствените си слънчеви панели и да намери друго приложение за излишната енергия, която генерира – това би било добре, нали? Точно това твърди Conflow Power Group (CPG) в Уорикшър за своите iLamps, първите по рода си във Великобритания.
Какво ще стане, ако уличните лампи могат да включват и нови AI функции, за които дори не сте чували – като анализиране на начина, по който ходите, или засичане на подозрително поведение? Точно това тревожи организацията Big Brother Watch. А какво ще стане, ако министърът на вътрешните работи вече е казал, че вярва в "паноптикум държава" – тоест държава, която може да ви наблюдава по всяко време (както направи Шабана Махмуд) – и ако тя все още е на поста, когато уличните лампи получат своите актуализации? Или какво ще стане, ако следващият министър на вътрешните работи е още по-привърженик на хипернаблюдението (трудно е да си представим) и уличното оборудване вече е на място? А какво да кажем за всички данни, които това би събрало – кой ще ги притежава?
В Уорикшър ръми, където се надявам да отговоря поне на някои от тези въпроси в болничния паркинг, където са инсталирани някои от тези нови "умни" улични лампи. Но ако не беше аз, вероятно никой нямаше да говори за тях, главно защото почти никой не е чувал за тях. Малко хора знаят, че iLamp не е само със слънчево захранване – може също така да "служи като генериращ приходи разпределен AI център за данни", според CPG, камо ли да разбират какво означава това. И никой, дори и аз, не знае колко от този потенциал всъщност е вграден в модела за Обединеното кралство – само това, което CPG е обявило: че е подписало споразумение с правителството на щата Кацина в Нигерия за доставка на 50 000 от тези iLamps, които имат допълнителни възможности за наблюдение както на превозни средства, така и на лица. Председателят на CPG, Едуард Фицпатрик, каза пред програмата Tech Life на BBC World Service, че уличните лампи в крайна сметка биха могли да помогнат за намирането на изчезнали хора или за борба с престъпността, но само ако бъдат разработени "със съответния орган".
CPG заявява, че е "широко отразявана от световните медии" и не приема допълнителни въпроси, като насочва медиите към онлайн материалите си. Що се отнася до уличните лампи в Уорикшър, местният съвет изпраща всички въпроси към болницата, а болницата не отговаря. Разбираемо – това е болница.
Няколко местни жители са се подслонили от дъжда на автобусна спирка, повечето чакат партньор да ги вземе, и много от тях са склонни да поговорят. Карл, на 52 години, който е бил в близкия пъб, казва от името на почти всички: "Центърът на града вече е пълен с камери и това е добре. Нямаш нищо против те да са там, освен ако не вършиш нещо лошо." Колкото и натоварени въпроси да задавам (Ами ако правиш нещо законно днес, но незаконно след година? Ами ако наблюдението стане превантивно вместо реактивно? Ами ако не искаш никой да знае, че си бил в болницата? Ами ако не трябва да си в пъб? Не мислиш ли, че поне трябва да те попитат дали го искаш?), не мога да накарам никого от тези, с които говоря, да промени мнението си, че разпознаването на лица е търпима част от живота на законосъобразния гражданин.
Теджал, на 41 години, също чакаща на болничната автобусна спирка, казва: "Мисля, че трябва да продължим напред и да приемем, че нещата се променят." Тя е радиолог и виждането на възможностите на AI в нейната собствена област я кара да се тревожи много за AI като цяло. "Имам притеснения за децата си", казва тя. Че няма да намерят начални работни места? "Това, и че ще загубят способността да празнуват и да намират радост от нещата, които ние използвахме." Притесненията за поверителност изглеждат сравнително маловажни в сравнение с това.
Експертите са скептични относно някои от твърденията за умните улични лампи. Яслен Чагър, старши служител по правни и политически въпроси в Big Brother Watch, казва: "Виждаме това доста често, когато местни съвети или други държавни агенции са ... 'измамени' е силна дума, но им продават тези инструменти като вълшебни пръчки, когато има ограничения за това, което всъщност могат да направят."
Проф. Рабих Башруш, директор на Центъра за изкуствен интелект и иновации в данните в Източнолондонския университет, е прям: "AI центрове за данни? Абсолютно никакъв шанс това да проработи: технологията не функционира, няма достатъчно енергия и икономиката не се събира..." Той казва, че слънчевата енергия за захранване на iLamps извън мрежата може да работи в Нигерия, но във Великобритания енергията, генерирана от уличните лампи, е "пренебрежима". Може да успеете да пуснете приложение, което "не е критично за мисията, което не ви притеснява да спре за няколко дни" – като откриване дали място за паркиране е заето – но по-големите твърдения за разпознаване на лица са "просто реклама. Забравете – това няма бъдеще."
Ако звучи нетърпеливо, то е защото е: "Става все по-трудно да се получи независимо мнение за нещата, защото много експерти сега работят в индустрията и техните възгледи трябва да съвпадат с тяхната организация", казва той. Така че една компания може да направи големи твърдения, добавяйки няколко AI модни думи, преди кръг на финансиране; инженерите не ги оспорват, местните власти не ги разбират и никой друг дори не осъзнава, че нещо се е променило, откакто е изобретено видеонаблюдението.
Чагър полага големи усилия, за да обясни концептуалната разлика между разпознаването на лица и видеонаблюдението: "Разпознаването на лица не е просто пасивно записване на нещо, като видеонаблюдението, което проверяваш след факта. Това, което прави разпознаването на лица, е проверка на самоличността в реално време: много по-скоро е като пръстов отпечатък или ДНК. Не е като паспорт – не можете да получите друго лице."
Друг проблем, казва Чагър, е, че "много от тези технологии и инфраструктури могат да добавят функции по-късно. Хамерсмит и Фулъм [в Лондон] актуализират своето видеонаблюдение и е възможно да се вгради разпознаване на лица, да се наблюдава подозрително пазаруване или да се добави откриване на агресия. Така че можете просто да превключите ключа и всичко е там за една нощ." Приятел, който живее във Фулъм, случайно изпрати снимка на камера над знак за ограничения за паркиране – изглежда като кръстоска между Дарт Вейдър и бръмбар и бръмчи, когато минавате покрай нея, сякаш за да покаже, че проследява движенията ви.
Това повдига всички стари притеснения за поверителността и е интересно колко много хора отхвърлят видеонаблюдението като факт от съвременния живот, но спонтанно се оплакват колко мразят да бъдат подслушвани от телефона си. Карл казва: "Говорех с майка ми онзи ден за ножици за кучешки нокти и рекламата се появи на телефона ми същата вечер. Микрофонът ми беше изключен. Дори нямам куче!" Неговият приятел Боб, на 48 години, на практика е извън мрежата, без компютър и с основен тухлен телефон – политик вероятно би го нарекъл "изключен" – просто защото "някои хора обичат да са частни."
Друг въпрос относно софтуера за разпознаване на лица е: колко добри са алгоритмите в откриването на агресия и подозрително поведение? "Голяма част от софтуера е псевдонаучен", казва Чагър. "Така че една компания може да се опита да продаде откриване на емоции, [твърдейки], че ако хората вървят през жп гара, можете да видите дали са ядосани или ще станат агресивни. Има много малко доказателства, които да предполагат, че е точно. Ако сте човек с увреждания, който се движи по различен начин, може да бъдете маркирани и да се сблъскате с намеса." Но истинският въпрос за местните власти и всички държавни агенти е... Чагър казва, че хората трябва да се запитат: "Чувствате ли се комфортно вашите политически врагове да имат тези възможности? Защото изграждате инфраструктура, която остава."
Можете да видите това ясно в полицейската работа. Министерството на вътрешните работи одобри използването на разпознаване на лица преди повече от десетилетие и полицията "по същество използва обществеността като морски свинчета през последните 10 години", казва Чагър. Какво се случва, когато министърът на вътрешните работи каже на BBC 5 Live, както направи по-рано тази година, че "не можете да се наслаждавате на никоя от свободите си в никоя държава, ако не сте в безопасност"? Тази тежка логика – където всички свободи са на второ място след ролята на държавата като ваш защитник – е обезпокоителна, идваща от уж ляво правителство. Но по-голямото притеснение е, че това не изглежда като подходящия момент в политиката да се рискува с технология за наблюдение, основавайки приемането й на надеждата, че всички бъдещи правителства ще бъдат просоциални и демократични.
Вижте изображение на цял екран
"Ако нямате какво да криете, не виждам как би било проблем." Снимка: Justin Paget/Getty Images
Където и да има потенциал за събиране на данни, възниква въпросът кой ги притежава. Башруш работеше с Интернет на нещата, усилието на Европейската комисия да "свърже физическия свят с дигитална среда". "Това беше много отдавна, преди да напуснем Европа", спомня си той. "Едно от предизвикателствата, които видяхме, беше с доставчик, който по същество събираше боклук от домовете в Нидерландия, след което оптимизираше маршрутите на камионите и планираше въз основа на вашите навици. Съветът, управляващ програмата, беше много доволен от нея и се опита да отвори търга година по-късно, за да получи по-конкурентна цена. Компанията каза: 'Разбира се, но данните са наши.'" Този проблем така и не беше разрешен: договорите бяха лошо написани и местната власт загуби данните.
Ако искате да видите как разпознаването на лица се обърква без никакво авторитарно намерение или технологичен трик, просто погледнете сектора на търговията на дребно, където вече се използва широко за предотвратяване на кражби от магазини. "Видяхме грешна идентификация от полицията", казва Чагър, "но в търговията на дребно, когато хората са неправилно идентифицирани, е кафкианско. Просто сте в черния списък на магазина."
И отново, колко много наистина ги е грижа хората? Ако сте забранени от магазин и не знаете защо; ако частна компания има договор с вашия NHS тръст, популяризирайки технология, която все още не е оперативна и може никога да не проработи, но никой не ви е казал – камо ли да ви е попитал; ако министърът на вътрешните работи смята, че е добре държавата да ви наблюдава по всяко време – това ли са градивните елементи на антиутопия, или просто ни напомнят как сме описвали антиутопията, преди тези възможности за наблюдение да съществуват?
Есеистът от New Yorker Тед Чианг писа преди време за навика да се проектират върху AI негативи, които всъщност бяха за икономически системи, а не за технология. Той заключи: "Капитализмът е машината, която ще направи всичко необходимо, за да ни попречи да я изключим." Проектирам ли върху AI и технологията за наблюдение тревоги, които всъщност са за авторитарната политика?
"Е, ако нямате какво да криете", казва Сара, на 55 години, "не виждам как би било проблем. Предполагам, че те всъщност са и лампи, нали?"
Често задавани въпроси
Ето списък с често задавани въпроси относно умните улични лампи с AI, обхващащи въпроси от начинаещи до напреднали
Въпроси за начинаещи
1 Какво точно е умна улична лампа с AI
Това е улично осветление с вградени сензори, камери и микрофони. Вместо просто да свети през нощта, то може да събира данни и да използва AI, за да анализира тези данни в реално време.
2 Защо градовете биха искали да инсталират такива
Основно за ефективност. Те могат да затъмняват, когато няма никой наоколо, за да пестят енергия, да откриват изстрели, за да алармират полицията по-бързо, да наблюдават задръствания и дори да намират свободни места за паркиране. Те могат също да зареждат електрически превозни средства и да предоставят обществен WiFi.
3 Могат ли тези улични лампи всъщност да ме шпионират в дома ми
Не. Камерите и сензорите са насочени към улицата и обществените пространства, а не в частни домове. Те са проектирани да наблюдават обществени зони, а не частни интериори.
4 Записват ли видео, когато вървя по улицата
Могат, но повечето системи са проектирани да обработват видео в реално време, без да съхраняват кадрите. Някои градове обаче съхраняват кадри за кратък период. Ключовият въпрос е дали данните се запазват или просто се анализират на живо.
Въпроси за средно напреднали
5 Как това се различава от камерите за видеонаблюдение, които вече са на всеки ъгъл
Традиционното видеонаблюдение просто записва видео, което някой трябва да гледа по-късно. Умните лампи с AI са интелигентни – те могат да разберат какво виждат. Например, те могат автоматично да алармират властите, ако кола се движи в грешната посока, вместо да чакат човек да го забележи на запис.
6 Кой притежава данните, които тези улични лампи събират
Варира. Обикновено градското правителство притежава суровите данни. Въпреки това, частните технологични компании, които изграждат системите, често имат достъп до анонимизирани данни или AI алгоритмите. Това е основна точка на безпокойство за защитниците на поверителността.
7 Може ли AI да разпознае лицето ми
Много напреднали модели могат. Някои градове използват разпознаване на лица, за да намират изчезнали хора или издирвани престъпници. Това обаче е силно противоречиво и няколко града са забранили функцията поради опасения за поверителност и пристрастия.
8 Какво пречи на хакер да поеме контрол над цяла мрежа от тези улични лампи
Това е реален риск за сигурността. Ако мрежата не е правилно
