S rostoucím rozšířením technologie rozpoznávání obličejů na veřejných místech ve Velké Británii se nová vlna designérů domnívá, že soukromí by se mohlo stát dalším velkým módním trendem.
Některé společnosti nyní přidávají do svého oblečení "adversariální vzory" – pečlivě navržené kombinace tvarů, barev a opakujících se motivů, které údajně využívají slabiny určitých počítačových systémů vidění.
Tito designéři tvrdí, že pokroky ve výpočetní technice usnadnily začlenění takových vzorů do oblečení, které lze prodávat komerčně. Odborníci varují, že účinnost těchto vzorů závisí na sledovacím systému a podmínkách, v nichž je používán. Přesto se Nick Tidball, spoluzakladatel oděvní značky Vollebak, domnívá, že by se "adversariální oblečení" mohlo brzy stát mainstreamem.
"Protisledovací nálady jsou tak rozšířené, že by stačilo, aby jedna celebrita přišla na prestižní akci v jednom z těchto oděvů – již nyní populárních v kontrakulturní módě – a tento trend by se skutečně rozjel," uvedl.
Zobrazit obrázek v plné velikosti
Modelky v návrzích značky Cap_able, která je propaguje jako ztěžující rozpoznávání umělou inteligencí. Fotografie: PR
"Takzvané 'adversariální oblečení' funguje na mnoha úrovních. Kromě praktické ochrany je módní a zábavné. Vysílá silné veřejné prohlášení, s nímž mnozí souhlasí, šíří větší povědomí o důležitosti soukromí a pomáhá podněcovat veřejnou debatu."
Na rozdíl od tradičních kamerových systémů dokáží moderní počítačové systémy vidění identifikovat obličeje, sledovat jednotlivce napříč více kamerami a prohledávat záznamy ve velkém měřítku.
Nedávné pokroky v generativní umělé inteligenci učinily tento druh automatizované identifikace levnějším a dostupnějším pro policii, maloobchodníky i soukromé podniky. Britští dozorci nad biometrií varovali před tímto rozmachem a vyzvali k přijetí dalších zákonů a zřízení regulátora, který by zabránil zneužití.
Důkazy o zneužití – a skutečnost, že u černošských a asijských osob je pravděpodobnější chybná identifikace než u bělochů – vedly k rostoucím obavám veřejnosti. Nedávný průzkum ukázal, že téměř 60 % lidí se domnívá, že rozpoznávání obličejů je "dalším krokem k přeměně Spojeného království ve sledovanou společnost."
Dr. Jennifer Bell, odborná asistentka specializující se na kreativní umělou inteligenci, módu a digitální kulturu na Nottingham School of Art & Design, uvedla, že oblečení s designy proti rozpoznávání obličejů je stále dostupnější za ceny běžných obchodů a je nabízeno širokému spektru lidí. "Toto rostoucí povědomí v kombinaci s nižšími náklady často přichází těsně před bodem zlomu, kdy se z toho stane skutečný kulturní moment," řekla.
Daniel Preuß, spoluzakladatel oděvní značky Urban Privacy, uvedl, že nové technologie nyní umožňují "spojit chytrý, výrazný styl s neviditelnou ochranou."
Zobrazit obrázek v plné velikosti
Modelky v tričkách Urban Privacy. Fotografie: Urban Privacy
Zdůraznil, že vzhledem k tomu, jak jsou sledovací systémy výkonné, žádný design nemůže zaručit, že nebudete odhaleni. Dodal však, že "přidaná hodnota módy spočívá v šíření povědomí a podpoře veřejné diskuse."
Preuß uvedl, že jeho návrhy využívají velkoformátové potisky, asymetrické střihy a tvary inspirované streetwearem k zmatení algoritmů rozpoznávání obličejů. Společnost tvrdí, že její kabát Urban Ghost má v kapuci zabudovaná LED světla, která vyzařují infračervené světlo a oslňují noční sledovací kamery.
Preuß, který svou společnost založil poté, co si v Guardianu přečetl o odhaleních Edwarda Snowdena ohledně amerického sledování, uvedl, že jeho návrhy využívají skutečnosti, že "systémy rozpoznávání obličejů se zblázní, když vidí více obličejů najednou."
"Naše vzory si s tímto chaosem pohrávají, matou algoritmy a výrazně ztěžují vaši identifikaci," řekl.
Bell však poznamenala, že "žádný z těchto produktů není vyzkoušený a otestovaný a mnohé z těchto sledovacích technologií si s mírným odporem poradí... [ale] i když návrhy nefungují dokonale, móda je také viditelným znakem odporu." Spotřebitelé se spojují, aby učinili viditelné prohlášení.
Top od značky Cap_able. Fotografie: PR
Rachele Didero, zakladatelka Cap_able – značky, která vyrábí oblečení navržené tak, aby ztížilo rozpoznávání umělou inteligencí – uvedla, že zájem o její společnost v posledních letech raketově vzrostl. "Když jsem s tím začínala v roce 2018, lidé si mysleli, že navrhuji masky na bankovní loupeže," řekla.
"Ale nyní tyto obavy již nejsou okrajovou záležitostí. Mladší generace se stále více bojí umělé inteligence a obávají se o své soukromí," dodala. "Lidé, kteří tyto produkty nosí, jsou průkopníci. Mainstream je rychle dohání, zejména když větší společnosti vidí potenciál zisku a tlačí tento trend do populárního, veřejného prostoru, čímž ve velkém mění způsob, jakým se oblékáme."
Tidball však poznamenal, že to, zda se protisledovací móda stane mainstreamem, může nakonec záviset spíše na vládách než na designérech. "Pokud by se toto oblečení skutečně ukázalo jako účinné, mohlo by se velmi rychle zpolitizovat," řekl. "Pak by tento typ oblečení mohl být nakonec zakázán."
Často kladené otázky
Zde je seznam často kladených otázek o adversariálním oblečení napsaný přirozeným tónem s jasnými a stručnými odpověďmi
Otázky pro začátečníky
1 Co přesně je adversariální oblečení
Je to oblečení potištěné speciálním, často podivně vypadajícím vzorem. Vzor je navržen tak, aby zmátl systémy rozpoznávání obličejů s umělou inteligencí, čímž způsobí, že nositel je pro kamery neviditelný nebo je chybně identifikován.
2 Jak oklame kameru
Systémy rozpoznávání obličejů hledají specifické rysy. Adversariální vzory přidávají drobné vypočítané deformace, které umělá inteligence špatně interpretuje. Pro umělou inteligenci může vzor vypadat jako jiná osoba, zvíře nebo jen jako shluk šumu – nikoli jako lidský obličej.
3 Je to skutečné, nebo jen z filmu
Je to skutečné, ale stále převážně ve výzkumných laboratořích a konceptuálních ukázkách. V obchodě si zatím nemůžete koupit spolehlivou neviditelnou mikinu. Vědci úspěšně oklamali systémy v kontrolovaných testech, ale použití v reálném světě je mnohem složitější.
4 Budou tyto oděvy brzy běžné
Pravděpodobně ne pro každodenní použití. Vzory jsou velmi křehké – fungují nejlépe z určitého úhlu, při specifickém osvětlení a na konkrétní osobě. Mírná změna postoje nebo jiný model kamery může trik zhatit.
5 Proč by to někdo chtěl nosit
Aktivisté za soukromí a lidé znepokojení masovým sledováním by se mohli chtít vyhnout sledování veřejnými kamerami. Jiní by to mohli použít pro umělecké vyjádření nebo jako protest proti technologii rozpoznávání obličejů.
Středně pokročilé a pokročilé otázky
6 Jak jsou vzory navrhovány
Jde o proces zvaný adversariální strojové učení. Výzkumníci vloží do systému rozpoznávání obličejů s umělou inteligencí tisíce obrázků a poté pomocí počítače vyvinou vzor, který maximálně mate algoritmus dané umělé inteligence. Vzor je v podstatě digitální trik optimalizovaný pro tento konkrétní model umělé inteligence.
7 Funguje to na všechny systémy rozpoznávání obličejů
Ne. Vzor navržený k oklamání jedné umělé inteligence nemusí fungovat na jinou. Je to jako klíč, který pasuje pouze do jednoho zámku. Univerzálnější vzory jsou předmětem výzkumu, ale zatím nejsou spolehlivé.
