"Adversarial clothing": är kläder designade för att lura ansiktsigenkänningssystem på väg att bli vanliga?

Översätt följande text från engelska till svenska: I takt med att ansiktsigenkänningsteknik blir vanligare på allmänna platser i Storbritannien tror en ny våg av designers att integritet kan bli nästa stora modetrend.

Vissa företag lägger nu till "adversarial patterns" på sina kläder – noggrant utformade kombinationer av former, färger och återkommande motiv som sägs utnyttja svagheter i vissa datorseendesystem.

Dessa designers menar att framsteg inom databehandling har gjort det enklare att inkludera sådana mönster i kläder som kan säljas kommersiellt. Experter varnar för att hur väl dessa mönster fungerar beror på övervakningssystemet och de förhållanden det används i. Ändå tror Nick Tidball, medgrundare av klädmärket Vollebak, att "adversarial clothing" snart kan bli mainstream.

"Anti-övervakningskänslor är så vanliga att det bara skulle krävas att en kändis bär ett av dessa plagg – redan populära inom kontrakulturellt mode – på ett uppmärksammat evenemang för att det verkligen ska ta fart", sa han.

Visa bild i fullskärm
Modeller bär design från Cap_able, som marknadsförs som att de gör AI-igenkänning svårare. Fotografi: PR

"Så kallade 'adversarial clothing' fungerar på många nivåer. Förutom att erbjuda praktiskt skydd är det modernt och roligt. Det gör ett starkt, offentligt uttalande som många håller med om, sprider mer medvetenhet om vikten av integritet och hjälper till att uppmuntra offentlig debatt."

Till skillnad från traditionell CCTV kan moderna datorseendesystem identifiera ansikten, spåra individer över flera kameror och söka igenom bildmaterial i stor skala.

Nya framsteg inom generativ AI har gjort denna typ av automatiserad identifiering billigare och mer tillgänglig för polis, återförsäljare och privata företag. Storbritanniens övervakningsvakter har varnat för denna expansion och krävt fler lagar och en tillsynsmyndighet för att förhindra missbruk.

Bevis på missbruk – och det faktum att svarta och asiatiska personer löper större risk att felaktigt identifieras än vita – har lett till växande allmän oro. En ny opinionsundersökning visade att nästan 60% av människorna trodde att ansiktsigenkänning var "ytterligare ett steg mot att göra Storbritannien till ett övervakningssamhälle."

Dr. Jennifer Bell, universitetslektor specialiserad på kreativ AI, mode och digital kultur vid Nottingham School of Art & Design, sa att kläder med anti-ansiktsigenkänningsdesign blir mer tillgängliga till prisnivåer som motsvarar vanliga butiker och marknadsförs till en bred målgrupp. "Den växande medvetenheten, i kombination med lägre kostnader, kommer ofta precis före vändpunkten till en verklig kulturell händelse", sa hon.

Daniel Preuß, medgrundare av klädmärket Urban Privacy, sa att ny teknik nu gör att du kan "kombinera smart, iögonfallande stil med osynligt skydd."

Visa bild i fullskärm
Modeller bär Urban Privacy T-shirts. Fotografi: Urban Privacy

Han betonade att eftersom övervakningssystem är så kraftfulla kan ingen design garantera att du inte blir upptäckt. Men han tillade, "det extra värdet av mode är att sprida medvetenhet och bidra till offentlig diskussion."

Preuß sa att hans designer använder storskaliga tryck, asymmetriska snitt och streetwear-inspirerade former för att förvirra ansiktsigenkänningsalgoritmer. Företaget säger att dess Urban Ghost-kappa har LED-lampor inbyggda i huven som avger infrarött ljus för att blända mörkerseende övervakningskameror.

Preuß, som grundade sitt företag efter att ha läst om Edward Snowdens avslöjanden om amerikansk övervakning i The Guardian, sa att hans designer leker med det faktum att "ansiktsigenkänningssystem blir förvirrade när de ser flera ansikten samtidigt."

"Våra mönster leker med den kaoset, förvirrar algoritmer och gör det mycket svårare att spåra dig", sa han.

Men Bell noterade att "ingen av dessa produkter är testade och beprövade, och många av dessa övervakningstekniker kan hantera lite motstånd... [men] även om designen inte fungerar perfekt, är mode också en synlig symbol för motstånd." Konsumenter samlas för att göra ett synligt uttalande.

En topp skapad av Cap_able. Fotografi: PR

Rachele Didero, grundare av Cap_able – ett märke som gör kläder utformade för att göra AI-igenkänning svårare – sa att intresset för hennes företag har skjutit i höjden de senaste åren. "När jag började med detta 2018 trodde folk att jag designade masker för bankrån", sa hon.

"Men nu är dessa bekymmer inte längre nischade. Yngre generationer blir alltmer rädda för AI och oroade över sin integritet", tillade hon. "Människor som bär dessa produkter är pionjärerna. Mainstream håller snabbt på att komma ikapp, särskilt när större företag ser vinstpotentialen och driver denna trend in i det populära, offentliga rummet, vilket förändrar hur vi klär oss i stor skala."

Men Tidball noterade att huruvida anti-övervakningsmode blir mainstream i slutändan kan bero mer på regeringar än på designers. "Om dessa kläder verkligen visade sig vara effektiva, skulle det snabbt kunna bli politiskt", sa han. "Då skulle denna typ av kläder kunna förbjudas."



Vanliga frågor
Här är en lista med vanliga frågor om adversarial clothing skrivna i en naturlig ton med tydliga, koncisa svar



Nybörjarnivå Frågor



1 Vad är egentligen adversarial clothing

Det är kläder tryckta med ett speciellt, ofta konstigt utseende mönster Mönstret är utformat för att förvirra AI-ansiktsigenkänningssystem, vilket gör bäraren osynlig eller felidentifierad av kameror



2 Hur lurar det en kamera

Ansiktsigenkänningssystem letar efter specifika egenskaper Adversarial patterns lägger till små beräknade distorsioner som AI:n misstolkar För AI:n kan mönstret se ut som en annan person, ett djur eller bara en klump brus – inte ett mänskligt ansikte



3 Är detta verkligen på riktigt eller bara något från filmer

Det är på riktigt men fortfarande mest i forskningslaboratorier och proof-of-concept-demonstrationer Du kan inte bara köpa en pålitlig osynlighetshoodie på köpcentret än Forskare har framgångsrikt lurat system i kontrollerade tester men verklig användning är mycket svårare



4 Kommer dessa kläder att bli vanliga snart

Förmodligen inte för vardagsbruk Mönstren är mycket känsliga – de fungerar bäst från en specifik vinkel, i specifik belysning och på en specifik person En liten förändring i hållning eller en annan kameramodell kan bryta tricket



5 Varför skulle någon vilja bära detta

Integritetsaktivister och människor som är oroade över massövervakning kanske vill undvika att spåras av offentliga kameror Andra kan använda det för konstnärligt uttryck eller för att protestera mot ansiktsigenkänningsteknik



Medel- och Avancerad nivå Frågor



6 Hur designas mönstren

Det är en process som kallas adversarial machine learning Forskare matar en ansiktsigenkännings-AI med tusentals bilder och använder sedan en dator för att utveckla ett mönster som maximalt förvirrar AI:ns algoritm Mönstret är i huvudsak ett digitalt trick optimerat för den specifika AI-modellen



7 Fungerar det på alla ansiktsigenkänningssystem

Nej Ett mönster utformat för att lura en AI kanske inte fungerar på en annan Det är som en nyckel som bara passar ett lås Mer avancerade universella mönster forskas på men är ännu inte pålitliga