Jedenáct organizací na ochranu občanských práv a proti rasismu naléhá na komisaře metropolitní policie Marka Rowleyho, aby zrušil plány na použití technologie živého rozpoznávání obličeje (LFR) na nadcházejícím víkendovém karnevalu v Notting Hill, a to kvůli rasové zaujatosti této technologie a probíhajícímu právnímu sporu.
V dopise, který získal The Guardian, skupiny varují, že použití kamer s okamžitým skenováním obličejů na akci oslavující afro-karibskou komunitu „jen prohloubí obavy týkající se zneužívání moci policií a rasové diskriminace ve vašich řadách.“
Mezi signatáři, včetně Runnymede Trust, Liberty, Big Brother Watch, Race on the Agenda a Human Rights Watch, se uvádí, že technologie je „méně přesná u žen a lidí jiné barvy pleti.“
Tento požadavek přichází poté, co vláda nedávno oznámila rozšíření vozidel s rozpoznáváním obličeje v rámci devíti policejních sborů v Anglii a Walesu.
Metropolitní policie dříve oznámila, že umístí speciální kamery na vstupních a výstupních místech dvoudenního karnevalu v západním Londýně, který každoročně přiláká až 2 miliony lidí, což z něj činí druhý největší pouliční festival na světě.
V dopise stojí: „Nasazení LFR na karnevalu v Notting Hill nespravedlivě cílí na komunitu, kterou tato akce oslavuje. Metropolitní policie již byla v revizi baronky Casey shledána institucionálně rasistickou a diskriminační policejní postupy vážně poškodily důvěru veřejnosti. Použití této technologie zde jen prohloubí obavy ohledně rasové zaujatosti a zneužívání moci.“
Dopis také uvádí, že od oznámení metropolitní policie zahájil protinožový aktivista Shaun Thompson soudní spor u Vrchního soudu. Thompson, černoch britského původu, byl chybně označen jako zločinec pomocí rozpoznávání obličeje, zadržen policií a nucen poskytnout otisky prstů.
„Pan Thompson se vracel z dobrovolnické práce se Street Fathers, skupinou proti násilí na mládeži, když ho policisté obklíčili a drželi 30 minut. Srovnává diskriminační dopad LFR s ‚stop and search na steroidech‘,“ píše se v dopise.
Aktivisté tvrdí, že policii bylo umožněno „samoregulovat“ tuto technologii, přestože minulá nastavení neúměrně špatně identifikovala černochy. Zpráva Národní fyzikální laboratoře zjistila, že systém NeoFace metropolitní policie je při určitých nastaveních méně přesný u žen a lidí jiné barvy pleti.
Dr. Tony Mansfield, autor zprávy, uznal, že při nižších prahových hodnotách systém „prokazuje zaujatost vůči černochům, ať už mužům nebo ženám.“ Policie není právně povinna používat vyšší, přesnější nastavení.
V roce 2018 studie MIT Media Lab zjistila, že rozpoznávání obličeje od tří hlavních společností chybně identifikovalo tmavší ženy v 21–35 % případů, ve srovnání s méně než 1 % u světlých mužů.
Mezi další signatáře patří představitelé Privacy Watch, Privacy International, Race Equality First, Open Rights Group, Access Now, StopWatch a Statewatch.
Metropolitní policie uvedla, že kamery budou umístěny poblíž hranic karnevalu – ne uvnitř – aby pomohly policistům „identifikovat a zadržet“ osoby představující riziko pro veřejnou bezpečnost, jako jsou hledané osoby za závažné trestné činy, například nošení nožů nebo sexuální útoky.
Nicméně skupiny na ochranu občanských svobod byly znepokojeny, když se dozvěděly, že velšská policie tuto technologii dříve použila k cílení na překupníky vstupenek.
Na letošním karnevalu bude nasazeno přibližně 7 000 policistů. Podle metropolitní policie budou policisté a personál po celou dobu karnevalu ve službě. Kamery s živým rozpoznáváním obličeje (LFR) poblíž akce budou skenovat pohřešované osoby a osoby podléhající soudním příkazům na ochranu před sexuálním násilím. Na hlavních vstupních místech budou umístěny kontrolní oblouky, kde policisté využijí pravomocí „stop and search.“
Ačkoli karneval zůstává řízen komunitou, vysoké úředníci vyjádřili obavy o bezpečnost a navrhli, aby se buď přesunul do Hyde Parku, nebo vyžadoval vstupenky, aby se zabránilo přeplnění úzkých ulic.
Ministryně vnitra Yvette Cooperová nedávno oznámila plány na nové předpisy upravující používání LFR a uvedla: „Rozpoznávání obličeje bude cílit na sexuální delikventy a osoby hledané za závažné trestné činy, které unikly zatčení.“
Metropolitní policie a policie jižního Walesu tuto technologii testují. Podle metropolitní policie LFR pomohlo zatknout 580 osob za trestné činy včetně znásilnění, domácího násilí, nošení nožů, napadení a loupeže – z toho 52 případů se týkalo registrovaných sexuálních delikventů porušujících jejich omezení.
Matt Ward, zástupce asistenta komisaře metropolitní policie zodpovědný za zajištění pořádku na karnevalu, uznal přetrvávající obavy ohledně LFR v černošských a menšinových komunitách:
„Jsme odhodláni používat technologii zodpovědně, aby pomohla policistům pracovat efektivněji. Proto nasadíme kamery LFR poblíž – ale ne uvnitř – oblasti karnevalu. Tento osvědčený nástroj od ledna 2024 usnadnil více než 1 000 zatčení.
„Testy Národní fyzikální laboratoře potvrzují, že náš systém při současném nastavení zachovává přesnost napříč etniky a pohlavími. Uznáváme však, že přetrvávají mylné představy, zejména v komunitách lidí jiné barvy pleti, a pracujeme na jejich odstranění.“
ČASTÉ DOTAZY
### **Časté dotazy o rozpoznávání obličeje na karnevalu v Notting Hill a obavách z rasové zaujatosti**
#### **Základní otázky**
**1. Proč jsou aktivisté proti rozpoznávání obličeje na karnevalu v Notting Hill?**
Aktivisté tvrdí, že technologie je rasově zaujatá, častěji chybně identifikuje lidi jiné barvy pleti, což vede k nespravedlivému cílení a chybným zákrokům policie.
**2. Co je technologie rozpoznávání obličeje?**
Rozpoznávání obličeje využívá umělou inteligenci ke skenování a porovnávání tváří v davu s databázemi, často pro účely bezpečnosti nebo policie.
**3. Jak rasová zaujatost ovlivňuje rozpoznávání obličeje?**
Studie ukazují, že technologie má vyšší míru chyb u tmavších jedinců, což zvyšuje riziko falešných zatčení nebo obtěžování.
**4. Bylo rozpoznávání obličeje na karnevalu v Notting Hill použito již dříve?**
Ano, policie ji testovala v minulých letech, ale kritici tvrdí, že neúměrně cílí na černošské účastníky kvůli nepřesnostem.
**5. Co říkají zastánci použití rozpoznávání obličeje na karnevalu?**
Zastánci tvrdí, že pomáhá předcházet zločinu a identifikovat pachatele, ale odpůrci říkají, že rizika zaujatosti převažují nad přínosy.
---
#### **Pokročilé otázky**
**6. Jaké důkazy ukazují, že rozpoznávání obličeje je rasově zaujaté?**
Výzkum zjistil, že míra chyb je až o 34 % vyšší u tmavších žen ve srovnání se světlými muži.
**7. Existují zákony regulující rozpoznávání obličeje na veřejných akcích ve Velké Británii?**
V současné době může britská policie používat živé rozpoznávání obličeje na veřejnosti, ale kritici požadují přísnější pravidla, aby se zabránilo zneužití.
**8. Došlo kvůli rozpoznávání obličeje k chybným zatčením?**
Ano – několik případů, jako například chybné zadržení černocha v Londýně, ukazuje rizika falešných shod.
**9. Jaké alternativy existují pro zajištění bezpečnosti na karnevalu v Notting Hill?**
Mezi možnosti patří komunitní policie, lepší řízení davu a metody sledování bez zaujatosti.
**10. Jak mohou lidé protestovat proti rozpoznávání obličeje na karnevalu?**
Kampaně jako *Big Brother Watch* usilují o zákazy, zatímco účastníci mohou vyjádřit své obavy místním úředníkům a připojit se k protestům.
**11. Omezují jiné země rozpoznávání obličeje na veřejných akcích?**
Ano – některá města v USA a EU zvažují zákazy nebo přísná omezení kvůli obavám o soukromí a zaujatost.
**12. Může být rozpoznávání obličeje vylepšeno, aby se snížila zaujatost?**
Odborníci říkají, že lepší tréninková data a transparentnost by mohly pomoci, ale mnozí tvrdí, že rizika zůstávají příliš vysoká pro veřejnost.
