Como você se sentiria se os postes de luz da sua rua pudessem reconhecer a placa do seu carro e o seu rosto? Talvez você não se importasse, dado o tempo que já temos reconhecimento automático de placas e CFTV. Mas e se esse poste pudesse se alimentar com seus próprios painéis solares e encontrar outro uso para qualquer energia extra que gerasse – isso seria bom, certo? É o que a Conflow Power Group (CPG), em Warwickshire, afirma sobre seus iLamps, os primeiros do tipo no Reino Unido.
E se os postes de luz também pudessem incluir novos recursos de IA que você ainda nem ouviu falar – como analisar a maneira como você anda ou detectar comportamentos suspeitos? É com isso que a organização Big Brother Watch está preocupada. E se a ministra do Interior já tivesse dito que acreditava em um "estado panóptico" – ou seja, um estado que pudesse vigiá-lo o tempo todo (como Shabana Mahmood disse) – e se ela ainda estivesse no comando quando os postes recebessem suas atualizações? Ou e se o próximo ministro do Interior fosse ainda mais entusiasta da hipervigilância (difícil de imaginar), e o equipamento de rua já estivesse instalado? E quanto a todos os dados que isso coletaria – quem seria o dono?
Está garoando em Warwickshire, onde espero responder a pelo menos algumas dessas perguntas no estacionamento do hospital onde alguns desses novos postes de luz "inteligentes" foram instalados. Mas se não fosse por mim, provavelmente ninguém estaria falando sobre eles, principalmente porque quase ninguém ouviu falar deles. Poucas pessoas sabem que o iLamp não é apenas movido a energia solar – ele também pode "funcionar como um datacenter de IA distribuído que gera receita", de acordo com a CPG, quanto mais entender o que isso significa. E ninguém, nem mesmo eu, sabe quanto desse potencial foi realmente incorporado ao modelo do Reino Unido – apenas o que a CPG anunciou: que assinou um acordo com o governo do estado de Katsina, na Nigéria, para fornecer 50.000 desses iLamps, que têm capacidades extras de vigilância tanto para veículos quanto para rostos. O presidente da CPG, Edward Fitzpatrick, disse ao programa Tech Life da BBC World Service que os postes de luz poderiam eventualmente ajudar a encontrar pessoas desaparecidas ou combater o crime, mas apenas se desenvolvidos "com a autoridade competente".
A CPG diz que foi "amplamente coberta pela mídia mundial" e não aceita mais perguntas, direcionando a mídia para seus materiais online. Quanto aos postes de Warwickshire, o conselho local envia todas as perguntas para o hospital, e o hospital não responde. Justo – é um hospital.
Vários moradores locais se abrigaram da chuva em um ponto de ônibus, a maioria esperando um parceiro buscá-los, e muitos estão dispostos a conversar. Karl, 52 anos, que estava em um pub próximo, fala por quase todos quando diz: "O centro da cidade já está cheio de câmeras, e tudo bem. Você não se importa com elas a menos que esteja tramando algo errado." Não importa quantas perguntas carregadas eu faça (E se você estivesse fazendo algo legal hoje, mas ilegal daqui a um ano? E se a vigilância se tornasse preditiva em vez de reativa? E se você não quisesse que ninguém soubesse que esteve no hospital? E se você não devesse estar em um pub? Você não acha que deveria pelo menos ter sido perguntado se queria isso?), não consigo fazer ninguém com quem falo mudar de opinião de que o reconhecimento facial é uma parte tolerável da vida para um cidadão cumpridor da lei.
Tejal, 41 anos, também esperando no ponto de ônibus do hospital, diz: "Acho que temos que seguir em frente e aceitar que as coisas mudam." Ela é radiologista, e ver as capacidades da IA em seu próprio campo a deixa muito ansiosa sobre a IA em geral. "Tenho ansiedades pelos meus filhos", diz ela. Que eles não encontrarão empregos de nível básico? "Isso, e que eles perderão a capacidade de celebrar e encontrar alegria nas coisas que costumávamos ter." Preocupações com privacidade parecem relativamente menores comparadas a isso.
Especialistas são céticos em relação a algumas das alegações feitas sobre postes de luz inteligentes. Jasleen Chaggar, oficial sênior de políticas legais e jurídicas da Big Brother Watch, diz: "Vemos isso com bastante frequência, onde conselhos locais ou outras agências governamentais são... 'enganados' é uma palavra forte, mas eles compram essas ferramentas como varinhas mágicas, quando há limites para o que elas realmente podem fazer."
O Prof. Rabih Bashroush, diretor do Centro de Inteligência Artificial e Inovação de Dados da Universidade de East London, é direto: "Datacenters de IA? Não há absolutamente nenhuma chance de isso funcionar: a tecnologia não funciona, não há energia suficiente e a economia não fecha..." Ele diz que a energia solar para operar os iLamps fora da rede pode funcionar na Nigéria, mas na Grã-Bretanha, a energia gerada pelos postes é "negligenciável". Você pode ser capaz de executar um aplicativo que "não fosse crítico para a missão, que você não se importasse em desligar por alguns dias" – como detectar se uma vaga de estacionamento estava ocupada – mas alegações maiores sobre reconhecimento facial são "apenas hype. Esqueça – isso não tem futuro."
Se ele parece impaciente, é porque está: "Está cada vez mais difícil obter uma opinião independente sobre as coisas, porque muitos especialistas agora trabalham na indústria, e suas opiniões têm que se alinhar com sua organização", diz ele. Então, uma empresa pode fazer grandes alegações, jogando algumas palavras-chave de IA, antes de uma rodada de financiamento; engenheiros não as contestam, autoridades locais não as entendem, e ninguém mais percebe que algo mudou desde que o CFTV foi inventado.
Chaggar se esforça para explicar a diferença conceitual entre reconhecimento facial e CFTV: "O reconhecimento facial não é apenas gravar algo passivamente, como o CFTV, que você verifica depois do ocorrido. O que o reconhecimento facial faz é uma verificação de identidade em tempo real: é muito mais como uma impressão digital ou DNA. Não é como um passaporte – você não pode conseguir outro rosto."
Outro problema, diz Chaggar, é que "muitas dessas tecnologias e infraestruturas podem adicionar funções depois. Hammersmith e Fulham [em Londres] estão atualizando seu CFTV, e é possível incorporar reconhecimento facial, monitorar comportamento de compras suspeito ou adicionar detecção de agressão. Então, você pode simplesmente virar uma chave, e está tudo lá da noite para o dia." Uma amiga que mora em Fulham enviou por acaso uma foto de uma câmera acima de uma placa de restrições de estacionamento – parece uma mistura de Darth Vader com um besouro, e ela zumbe quando você passa, como se para mostrar que está rastreando seus movimentos.
Isso levanta todas as antigas preocupações com privacidade, e é interessante como muitas pessoas descartam o CFTV como um fato da vida moderna, mas reclamam espontaneamente sobre como odeiam ser ouvidas pelo telefone. Karl diz: "Eu estava conversando com minha mãe outro dia sobre cortadores de unhas de cachorro, e o anúncio apareceu no meu telefone naquela noite. Eu tinha o microfone desligado. Eu nem tenho um cachorro!" Seu amigo Bob, 48 anos, acabou praticamente fora da rede, sem computador e com um telefone básico de tijolo – um formulador de políticas provavelmente o chamaria de "excluído" – simplesmente porque "algumas pessoas gostam de ser privadas."
Outra questão sobre o software de reconhecimento facial é: quão bons são os algoritmos em detectar agressão e comportamento suspeito? "Muito do software é pseudocientífico", diz Chaggar. "Então, uma empresa pode tentar vender detecção de emoções, [alegando que] se as pessoas estão andando por uma estação de trem, você pode ver se estão com raiva ou prestes a se tornar agressivas. Há muito pouca evidência para sugerir que seja preciso. Se você é uma pessoa com deficiência que se move de forma diferente, pode ser sinalizado e enfrentar uma intervenção." Mas a verdadeira questão para as autoridades locais e quaisquer agentes estatais é... Chaggar diz que as pessoas deveriam se perguntar: "Você se sente confortável com seus inimigos políticos tendo essas capacidades? Porque você está construindo uma infraestrutura que veio para ficar."
Você pode ver isso claramente na polícia. O Ministério do Interior aprovou o uso de reconhecimento facial há mais de uma década, e a polícia tem "essencialmente usado o público como cobaias nos últimos 10 anos", diz Chaggar. O que acontece quando a ministra do Interior diz à BBC 5 Live, como fez no início deste ano, que "você não pode desfrutar de nenhuma de suas liberdades em nenhum país se não estiver seguro"? Essa lógica pesada – onde todas as liberdades vêm em segundo lugar em relação ao papel do estado como seu protetor – é perturbadora vindo de um governo supostamente de esquerda. Mas a maior preocupação é que este não parece ser o momento certo na política para apostar em tecnologia de vigilância, baseando nossa aceitação dela na esperança de que todos os governos futuros serão pró-sociais e democráticos.
Ver imagem em tela cheia
'Se você não tem nada a esconder, não vejo como isso seria um problema.' Fotografia: Justin Paget/Getty Images
Onde quer que haja potencial para coletar dados, surge a questão de quem é o dono. Bashroush costumava trabalhar com a Internet das Coisas, o esforço da Comissão Europeia para "conectar o mundo físico a um ambiente digital". "Isso foi há muito tempo, antes de sair da Europa", ele lembra. "Um dos desafios que vimos foi com um fornecedor que estava basicamente coletando lixo de casas na Holanda, depois otimizando rotas de caminhões e planejando com base em seus hábitos. O conselho que administrava o programa estava muito satisfeito com isso e tentou abrir a licitação um ano depois para obter um preço mais competitivo. A empresa disse: 'Claro, mas os dados são nossos.'" Esse problema nunca foi resolvido: os contratos eram mal redigidos, e a autoridade local perdeu os dados.
Se você quiser ver o reconhecimento facial dar errado sem qualquer intenção autoritária ou truque tecnológico, basta olhar para o setor de varejo, onde já é amplamente usado para prevenir furtos. "Vimos identificação errada pela polícia", diz Chaggar, "mas no varejo, quando as pessoas são identificadas errado, é kafkiano. Você é simplesmente colocado na lista negra da loja."
E novamente, o quanto as pessoas realmente se importam? Se você é banido de uma loja e não sabe por quê; se uma empresa privada tem um contrato com seu trust do NHS, promovendo tecnologia que ainda não está operacional e pode nunca funcionar, mas ninguém te contou – muito menos te perguntou; se a ministra do Interior acha que tudo bem o estado vigiá-lo o tempo todo – esses são os blocos de construção de uma distopia, ou apenas nos lembram de como costumávamos descrever a distopia antes dessas capacidades de vigilância existirem?
O ensaísta do New Yorker Ted Chiang escreveu há algum tempo sobre o hábito de projetar na IA negativos que eram na verdade sobre sistemas econômicos, não tecnologia. Ele concluiu: "O capitalismo é a máquina que fará o que for preciso para nos impedir de desligá-la." Estou projetando na IA e na tecnologia de vigilância ansiedades que são na verdade sobre política autoritária?
"Bem, se você não tem nada a esconder", diz Sarah, 55 anos, "não vejo como isso seria um problema. Estou presumindo que eles também são lâmpadas, certo?"
Perguntas Frequentes
Aqui está uma lista de FAQs sobre postes de luz inteligentes com IA, cobrindo preocupações do nível iniciante ao avançado
Perguntas de Nível Iniciante
1 O que exatamente é um poste de luz inteligente com IA
É um poste de luz com sensores, câmeras e microfones embutidos. Em vez de apenas acender à noite, ele pode coletar dados e usar IA para analisar esses dados em tempo real.
2 Por que as cidades iriam querer instalar esses postes
Principalmente por eficiência. Eles podem diminuir a intensidade quando não há ninguém por perto para economizar energia, detectar tiros para alertar a polícia mais rápido, monitorar engarrafamentos e até encontrar vagas de estacionamento vazias. Eles também podem carregar veículos elétricos e fornecer WiFi público.
3 Esses postes podem realmente me espionar dentro de casa
Não. As câmeras e sensores estão apontados para a rua e espaços públicos, não para dentro de casas particulares. Eles são projetados para monitorar áreas públicas, não interiores privados.
4 Eles gravam vídeo de mim andando na rua
Eles podem, mas a maioria dos sistemas é projetada para processar vídeo em tempo real sem armazenar as imagens. No entanto, algumas cidades armazenam imagens por um curto período. A questão principal é se os dados são salvos ou apenas analisados ao vivo.
Perguntas de Nível Intermediário
5 Como isso é diferente das câmeras de CFTV que já estão em cada esquina
O CFTV tradicional apenas grava vídeo que alguém tem que assistir depois. Os postes com IA são inteligentes – eles podem entender o que veem. Por exemplo, eles podem alertar automaticamente as autoridades se um carro estiver dirigindo na contramão, em vez de esperar que um humano veja isso em uma gravação.
6 Quem é o dono dos dados que esses postes coletam
Varia. Geralmente, o governo da cidade é o dono dos dados brutos. No entanto, as empresas de tecnologia privadas que constroem os sistemas geralmente têm acesso a dados anonimizados ou aos algoritmos de IA. Este é um ponto importante de preocupação para defensores da privacidade.
7 A IA pode reconhecer meu rosto
Muitos modelos avançados podem. Algumas cidades usam reconhecimento facial para encontrar pessoas desaparecidas ou criminosos procurados. No entanto, isso é altamente controverso e várias cidades proibiram o recurso devido a preocupações com privacidade e viés.
8 O que impede um hacker de assumir o controle de toda uma rede desses postes
Este é um risco real de segurança. Se uma rede não for adequadamente
