¿Cómo te sentirías si las farolas de tu calle pudieran reconocer la matrícula de tu coche y tu cara? Quizás no te importaría, dado el tiempo que llevamos con el reconocimiento automático de matrículas y las cámaras de vigilancia. Pero ¿y si esa farola pudiera alimentarse a sí misma con sus propios paneles solares y encontrar otro uso para la energía extra que genera? Eso sería bueno, ¿verdad? Eso es lo que afirma Conflow Power Group (CPG) en Warwickshire sobre sus iLamps, las primeras de su tipo en el Reino Unido.
¿Y si las farolas también pudieran incluir nuevas funciones de inteligencia artificial que aún no has oído, como analizar tu forma de caminar o detectar comportamientos sospechosos? Eso es lo que le preocupa a la organización Big Brother Watch. ¿Y si la ministra del Interior ya hubiera dicho que cree en un "estado panóptico", es decir, un estado que pudiera vigilarte en todo momento (como ha hecho Shabana Mahmood)? ¿Y si ella siguiera a cargo cuando las farolas recibieran sus actualizaciones? ¿O si el próximo ministro del Interior fuera aún más partidario de la hipervigilancia (difícil de imaginar) y el equipamiento callejero ya estuviera instalado? ¿Y qué pasa con todos los datos que esto recopilaría? ¿Quién sería su dueño?
Está lloviznando en Warwickshire, donde espero responder al menos algunas de estas preguntas en el aparcamiento del hospital donde se han instalado algunas de estas nuevas farolas "inteligentes". Pero si no fuera por mí, probablemente nadie estaría hablando de ellas, principalmente porque casi nadie ha oído hablar de ellas. No mucha gente sabe que el iLamp no solo funciona con energía solar, sino que también puede "funcionar como un centro de datos de IA distribuido que genera ingresos", según CPG, y mucho menos entiende lo que eso significa. Y nadie, ni siquiera yo, sabe cuánto de ese potencial se ha incorporado realmente al modelo del Reino Unido, solo lo que CPG ha anunciado: que ha firmado un acuerdo con el gobierno del estado de Katsina en Nigeria para suministrar 50.000 de estos iLamps, que tienen capacidades de vigilancia adicionales tanto para vehículos como para rostros. El presidente de CPG, Edward Fitzpatrick, le dijo al programa Tech Life del BBC World Service que las farolas podrían eventualmente ayudar a encontrar personas desaparecidas o combatir el crimen, pero solo si se desarrollan "con la autoridad pertinente".
CPG dice que ha sido "ampliamente cubierto por los medios de comunicación mundiales" y no acepta más preguntas, dirigiendo a los medios a sus materiales en línea. En cuanto a las farolas de Warwickshire, el ayuntamiento local envía todas las preguntas al hospital, y el hospital no responde. Es comprensible, es un hospital.
Varios residentes locales se han refugiado de la lluvia en una parada de autobús, la mayoría esperando que una pareja los recoja, y muchos están dispuestos a charlar. Karl, de 52 años, que ha estado en un pub cercano, habla por casi todos cuando dice: "El centro de la ciudad ya está lleno de cámaras, y está bien. No te importa que estén ahí a menos que estés haciendo algo malo". Por más preguntas capciosas que haga (¿Y si hoy estuvieras haciendo algo legal pero dentro de un año fuera ilegal? ¿Y si la vigilancia se volviera predictiva en lugar de reactiva? ¿Y si no quisieras que nadie supiera que has ido al hospital? ¿Y si no se suponía que estuvieras en un pub? ¿No crees que al menos deberían haberte preguntado si lo querías?), no consigo que nadie con quien hablo cambie su opinión de que el reconocimiento facial es una parte tolerable de la vida para un ciudadano respetuoso de la ley.
Tejal, de 41 años, también esperando en la parada de autobús del hospital, dice: "Creo que tenemos que seguir adelante y aceptar que las cosas cambian". Es radióloga, y ver las capacidades de la IA en su propio campo la pone muy ansiosa sobre la IA en general. "Tengo ansiedades por mis hijos", dice. ¿Que no encontrarán trabajos de nivel inicial? "Eso, y que perderán la capacidad de celebrar y encontrar alegría en las cosas que solíamos hacer". Las preocupaciones por la privacidad parecen relativamente menores en comparación con eso.
Los expertos son escépticos sobre algunas de las afirmaciones hechas sobre las farolas inteligentes. Jasleen Chaggar, oficial legal y de políticas senior en Big Brother Watch, dice: "Vemos esto con bastante frecuencia, donde los ayuntamientos u otras agencias gubernamentales son... 'estafados' es una palabra fuerte, pero les venden estas herramientas como varitas mágicas cuando hay límites a lo que realmente pueden hacer".
El profesor Rabih Bashroush, director del Centro de Inteligencia Artificial e Innovación de Datos de la Universidad de East London, es directo: "¿Centros de datos de IA? No hay absolutamente ninguna posibilidad de que esto funcione: la tecnología no funciona, no hay suficiente energía y la economía no cuadra..." Dice que la energía solar para hacer funcionar los iLamps fuera de la red podría funcionar en Nigeria, pero en Gran Bretaña, la energía generada por las farolas es "insignificante". Podrías ejecutar una aplicación que "no fuera crítica, que no te importara apagar durante unos días", como detectar si una plaza de aparcamiento está ocupada, pero las afirmaciones más grandes sobre el reconocimiento facial son "simplemente exageración. Olvídalo, esto no tiene futuro".
Si suena impaciente, es porque lo está: "Cada vez es más difícil obtener una opinión independiente sobre las cosas, porque muchos expertos ahora trabajan en la industria y sus puntos de vista tienen que alinearse con su organización", dice. Así que una empresa podría hacer grandes afirmaciones, añadiendo algunas palabras de moda de IA, antes de una ronda de financiación; los ingenieros no las cuestionan, las autoridades locales no las entienden y nadie más se da cuenta de que algo ha cambiado desde que se inventó la CCTV.
Chaggar se esfuerza mucho en explicar la diferencia conceptual entre el reconocimiento facial y la CCTV: "El reconocimiento facial no solo graba algo pasivamente, como la CCTV, que revisas después del hecho. Lo que hace el reconocimiento facial es una verificación de identidad en tiempo real: se parece mucho más a una huella dactilar o al ADN. No es como un pasaporte: no puedes obtener otra cara".
Otro problema, dice Chaggar, es que "muchas de estas tecnologías e infraestructuras pueden añadir funciones más tarde. Hammersmith y Fulham [en Londres] están actualizando su CCTV, y es posible incorporar reconocimiento facial, monitorear comportamientos de compra sospechosos o añadir detección de agresión. Así que puedes simplemente accionar un interruptor y todo está ahí de la noche a la mañana". Un amigo que vive en Fulham envió por casualidad una foto de una cámara sobre un letrero de restricciones de estacionamiento: parece un cruce entre Darth Vader y un escarabajo, y zumba cuando pasas, como para mostrar que está rastreando tus movimientos.
Esto plantea todas las viejas preocupaciones sobre la privacidad, y es interesante cuántas personas descartan la CCTV como un hecho de la vida moderna, pero se quejan espontáneamente de lo mucho que odian que su teléfono las escuche. Karl dice: "El otro día estaba hablando con mi madre sobre cortaúñas para perros, y el anuncio apareció en mi teléfono esa misma noche. Tenía el micrófono apagado. ¡Ni siquiera tengo perro!" Su amigo Bob, de 48 años, ha terminado prácticamente fuera de la red, sin computadora y con un teléfono básico de ladrillo; un político probablemente lo llamaría "excluido", simplemente porque "a algunas personas les gusta ser privadas".
Otra pregunta sobre el software de reconocimiento facial es: ¿qué tan buenos son los algoritmos para detectar agresión y comportamiento sospechoso? "Gran parte del software es pseudocientífico", dice Chaggar. "Así que una empresa podría intentar vender detección de emociones, [afirmando que] si la gente camina por una estación de tren, puedes ver si están enojados o a punto de volverse agresivos. Hay muy poca evidencia que sugiera que sea preciso. Si eres una persona discapacitada que se mueve de manera diferente, podrías ser marcado y enfrentar una intervención". Pero la verdadera pregunta para las autoridades locales y cualquier agente estatal es... Chaggar dice que la gente debería preguntarse: "¿Te sientes cómodo con que tus enemigos políticos tengan estas capacidades? Porque estás construyendo una infraestructura que ha llegado para quedarse".
Puedes ver esto claramente en la policía. El Ministerio del Interior aprobó el uso del reconocimiento facial hace más de una década, y la policía ha estado "esencialmente usando al público como conejillos de indias durante los últimos 10 años", dice Chaggar. ¿Qué sucede cuando la ministra del Interior le dice a BBC 5 Live, como hizo a principios de este año, que "no puedes disfrutar de ninguna de tus libertades en ningún país si no estás seguro"? Esta lógica contundente, donde todas las libertades quedan en segundo plano frente al papel del estado como tu protector, es inquietante viniendo de un gobierno supuestamente de izquierdas. Pero la mayor preocupación es que este no parece el momento adecuado en la política para apostar por la tecnología de vigilancia, basando nuestra aceptación en la esperanza de que todos los gobiernos futuros sean prosociales y democráticos.
Ver imagen a pantalla completa
'Si no tienes nada que ocultar, no veo cómo sería un problema.' Fotografía: Justin Paget/Getty Images
Dondequiera que haya potencial para recopilar datos, surge la pregunta de quién es el dueño. Bashroush solía trabajar con el Internet de las Cosas, el esfuerzo de la Comisión Europea para "conectar el mundo físico con un entorno digital". "Esto fue hace mucho tiempo, antes de salir de Europa", recuerda. "Uno de los desafíos que vimos fue con un proveedor que básicamente recogía basura de los hogares en los Países Bajos, y luego optimizaba las rutas de los camiones y planificaba según tus hábitos. El ayuntamiento que dirigía el programa estaba muy contento con ello e intentó abrir la licitación un año después para obtener un precio más competitivo. La empresa dijo: 'Claro, pero los datos son nuestros'". Ese problema nunca se resolvió: los contratos estaban mal redactados y la autoridad local perdió los datos.
Si quieres ver cómo el reconocimiento facial sale mal sin intención autoritaria ni trucos tecnológicos, solo mira el sector minorista, donde ya se usa ampliamente para prevenir robos en tiendas. "Hemos visto identificación errónea por parte de la policía", dice Chaggar, "pero en el comercio minorista, cuando la gente es identificada erróneamente, es kafkiano. Simplemente te ponen en la lista negra de la tienda".
Y de nuevo, ¿cuánto le importa realmente a la gente? Si te prohíben la entrada a una tienda y no sabes por qué; si una empresa privada tiene un contrato con tu fideicomiso del NHS, promoviendo tecnología que aún no está operativa y que quizás nunca funcione, pero nadie te lo dijo, y mucho menos te preguntó; si la ministra del Interior cree que está bien que el estado te vigile en todo momento, ¿son estos los componentes de una distopía, o simplemente nos recuerdan cómo solíamos describir la distopía antes de que existieran estas capacidades de vigilancia?
El ensayista de The New Yorker Ted Chiang escribió hace tiempo sobre el hábito de proyectar en la IA aspectos negativos que en realidad eran sobre sistemas económicos, no sobre tecnología. Concluyó: "El capitalismo es la máquina que hará lo que sea necesario para evitar que la apaguemos". ¿Estoy proyectando en la IA y la tecnología de vigilancia ansiedades que en realidad son sobre la política autoritaria?
"Bueno, si no tienes nada que ocultar", dice Sarah, de 55 años, "no veo cómo sería un problema. Supongo que también son lámparas, ¿no?"
Preguntas Frecuentes
Aquí hay una lista de preguntas frecuentes sobre farolas inteligentes con IA que cubren desde preocupaciones básicas hasta avanzadas
Preguntas de Nivel Principiante
1 ¿Qué es exactamente una farola inteligente con IA
Es una farola con sensores, cámaras y micrófonos integrados. En lugar de solo encenderse por la noche, puede recopilar datos y usar IA para analizarlos en tiempo real.
2 ¿Por qué las ciudades querrían instalar estas
Principalmente por eficiencia. Pueden atenuarse cuando no hay nadie cerca para ahorrar energía, detectar disparos para alertar a la policía más rápido, monitorear atascos de tráfico e incluso encontrar plazas de aparcamiento vacías. También pueden cargar vehículos eléctricos y proporcionar WiFi público.
3 ¿Pueden estas farolas espiarme en mi casa
No. Las cámaras y sensores apuntan a la calle y espacios públicos, no al interior de las casas. Están diseñadas para monitorear áreas públicas, no interiores privados.
4 ¿Graban video de mí caminando por la calle
Pueden, pero la mayoría de los sistemas están diseñados para procesar video en tiempo real sin almacenar las imágenes. Sin embargo, algunas ciudades almacenan imágenes por un período corto. La pregunta clave es si los datos se guardan o solo se analizan en vivo.
Preguntas de Nivel Intermedio
5 ¿En qué se diferencia esto de las cámaras de CCTV que ya están en cada esquina
La CCTV tradicional solo graba video que alguien tiene que ver después. Las farolas con IA son inteligentes: pueden entender lo que ven. Por ejemplo, pueden alertar automáticamente a las autoridades si un coche circula en dirección contraria, en lugar de esperar a que un humano lo vea en una grabación.
6 ¿Quién es dueño de los datos que recopilan estas farolas
Varía. Generalmente, el gobierno de la ciudad es dueño de los datos brutos. Sin embargo, las empresas tecnológicas privadas que construyen los sistemas a menudo tienen acceso a datos anonimizados o a los algoritmos de IA. Este es un punto importante de preocupación para los defensores de la privacidad.
7 ¿Puede la IA reconocer mi cara
Muchos modelos avanzados pueden. Algunas ciudades usan reconocimiento facial para encontrar personas desaparecidas o delincuentes buscados. Sin embargo, esto es muy controvertido y varias ciudades han prohibido la función debido a preocupaciones de privacidad y sesgo.
8 ¿Qué impide que un hacker tome el control de toda una red de estas farolas
Este es un riesgo de seguridad real. Si una red no está adecuadamente
