Durante los últimos dos años, varias estaciones de tren en el Reino Unido han sido equipadas con cámaras de vigilancia avanzadas que utilizan IA para monitorear multitudes, detectar robos de bicicletas y observar a personas que invaden las vías del tren. Estas pruebas, supervisadas por Network Rail, también han utilizado sensores inalámbricos para detectar suelos resbaladizos, cubos de basura llenos y desagües que podrían desbordarse. La introducción de esta tecnología ha planteado preocupaciones sobre la privacidad y el uso ético de la vigilancia en espacios públicos.

Implementación y objetivos de la IA

En los últimos dos años, ocho estaciones de tren en el Reino Unido, incluyendo grandes centros como Euston y Waterloo en Londres, y Piccadilly en Manchester, han probado tecnología de vigilancia avanzada combinada con IA. El objetivo principal de estas pruebas era mejorar la seguridad y reducir ciertos tipos de delitos en las estaciones. Utilizando el reconocimiento de objetos, un tipo de aprendizaje automático, las cámaras podían identificar elementos en las grabaciones de video para detectar personas invadiendo las vías, predecir el hacinamiento en las plataformas, identificar comportamientos antisociales como correr o fumar, y detectar posibles ladrones de bicicletas.

Funcionalidades técnicas

Las pruebas emplearon una combinación de cámaras CCTV «inteligentes» que pueden detectar objetos o movimientos en las imágenes capturadas y cámaras más antiguas cuyas transmisiones de video fueron conectadas a análisis en la nube. En cada estación, se instalaron entre cinco y siete cámaras o sensores. Los documentos obtenidos por Big Brother Watch a través de una solicitud de libertad de información revelan que había 50 posibles casos de uso de la IA, aunque no todos fueron implementados en las pruebas. Por ejemplo, en la estación de Euston se probó un sistema de detección de riesgo de suicidio, pero la cámara falló y no se reemplazó.

Análisis de emociones y demografía

Uno de los aspectos más polémicos de estas pruebas fue el análisis de demografía y emociones de los pasajeros. Las cámaras capturaban imágenes de los pasajeros cuando cruzaban una «barrera virtual» cerca de las taquillas, enviándolas al sistema Rekognition de Amazon para su análisis. Este sistema podía analizar la satisfacción de los pasajeros midiendo emociones como felicidad, tristeza o enojo. Sin embargo, los expertos en IA han advertido que la detección de emociones es una tecnología poco fiable y debería prohibirse debido a la dificultad de interpretar correctamente los sentimientos a partir de audio o video.

Preocupaciones sobre la privacidad

El despliegue y la normalización de la vigilancia con IA en espacios públicos sin una consulta y conversación adecuada es una preocupación significativa. Los documentos obtenidos indican una actitud indiferente hacia las preocupaciones de privacidad. En un documento diseñado para evaluar los problemas de protección de datos de estos sistemas, una pregunta planteada fue: «¿Es probable que algunas personas se opongan o lo encuentren intrusivo?» La respuesta fue: «Típicamente, no, pero no se puede tener en cuenta a algunas personas».

Resultados y futuro de la IA en la vigilancia

A pesar de las preocupaciones, las pruebas también demostraron beneficios prácticos. Por ejemplo, las cámaras en una estación permitieron a la policía acelerar las investigaciones de robos de bicicletas al poder identificar bicicletas en las grabaciones. También se probaron sensores de calidad del aire y detectores de suelos resbaladizos, lo que podría ahorrar tiempo al personal de limpieza. A nivel mundial, sistemas de vigilancia similares están siendo utilizados para monitorear multitudes y detectar incidentes de seguridad, como en los Juegos Olímpicos de París, donde se usarán para detectar aglomeraciones, armas y objetos abandonados.

Reflexiones adicionales

El uso de la IA en la vigilancia pública plantea un dilema entre la seguridad y la privacidad. Si bien la tecnología puede mejorar la seguridad y eficiencia en la gestión de espacios públicos, la falta de transparencia y el potencial abuso de estos sistemas son preocupaciones legítimas. La expansión de la vigilancia puede llevar a un mayor control y una posible pérdida de libertad, afectando negativamente a las democracias liberales.