Cámaras con IA: ¿debería preocupar su uso?
En el metro de Londres se ha iniciado el uso de cámaras con IA. Estas pueden detectar y analizar las emociones de los usuarios. Es resultado de la tecnología avanzada de reconocimiento facial. Dichos dispositivos utilizan algoritmos sofisticados para interpretar lo que ven; por ejemplo:
Al procesar imágenes en tiempo real, estas cámaras con IA pueden identificar patrones de comportamiento en los rostros. Adicionalmente, ofrecen información relevante sobre el estado emocional general en áreas públicas. Es por esta razón, que se ha vuelto tema de controversia, pues se realiza sin consentimiento de los usuarios.
¿Quién empezó el uso de estas cámaras con IA?
Cámaras 360, estratégicamente ubicadas en las barreras de entrada, capturaron los rostros de los pasajeros. Fueron analizados con el servicio Rekognition de Amazon. Esta herramienta de inteligencia artificial determinó, además de las emociones, la edad y el sexo de los pasajeros.
Según diversas fuentes, Network Rail tomó fotografías de personas en las barreras como parte de una prueba iniciada en 2022. Esta información se obtuvo de documentos hallados por Big Brother Watch, una organización de libertades civiles.
De acuerdo con la información obtenida, Network Rail ha usado este análisis con los siguientes propósitos:
Las cámaras con wifi formaban parte de una prueba para usar la IA en la solución de problemas; por ejemplo:
¿Cuáles son las implicaciones éticas?
El uso de cámaras con IA, que tienen capacidades de reconocimiento emocional, plantea serias implicaciones éticas. Entre ellas se encuentra la falta de transparencia, además de la normalización de la vigilancia digital en lugares públicos.
La instalación de este tipo de cámaras sin el consentimiento explícito y consciente de los usuarios genera preocupaciones sobre la invasión de la privacidad y la pérdida de confianza pública. Por otro lado, hay falta de claridad en cuanto a cómo es la recopilación, el almacenamiento y utilización de estos “datos emocionales”.
Por consiguiente, se piensa que se usa de forma indebida, que tiene fines comerciales o de control social.
La ONG Big Brother Watch ha sido una de las principales en lanzar críticas y condenar estas acciones. Algunas de sus principales refutaciones radican en los siguientes aspectos:
La profesora Lilian Edwards de la Universidad de Newcastle criticó el uso del reconocimiento de emociones. Lo calificó como "poco ético y probablemente ilegal".
Por su parte, la profesora Sandra Wachter, de la Universidad de Oxford, alertó sobre el riesgo de sesgos de género y origen étnico. Advirtió que este tipo de vigilancia y tecnología no solo infringe la privacidad, sino que también promueve la falsa idea de que todos los individuos son posibles delincuentes.
El futuro de la vigilancia digital
Si se piensa en un futuro respecto a este tipo de usos, es probable que la tecnología de cámaras con IA y capacidades de reconocimiento emocional se expanda y evolucione. Ello llevará a la mejora en su precisión y alcance. Para que se le dé un uso debido, su desarrollo debe ir acompañado de:
La transparencia en el uso de esta tecnología, junto con la adopción de medidas de protección de datos y el establecimiento de límites claros sobre su utilización, serán cruciales para evitar la normalización de una sociedad de vigilancia y preservar la confianza pública en las instituciones que implementan estas tecnologías. En definitiva, la presencia de cámaras con IA en el sistema de transporte subterráneo de Londres supone un progreso tecnológico; pero al mismo tiempo nos plantea interrogantes fundamentales acerca de la ética y la privacidad. La manera en que afrontemos estos dilemas determinará el rumbo de la vigilancia digital en el futuro. ¿Estamos listos para afrontar este nuevo desafío? Conoce más al respecto en nuestro blog.
Moncho Terol
El futuro lo escribimos todos juntos. Me gustan las redes y la conectividad.
El blog de innovación de Telefónica
Insertar, invertir o eliminar secuencias largas de ADN en posiciones específicas del genoma de bacterias es posible gracias a una nueva herramienta que utiliza los llamados ‘puentes de ARN’. Esta estrategia ofrece un corta-pega más eficiente, en comparación con los métodos actuales. Sin embargo, aún no se ha demostrado que el sistema funcione en células humanas.
Destacar el estrés laboral para demostrar profesionalismo y compromiso probablemente resulte contraproducente, revela un nuevo estudio.
Aunque se ha avanzado mucho en la reducción del trabajo infantil a lo largo de los años, en los últimos años se han invertido las tendencias mundiales luego de pandemia por COVID- 19.
En la vanguardia de la innovación tecnológica, las empresas se enfrentan al desafío constante de mantenerse en constante evolución para ser la más puntera del sector. Sin embargo, el verdadero motor del progreso no reside en la tecnología en sí, sino en las personas que la utilizan y la enriquecen con su interacción diaria.
El libro “Primavera silenciosa” de Rachel Carson tuvo una profunda influencia en los movimientos y políticas ambientalistas. 62 años después de su publicación el discurso de Carson sigue vigente.
La NASA proporcionará cobertura en vivo de las actividades previas al lanzamiento y de lanzamiento de la misión GOES-U (Satélite Ambiental Operacional Geoestacionario U) de la Administración Nacional Oceánica y Atmosférica (NOAA). La ventana de lanzamiento de dos horas se abre a las 5:16 pm EDT del martes 25 de junio para el lanzamiento del satélite en un cohete SpaceX Falcon Heavy desde el Complejo de Lanzamiento 39A en el Centro Espacial Kennedy de la NASA en Florida.