La inteligencia artificial ha identificado mal un "arma" en este colegio. No era tal, sino un instrumento musical
La inteligencia artificial que vigila un instituto de Florida confundió el clarinete de un alumno con un rifle, un polémico 'éxito' para la empresa que destapa el debate sobre su fiabilidad
Lejos de cuestionar su fiabilidad, el distrito escolar de Florida donde un sistema de inteligencia artificial provocó una falsa alarma ha decidido redoblar su apuesta por esta tecnología. Las autoridades locales no solo han defendido la actuación del software, sino que planean ampliar su implantación, para lo que ya han solicitado una inversión de medio millón de dólares. Esta partida presupuestaria se destinará a la instalación de 850 cámaras adicionales equipadas con el polémico sistema ZeroEyes en los centros educativos de la zona.
Y es que la controversia estalló por un incidente que bien podría parecer sacado de una comedia. El sistema de vigilancia, diseñado para detectar armas en tiempo real, confundió el clarinete de un alumno con un rifle, lo que desató un protocolo de confinamiento en todo el instituto. La situación se vio agravada por la vestimenta del estudiante, que acudía ese día disfrazado con ropa de estilo militar para una jornada temática organizada por el propio centro.
La delgada línea entre la prevención y el 'circo de seguridad'
Sin embargo, ni la empresa desarrolladora ni la dirección del colegio consideran lo ocurrido un error. Desde ZeroEyes defienden que el programa aplicó correctamente el principio de «más vale prevenir que lamentar», por lo que sostienen que el sistema funcionó como debía. Esta visión fue respaldada por la directiva del instituto, que instó a los padres a concienciar a sus hijos sobre el peligro de simular la tenencia de armas en un entorno escolar.
https://x.com/ZeroEyesAI/status/1699758891943309520
De hecho, este episodio no es un caso aislado en el creciente sector de la vigilancia mediante IA en Estados Unidos. Tal y como informa el medio Ars Technica, otros sistemas similares han protagonizado falsas alarmas al identificar como armas objetos tan dispares como pistolas de fogueo de obras de teatro o incluso sombras proyectadas en el suelo. Expertos en la materia ya han comenzado a alertar sobre lo que califican como mero «teatro de seguridad», herramientas de coste elevado cuya fiabilidad es, como mínimo, discutible y que generan una falsa sensación de protección.
Por su parte, la compañía ZeroEyes se defiende con cifras contundentes que explican la confianza de las autoridades. La empresa asegura haber detectado más de mil armas reales en los últimos tres años, además de haber sido una pieza clave en más de una decena de detenciones. Su modelo de negocio, ya presente en 48 estados del país norteamericano, ha experimentado un crecimiento en sus ingresos del 300 % entre 2023 y 2024.
Con todo, los detractores de esta tecnología ponen el foco en las consecuencias que acarrean estos avisos infundados. Advierten no solo sobre el estrés innecesario que generan entre los estudiantes, sino también del riesgo de provocar una «fatiga de alarma» en las fuerzas de seguridad, cuya capacidad de respuesta podría verse mermada ante un aluvión de alertas que terminan siendo un malentendido.