Amazon prohíbe a la policía usar su reconocimiento facial

Amazon es uno de los grandes impulsores de la tecnología de reconocimiento facial. En 2016 lanzó Rekognition, aunque es mucho más que un simple reconocimiento facial: en realidad, ha sido entrenado para reconocer todo aquello que le pongas delante, incluso objetos. El problema es que lleva presente muchos años la polémica sobre si la policía debería poder usar este tipo de sistemas, como lleva haciendo hasta ahora, método gracias al cual se ha detenido a varias personas. Ahora, Amazon ha decidido cortar el problema de raíz y ha prohibido a los cuerpos de seguridad usar sus sistemas durante un año.

La decisión ha surgido tras las innumerables protestas realizadas a lo largo del planeta respecto al racismo institucional. Y es que la tecnología de Amazon tiene un sesgo racial: no diferencia a personas de ciertos tonos de piel, lo que podría llevar a la detención de personas inocentes. La polémica se incrementó aún más cuando un estudio publicado en enero de 2019 desveló que las personas con tonos oscuro tenían más probabilidad de ser confundidas por esta IA, especialmente si el sujeto era una mujer.

Y dado que Amazon aloja este servicio en sus propios servidores, puede prohibir el acceso fácilmente a determinadas entidades, asegurándose que la prohibición se cumple de manera estricta durante el periodo previsto. No obstante, no está muy claro cuantos cuerpos de policía a lo largo de Estados Unidos usan esta Inteligencia Artificial, lo que sí podría complicar llevar a cabo esta nueva medida.

«Nosotros [Amazon] hemos abogado por que los gobiernos ponga en lugar regulaciones más restrictivas sobre la ética de uso de la tecnología de reconocimiento facial, y en los días recientes, el Congreso parece preparado para llevar a cabo este desafío [...] Esperamos que este año de moratoria pueda dar al Congreso el suficiente tiempo para implementar reglas apropiadas, y estamos preparados a ayudar si fuese requerido», explicó la compañía en un comunicado.

No obstante, otras entidades como aquellas que luchan contra el tráfico de personas, sí que estarán permitidas a usar este tipo de software de reconocimiento facial.

¿Deberían los gobiernos permitir a la policía usar este tipo de tecnología?

La policía de Estados Unidos no es la única que utiliza reconocimiento facial. En China, de hecho, están construyendo una especie de 'Gran Hermano' con un sistema de millones de cámaras desplegadas por las calles de todo el país asiático. Pero la polémica, en cualquier caso, es clara: ¿se debería poder usar este sistema aún cuando tiene un porcentaje real de fallo? ¿Se podría considerar ético usarlo si encierra a más delincuentes que inocentes? ¿O debería dejarse de usar hasta que no exista margen de error?

Y no solo Amazon pide regular esta tecnología. Microsoft ya calificó hace años como «urgente» este tema, afirmando que se debe legislar en torno al reconocimiento facial cuanto antes.

Te interesa | No digas que no te lo advertí: la profecía de Elon Musk sobre Inteligencia Artificial