No son buenos tiempos para el reconocimiento facial de Amazon, que ha protagonizado un caso bastante polémico en Estados Unidos. Esta tecnología ha identificado como criminales a 28 congresistas del país, que ya piden responsabilidades a Amazon por tal confusión.

Esta noticia llega tan solo unas semanas después de que Orlando anunciase que ya no quiere usar el reconocimiento facial de la compañía, por lo que parece que el gran proyecto de Amazon atraviesa un bache del que le costará salir. ¿Qué ha pasado exactamente con los congresistas estadounidenses para que fuesen confundidos con criminales?

Un reconocimiento facial no muy preciso

El reconocimiento facial de Amazon corre serio peligro tras confundir a 28 congresistas de Estados Unidos por criminales, según informa La Vanguardia. Todo ocurrió cuando la American Civil Liberties Union (ACLU, Unión Estadounidense por las Libertades Civiles en español) quiso cruzar la información de la tecnología de Amazon con una base de datos creada para tal causa.

Y así fue. Los responsables de ACLU formaron esa base de datos con 25.000 fotos públicas de criminales. Posteriormente, todas esas imágenes se cruzaron con las fotografías de los 535 miembros del Congreso estadounidense, y aquí es donde el software Rekognition falló rotundamente.

Los resultados fueron muy claros: 28 de los congresistas eran criminales, según el reconocimiento facial. Como ya imaginarás, esas personas no eran realmente delincuentes y solo fueron confundidos por el software al analizar las fotos de criminales.

El reconocimiento facial de Amazon ha fallado en un caso muy polémico que afecta hasta al Congreso de EEUU. El Economista

Estos graves fallos de la tecnología de reconocimiento facial de Amazon ponen en seria duda su precisión. Si se equivoca al identificar a estas personas, podría confundir a cualquier ciudadano con delincuentes, con las serias consecuencias que ello tendría.

"Ser identificado -tanto si es de forma precisa o no- podría costarle a la gente su libertad e incluso su vida", ha declarado ACLU al publicar los resultados de la investigación. Los problemas no paran aquí para Amazon, ya que crecen al comprobar quiénes han sido los políticos afectados por su software.

Precisión y racismo a la par

No es complicado pensar cuál ha sido la reacción de los 28 congresistas convertidos en criminales por Rekognition. No solo acusan a Amazon de crear una herramienta con una precisión más que dudable, sino que también la han acusado de tintes racistas en su funcionamiento.

De esos 28 políticos afectados, 11 eran negros, lo que supone un 40% del total. Tal y como apunta El Diario, solo el 20% de los congresistas son negros, denotando que estas personas han sido más perjudicadas por Rekognition que los blancos.

Además, según indica Digital Trends, la investigación también ha revelado que los latinos del Congreso son perjudicados de igual forma por dicha tecnología. Ahora, esos 28 congresistas piden ya responsabilidades a Amazon mediante algunas solicitudes muy claras.

Estos son los 28 congresistas de EEUU identificados como delincuentes por el reconocimiento facial. Digital Trends

Por un lado, el congresista demócrata por California Jimmy Gómez y John Lewis, de Georgia, han reclamado "una reunión inmediata para analizar cómo abordar los defectos de esta tecnología con el objeto de evitar resultados imprecisos" a través de una carta dirigida a Jeff Bezos.

Por otro lado, y como leemos en Expansion, los senadores Edward Markey, Mark DeSaulnier y Luis Gutiérrez han solicitado con otra misiva que Amazon les proporcione los resultados de evaluaciones internas de precisión a las que haya sido sometido Rekognition.

Sus peticiones no paran ahí, ya que también quieren conocer si ese software de reconocimiento facial está siendo utilizado por algún centro de inteligencia o por agentes de seguridad. Finalmente, ACLU lidera la petición más importante, dirigida al propio Congreso:

El Congreso debería tomarse estas amenazas en serio, pisar el freno y promulgar una moratoria sobre el cumplimiento de la ley cuando se usa reconocimiento facial.

Obviamente, Amazon no se ha quedado parada ante tal polémica y ha culpado a ACLU por no utilizar la herramienta de la forma adecuada para realizar la investigación. Según el portavoz de la compañía, la organización no ha utilizado las prácticas necesarias para "establecer los umbrales de confianza".

Finalmente, con sus declaraciones ha dado respuesta a varios de los congresistas. Sí, hay actividades policiales y judiciales que utilizan Rekognition, pero "se guía a los clientes para establecer un umbral de por lo menos 95% o superior", práctica imprescindible para que el reconocimiento facial no dé esos problemas mostrados por ACLU.