IBM está completamente enfocada en el desarrollo de inteligencias artificiales que ayuden a cambiar el mundo. Parece que lo está consiguiendo, ya que hace unos días conocimos el proyecto basado en una IA que podría detectar precozmente el Alzheimer. Pero, ¿hay que lograr el progreso de esas tecnologías a cualquier precio?

IBM vive ahora una situación complicada tras revelarse que ha utilizado casi un millón de fotos de Flickr sin permiso para entrenar a su reconocimiento facial. El problema aumenta cuando echamos la vista atrás y vemos que IBM vivió recientemente otro escándalo con su reconocimiento facial que llegó a implicar a la policía de Nueva York.

IBM utilizó sin permiso miles de fotos

Los rostros de millones de personas han sido utilizados para mejorar el reconocimiento facial de IBM sin que ninguno de ellas lo supiese. Así lo ha revelado NBC News con un reportaje que demuestra que la compañía estadounidense ha alimentado a su algoritmo con miles de imágenes extraídas de la plataforma Flickr.

El pasado enero, IBM publicó una base de datos con millones de fotografías codificadas con información de los sujetos que en ellas aparecían. El objetivo era demostrarle a los investigadores que el sesgo del reconocimiento facial cada vez es menor, aunque la publicación de ese conjunto de fotos solo ha metido a IBM en otra polémica más.

NBC News se ha puesto en contacto con algunos de los autores de las capturas para comentarles que las mismas habían sido utilizadas por la empresa estadounidense. Es muy probable que el medio ya imaginase que muchos de ellos no habían dado permiso a IBM para alimentar a su reconocimiento facial con sus fotos.

IBM se negó a compartir la base de datos con NBC News, alegando que era solo para investigadores

Sorpresa y desconcierto fueron las sensaciones que mostraron los fotógrafos contactados cuando el periódico les informó de lo sucedido. La geometría facial y el tono de la piel eran solo algunas de las características anotadas por IBM en sus imágenes, convirtiéndolas en carne de algoritmos.

"Ninguna de las personas que fotografié tenía idea de que sus imágenes se estaban utilizando de esta manera", ha declarado Greg Peverill-Conti, un ejecutivo dedicado a las relaciones públicas en Boston que tiene más de 700 fotos en la base de datos de IBM. "Parece un poco impreciso que IBM pueda usar estas imágenes sin decirle nada a nadie", ha añadido el fotógrafo.

NBC News no lo ha tenido fácil para acceder a esa base de datos, ya que IBM se ha negado a compartirla con el medio al tratarse de información para grupos de investigación o académicos. Según ha especificado el medio, ha logrado hacerse con ella gracias a una fuente de la que no ha aportado detalles.

IBM ha utilizado sin permiso imágenes de Flick para entrenar a su reconocimiento facial. Criptotendencias

Al dificultar tanto el acceso al casi millón de imágenes utilizadas para la IA, IBM consigue que los fotógrafos no lleguen a saber si la compañía ha utilizado sus imágenes sin permiso. Sin embargo, esa dificultad se desvanece gracias a NBC News, que ha creado una herramienta disponible en su reportaje para que los fotógrafos puedan comprobar si sus nombres de usuarios en Flickr aparecen en la base de datos.

La información puede tener graves consecuencias para IBM, que ha utilizado con fines comerciales imágenes que no estaban destinadas a ello. "Dado que asumo que IBM no es una organización caritativa y que al final del día quiere ganar dinero con esta tecnología, este es claramente un uso comercial", opina Georg Holzer, víctima con más de 700 imágenes utilizadas para el reconocimiento facial.

Finalmente, cabe destacar que IBM no se encargó de recopilar las imágenes de Flickr, sino que tiró de una base de datos llamada YFCC100M con más de 99 millones de fotografías. Esa colección fue creada bajo licencia de Creative Commons por Yahoo, propietaria de Flickr.

IBM se defiende explicando lo sucedido

IBM ha negado los fines comerciales de la base de datos utilizada para entrenar a su reconocimiento facial, afirmando que se trata de una investigación puramente académica. "Nos tomamos muy en serio la privacidad de las personas y hemos tenido mucho cuidado de cumplir con los principios de privacidad", ha explicado la compañía a The Verge sobre Diversity in Faces.

IBM también ha asegurado que cualquier fotógrafo que desee que eliminen sus fotos de la base de datos puede solicitarlo mediante correo electrónico a la compañía, pero ya hemos visto anteriormente que es imposible saber si tus obras están siendo utilizadas o no.

Al ser cuestionada sobre los lugares de los que extrae los datos, IBM ha reconocido que son "adquiridos de diversas fuentes", pero que decide no compartirlos para "proteger nuestras percepciones y propiedad intelectual".