Como Elon Musk, nosotros también nos encontramos anonadados con la Inteligencia Artificial y las infinitas posibilidades que ofrece. Sin embargo, al igual que el gurú sudafricano, creemos que es fundamental poner límites porque aunque sea maravillosa, los algoritmos dista mucho de ser perfectos y fomentan los prejuicios sociales y las desigualdades, como detalla el New York Post.

Es tan sencillo como que los humanos somos capaces de evaluar las situaciones de forma individual, teniendo en cuenta las particularidades y la discriminación positiva. Sin embargo, los motores neurales son entrenados duramente y adquieren su saber hacer en base a la experiencia.

Así, es típico que asuman que eres heterosexual o que incluso se esfuercen buscando rasgos fisonómicos para asociar tu aspecto con tus preferencias sexuales obviando que no existe ninguna prueba vinculante entre ambos. O que mientras estás escribiendo en tu iPhone sobre la muerte de un ser querido, tu móvil te sugiera el emoji de la calavera en una flagrante falta de tacto. O que te felicite una web por perder peso aunque seas anoréxica. Qué quieres, solo es un robot.

¿Es casualidad que Siri o Alexa tengan voz de mujer? ¿Están las mujeres para servirte?

Conforme las respuestas automatizadas y las redes neurales van integrándose en nuestra sociedad, estos problemillas éticos, discriminatorios, lapsus y demás están a la orden del día e irán en aumento.

La consultora web Sara Wachter-Boettcher explica esta serie de problemas fruto de la modernidad en la que nos vemos envueltos en su nuevo libro “Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech”. A continuación, os queremos mostrar algunos prejuicios que están a la orden del día.

Tu iPhone es machista

¿Nunca te has preguntado por qué Siri o Alexa son mujeres? ¡Qué casualidad que los asistentes virtuales de Apple y Amazon tengan voces femeninas!, ¿no te parece? Estamos tan educados dentro de la heteropatriarcalidad que a veces nos cuesta ver los gestos machistas.

Si tienes dudas, haz una prueba: cambia a la mujer por una persona de color. ¿No te parecería asquerosamente racista que tu asistente virtual, sea de la compañía que sea, fuera alguien de color por defecto? Pues si te parece tan racista que te incomoda, también es machista.

Que Siri o Alexa sean mujeres tiene que ver con que tradicionalmente se asocia el trabajo administrativo con las mujeres. Como explica la escritora:

Es interesante comparar Siri con visiones más tempranas de la tecnología. Los técnicos que desarrollan estos productos no se paran a pensar que la voz ha de ser femenina, simplemente lo asumen. Además, durante años Siri ha sido conocida por meter la pata con ciertas cuestiones… Como cuando le preguntas qué haría ella si fuera atacada sexualmente y responde de forma irónica. Es como si se centrasen más en hacerla divertida que en hacerla útil frente a situaciones de emergencia.

Es decir, como asistente virtual que emplea Inteligencia Artificial es normal que tenga problemas propios de contextualización que se irán puliendo conforme avance la tecnología, ya que de hecho se estima que otros asistentes virtuales le sacan los colores al de Apple, como explican en iPadizate. No, el problema es que frente a algunas cuestiones sencillas, Siri tira balones fuera, siendo graciosa, inocente o irónica.

Así es como Siri responde frente a una amenaza de incendio y una violación. Urban Tecno

Prueba a preguntarle qué haría frente a una violación o si fuera violada. Literalmente, te responde que no sabe qué hacer. No hay teléfono de ayuda, asistencia, etc. Ahora dile que hay un incendio. Verás como Siri te remite a los bomberos.

A Facebook no le gusta tu nombre

Si tienes una cuenta de Facebook sabrás que es necesario que uses tu nombre real, de hecho, si has intentado ponerte un alias, mote o nombre de tu empresa tarde o temprano habrás tenido problemas, instándote a que cambies de nombre en algunos casos o que crees una página de tu negocio. Cuando tienes un nombre menos tradicional, el problema se acentúa.

Por ejemplo, al nativo norteamericano Shane Creepingbear (traducción: Oso arrastrado), miembro de una tribu de los Kiowa de Oklahoma, le cerraron la cuenta en 2014 ya que su nombre violaba los estándares normativos de la red social de Mark Zuckerberg. Lo mismo les sucedió a otros nativos como Robin Kills the Enemy (traducción: matar al enemigo) y a una drag Queen llamada Lil Miss Hot Mess.

Wachter-Boettcher explica:

Facebook se ha posicionado en El Centro de nuestras vidas y decide arbitrariamente si tu nombre es auténtico, o no. ¿Pero quién es para hacerlo? Es algo que no corresponde a una compañía.

Google puede ser racista

El motor de búsqueda más popular del planeta, que recientemente cumplió 19 años, usa Inteligencia Artificial para etiquetar las imágenes de los usuarios. Por ello, en algunos momentos se ha visto en situaciones comprometidas.

Por ejemplo, como cuando en 2015 etiquetó una foto de dos afroamericanos como gorilas, como cuenta el diario inglés Telegraph.

Wachter-Boettcher culpa a la falta de diversidad de la compañía de Google. Según las estadísticas del pasado mes de junio, la plantilla cuenta con solo un 2% de personas negras. Sara se muestra así de crítica:

¿Cómo puedes lanzar un producto que es malo identificando pieles oscuras? Muy sencillo, porque no piensas en ello.

Internet te insulta

Internet y las técnicas de marketing se han convertido en ese artista irreverente que insulta a todo el mundo para llamar tu atención y ya de paso minar tu autoestima para que compres lo que te vende.

Los algoritmos que rigen internet son machistas, homófobos y racistas. El País

Te lo mostramos con un ejemplo. Visita un sitio cualquiera y verás como en muchos de ellos te sugieren que te inscribas en su lista de correo. Sería interesante encontrar un botón que te dijera "No, gracias" y ya está, fin de la discusión. Sin embargo, cada vez es más frecuente encontrar respuestas más agresivas y coloquiales como "No gracias, odio ahorrar dinero" o "No, prefiero estar desinformado".

Sí, nos pueden sacar una sonrisa y en muchos casos convencernos, pero a costa de un ataque sutil a nuestras decisiones. Es una táctica que se basa en forzarte a hacer algo porque te sientes avergonzado o presionado para ello. Y desde luego, no es la mejor manera de iniciar una relación contractual.

¿Qué podemos hacer?

Así que sí, la Inteligencia Artificial y la tecnología son maravillosas y nos pueden hacer la vida más fácil, pero no dejemos que ellos tomen el control, de lo contrario veremos situaciones tan esperpénticas como aquella en la que se sugería que Google podría comprar Apple que desembocó en una subida en bolsa de la compañía de la manzana mordida.

Gracias a la tecnología y la automatización, todo funciona más rápido. Pero es fundamental la supervisión humana y el establecimiento de límites para todo lo que tenga que ver con recursos humanos, control y difusión de datos Recuerda, son solo robots.