Una compañía crea una aplicación para recrear a seres queridos fallecidos mediante IA. ¿Es ético lo que pretende?

Muchos usuarios y expertos creen que esta tecnología traspasa los límites emocionales, corriendo el riesgo de sustituir el dolor real por un consuelo artificial

Una compañía crea una aplicación para recrear a seres queridos fallecidos mediante IA. ¿Es ético lo que pretende?
Fragmento del vídeo compartido en redes sociales por 2wai, en el que se puede ver el HoloAvatar de una abuela hablando con su nieto
Publicado en Tecnología

Las nuevas tecnologías están permitiendo que las tramas distópicas de Black Mirror se vuelvan reales. En el primer episodio de la tercera temporada de la serie creada por Charlie Brooker, titulado 'Nosedive' (en español, Caída en picado), existe una puntuación social muy parecida al sistema de crédito social chino, que es una iniciativa gubernamental que sirve para evaluar la confiabilidad de los individuos y empresas mediante la recopilación y análisis de datos de su comportamiento.

En el primer episodio de la segunda temporada de Black Mirror, llamado 'Be Right Back' (Ahora mismo vuelvo, en español), una mujer interactúa con una inteligencia artificial entrenada con los datos de su pareja fallecida. Actualmente, existen bots conversacionales memoriales que imitan el estilo de escritura de personas que ya no están entre nosotros, y hay modelos muy avanzados que permiten clonar la voz y el estilo de comunicación a partir de los datos públicos de las redes sociales.

Traer «de vuelta» a los muertos con IA es un asunto muy delicado. En 2020, Kanye West lo hizo regalando a la que por aquel entonces era su mujer, Kim Kardashian, un holograma con un mensaje de su difunto padre por su cumpleaños. Fue bastante comentado en las redes sociales y los medios, ya que parecía salido de un capítulo de la distópica producción de Netflix. Ahora, una empresa quiere que muchas más personas tengan la posibilidad de interactuar con sus familiares fallecidos.

Una tecnología que muchos usuarios consideran "demoníaca" y "pesadillesca"

2Wai es una startup con sede en Los Ángeles que tiene una misión muy definida: crear avatares de IA muy realistas con los que se puede conversar de forma natural. Su tecnología permite, a partir de un vídeo corto, generar una especie de «avatar holográfico» que tienen no solo la cara, sino también la voz e identidad de la persona en la que está basado. Según la startup, sus creaciones son capaces de mantener conversaciones en tiempo real en más de 40 idiomas.

La startup se volvió viral cuando su cofundador, Calum Worthy, publicó un vídeo promocional que mostraba cómo funcionaba su tecnología. El vídeo muestra a una mujer embarazada hablando por teléfono con una recreación mediante inteligencia artificial de su difunta madre. Después, la escena avanza 10 meses, mostrando a la «abuela» con IA leyéndole un cuento al bebé para que se duerma. La grabación acaba con el hijo adulto diciéndole a su abuela artificial que está a punto de convertirse en bisabuela.

Con su tecnología, Worthy asegura que 2Wai está "creando un archivo viviente de la humanidad", comentando que: "¿Y si los seres queridos que hemos perdido pudieran formar parte de nuestro futuro?". La aplicación ya está disponible en la tienda de aplicaciones de Apple para iPhone, por lo que cualquier usuario interesado puede crear un HoloAvatar. No obstante, todavía se encuentra en fase beta, y próximamente llegará una versión para dispositivos Android.

Muchos usuarios de las redes sociales, tras ver el vídeo, no pudieron contenerse y empezaron a calificarlo de "pesadilla" y "demoníaco". Algunos incluso llegaron a decir que la tecnología "sería destruida". Hay críticos que afirman que la idea traspasa los límites emocionales, corriendo el riesgo de sustituir el dolor real por un consuelo artificial. Ciertos espectadores se preguntaron si esta polémica tecnología podría distorsionar la memoria, el apego y el proceso de pérdida.

Para ti
Queremos saber tu opinión. ¡Comenta!