TikTok se inunda de vídeos racistas generados por IA. La culpa de todo la tiene esta aplicación de Google

La mayor virtud de TikTok es también su mayor problema. La red social china es buenísima ayudando a los creadores de contenido a viralizar sus vídeos. En varios países es posible ganar dinero y convertirse en una estrella gracias a la aplicación para móviles y su Programa de Recompensas: desde Estados Unidos hasta Corea del Sur, pasando por Reino Unido, Alemania, Francia, Italia, Brasil o Japón. No, no envíes ese correo de renuncia a tu jefe; en España no está disponible.

Los vídeos desinformativos campan a sus anchas en TikTok. Su naturaleza viral permite a los bulos expandirse como la pólvora, y la inteligencia artificial no ha hecho más que empeorar la situación. No podemos fiarnos de nada de lo que veamos publicado, por muy real que parezca. Sobre todo desde que existe Veo 3 de Google.

Veo 3 es un modelo de inteligencia artificial desarrollado por el gigante de Internet que permite generar vídeos de alta calidad a partir de descripciones textuales o imágenes. Además, puede integrar audio de forma nativa, lo que hace que las creaciones sean todavía más completas y realistas. Muchos usuarios están usando esta tecnología para difundir vídeos racistas por TikTok.

Los vídeos de odio no paran de multiplicarse en TikTok, a pesar de que la red social los prohíbe

Aunque acaba de llegar a España, Veo 3 lleva unas semanas disponibles en Estados Unidos. Ha sido tiempo más que suficiente para que usuarios maliciosos generen vídeos racistas con esta inteligencia artificial para propagarlos por las redes sociales, especialmente TikTok.

Según un informe de MediaMatters, son varias las cuentas de TikTok que se han especializado en la publicación de vídeos generados por IA que utilizan tropos racistas y antisemitas desde hace unas semanas. La mayoría de los vídeos es contra las personas negras, señalándolas como "sospechosas habituales" de delitos, padres ausentes y comparaciones con ciertos animales.

Algunos vídeos también están dirigidos contra inmigrantes y judíos. Los clips, con una duración no superior a ocho segundos, llevan la marca de agua "Veo", por lo que no cabe duda de que han sido creados con la herramienta basada en IA de Google. Un canal de YouTube ha recopilado algunos de los ejemplos vistos en la red social (puede herir la sensibilidad por su contenido racista y antisemita).

MediaMatters, además, asegura que las publicaciones originales están repletas de comentarios que reflejan los estereotipos utilizados en el vídeo. Google lleva meses haciendo hincapié en la seguridad al anunciar sus modelos de IA, por eso sorprende tanto que Veo 3 tenga unos estándares tan «laxos».

Si bien las condiciones de servicio de TikTok prohíben este tipo de contenido, no paran de aparecer vídeos de odio generados con Veo 3: "No permitimos ningún discurso de odio, comportamiento de odio ni la promoción de ideologías de odio. Esto incluye contenido explícito o implícito que ataque a un grupo protegido".

La razón por la que no pararían de multiplicarse estos vídeos en TikTok sería que la red social no da abasto con su sistema de moderación, compuesto por moderadores humanos y otras tecnologías. Además, se están viendo en otros servicios como X (anteriormente conocido como Twitter), cuya moderación basada en Notas de la comunidad no es, que digamos, demasiado eficiente.