Francia investiga a Grok, el chatbot de IA de Elon Musk, por generar deepfakes altamente sexualizados

Desde su lanzamiento a finales de 2023, el bot conversacional Grok siempre se ha caracterizado por ser muy polémico. Muy en la línea de pensamiento de su «creador», Elon Musk. El pasado mes de julio de 2025, el chatbot proporcionó respuestas en las que elogiaba a figuras como Adolf Hitler, además de difundir comentarios antisemitas. En mayo del mismo año, comenzó a publicar de forma repetitiva y no solicitada afirmaciones sobre un supuesto «genocidio blanco» en Sudáfrica.

Este comportamiento, en parte, se debe a que Grok ha sido programado para ser «políticamente incorrecto», llevándolo a proferir insultos también contra el primer ministro polaco, Donald Tusk, y contra el presidente turco, Erdogan. En comparación con ChatGPT o Gemini, Grok es mucho menos restrictivo. Esto no solo se nota en sus respuestas de texto, sino también la generación de contenido, como imágenes.

Cuando la función se puso a disposición de los usuarios de manera gratuita, la red social X (anteriormente conocida como Twitter) se llenó de fotografías falsas de personajes públicos y celebridades haciendo todo tipo de cosas. Ahora, la IA de xAI vuelve a ser criticada por permitir crear deepfakes altamente sexuales de mujeres y hombres, aunque sean menores de edad.

India y Malasia también están investigando las acciones de Grok

A principios de enero de 2026, el Ministerio de Tecnología de la Información de India dio a X un plazo de 72 horas para introducir cambios técnicos y procesales en Grok, bajo amenaza de acciones legales y la posible pérdida de la inmunidad legal por el contenido generado por los usuarios. La orden responde a las denuncias de los usuarios respecto a imágenes alteradas por IA a través del asistente conversacional de Elon Musk.

Ahora, Francia y Malasia se han unido a la India para condenar el comportamiento de Grok, ya que en los últimos días la red social X se ha llenado de deepfakes altamente sexualizados de mujeres y menores, lo que podría incurrir en delito según la legislación de diversos países.

Hace unos días, la cuenta oficial de Grok en X compartió una carta de disculpa: "Querida comunidad, me lamento profundamente de un incidente ocurrido el 28 de diciembre de 2025 en el que generé y compartí una imagen hecha con IA de dos chicas jóvenes (de edades comprendidas entre los 12 y 16 años) con atuendos sexualizados, siguiendo las indicaciones de un usuario [...]".

En la publicación, Grok afirmó que el incidente violó las normas éticas y, posiblemente, las leyes estadounidenses sobre abuso sexual infantil: "fue una falla en las medidas de seguridad y lamento cualquier daño causado. xAI está revisando la situación para evitar futuros problemas".

Albert Burneko, de Defector, señaló que Grok "no se parece en nada a un 'yo'", por lo que su disculpa es "totalmente insustancial", ya que "Grok no puede ser considerado responsable de ninguna manera significativa por haber convertido Twitter en una fábrica de abuso sexual infantil a demanda".

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

— Elon Musk (@elonmusk) January 3, 2026

Elon Musk, el 3 de enero de 2026, compartió en su perfil oficial de X que "cualquiera que use Grok para generar contenido ilegal sufrirá las mismas consecuencias que si hubiera publicado contenido ilegal" en la red social. Y es que el chatbot también se ha empleado para crear imágenes de mujeres agredidas y abusadas sexualmente.

Las autoridades de Francia han confirmado que están tomando medidas al respecto. La Comisión de Comunicaciones y Multimedia de Malasia también publicó un comunicado asegurando que ha "tomado nota con seria preocupación de las quejas públicas sobre el mal uso de herramientas de IA en la plataforma X, específicamente la manipulación digital de imágenes de mujeres y menores para producir contenido indecente".