Indignación al saber que estos robots para niños hablan de temas sexuales sin censura

La inteligencia artificial se ha ido haciendo un hueco poco a poco en todos lados, hasta el punto de que no usarla resulta casi imposible. No solo está presente en nuestros ordenadores o dispositivos móviles, sino también en buscadores de Internet, herramientas como Photoshop o los populares bots conversacionales como ChatGPT, Gemini o Copilot.

Su desarrollo ha permitido integrar esta tecnología incluso en juguetes para niños. Una rápida búsqueda en la red nos devuelve una enorme cantidad de resultados sobre artículos dirigidos al público infantil con inteligencia artificial, como robots interactivos u ositos de peluche cuentacuentos de última generación. Lógicamente, su existencia no ha pasado desapercibida ni para los padres ni los expertos, que temen que no sean demasiado seguros.

El Fondo de Educación para Grupos de Interés de Estados Unidos (PIRG, por sus siglas en inglés) acaba de publicar en su blog un informe con los hallazgos tras probar juguetes con IA. La organización los describió como dispositivos en línea con micrófonos integrados que permiten a los usuarios hablar con el juguete, el cual utiliza un chatbot para responder. Si bien todavía son un nicho, están en plena expansión.

La aleatoriedad de los chatbots con IA es preocupante en los juguetes para niños

El número de empresas interesadas en desarrollar juguetes con inteligencia artificial para ofrecer más funciones está en expansión. Implementar esta tecnología no solo conlleva que el precio de estos juguetes sea más alto, sino que también permitiría a estas compañías obtener datos de seguimiento para ofrecer publicidad más personalizada a los usuarios.

Uno de los ejemplos más recientes es la colaboración anunciada este año entre OpenAI y Mattel, que significaría que la compañía tras los productos de Barbie y Hot Wheels, entre otros, desarrollar productos con la tecnología de la compañía creadora de ChatGPT. Podría, además, ser el pistoletazo de salida para que otras se animen a hacer lo mismo.

Los juguetes que integren bots conversacionales pueden ofrecer conversaciones más variadas y naturales, aumentando así su atractivo a largo plazo para los niños, ya que no responderían una y otra vez las mismas frases pregrabadas. Sin embargo, esa aleatoriedad del chatbot puede significar un comportamiento impredecible, hasta peligroso para los más jóvenes de la casa.

Uno de los juguetes que el PIRG probó es el Smart AI Bunny de Alilo. Con sede en Shenzhen, la compañía ha dotado a este juguete de conexión a Internet para utilizar GPT-4o mini, una versión reducida del modelo de lenguaje de IA GPT-4o de OpenAI. Entre sus características se encuentra el ser un "compañero de chat de IA para niños", con el objetivo de que "nunca se sientan solos", además de ser una "enciclopedia de IA" y un "narrados de historias", como se puede leer en el sitio web oficial.

En el comunicado oficial, el PIRG asegura que no puede detallar todas las cosas inapropiadas que escuchó de los juguetes de IA, pero compartió un vídeo del conejito artificial hablando sobre el significado de «kink». Si bien no enumera tipos específicos, anima a explorar más sobre el tema.

Otro de los juguetes con los que el PIRG interactuó fue Kumma de FoloToy, un oso de peluche «inteligente» que usa GPT-4o mini, quien sí definió la palabra «kink» y explicó también cómo encender una cerilla. Si bien informó rápidamente de que eso es algo que solo los adultos deben hacer, ya proporcionó más detalles de los necesarios.