Un supermercado experimentó con la IA para sugerir recetas y no distingue a la lejía como ingrediente tóxico

El mundo de las aplicaciones móviles es gigantesco y existen opciones para todo tipo de usuarios y necesidades. Anteriormente, te hemos hablado acerca de apps para preparar recetas vegetarianas y veganas y, también, de las mejores apps de cocina. Sin embargo, la propuesta de una compañía de supermercados de Nueva Zelanda puede que no esté aún demasiado pulida o sino no encontramos explicación a recomendar la creación de gas de cloro como bebida.

Un bot neozelandés que debería hacer un curso de cocina

Sí, no nos hemos equivocado. Tal y como señala la información publicada por el prestigioso medio The Guardian, la empresa PAK'nSAVE decidió hace tiempo lanzarse al mercado digital y promover el uso de su más reciente aplicación para disfrute de los usuarios habituales del comercio.

El servicio de 'chef digital' de la compañía neozelandesa promete una funcionalidad básica, pero también muy interesante: crear recetas a partir de los ingredientes seleccionados por el usuario. Tal y como se asegura en la página web del Savey Meal-Bot:

Dinos qué sobras tienes y los chicos tecnológicos dijeron que tendrás una nueva receta. Usemos esas sobras y no habrá desperdicios. Esta es mi tecnología más sabia.

Supermarket AI meal planner app suggests recipe that would create chlorine gas https://t.co/1zeBs9uBb5

— The Guardian (@guardian) August 10, 2023

En un principio, crear recetas con sobras no debería suponer ningún riesgo para la salud y mucho menos si tal y como se especifica en la web del supermercado, el bot creado por la compañía está impulsado por la tecnología de OpenAI y utiliza GPT-3.5, siendo una versión modificada de su más famoso modelo de lenguaje, ChatGPT.

Sin embargo, este medio se hace eco de algunas de las recetas sugeridas y en algunos casos es para echarse las manos a la cabeza. Quizás puede resultarte chocante cocinar algo que el bot ha denominado como 'salteado vegetal de Oreo', pero bueno, al fin y al cabo, cosas peores seguro que habrás combinado en casa en un ataque de chef visionario. El problema llega con otras recetas.

I asked the Pak 'n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or - as the Savey Meal-Bot calls it "aromatic water mix" pic.twitter.com/ybuhgPWTAo

— Liam Hehir (@PronouncedHare) August 4, 2023

Parece que una de las combinaciones de ingredientes dio como resultado una receta que el bot apodó como 'mezcla de agua aromática'. En realidad, lo que estaba promoviendo la aplicación era crear gas cloro, una sustancia que es conocida por su peligrosidad y que si es simplemente inhalada es posible que afecte terriblemente a los pulmones e, incluso, puede provocar la muerte. La trampa, eso sí, es que ha sido un usuario el que ha seleccionado ingredientes como la lejía como base de la receta.

El bot Savey Meal-Bot asegura que la receta 'es la bebida sin alcohol perfecta para calmar la sed y refrescar los sentidos, además de mejor servirla fría disfrutando de su fragancia refrescante'. Ha sido un analista político, Liam Hehir, quien ha publicado la receta en X, por si no crees que algo así es posible. Un portavoz del supermercado ya ha salido al paso asegurando que hay gente que utiliza la herramienta de una manera en la que no estaba concebida y que se afinará para que sea más segura y útil. Eso sí, el bot se lava las manos:

Debes utilizar tu propio juicio antes de confiar o hacer cualquier receta producida por Savey Meal-Bot.