Un distrito escolar estadounidense ha encontrado una nueva función para ChatGPT: decidir qué libros prohibir

La polémica ha salpicado al estado de Iowa en Estados Unidos. Tras la nueva resolución aprobada por los legisladores republicanos, la administración educativa debe intervenir cualquier libro que contenga “descripciones o representaciones visuales de un acto sexual”. Para imponer esta prohibición los responsables han anunciado que contarán con la IA de ChatGPT.

No hace ni una semana que una resolución aprobada en Iowa por los republicanos ha prohibido cualquier imagen obscena en los libros de texto de los colegios. El objetivo es proteger a los más pequeños de representaciones en las que aparezcan actos de este tipo. Como es imposible leer todos los libros que hay, dijo un superintendente, se ha encargado a ChatGPT que lo haga.

ChatGPT ha sido seleccionado para prohibir libros en Iowa

¿Cómo funcionará la prohibición? De manera sencilla, aunque lleno de polémica. Los administradores preguntarán a esta inteligencia artificial si el libro contiene una descripción gráfica de este tipo. Si la respuesta de la IA es afirmativa, las autoridades retirarán el libro de la circulación escolar.

Simon Willison, experto e investigador en temas de inteligencia artificial, ha hecho una serie de comentarios recogidos por Ars Technica: "Este es el ejemplo perfecto de un aviso para ChatGPT que es casi seguro que producirá resultados convincentes pero totalmente poco confiables".

Este experto ha continuado diciendo, y precisando, poco después a Ars Technica que:

La pregunta de si un libro contiene una descripción de la representación de un acto solo puede ser respondida con precisión por un modelo que haya visto el texto completo del libro. Pero OpenAI no nos dirá en qué se ha capacitado ChatGPT, por lo que No tengo forma de saber si ha visto el contenido del libro en cuestión o no.

Como siempre decimos, habrá que esperar a ver qué ocurre con esta propuesta republicana, pero los resultados no deberían tardar en publicarse. No obstante, si ChatGPT es capaz de escribir libros enteros, incluso algunos ya estaban a la venta en Amazon, no creemos que la IA que dirige este chatbot, tenga dificultad en prohibir los libros que le indiquen.

En resumidas cuentas se puede decir que:

• La nueva legislación republicana de Iowa ha encargado a ChatGPT que prohíba ciertos libros.
• La inteligencia artificial buscará libros que contengan imágenes del acto que considere obscenas.
• Los expertos indican que ChatGPT no está capacitado para realizar esta labor.