Polémica con GPT-4: el modelo podría estar memorizando libros como la saga de Harry Potter
OpenAI podría verse inmersa en un pedregoso terreno por infracciones del copyright y derechos de autor.
La inteligencia artificial está empezando a dominar el mundo digital y no son pocas las voces autorizadas que no ven con buenos ojos la manera en que este tipo de tecnología consigue aumentar su conocimiento. Algunas plataformas, como es el caso de ChatGPT, están siendo prohibidas en ciertos países por razones de privacidad y ahora le llega el turno al novedoso GPT-4, que parece estar en el centro de la polémica por haber memorizado innumerables obras de literatura.
Alimentando a GPT-4 con novelas actuales y con clásicos de la literatura
Recientemente, según la información publicada en la página web New Scientist, hemos conocido como tanto GPT-4 como ChatGPT habrían memorizado obras completas para añadir más y más datos a sus modelos, en un movimiento por parte de OpenAI que no parece ser una manera demasiado legal de integrar conocimiento en estas plataformas de inteligencia artificial. Eso sí, el método utilizado para descubrir qué libros han sido utilizados por estas IA es realmente curioso.
Top 20 books that ChatGPT has memorized — similar but a little different than GPT-4
— Melanie Walsh (@mellymeldubs) May 5, 2023
It's interesting that Zora Neale Hurston is one of the top titles here. She and Chinua Achebe are basically the only non-white authors with a top memorized book from this study pic.twitter.com/VWxMCHLyxq
Todo parte de David Bamman, profesor de la Universidad de California, en Berkeley, en el área de procesamiento de lenguaje natural. Él, junto a otros compañeros, utilizaron los modelos de lenguaje en un curioso experimento. Escogieron 100 pequeños trozos de libros de éxito, pertenecientes a novelas galardonadas con el Premio Pulitzer y en la lista de los bestsellers de The New York Times, y eliminaron el nombre de un personaje. Después, introdujeron el párrafo en el modelo y preguntaron a la IA si podía rellenar el hueco vacío.
Lo que descubrieron puede ser consultado en los resultados publicados en GitHub, donde se puede ver los nombres de los libros seleccionados y el porcentaje de respuestas exitosas, tanto en ChatGPT como en GPT-4, además de en el modelo de Google BERT. Por ejemplo, si hablamos de Harry Potter y la Piedra Filosofal, el porcentaje de acierto de ChatGPT es del 43%, pero GPT-4 sube hasta el 76%. Por su parte, BERT no acierta en su respuesta, así como prácticamente en ningún otro tipo de prueba basada en novelas.
Las implicaciones legales al utilizar este método de entrenamiento, con libros bajo copyright, aún sin inciertas, pero no pintan demasiado bien para OpenAI. Andres Guadamuz, de la Universidad de Sussex, afirma que:
Los problemas legales son complicados. OpenAI está entrenando a sus modelos con trabajos online que pueden incluir un gran número de citas legítimas de todo internet, pero también con posibles copias pirateadas.