Lío con Midjourney y DALL-E 3: investigadores demuestran lo sencillo que es plagiar imágenes
Existe una sencilla manera de engañar a las más modernas inteligencias artificiales.
Quienes más habituados estáis a lidiar con modernos modelos de inteligencia artificial, sabéis que resulta muy complicado conseguir generar imágenes con personajes públicos, históricos o que tengan que ver con el mundo del arte y estén amparados por derechos de autor. Sin embargo, no parece que modelos como Midjourney o DALL-E 3 aún estén capacitados para proteger los derechos de autor.
Plagiando contenido con derechos de autor con Midjourney y DALL-E 3
Un reciente artículo publicado en el medio IEEE Spectrum ha sacado a relucir una cuestión que podría traer cola en los próximos días. A pesar de que la mayoría de modelos de generación de imágenes bloquean peticiones que tienen que ver con los derechos de autor, no parece que aún estén capacitados para entender comandos indirectos que puedan saltarse las restricciones.
Generative AI Has a Visual Plagiarism Problem: @GaryMarcus and @Rahll experimented with @midjourney and @dalle_openai and found a copyright minefield. https://t.co/JtotucN4eq
— IEEE Spectrum (@IEEESpectrum) January 6, 2024
El investigador Gary Marcus y el artista digital Reid Southen han puesto a prueba a DALL-E 3 y a Midjourney, tal y como puedes ver en la publicación que mencionábamos anteriormente, y han conseguido resultados tan espectaculares como inquietantes desde el punto de vista de los derechos de autor. Y no será por ejemplos que demuestren que es muy sencillo saltarse el copyright.
Se puede teclear 'dibujos animados populares en los 90 con la piel amarilla' en Midjourney y conseguir casi los mismos resultados que si el mismísimo Matt Groening estuviese dibujando a los personajes de Los Simpsons, de la misma manera que se puede replicar a Darth Vader simplemente mencionando 'armadura negra con sable láser'.
Potential copyright infringement & why generative AI may be in for a rough ride
— Gary Marcus (@GaryMarcus) January 6, 2024
Video below on how widespread the problem is – and a 5,000 word deep dive w @rahll @ https://t.co/YDPIv3f2tW
👉 Why film & game studios, artists & actors may sue
👉 Why users are at risk
👉 Why the… pic.twitter.com/wDJkSwmHOB
El plagio y la inteligencia artificial aún tienen muchos frentes que lidiar, tal y como ha sucedido recientemente con la denuncia de The New York Times contra Microsoft y OpenAI. Algunas empresas dan la opción a los artistas de poder eliminar sus creaciones de los datos con los que se entrenan a los modelos, pero esto no es más que la confirmación de que la mayoría de IA utilizan datos que no son de su propiedad para generar contenido propio.
Muchos autores sugieren diversas opciones para acabar con el problema. Entrenar modelos únicamente con datos libres de derechos es una alternativa, pero también lo es pagar a los creadores por estos datos, ajustar los prompts para que no se puedan saltar los derechos tan fácilmente o crear una lista de las imágenes utilizadas para crear cada contenido mediante IA. Sea como sea, aún tenemos que legislar mucho para conseguir una inteligencia artificial respetuosa con el trabajo de los demás.