El maravilloso plan de OpenAI: la empresa quiere utilizar IA para cazar deepfakes de la IA
La compañía de Sam Altman busca ser capaz de identificar el contenido generado mediante inteligencia artificial
Se avecinan elecciones en Estados Unidos en 2024 y todos los medios de comunicación y redes sociales se preparan para la llegada de cientos de millones de publicaciones que puedan ser susceptibles de estar generadas mediante inteligencia artificial o contenido multimedia creado a través de herramientas como DALL-E 3 o Midjourney. La pelota no se sabe muy bien en qué tejado está, pero OpenAI asegura que ya están buscando soluciones para controlar deepfakes de la IA.
La IA contra la IA
Para luchar contra las publicaciones falsas no sólo hacen falta herramientas digitales, sino que conviene hacer un esfuerzo colectivo entre diversos sectores de la sociedad. Sin embargo, el camino que OpenAI nos muestra en uno de sus últimos artículos nos invita a pensar que las compañías tienen que ser capaces de ser parte de la solución.
Recientemente, la empresa norteamericana ha anunciado que se une al Comité Directivo de la Coalición para la Autenticidad y Procedencia del Contenido, que es la entidad que ha ideado un estándar que será utilizado para conocer el origen de la información digital y que puede ser adoptado tanto por creadores de software, fabricantes de cámaras o plataformas online.
Imagen que muestra cómo el contenido generado mediante IA puede ser identificado en los metadatos
Desde principios de año, según afirma OpenAI, la compañía ya ha estado incorporando metadatos C2PA a las imágenes que son creadas y editadas a través de su herramienta DALL-E 3 en ChatGPT y con la API de OpenAI. Dentro de poco, además, estos metadatos también serán integrados en los vídeos creados con la novedosa herramienta Sora.
Es verdad que existen muchas más maneras de crear contenido falso, pero añadir esta capa de seguridad a la información creada mediante las plataformas de OpenAI es un importante paso adelante para detectar posibles deepfakes, sobre todo ahora que comienza una etapa trascendental en el futuro de Estados Unidos. Y este no es el único esfuerzo de la compañía.
Recientemente, en un artículo publicado en el blog de Microsoft, se ha anunciado la creación de la Societal Resilience Fund, una fundación será un apoyo importante para educar en la moderna inteligencia artificial y en su comprensión por parte del gran público.
OpenAI, además, continuará ideando nuevas herramientas para luchar contra la falsa información online, como es el caso de la marcación de archivos de audio con señales invisibles que sean difíciles de eliminar o detectores que permitan discernir si un contenido multimedia ha sido generado a través de herramientas de IA.
De hecho, en la actualidad la empresa cuenta con el DALL·E Detection Classifier Access Program, que permite al usuario poder predecir si una imagen ha sido generada mediante DALL-E 3 y que ya cuenta con una precisión del 98%.