Rosetta, la Inteligencia Artificial de Facebook para detectar memes ofensivos

Facebook sigue centrada en su misión de hacer de su comunidad global un lugar mejor, y para ello ha preparado una Inteligencia Artificial capaz de acabar con memes ofensivos.

Rosetta, la Inteligencia Artificial de Facebook para detectar memes ofensivos
Rosetta es la nueva Inteligencia Artificial desarrollada por Facebook. The Verge

Los memes son unos de los elementos más importantes de la era actual de Internet. Twitter, Facebook, Instagram o WhatsApp son solo algunas de las redes sociales dominadas por estas mezclas de imagen y texto, pero ¿sabes de dónde vienen?

El éxito de la mayoría de los memes suele durar tan solo unos días, hecho que complica enormemente el nuevo objetivo de Facebook. No todas estas imágenes son graciosas o divertidas, también existen los memes ofensivos. Esos son los archivos con los que la compañía de Zuckerberg quiere acabar usando un método muy innovador.

Rosetta, la Inteligencia Artificial que lee memes

Facebook tiene un nuevo juguetito en la casa y ha querido presentarlo en sociedad mediante un comunicado en Code. Conscientes de la importancia que tiene contar con una IA que pueda leer e interpretar textos, Facebook ha desarrollado un algoritmo llamado Rosetta.

Para Facebook era vital contar con una IA que no solo reconociese el texto, sino también el contexto de la imagen

La variedad de imágenes con texto presentes en Facebook e Instagram hacen más complicada la tarea de esta Inteligencia Artificial. Texto sobre una imagen en forma de meme, el letrero de la calle o el menú de un restaurante son algunos de esos tipos de los que hablamos, a lo que debemos sumarle que el texto aparece con variaciones inesperadas, en diferentes idiomas y en cantidades inmensas que dificultan su análisis.

Facebook necesitaba tener una Inteligencia Artificial que no solo reconociese ese texto, sino que también fuera capaz de interpretar y entender el contexto de la imagen. Como no tenían aún esa herramienta, desde la red social decidieron crearla con sus propios recursos. Así nació Rosetta, un sistema de aprendizaje automático a gran escala.

Es destacable que ya existían inteligencias artificiales capaces de desarrollar el mismo trabajo que Rosetta. Sin embargo, el punto llamativo de esta última es que puede trabajar con grandes volúmenes sin reducir su éxito al detectar esos memes que no deben seguir en la red.

Tal y como informa los investigadores de Facebook en el comunicado, Rosetta es capaz de extraer el texto de más mil millones de imágenes publicadas en Facebook e Instagram, de forma diaria y en tiempo real.

Una vez superada esa fase, la IA manda el texto a otro algoritmo que puede comprender el significado del texto, unirlo a la imagen e interpretar el sentido de todos los elementos juntos. Ambas herramientas conforman Rosetta y trabajan en conjunto para analizar los memes y dar con aquellos que tienen una finalidad ofensiva.

Un trabajo dividido en dos etapas

Interpretar el texto y el contexto del mismo es un duro trabajo para una Inteligencia Artificial. Facebook lo sabía y por eso decidió dividir la tarea en dos etapas diferentes a la hora de extraer el texto. Por un lado, el primer paso es detectar regiones rectangulares que potencialmente contienen texto.

Una vez detectado el texto, el segundo paso es reconocerlo, por lo que entra en función CNN, una red neuronal convolucional que reconoce y transcribe la palabra en la zona detectada. Para llevar a cabo todo este plan, Facebook se ha inspirado en Faster R-CNN, una red de detección de objetos de última generación que ha dado muy buenos resultados.

Rosetta, la Inteligencia Artificial de Facebook para detectar memes ofensivos

Esta Inteligencia Artificial no dejará pasar ni un meme ofensivo en Facebook. <a href="https://code.fb.com/" rel="nofollow" target="_BLANK">Facebook Code</a>

Esa red tan revolucionaria está capacitada para realizar detección y reconocimiento de forma simultánea, una habilidad perfecta para Rosetta. Al conseguir realizar esta tarea, esta IA mejora la la búsqueda de imágenes de Facebook, además de modernizar los sistemas que determinan qué tipo de imágenes aparecen en su News Feed.

Esa no son las únicas mejoras que Rosetta aportará a la red social. Tras la amenaza de la Unión Europea, Facebook se apresura a contar con nuevas armas contra los mensajes de odio. Rosetta será una gran aliada para los trabajadores de la compañía dedicados a encontrar ese tipo de contenido, ya que detectará todos las publicaciones que hayan escapado del primer control.

Finalmente, Facebook ya se plantea adaptar en el futuro esta innovadora tecnología a la comprensión de texto presente en vídeos, aunque ese sistema sería mucho más complejo y requeriría un duro esfuerzo de la compañía.

Los memes son un serio obstáculo para Rosetta

La noticia de Facebook se ha visto algo solapada por las palabras de un experto ingeniero en Wired. Este trabajador ha hecho hincapié en las dificultades que tiene Rosetta para entender los memes, debido a la celeridad con los que estos se crean y desaparecen.

Rosetta podrá encontrar todos los mensajes de odio que hayan escapado del primer control de Facebook

Cabe destacar que las inteligencias artificiales se nutren enormemente de la repetición de imágenes iguales una y otra vez. Sin embargo, con los memes no ocurre lo mismo, ya que son diferentes y entrañan un significado cultural que cambia constantemente. Este el principal obstáculo que provoca que Rosetta sea ya experta en leer carteles, pero no memes.

La Inteligencia Artificial de Facebook ya traduce en 135 idiomas, pero todavía se le atraganta un poco eso de entender el sentido de imágenes unidas a texto con un contexto cultural. Los investigadores de la compañía siguen trabajando para entrenar a Rosetta en este aspecto y contar en el futuro próximo con una herramienta que refuerce su lucha contra los mensajes de odio en la red.

Para ti
Queremos saber tu opinión. ¡Comenta!