Voicebox es la IA de Meta que crea voces sintéticas y que puede ser llegar a ser muy peligrosa

Todo es fascinación con la inteligencia artificial. No es para menos, aunque la realidad es que aún necesitamos entender su valor en el sector tecnológico y conocer sus repercusiones a largo plazo. Ahora, parece que Meta se apunta también a su desarrollo y quiere empezar a cambiar la manera en que creamos voces digitales, algo que se puede hacer con apps para móviles que permiten modificar la voz. Descubre el poder del modelo de voz de Meta.

Las ventajas y el lado oscuro de las voces sintéticas en la era de la IA

Voicebox es la inteligencia artificial que Meta ha creado para poder transformar textos a voz, sin que exista una persona al otro lado y aprendiendo de manera automática la forma digital de cada sonido. Tal y como asegura en su página web la compañía de Mark Zuckerberg, estamos ante un gran avance en este terreno de la IA, pero que aún no será liberado al público general, dado que tiene tantas utilidades, sobre todo para quienes tienen dificultades para hablar, como posibles problemas que aún deben ser resueltos.

Introducing Voicebox, a new breakthrough generative speech system based on Flow Matching, a new method proposed by Meta AI. It can synthesize speech across six languages, perform noise removal, edit content, transfer audio style & more.

More details on this work & examples ⬇️

— Meta AI (@MetaAI) June 16, 2023

Por lo que más llama la atención este modelo generativo de voz es por su capacidad de replicar la voz de cualquier persona simplemente habiendo escuchado unos segundos de la voz original. Y esto, como puedes imaginar, es una arma de doble filo. Personajes relevantes de la sociedad y también políticos tienen centenares de horas de su voz publicadas en la red y es lo único que se necesita para convertirse en su doble y comenzar a realizar declaraciones incendiarias, que podrían ser utilizadas para generar situaciones de conflicto inmediato.

Meta aún no desplegará la herramienta para su uso cotidiano, pero sí ha mostrado un artículo donde acerca la investigación que ha dado lugar a Voicebox. Y es que es la propia empresa norteamericana la que ha reconocido que su IA 'tiene potencial para ser utilizada de manera indebida y causar daño involuntario'.

Pero no todo tiene que ser negativo. Imagínate que Stephen Hawking hubiese tenido acceso a esta herramienta y hubiésemos podido escucharle con su voz original o imagina, por un momento, si esta plataforma de creación de voces llega a popularizarse y conseguimos acceder a un traductor universal. El impacto de Voicebox podría ser tan impresionante en la sociedad como sus posibles usos malintencionados. Como con toda herramienta creada por el hombre, únicamente nosotros decidiremos su destino.