OpenAI frena el lanzamiento de su programa para clonar voces por las preocupaciones de seguridad que conlleva

Muy pocas personas conocían OpenAI en sus inicios, pero el paso del tiempo ha permitido situar a esta compañía como una de las grandes tecnológicas del mercado. La adquisición de buena parte del accionariado por Microsoft permitió darle una mayor proyección. Es creadora de ChatGPT, pero lo cierto es que está llevando a término otros muchos proyectos relacionados con la inteligencia artificial. En ocasiones, no obstante, se pasa de frenada. El mejor ejemplo de ello nos lo muestra uno de sus últimos programas, el cual tenía por objetivo clonas voces de personas reales. ¿Por qué, finalmente, no veremos esta tecnología en el mercado?

OpenAI da un paso atrás, no habrá IA centrada en la imitación de voces reales

La tecnología protagonista de esta noticia, Voice Engine, finalmente no llegará al público tras analizar las consecuencias que podría haber tenido su lanzamiento. Una de las cuestiones que más llamaba la atención era la capacidad que tenía esta inteligencia artificial para poder imitar el tono y timbre de una voz con tan solo disponer de un clip de audio de 15 segundos. El objetivo era lograr introducir texto para su posterior transformación en voz. El resultado era muy natural, situándose como una alternativa una serie de perjuicios.

La robótica ya es capaz de clonar voces de seres humanos con un realismo prácticamente indetectable. Wikipedia

Entre los problemas que podrían surgir está, sin duda alguna, la posibilidad de sufrir una estafa. Además, sería mucho más probable ser víctima de las conocidas como fake news. OpenAI ha conseguido dar con la clave en lo que se refiere a imitación de voces, dándose un acento muy característica a cada persona. De hecho, este sistema ha podido superar cualquier obstáculo de identificación mediante autenticación por voz, por lo que puede plantear problemas muy graves de privacidad en determinados servicios digitales, tales como cuentas bancarias o similares.

Pese a que al usar Voice Engine se informa de la prohibición de utilizar los resultados para suplantar la voz de otras personas, se están llevando a cabo determinados filtros con el objetivo de evitar cualquier posible problema de esta clase. Por el momento, OpenAI ha mostrado al público sus increíbles avances en la materia, pero lo cierto es que aún no se puede disfrutar de esta herramienta con sus servicios al completo para no causar problemas de suplantación no consentidos.

Tal y como ha publicado OpenAI, las empresas deberán modificar los obstáculos que se interponen para asegurar la privacidad de los usuarios, ya que hay una gran cantidad de páginas web y apps que requieren la denominada autenticación por voz. Esta decisión llega tan solo unos días después de la eliminación del inicio de sesión en ChatGPT, un requisito que ha dejado de ser útil y que, por tanto, facilitará el uso de la plataforma.