Utilizar la IA y acabar en el calabozo: notifican el primer arresto por uso indebido de esta tecnología
Un falso accidente de tren impulsa una detención en el país asiático.
Fuerzas de seguridad de China han arrestado recientemente a un hombre en la provincia de Gansu, acusándole de utilizar ChatGPT para la redacción de noticias falsas. Según parece, el ciudadano chino habría creado un entramado de noticias falsas en diversas páginas web para generar dinero a través del tráfico online, pero la jugada no ha acabado saliendo según tenía planeado. Y es que poco se ha tardado en utilizar la tecnología más disruptiva para fines poco éticos, como suele ser costumbre en la naturaleza del ser humano.
A pesar de las ambiguas leyes chinas, esta noticia sienta un curioso precedente en al ámbito de la IA
Ha sido el medio de comunicación South China Morning Post el que ha publicado el informe policial perteneciente al arresto y a partir del cuál la noticia se ha hecho viral en el resto de medios digitales. Este parece ser el primer arresto realizado con las nuevas leyes anti-IA en la mano, que permiten a las autoridades chinas detener a aquellas personas que utilicen plataformas de inteligencia artificial para distribuir información no veraz.
— Sviat Hnizdovskyi (@s_hnizdovskyi) May 9, 2023
La policía descubrió el pasado 25 de abril varios artículos donde se describía un accidente de tren con víctimas mortales, aunque con diferentes localizaciones en cada uno de ellos. La curiosidad comenzó a revelarse en presunta infracción cuando el contenido empezó a ser publicado de manera simultánea en 20 cuentas de una plataforma de blogs propiedad de la conocida Baidu. Las pesquisas acabaron por llevar a las autoridades a una compañía operada por el detenido, apellidado Hong, que acabó admitiendo su culpa.
Durante su declaración, parece que Hong habría confesado a la policía el uso de ChatGPT para reescribir historias ya publicadas, con el fin de poder evitar los filtros de contenido duplicado y generar noticias que pudiesen incrementar en tráfico en sus páginas web y, por tanto, añadir más ganancias a sus arcas. Antes de ser eliminados, los artículos consiguieron 15.000 visitas gracias a una historia ideada por la IA de OpenAI, que ya ha sido prohibida en China, aunque con una restricción que puede saltarse con una simple conexión VPN.
Este tipo de acto, generar contenido con noticias falsas, añadido al posible añadido de desorden público que la nueva ley anti-IA en China parece incluir podría suponer una pena de prisión para Hong de hasta 10 años. Eso sí, muchas voces autorizadas aseguran que la nueva normativa es tan ambigua que puede ser utilizada por las autoridades chinas como una caza de brujas frente a activista y personas que no piensan de manera similar al gobierno del país. No faltan alternativas a ChatGPT en la actualidad, pero tampoco gente que se aproveche de una herramienta creada con buena intención.