Problema a la vista, un estudio afirma que algunos entrenadores de IA utilizan la propia IA para su trabajo
Los errores consistentes podrían no desaparecer si se continúa confiando en la labor humana, en ocasiones tendente a delegar su actividad.
Un nuevo día y una nueva ocasión para volver a sacar el tema de la inteligencia artificial a la luz. Quizás te hayas preguntado en alguna ocasión como es posible que una herramienta como ChatGPT o Bing Chat contenga tanta información. La respuesta, quizás no tan completa como sucede en realidad, te la contamos a continuación y tiene mucho que ver con trabajadores dedicados a entrenar estos modelos inteligentes.
La carga de trabajo y la picaresca podrían perjudicar seriamente a la inteligencia artificial
Un estudio publicado en la revista científica arXiv he sido el desencadenante de una historia que tiene como protagonista al ser humano y su capacidad innata de dejar que otros hagan sus tareas. El entrenamiento de las diferentes inteligencias artificiales, de compañías como OpenAI por ejemplo, suele ser subcontratado a trabajadores independientes, a los que se les asigna un trabajo que sería complicado de automatizar, pero que una persona no tendría más problemas en llevar a cabo. Estamos hablando de resolver CAPTCHA, anotar textos o etiquetar información.
According to a new study, a significant proportion of people paid to train AI models may be themselves outsourcing that work to AI tools like ChatGPT.
— MIT Technology Review (@techreview) June 22, 2023
It’s a practice that could introduce further errors into already error-prone models. https://t.co/Nr4q6ZXtRe
Son los datos obtenidos por los trabajadores los que, después, se van entregando a los modelos de inteligencia artificial, para que éstos continúen recopilando la información necesaria para desempeñar su labor de la manera más independiente posible. Entonces, ¿dónde está el fallo? Parece, según la investigación realizada por científicos de la Escuela Politécnica Federal de Zúrich, que algunos de estos entrenadores buscan ayuda en la IA para entrenar a otras IA.
El experimento realizado comenzó con la contratación de 44 personas para resumir 16 partes de diferentes textos de investigación médica. Cuando los resúmenes estuvieron creados, éstos se analizaron para comprobar si existían signos del uso de plataformas como ChatGPT para las tareas encomendadas, como por ejemplo la falta de vocabulario variado o las pulsaciones realizadas en el teclado, que podían indicar si se habían pegado textos procedentes de otras fuentes.
El resultado no pudo ser más sorprendente. Entre un 33% y un 46% de los trabajadores habían utilizado herramientas similares a ChatGPT para realizar los resúmenes. Y es que si esta tendencia continúa en aumento, no sólo tendremos modelos de IA poco precisos, sino que los errores registrados en los mismos continuarán replicándose. Ilia Shumailov, investigador de la Universidad de Oxford, afirma en la publicación MIT Technology Review que:
El problema es que cuando utilizas datos artificiales, adquieres los errores de interpretación de los modelos y sus errores estadísticos. Necesitas asegurarte que tus errores no están sesgando el resultado de otros modelos y no hay una manera simple de conseguirlo. Creo que la comunidad de la IA tiene que investigar de cerca qué tareas son más propensas a ser automatizadas y trabajar en maneras de prevenir esto.