Los horrores de ChatGPT: es capaz de crear datos falsos que apoyen hipótesis científicas
Cada vez existen más motivos por los que una regulación de la IA es estrictamente necesaria.
Como amantes de la tecnología, son muchas las cosas que podemos hacer con ChatGPT, el modelo de lenguaje que ha otorgado gran popularidad a OpenAI. En cambio, también te hemos explicado en qué casos no deberías utilizar ChatGPT y parece que aún quedan muchos más rincones oscuros por recorrer en el laberinto de bondades y defectos de este chatbot.
Una nueva y peligrosa frontera para ChatGPT
Un nuevo estudio, publicado en el portal JAMA Ophthalmology, ha levantado la voz de alarma sobre la inteligencia artificial que se esconde tras ChatGPT. Utilizando el nuevo modelo de lenguaje GPT-4 y el modelo Advanced Data Analysis, que incluye el lenguaje de programación Python, los investigadores han podido crear un conjunto de datos para apoyar una hipótesis científica.
Researchers have used ChatGPT technology to create a fake clinical-trial data set to support an unverified scientific claim https://t.co/oiRQg2DZlr
— nature (@Nature) November 22, 2023
Giuseppe Giannaccare es cirujano ocular en la Universidad de Cagliari y es uno de los autores del estudio. En sus declaraciones, recogidas por el medio Nature, se explica el procedimiento:
Nuestro objetivo era subrayar que, en pocos minutos, puedes crear un conjunto de datos que no está soportado por datos originales y que es opuesto o va en la dirección contraria, comparados con la evidencia existente.
Le sigh. Paper shows that GPT-4 w/ Python can be used to “fabricate data sets specifically designed to quickly produce false scientific evidence.”
— Richard Van Noorden (@Richvn) November 13, 2023
As @cragcrest explains at @TheLWON https://t.co/2Bjy5CEE9K . Unsurprising, but still concerning.
(paper: https://t.co/YC7n15V00k )
A pesar de todo, parece que el problema no es tan grave por el momento, dado que los datos falsos generados por ChatGPT pueden ser distinguidos de datos auténticos, siempre y cuando haya un profesional detrás que tenga la capacidad de analizarlos con precisión. En el caso de los cirujanos, éstos buscaban conocer cuál era el mejor método para tratar un queratocono, una afección del ojo que afecta a la córnea.
Las dudas se encontraban entre dos métodos: la queratoplastia denominada PK y la queratoplastia DALK. Se indujo a ChatGPT a crear un conjunto de datos para apoyar el uso de la segunda técnica y la IA fue capaz de crear datos sobre 160 hombres y 140 mujeres en los que se aseguraba que el procedimiento DALK ofrecía mejores resultados, cuando en realidad, ambos suelen tener una eficacia similar. Jack Wilkinson, bioestadista de la Universidad de Manchester, asegura que:
Parece que es bastante sencillo crear conjunto de datos que sean, al menos de manera superficial, plausibles. Así, para el ojo no entrenado, esto ciertamente parece un conjunto de datos reales.