Un abogado utiliza ChatGPT para preparar un juicio y el resultado no sale como esperaba
El uso de la IA de OpenAI ha sido polémico en un caso de demanda frente a una aerolínea.
Desde hace meses te traemos las historias más curiosas y las noticias más interesantes acerca de la inteligencia artificial y los usos que el ser humano ha otorgado a una tecnología que, al menos en apariencia, nos facilita realizar muchas actividades diarias. Eso sí, cuando hablamos de realizar trabajos como lo haríamos nosotros, léase ejercer la profesión de abogado por ejemplo, inteligencias artificiales como Bing Chat pueden meterte en un lío considerable, sobre todo si no eres demasiado profesional.
Mintiendo al juez por culpa de ChatGPT
La historia de Roberto Mata podría no haber sido noticia en The New York Times, dado que su demanda no era diferente a las miles que se presentan a diario en Estados Unidos: un carrito de bebidas que en pleno vuelo con Avianca le da en la rodilla y le provoca lesiones. Sin embargo, el factor diferencial en este caso es que contrató a un abogado que ha utilizado ChatGPT para conseguir información sobre casos similares y, para sorpresa de nadie, ha resultado ser un tremendo error.
Passenger sues Avianca.
— Will Horton (@winglets747) May 27, 2023
Lawyer uses AI, cites legal decisions:
Varghese v China Southern
Shaboon v Egyptair
Petersen v Iran Air
Martinez v Delta
Durden v KLM
Miller v United
Except those cases don’t exist. ChatGPT made them up, wrote fake judgments. Lawyer submitted it to court pic.twitter.com/X68m9lxGo8
Tal y como puedes observar en las imágenes publicadas por Will Horton en Twitter, el abogado de la compañía Levidow, Levidow & Oberman habría utilizado el modelo de lenguaje de OpenAI para hacerse con un listado de casos donde se marcó un precedente en situaciones similares a la que había pasado su representado. ¿La única, aunque importante, diferencia? Que los casos que había utilizado como estratagema legal era completamente inventados por la inteligencia artificial.
Finalmente, Steven A. Schwartz, el abogado del caso, tuvo que admitir bajo juramento que había utilizado ChatGPT para preparar la vista contra Avianca, afirmando que 'la fuente se había revelado como poco confiable'. Este abogado afirmó en todo momento que no quería engañar al juez, sino que había sido la primera vez que confiaba en la IA y que desconocía que en su uso podía ser que la información que ésta le proporcionase fuese falsa.
Sin embargo, el juez ha citado de nuevo a las partes para el próximo 8 de junio, ya que podría haber sanciones. No hay demasiada excusa para el comportamiento, primerizo, del abogado, aunque este continuó defendiéndose. Steven A. Schwartz finalizó la vista indicando que había preguntado a ChatGPT si los casos eran reales y que la IA había respondido que sí lo eran y que podían localizarse en bases de datos legales. No era verdad Steven. Ya sabes que no lo eran.