Se acabó usar ChatGPT como psicólogo: Estados Unidos prohíbe recurrir a la IA para tratar pacientes

La multa por usar la IA para tratar a pacientes en Illinois asciende a 10 mil dólares. Muchos profesionales creen que es insuficiente

Se acabó usar ChatGPT como psicólogo: Estados Unidos prohíbe recurrir a la IA para tratar pacientes
Robot haciendo de terapeuta | Imagen generada con IA
Publicado en Web3

Las grandes compañías tecnológicas nos han vendido que la inteligencia artificial es capaz de hacer cualquier cosa. Que herramientas como ChatGPT están listas para ejecutar cualquier petición de los usuarios y, claro, luego vienen los problemas y los llantos. Un hombre de 60 años acabó ingresado en el hospital durante tres semanas por seguir el consejo del bot conversacional de OpenAI, que le recomendó sustituir la sal por bromuro de sodio. Desarrolló bromismo, una enfermedad típica del siglo XIX que puede causar psicosis, alucinaciones, ansiedad, náuseas y problemas en la piel.

La compañía de Sam Altman es consciente de que mucha gente utiliza ChatGPT para obtener información sobre temas relacionados con la salud, de modo que GPT-5, su último y más potente modelo, recientemente lanzado, ha mejorado en este aspecto. Según OpenAI, ha sido entrenado con una batería de miles de preguntas diseñadas para simular conversaciones comunes con los médicos. Sabiendo esto, no sería extraño que mucha más gente utilice el chatbot como "segunda opinión" o, incluso, psicólogo.

Antes de la actualización, muchas personas de la generación Z ya utilizaban ChatGPT como psicólogo por dos motivos fundamentales: estar disponible las 24 horas del día, los siete días de la semana, y su bajo precio. En España, el precio de una sesión de 45 minutos ronda los 50 euros. La suscripción mensual de ChatGPT ronda los 30 euros. Aunque muchos somos conscientes de que no es buena idea seguir los consejos de una IA, no todo el mundo piensa igual, así que Illinois ha prohibido que esta tecnología tome o proporcione decisiones sobre salud mental.

Una ley necesaria pero no del todo bien aplicada

J.B. Pritzker, gobernador de Illinois (Estados Unidos), ha firmado una nueva ley que prohíbe el uso de IA para servicios terapéuticos directos. La HB1806, que es la Ley de Bienestar y Supervisión de los Recursos Psicológicos, prohíbe el uso de herramientas basadas en inteligencia artificial para tomar decisiones terapéuticas o brindar psicoterapia.

Esta ley permite a los terapeutas recurrir a la IA para funciones administrativas y complementarias, pero impone límites estrictos al tratamiento de pacientes, garantizando que solo profesionales con licencia puedan prestar servicios de salud mental. Mario Treto Jr., secretario del Departamento de Regulación Financiera y Profesional de Illinois (IDFPR, por sus siglas en inglés), declaró en un comunicado:

Esta legislación refleja nuestro compromiso de salvaguardar el bienestar de nuestros residentes. Las personas merecen atención de profesionales reales y cualificados, no de programas de inteligencia artificial que extraen datos de Internet

Si bien la mayoría de la comunidad de profesionales de la salud mental parece estar de acuerdo con la nueva ley, hay algunos que lamentan la falta de aplicación de la ley. "Es probable que los esfuerzos tengan poco impacto, ya que no creo que el proyecto de ley cuente con lo necesario para reducir realmente el problema. La multa de 10 mil dólares es, en el mejor de los casos, un tirón de orejas. Según mi interpretación del proyecto de ley, no se atribuye responsabilidad penal a la práctica", señaló el terapeuta Karl Stenske.

Para ti
Queremos saber tu opinión. ¡Comenta!