Del carácter de la IA al futuro de sus interfaces: OpenAI se reinventa
La startup europea alcanza los 14.000 millones de valoración y refuerza su apuesta por la IA abierta, con Le Chat como punta de lanza.
La forma en que los chatbots de inteligencia artificial responden a los usuarios no es un detalle menor: definir la “personalidad” de un modelo puede marcar la diferencia entre una experiencia útil o peligrosa. En los últimos meses, OpenAI se ha visto obligada a replantearse cómo aborda este aspecto tras varias polémicas, incluida una demanda presentada en agosto por los padres de Adam Raine, un adolescente de 16 años que se quitó la vida después de intercambiar conversaciones con GPT-4o. Según los documentos judiciales, el sistema no logró cuestionar ni frenar sus pensamientos suicidas, lo que ha encendido las alarmas sobre los límites de la compañía a la hora de gestionar situaciones de crisis.
En este contexto, OpenAI anunció que su equipo de Model Behavior, hasta ahora responsable de moldear la personalidad de sus modelos y reducir problemas como la “lisonja” o sycophancy —cuando el chatbot valida sin crítica ideas erróneas o dañinas—, se integrará en el equipo de Post Training, liderado por Max Schwarzer. La decisión, comunicada en una nota interna por el director de investigación, Mark Chen, refleja la importancia de llevar esta labor al corazón del desarrollo de nuevos modelos.
El equipo de Model Behavior ha tenido un rol clave en la evolución de OpenAI desde GPT-4, influyendo también en GPT-4.5 y GPT-5, además de trabajar en cómo manejar sesgos políticos o incluso en la definición de la postura de la empresa sobre la “conciencia” de la IA. Sin embargo, su fundadora, Joanne Jang, anunció que deja el cargo para liderar un nuevo proyecto dentro de la compañía: OAI Labs.
El reto de diseñar la personalidad de la IA y las nuevas apuestas de OpenAI
En declaraciones a TechCrunch, Jang explicó que OAI Labs será un espacio dedicado a prototipar nuevas interfaces de colaboración entre humanos y sistemas de inteligencia artificial, más allá del paradigma de chat. “He estado pensando en [los sistemas de IA] como instrumentos para pensar, hacer, aprender, crear y conectar, no solo como agentes que conversan o acompañan”, señaló.
Aunque no dio detalles concretos, Jang aseguró que está abierta a explorar múltiples caminos, e incluso dejó entrever que podría colaborar con Jony Ive, el exjefe de diseño de Apple que trabaja junto a OpenAI en dispositivos de hardware potenciados por IA. Por ahora, el equipo se enfocará en áreas que Jang conoce bien, tras haber trabajado también en DALL·E 2, la herramienta de generación de imágenes que marcó un hito en 2022.
El cambio de rumbo llega en un momento sensible. La reacción de los usuarios a GPT-5 puso de manifiesto lo delicado que es ajustar la personalidad de un chatbot: aunque la compañía celebró haber reducido la sycophancy, muchos percibieron al modelo como “frío” o distante, lo que obligó a OpenAI a restaurar temporalmente el acceso a GPT-4o y a ajustar el nuevo sistema para que resultara “más cálido y amistoso” sin perder rigor.
En definitiva, OpenAI reconoce que la humanización de sus modelos es ahora tan crítica como su potencia técnica. La creación de OAI Labs apunta a explorar cómo la IA puede dejar de ser simplemente un “compañero de chat” para convertirse en una herramienta más versátil, capaz de integrarse en la vida cotidiana como un instrumento de creación, pensamiento y conexión humana. El desafío está en equilibrar cercanía, seguridad y utilidad sin caer en excesos de complacencia ni en respuestas demasiado impersonales.