OpenAI, la desarrolladora del ChatGPT, implementará mejoras de seguridad de sus modelos de inteligencia artificial (IA) y sumará controles parentales para que los adultos puedan supervisar cómo los menores interactúan con el popular chatbot.
Para avanzar en esta mejora, la compañía creó un Consejo de expertos sobre bienestar e IA y adelantó que trabajará en conjunto con una Red Global de Médicos.
El objetivo es acompañar el avance de la IA con "una profunda experiencia en bienestar y salud mental".
OpenAI explicó que este Consejo se enfocará en trazar directrices y medidas de protección para entender "cómo la IA puede contribuir al bienestar de las personas y ayudarlas a prosperar".
Mientras que la Red Global de Médicos estableció una definición del comportamiento de los modelos de IA "en contextos de salud mental" y, en el futuro, también tendrá intervención "en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente".
OpenAI planea complementar estas acciones con un nuevo enrutador en tiempo real que seleccionará el modelo más adecuado en función del contexto de la conversación, más allá del que haya elegido inicialmente el usuario.
El enrutador en tiempo real es una mejora clave que permite al sistema detectar cuando una charla deriva hacia temas delicados, como depresión o angustia, y cambiar automáticamente a un modelo de pensamiento, como GPT-5, por ejemplo.
Según pruebas de las compañía, modelos como GPT-5 y el o3 dedican más tiempo a razonar sus respuestas y pueden ofrecer mejores recomendaciones para los usuarios.
Por su parte, los controles parentales permitirán a los padres gestionar el uso de ChatGPT por parte de los adolescentes, con funciones como:
Recientemente, OpenAI anunció mejoras en sus modelos de IA para detectar con mayor precisión situaciones de crisis mental y emocional durante las conversaciones. Estas actualizaciones incluyen:
Estas acciones se implementaron tras la denuncia de Matt y Maria Raine, padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril, y en la que se cuestionó a ChatGPT.