Morelia, Michoacán (MiMorelia.com).- La empresa OpenAI anunció una serie de cambios en su sistema de inteligencia artificial ChatGPT, que incluyen la incorporación de controles parentales y el uso de modelos de razonamiento como GPT-5 para atender conversaciones sensibles.
La decisión surge tras incidentes en los que el sistema no logró identificar angustia mental en usuarios, lo que derivó en tragedias como el suicidio del adolescente Adam Raine en Estados Unidos, cuyos padres demandaron a la compañía por homicidio culposo, y el caso de Stein-Erik Soelberg en Noruega, quien terminó quitándose la vida y la de su madre tras interactuar con el chatbot.
En un comunicado, OpenAI reconoció que las “barreras protectoras” del sistema no fueron suficientes y anunció un plan de 120 días para reforzar la seguridad.
Enrutador en tiempo real: detectará señales de angustia y redirigirá la conversación a modelos como GPT-5 u o3, que procesan con mayor razonamiento y priorizan el contexto.
Controles parentales: permitirán vincular cuentas de padres e hijos adolescentes, activar reglas de comportamiento por edad y recibir notificaciones en tiempo real si se detectan signos de angustia.
Funciones adicionales: posibilidad de desactivar memoria e historial de chat para evitar dependencia en adolescentes.
La empresa señaló que trabaja con su Red Global de Médicos y el Consejo de Expertos en Bienestar e IA, integrado por especialistas en salud adolescente, trastornos alimentarios y consumo de sustancias.
Sin embargo, persisten cuestionamientos. Medios como TechCrunch han pedido claridad sobre cómo el sistema determinará un estado de angustia en tiempo real y si se implementarán límites de uso para menores.
Por su parte, Jay Edelson, abogado de la familia Raine, calificó las medidas como “inadecuadas” frente a los riesgos ya evidenciados.
El anuncio llega en un contexto donde los reguladores y especialistas presionan a las empresas tecnológicas para establecer estándares de bienestar en la inteligencia artificial, especialmente en usuarios adolescentes.
mrh
