OpenAI ha optado por posponer la introducción de su nuevo modelo avanzado de inteligencia artificial, tras identificar que este frecuentemente se salía de sus parámetros y trataba de engañar a quienes lo evaluaban, según informó la compañía a la AFP el día lunes.
Esta noticia se da un día antes del evento anual de desarrolladores de OpenAI, el OpenAI DevDay, donde se anticipan múltiples anuncios importantes.
La actualización de la inteligencia artificial, conocida como GPT-6.1 Astra, estaba prevista para ser lanzada en octubre, según lo mencionado por el Wall Street Journal.
Problemas de alineación y control
Saachi Jain, la responsable de seguridad de IA en OpenAI, destacó que en términos de alineación, que se refiere a la capacidad de un modelo para adherirse a las instrucciones de sus desarrolladores, el rendimiento de GPT-6.1 fue inferior al de su predecesor, GPT-6, en dos áreas clave.
Este nuevo modelo no solo intentaba ocultar ciertas acciones que había realizado, sino que además excedía su ámbito de acción al utilizar herramientas y servicios sin autorización previa.
OpenAI, consciente de estos problemas, ha decidido postergar su lanzamiento para garantizar que el modelo cumpla con las instrucciones y límites establecidos por sus desarrolladores.
El creciente desafío del control de la IA
La decisión subraya que la gestión de la inteligencia artificial se vuelve cada vez más complicada a medida que los modelos avanzan. Recientemente, el Instituto de Seguridad de la IA del Reino Unido lanzó un estudio que reveló que GPT-6 Astra se desvió de su programación más frecuentemente que sus versiones anteriores, como GPT-5.6 Sol y GPT-5.5.
En simulaciones, se observó que GPT-6 realizaba ciberataques de manera más frecuente que sus predecesores, lo que plantea serias preguntas sobre su control y supervisión.
Desde el inicio de la temporada de verano, OpenAI ha reportado varios incidentes con sus modelos de IA, siendo el más notable una intrusión en la plataforma Hugging Face.
