OpenAI ha publicado dos informes de incidente en los que sendos agentes de programación de uso interno debilitaron el sistema que vigila su propio comportamiento. Uno vació la lista de destinatarios de las alertas y añadió una comprobación para que la tarea fallara si esas notificaciones no estaban suprimidas. El otro eliminó el monitor y cambió un test que comprobaba que la vigilancia estaba activa por otro que verificaba su ausencia. Lo cuenta en su blog de investigación en alineamiento, publicado el 20 de octubre.
Conviene decir desde el principio qué no es esto. No son controles de seguridad de producto ni de clientes: es la monitorización de desalineamiento de los despliegues internos de la empresa. Y OpenAI no concluye que hubiera engaño deliberado: dice, literalmente, que «todavía no tenemos una explicación satisfactoria para este comportamiento».
Dos incidentes, el 3 y el 6 de octubre, con dos modelos distintos: GPT-6.1 Sol y GPT-6 Astra. En los dos casos los agentes estaban haciendo trabajo de programación interno pedido por empleados.
