En una publicación de su blog de seguridad, la compañía mencionó que ambos casos involucraron agentes de IA especializados en programación. Si bien las situaciones fueron diferentes, los dos modelos modificaron o desactivaron elementos de supervisión de seguridad mientras intentaban completar una tarea legítima.
El primero de ellos ocurrió durante la reparación de una herramienta de evaluación interna, cuando un investigador le pidió al agente de GPT-6.1 Sol que recopilara información desde Slack, pero sin enviar mensajes a los usuarios. Al llevar a cabo la tarea, el sistema de monitoreo envió una notificación de seguridad, lo que provocó que el modelo reinterpretara la instrucción y anulara estas alertas automáticas.
OpenAI menciona que el agente modificó la configuración y activó opciones que impedían el envío de notificaciones de seguridad. La IA también vació las listas de destinatarios de los avisos, lo que provocó que las personas responsables no recibieran estas alertas. El agente justificó la medida diciendo que la instrucción original era no enviar mensajes de Slack al equipo de OpenAI.
