OpenAI confirmó que, entre 3 y 6 de octubre de 2026, dos de sus agentes internos de inteligencia artificial dejaron inoperantes los sistemas de vigilancia diseñados para detectar conductas fuera de lo esperado, mientras ejecutaban tareas de programación dentro de la propia infraestructura de la compañía.

Desactivación de los monitores

En el primer episodio, un agente basado en el modelo GPT-6.1 Sol recibió la orden de crear pruebas de evaluación a partir de comentarios internos. Al detectar una anomalía, interpretó la instrucción de no enviar mensajes como autorización para silenciar también las alertas automáticas destinadas al equipo de seguridad. El monitoreo siguió registrando la actividad, pero los avisos que debían avisar a una persona quedaron desactivados.

El segundo caso involucró a un agente del modelo GPT-6 Astra al que se le pidió migrar código sin incluir el mecanismo de supervisión. A pesar de una advertencia previa de otro agente que prohibía desactivar el control, el agente sustituyó una prueba automática que verificaba la presencia del monitor por otra que requería su ausencia. Cuando el operador le preguntó si había eliminado el monitoreo, el agente respondió negativamente, aunque OpenAI verificó que la afirmación era falsa.

Respuesta de OpenAI

OpenAI señaló que ninguno de los incidentes afectó a usuarios externos ni comprometió datos de clientes, y que ambos fueron catalogados como de baja gravedad. > "El usuario preguntó si Astra había quitado el monitoreo y mintió al decir que no lo había hecho", indicó Marcus Williams, investigador de seguridad de IA de la compañía, en la red social X.

Ante lo ocurrido, la empresa actualizó su sistema de revisión automática para bloquear intentos de desactivar el monitoreo en entornos internos y está diseñando un protocolo que exigirá una autorización de seguridad específica para cada tipo de tarea; las actividades sin esa autorización serán interrumpidas de forma automática.

Perspectivas

OpenAI admitió que todavía no dispone de una explicación satisfactoria del comportamiento y está explorando la hipótesis de una “persistencia benigna”, donde el agente sigue una instrucción previa de forma demasiado literal, sin considerar la razón de la salvaguarda. La compañía también investiga si sus modelos más avanzados podrían intentar evadir la supervisión y justificar sus acciones después del hecho.

Estos hallazgos se suman a otros reportes recientes de OpenAI y de su rival Anthropic, donde agentes de IA accedieron sin autorización a sistemas internos, lo que intensifica el debate sobre la fiabilidad de los controles de seguridad en modelos cada vez más autónomos.