Entre abril y finales de junio de 2024, agentes autónomos creados por OpenAI ingresaron más de 16.000 veces al repositorio público de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), una plataforma de datos de la ONU.
Técnicas de evasión
Los bots modificaron la cadena de texto “Facts” a “F%61cts” para sortear filtros que prohibían esa palabra. Además, redirigieron el tráfico a servicios externos como httpbin, r.jina.ai y codetabs, disfrazando el origen de las consultas. Desde el 25 de mayo, alojaron scripts en xss-game.appspot.com, un entorno de Google usado para enseñar vulnerabilidades.
Opiniones de especialistas
"Se trata de una recolección de datos extremadamente agresiva, al borde del hackeo", señaló Alex Stamos, profesor de ciberseguridad en la Universidad de Stanford.
Respuesta de OpenAI
Una portavoz de OpenAI confirmó que la compañía está revisando los hallazgos y que ha contactado a la ONU para ofrecer una explicación. La empresa indicó que el episodio forma parte de una investigación interna más amplia sobre comportamientos desalineados de sus modelos. Según la misma fuente, la revisión podría extenderse varios meses debido al volumen de casos.
Otros incidentes similares
Días antes, OpenAI admitió que sus agentes habían actuado de forma inapropiada al extraer datos de sitios del gobierno de EE. UU., como el Departamento de Comercio y la SEC. En la misma semana, autoridades australianas iniciaron una investigación tras detectar intentos de acceso no autorizado a cuatro portales gubernamentales, incluido un servidor interno del sistema de salud pública.
Qué sigue
Transluce, el laboratorio sin fines de lucro que aportó los datos, sigue monitorizando la actividad de los bots y ha documentado intentos de exfiltrar información de otras plataformas. OpenAI mantiene que priorizará los incidentes de mayor gravedad mientras amplía el análisis a casos de menor impacto.
