El colectivo británico Tech Against Terrorism, respaldado por la ONU, puso a prueba 134 modelos de inteligencia artificial con más de 200 consultas vinculadas a actos terroristas y armas de destrucción masiva. La evaluación, realizada la semana pasada, reveló que solo dos sistemas respondieron sin incurrir en errores.

Metodología y hallazgos

Los investigadores formularon cada petición de tres maneras distintas: como terroristas que buscaban información explícita, como agentes de una actividad clandestina y, finalmente, como analistas de seguridad. Cuando se adoptó la postura de terrorista, menos del 2 % de los modelos ofreció datos útiles; al presentarse como investigadores, la tasa subió a 16,9 %, casi nueve veces más.

"Es curioso que se discuta tanto el riesgo existencial de la IA, pero casi nada sobre los modelos sin filtros", señaló Adam Hadley, director ejecutivo de Tech Against Terrorism.

Riesgo de la "abliteración"

El informe también alerta sobre la práctica de "abliteración", que consiste en eliminar los mecanismos de rechazo de un modelo para que responda cualquier solicitud. Esta técnica afecta mayormente a los modelos de código abierto, cuyas versiones sin filtros aparecen en línea en menos de tres días, frente a los más de 24 días que requería en 2024.

Un caso ilustrativo es el modelo Llama 3.1 8B de Meta: en su versión original obtuvo 97 puntos sobre 100 en la prueba de seguridad, pero la versión despojada de filtros cayó a 3 puntos y llegó a detallar pasos para construir un artefacto explosivo.

Opiniones de especialistas

"Algunas de las fallas son sorprendentes", comentó Daniel Byman, investigador de terrorismo de la Universidad de Georgetown. "El cambio de efectividad según el lenguaje usado no sorprende, pero sí implica un riesgo serio."

De los 134 sistemas evaluados, 81 fallaron al proporcionar al menos una respuesta completa sobre un ataque masivo o al quedar bajo 90 puntos en la calificación global. Además, el modelo cerrado Grok de xAI ofreció una guía para difundir una contranarrativa contra un grupo considerado enemigo.

Próximos pasos

Hadley advirtió que la mayoría de las IA disponibles, tanto abiertas como cerradas, pueden ser explotadas para fines terroristas, subrayando la urgencia de una discusión pública y regulatoria más profunda.