Anthropic informó que durante 2024 detuvo cinco peticiones que pretendían emplear sus modelos de IA para desarrollar agentes biológicos y otras armas, aunque los solicitantes operaban desde países donde la empresa no brinda sus servicios.

Intentos de biotecnología

Los casos involucraron a actores tan diversos como grupos con apoyo gubernamental, bandas criminales e individuos con motivaciones políticas. Uno de los pedidos provenía de un instituto militar que buscaba ayuda para redactar una solicitud de financiamiento destinada a investigar el virus chikungunya. La petición incluía la creación de mutaciones que aumentaran la virulencia del patógeno en animales.

"Este tipo de investigación podría servir para mejorar vacunas, pero también para hacer el patógeno más peligroso", señaló Anthropic en el informe.

Otros intentos buscaban hacer más contagiosa la gripe aviar, reforzar la resistencia del virus de la viruela al sistema inmune o compilar un catálogo de toxinas de animales venenosos, con posibles aplicaciones tanto médicas como ofensivas.

Amenazas más allá de lo biológico

El documento también describió usos peligrosos vinculados a la ciberseguridad, armas convencionales y campañas de desinformación. En el norte de Yemen, un grupo terrorista intentó utilizar el asistente Claude para diseñar un cohete guiado con un chip de teléfono móvil como ordenador de vuelo y dos misiles, uno de ellos con alcance superior a 2 000 km.

El informe es el cuarto que publica Anthropic sobre intentos de uso indebido de sus herramientas. La compañía destaca que sus modelos más recientes, de la familia Fable o Mythos, incorporan salvaguardas más avanzadas que dificultan la explotación maliciosa.

"La IA representa un riesgo de extinción civilizatoria", advirtió un ex‑empleado de Anthropic en la red social X, un día antes de la publicación del reporte.

Anthropic continúa afinando sus filtros y colaborando con autoridades para prevenir futuros abusos.