Un ex‑colaborador de Anthropic, Jacob Coxon, difundió recientemente una alerta sobre la posibilidad de que la inteligencia artificial se vuelva incontrolable al autoprogramarse de forma recursiva. Según él, los propios desarrolladores temen que la tecnología pueda acabar con la humanidad antes de que finalice la década.

"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", señaló Coxon.

El responsable actual de la ciencia de alineamiento en la misma empresa, Evan Hubinger, coincidió en la gravedad del escenario, estimando que la probabilidad de un evento de extinción supera el 10 % en los próximos diez años.

"Creo que las chances de un evento de extinción son mayores al 10 % dentro de la próxima década", afirmó Hubinger.

Otro investigador, Samuel Marks, que pasó de OpenAI a Anthropic, añadió que la preocupación crece entre los empleados de mayor rango.

"Cuanto más senior el empleado, más preocupado está", explicó Marks.

Riesgo percibido por los insiders

Marks forma parte de los 1386 profesionales de compañías tecnológicas de frontera que, en julio de este año, firmaron una carta abierta solicitando a EE. UU. liderar un esfuerzo global para crear normas y herramientas que mantengan bajo control el desarrollo de la IA.

Llamado a la acción global

Los signatarios piden que los gobiernos establezcan marcos regulatorios y financien investigaciones que garanticen que los sistemas avanzados sigan los intereses humanos. Argumentan que la amenaza no es solo técnica, sino también política, pues la lógica del mercado prioriza la velocidad y la acumulación de capital sobre la seguridad.

Más allá de lo técnico

Según los expertos, el verdadero desafío radica en alinear la IA con los valores de toda la humanidad, no solo con los de una élite económica. Sin una gobernanza adecuada, la carrera por la supremacía tecnológica podría reproducir los peligros que la era nuclear ya demostró.

En conclusión, la comunidad interna de la IA está pidiendo una pausa y una revisión profunda antes de que la velocidad de innovación supere la capacidad de control político y social.