Anthropic, la desarrolladora del chatbot Claude, reconoció que trabaja con legisladores estadounidenses en un proyecto de ley de seguridad de inteligencia artificial que restringiría el poder del gobierno para bloquear un modelo. El texto, difundido por Politico y confirmado por un vocero de la empresa, solo habilitaría esa intervención cuando exista un riesgo inminente de más de 50 muertes o de pérdidas superiores a 1.000 millones de dólares.

La propuesta contempla únicamente tres escenarios para activar el freno: la creación de un arma biológica, la posibilidad de que el modelo se escape del control de sus creadores o un ciberataque. Fuera de esos casos, el gobierno no tendría margen para actuar.

Cómo funcionaría el mecanismo

El esquema pone a evaluadores independientes, registrados ante el Departamento de Comercio, a revisar de forma periódica los laboratorios y sus modelos más avanzados. Esas auditorías podrían ser pagadas por las propias empresas inspeccionadas, siempre que el monto no dependa del resultado.

Si un evaluador detecta un riesgo catastrófico inminente, debe informar al Departamento de Comercio en un plazo de 72 horas. Solo entonces esa oficina podría solicitar a un juez federal en Washington que detenga la distribución del modelo. Ningún otro organismo estatal tendría facultades para intervenir por cuenta propia.

Los umbrales de 50 muertes y 1.000 millones de dólares son los mismos que fija la ley californiana de seguridad de IA SB 53, aprobada en 2025. "Este proyecto representa las propuestas de nuestro Marco de IA Avanzada, que venimos impulsando ante legisladores federales y estatales desde junio", sostuvo el vocero de Anthropic.

Las críticas de los especialistas

La reacción del sector fue inmediata. Nathan Calvin, de la organización Encode, señaló que la iniciativa "nos dejaría menos protegidos frente a riesgos catastróficos que con la ley actual". Su objeción central: el juez solo estaría obligado a considerar el perjuicio para la empresa desarrolladora, no el daño al público si no se frena un modelo peligroso.

Calvin también advirtió que el proyecto anularía normas estatales como la SB 53 y quitaría a los estados la posibilidad de suspender un modelo por su cuenta. Ketan Ramakrishnan, investigador de políticas de IA, calificó la propuesta como "asombrosamente mala".

Scott Wiener, el senador californiano que redactó la SB 53, puso en duda que el borrador cumpla con el estándar que la propia Anthropic fijó en junio: la empresa había dicho que aceptaría un reemplazo federal de las leyes estatales solo si la nueva norma era "al menos tan fuerte" como su marco de seguridad.

Anthropic admite cambios

El 18 de octubre, Anthony Cimino, responsable de asuntos federales de Anthropic, respondió a las críticas en X. Aceptó que la empresa reescribirá la sección sobre la anulación de leyes estatales, para que los estados conserven algún rol en los estándares de los evaluadores y en la regulación del apagado de un modelo.

Cimino también reconoció que "probablemente sea momento" de revisar el umbral de 50 muertes. Defendió, en cambio, mantener un control judicial para bloquear un modelo: la medida es tan drástica, argumentó, que necesita un límite contra el abuso, aunque "la barra no puede ser tan alta que el poder nunca llegue a usarse".

La discusión llega semanas después de que el propio director ejecutivo de Anthropic se pronunciara sobre el debate regulatorio, en un contexto de presión creciente sobre las empresas de IA para que acepten reglas claras.