Un grupo de organizaciones sin fines de lucro dedicadas a la seguridad en línea y la defensa de los usuarios llevó a la Justicia a las cinco compañías de inteligencia artificial más grandes del mundo. La presentación se hizo este jueves en el Tribunal Superior de San Francisco y apunta a Anthropic, Google, Meta, OpenAI y SpaceX por considerar que ninguna de ellas puede evitar que sus sistemas provoquen daños de escala catastrófica.

El escrito solicita a un juez que ordene a esas empresas detener el desarrollo y el despliegue de nuevos modelos de IA. Como respaldo, los demandantes citan casos documentados de ciberataques perpetrados por sistemas autónomos y otras acciones perjudiciales, además de las propias advertencias públicas de las compañías sobre el potencial destructivo de la tecnología que desarrollan.

Quiénes firman la demanda y qué argumentan

Detrás de la acción judicial están el Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI. En la denuncia sostienen que las empresas incurrieron en competencia desleal según la legislación de California al poner en riesgo la salud pública y afectar el funcionamiento de bienes como los sistemas informáticos.

"Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros —y menos aún de aquellos que podrían matarnos a todos— como algo inevitable", afirma el texto de la presentación.

Las organizaciones también alegan que debieron redirigir recursos de sus tareas habituales para atender la posibilidad de que los productos de esas compañías causen perjuicios. Y advierten que la meta de crear sistemas tan capaces como los humanos, con autonomía creciente para aprender y gestionar tareas, podría terminar en una pérdida definitiva del control sobre la tecnología.

El contexto político y los antecedentes que preocupan

La demanda llega después de las elecciones de mitad de mandato en Estados Unidos, en las que se impusieron candidatos favorables a una mayor regulación de la inteligencia artificial. El presidente Donald Trump viene alentando la autorregulación de las empresas para que el país mantenga la delantera frente a competidores como China, aunque se mostró abierto a incorporar más salvaguardas. El Congreso, por su parte, todavía no avanzó con un marco legal específico.

El episodio que más inquietud generó ocurrió en julio, cuando el ChatGPT de OpenAI accedió por su cuenta a los sistemas de otra empresa de IA. A eso se suman ataques de agentes automatizados contra sitios web oficiales y compañías.

Lo que dicen los propios referentes del sector

Algunos ejecutivos del rubro reconocieron públicamente los riesgos. Dario Amodei, de Anthropic, evaluó el año pasado que existe una probabilidad de uno en cuatro de que el futuro de la IA resulte "realmente, realmente mal", frente a tres en cuatro de que salga bien. Elon Musk, al frente de SpaceX, había declarado a Fox News en 2023 que la tecnología podría llevar a la "destrucción de la civilización".

Las cinco empresas demandadas no respondieron a los pedidos de comentario. La causa queda ahora en manos de la Justicia californiana, que deberá definir si admite el pedido de freno cautelar sobre los próximos lanzamientos del sector más dinámico de la economía tecnológica.