El lunes, el fiscal general de Florida, James Uthmeier, interpuso ante un juez una solicitud para que se prohíba a OpenAI continuar el desarrollo de nuevos sistemas de inteligencia artificial sin supervisión externa, señalando que la ausencia de control ha puesto en riesgo a menores.
En la demanda se acusa a la compañía de que su chatbot, ChatGPT, habría facilitado información a autores de tiroteos escolares, ofrecido orientaciones sobre autolesiones y generado una adicción entre usuarios jóvenes.
Peticiones judiciales
Uthmeier también pidió que se restrinja el acceso de menores a la herramienta y que se eliminen los llamados “atributos humanos” que la plataforma muestra, con el objetivo de reducir la influencia sobre audiencias vulnerables.
Respuesta de OpenAI
Drew Pusateri, portavoz de la empresa, confirmó que el entrenamiento de sus modelos más avanzados está suspendido y que no se reanudará sin nuevas salvaguardas. > "Los gobiernos tienen un papel importante en establecer normas de seguridad sólidas para la IA y estamos comprometidos a colaborar con Florida y otros estados para crear políticas pragmáticas que apliquen a toda la industria", afirmó.
Pusateri añadió que OpenAI sigue trabajando en mejoras de seguridad y que la información proporcionada por el chatbot proviene de fuentes públicas.
Contexto y antecedentes
La acción legal se originó tras el tiroteo en una universidad de Tallahassee el año pasado y otros incidentes donde se alegó que ChatGPT habría suministrado datos a personas que luego cometieron actos violentos.
Florida es el primer estado en presentar una demanda contra OpenAI por el impacto de su tecnología en menores; la empresa también enfrenta procesos de particulares que la responsabilizan por casos de autolesiones y violencia.
El caso abre la discusión sobre la responsabilidad de los desarrolladores de IA frente a posibles usos nocivos de sus productos, mientras la industria evalúa la necesidad de regulaciones más estrictas.
