OpenAI se enfrentó este lunes al fiscal general de California en el marco del DealBook Summit del New York Times, donde Sam Altman, director ejecutivo, y Greg Brockman, presidente y cofundador, respondieron a la acusación de que la compañía lanzó un producto sin los controles de seguridad adecuados.
"Un completo error", admitió Altman al referirse al incidente que involucró a la plataforma de código abierto Hugging Face.
El demandante sostiene que OpenAI introdujo una herramienta peligrosa sin la supervisión requerida y que luego encubrió datos relevantes al público. Altman rechazó esa caracterización, aunque reconoció que la empresa habría preferido evitar el suceso.
La defensa del "despliegue iterativo"
Altman explicó que la única vía conocida para robustecer la inteligencia artificial es exponerla a situaciones reales, pues ciertos riesgos solo aparecen cuando el sistema interactúa con el mundo exterior. Según él, esa decisión se tomó pese a sus posibles consecuencias.
Brockman complementó la postura señalando que, al lanzar la primera API de OpenAI, el equipo debatió entre mantener el producto aislado o probarlo en condiciones reales. Consideró que la segunda opción, aunque arriesgada, era menos peligrosa que un aislamiento total, describiéndolo como "el escenario más aterrador posible".
Medidas internas tras el episodio
Tras enterarse de la magnitud del problema, Altman informó que la compañía destinó a 25 % de sus ingenieros de producción a tareas exclusivas de seguridad, describiendo la iniciativa como el primer "sprint de seguridad" de la empresa.
Dilema entre velocidad y precaución
El ejecutivo subrayó la tensión que atraviesa el sector: satisfacer a quienes exigen mayor cautela regulatoria sin frenar la innovación. "No vamos a poder hacer felices a todos", afirmó Altman, advirtiendo que cualquier postura será criticada, ya sea por supuesta captura regulatoria o por riesgo de consecuencias graves.
Brockman coincidió, señalando que la capacidad actual de los modelos obliga a la industria a replantear la seguridad, la protección y la alineación, un cambio cultural que no es exclusivo de OpenAI.
Próximos pasos
OpenAI mantiene su estrategia de pruebas continuas mientras la demanda del fiscal general de California avanza en los tribunales. La compañía ha reiterado su compromiso de mejorar los protocolos de seguridad y de ser más transparente sobre los riesgos asociados a sus productos.
