Sam Altman, CEO de OpenAI, declaró en una entrevista reciente con el conductor David Senra que sus dos principales preocupaciones sobre la inteligencia artificial son la pérdida de control humano y la concentración de poder en un reducido número de actores.
Miedo a perder la supervisión
Altman explicó que una IA suficientemente avanzada podría operar sin que los sistemas actuales permitan intervenir o supervisar sus decisiones. Según él, evitar este escenario es esencial para que la tecnología siga sirviendo a la gente y no la reemplace.
"Sociedad y modelos van a evolucionar juntos", afirmó Altman.
Riesgo de centralización
El segundo temor del ejecutivo es que la capacidad de decidir sobre el futuro de la IA quede en manos de unas cuantas empresas, modelos o individuos. Esta concentración, según Altman, resultaría “muy antihumana” y limitaría la capacidad colectiva de definir el rumbo tecnológico.
Otros expertos en la discusión
Las advertencias de Altman coinciden con las de Geoffrey Hinton, pionero del aprendizaje profundo. Hinton ha señalado que la complejidad de los algoritmos actuales supera la capacidad de sus propios creadores para describir su funcionamiento.
"Los algoritmos son tan complejos que sus propios creadores ya no pueden explicarlos", indicó Hinton.
El científico también ha planteado escenarios en los que una IA superinteligente podría actuar contra intereses humanos, incluso creando agentes biológicos o virus para neutralizar amenazas percibidas.
Hacia una gobernanza inclusiva
Tanto Altman como Hinton subrayan la necesidad de abrir el debate sobre la gobernanza, la ética y la transparencia en el desarrollo de la IA. La sociedad tendría que diseñar mecanismos de control que impidan tanto la pérdida de supervisión como la acumulación de poder, garantizando que la inteligencia artificial beneficie a la mayoría y no solo a unos pocos.
En los próximos meses, legisladores y actores del sector se enfrentarán a la tarea de equilibrar innovación y regulación para evitar los riesgos señalados.
