La inteligencia artificial (IA) ha traído avances y desafíos. Uno de los principales problemas es la proliferación de deepfakes, que son imágenes o videos falsos generados con IA. Según una investigación de la Universidad de Zúrich, el 98% de los videos deepfake en internet son de carácter pornográfico y el 99% de las víctimas son mujeres.
La Argentina no es ajena a esta problemática. Un informe de la Defensoría del Pueblo de la Ciudad revela que el 1% de los estudiantes de 12 a 19 años reporta haber sido víctima directa de deepfakes, mientras que el 13% conoce casos en su entorno escolar. Además, el 43% afirma haber recibido imágenes o videos editados con IA.
El problema de la seguridad
Según expertos consultados, el principal problema radica en los mecanismos de seguridad que varían entre las distintas herramientas de IA disponibles. Sergio Sirotinsky, profesor de IA de la Universidad del Cema, explica que no existe una única IA y que cada aplicación define sus propios mecanismos de control. Esto hace que sea fácil para los usuarios crear contenidos prohibidos.
La democratización de la tecnología
La democratización de la tecnología tiene enormes beneficios, pero también implica que su uso irresponsable puede extenderse con mucha mayor facilidad. Alan Daitch, experto en tecnología, añade que muchos modelos de IA son de código abierto, lo que significa que su estructura puede ser modificada o reentrenada.
Iniciativas a nivel global
Frente al crecimiento de casos, distintos países comenzaron a adaptar sus marcos legales para contemplar los daños derivados de estos delitos. Estados Unidos promulgó la Take It Down Act, una ley que prohíbe la publicación de imágenes íntimas, explícitas y no consensuadas en línea.
La educación digital es clave para combatir los deepfakes. Los expertos indican que una estrategia que combine nuevas leyes y regulaciones, pero también educación digital, resulta crucial. La IA en sí misma no es mala, pero hay que explicar y fomentar la educación tecnológica con una mirada crítica.
