Veinticinco investigadores premiados con la medalla Fields firmaron una carta abierta publicada esta semana, en la que advierten que los grandes modelos de lenguaje (LLM) ponen en peligro la actividad intelectual de la comunidad matemática.
Los autores afirman que, en los últimos meses, la capacidad de estos sistemas para resolver problemas matemáticos pendientes ha mejorado de forma drástica, llegando a abordar cuestiones que antes se consideraban exclusivas del trabajo humano.
Avances de los LLM y la inquietud de los matemáticos
Según los firmantes, la rapidez con que las empresas de inteligencia artificial compiten por resolver problemas emblemáticos convierte a dichos retos en meras pruebas de referencia, desvirtuando el proceso de investigación.
"Los objetivos de la industria de IA y los de la comunidad matemática están profundamente desalineados", señaló uno de los signatarios.
Riesgos de atribución y plagio
La carta advierte que la publicación apresurada de soluciones generadas por IA dificulta la revisión adecuada, la citación de trabajos previos y la integración de nuevos métodos, lo que puede generar serios problemas de atribución y plagio, comparables a los que afectan a otras disciplinas creativas.
Los matemáticos temen que, sin una adecuada mediación humana, la cadena de transmisión de ideas entre investigadores se debilite, comprometiendo la evolución del conocimiento.
Llamado a una respuesta conjunta
Los autores recuerdan la Declaración de Leiden, difundida en junio, que ya había señalado la necesidad de guías para académicos y responsables de políticas públicas frente a la irrupción de estas herramientas.
En la nueva carta, los signatarios reconocen el potencial de la IA para acelerar el estudio de las matemáticas, pero insisten en que la comunidad debe adaptarse de manera cuidadosa y establecer mecanismos que preserven la integridad y la creatividad del proceso científico.
Como paso siguiente, proponen un diálogo abierto entre investigadores, instituciones académicas y compañías de IA para definir normas que eviten la producción masiva e indiscriminada de afirmaciones sin la debida validación.
