Contra el uso generalizado de IA en textos académicos y de investigación
Imagen de Sanket Mishra en Pexels
Un análisis realizado por la American Association for Cancer Research (AACR) ha revelado un aumento significativo en el uso de inteligencia artificial para generar texto en los manuscritos académicos en los últimos años.
Así, entre 2021 y 2024, la AACR descubrió que el 23% de los resúmenes y el 5% de los informes de revisión por pares en sus revistas contenían texto generado por grandes modelos de lenguaje, como ChatGPT. Sin embargo, menos del 25% de los autores declararon el uso de IA, a pesar de que la editorial requiere dicha divulgación.
Para detectar el uso de IA, la AACR empleó una herramienta de Pangram Labs, que revisó más de 46.000 resúmenes y secciones, y 29.000 comentarios de revisión entre 2021 y 2024. El análisis mostró un incremento lineal en los textos sospechosos de ser generados por IA tras el lanzamiento público de ChatGPT en noviembre de 2022.
Aunque en 2023 la AACR prohibió a los revisores usar estos modelos de lenguaje por IA, la detección de texto generado por ella en los comentarios de revisión aumentó más del doble a principios de 2024, algo que preocupó a los responsables de la revista.
La herramienta de Pangram, que dice tener una precisión del 99.85%, puede identificar diferentes modelos de IA y distinguir entre texto generado por IA y texto editado por humanos sin usar alguna IA. Sin embargo, no puede diferenciar entre pasajes completamente generados por IA y aquellos que sólo fueron modificados. Además, los autores de países donde el inglés no es lengua nativa tienen más probabilidades de usar este tipo de herramientas.
El uso de IA no reconocido está siendo un desafío para las editoriales. Aunque el 36% de los manuscritos presentados entre enero y junio de 2025 fueron marcados por Pangram como sospechosos de contener texto generado por IA, apenas el 9% de los autores informaron de su.
Esto sugiere que las políticas actuales de divulgación tienen un impacto limitado, y algunos expertos sugieren que las revistas deben tomar medidas más estrictas ante posibles violaciones de sus políticas con respecto a la IA, como advertir a los revisores o corregir o retractarse de los artículos afectados.
Por tanto, como vemos, el creciente uso de IA en la redacción de manuscritos y revisiones académicas está generando gran preocupación sobre la integridad de las investigaciones, lo que requiere que las editoriales implementen políticas más efectivas para detectar y gestionar el uso de IA en el proceso editorial.
