Cómo identificar el uso de la IA en la escritura
Imagen de cottonbro studio en Pexels
Librinova y Les Nouveaux Éditeurs han presentado una colaboración para identificar el uso de la inteligencia artificial en el proceso creativo, en concreto de la creación de libros.
Según ellos mismos, la razón es que a medida que cada vez más autores utilizan la inteligencia artificial para crear o mejorar sus manuscritos, consideran necesario integrar una solución de gestión de manuscritos desarrollada por Librinova -el sello «Création humaine«, del que ya hablamos aquí y que fue creado 2024- para identificar si un texto se escribió con o sin la ayuda de tecnologías generativas.
Tras una fase inicial de pruebas, la primera editorial del grupo Les Nouveaux Éditeurs (LNE), el sello «Création humaine» (Creación humana) ya se ofrece en todas las editoriales del grupo fundado por Arnaud Nourry.
En el comunicado de prensa de LNE especifican que el objetivo no es rechazar sistemáticamente los manuscritos escritos con ayuda de IA, sino “conocer mejor el contenido recibido, leído y analizado por los equipos».
Durante la fase de pruebas se reveló que el 7% de los manuscritos recibidos por la editorial en los últimos meses fueron detectados como escritos o reescritos con ayuda de inteligencia artificial.
Para detectar el uso de IA en un texto, el sello funciona en tres pasos: el algoritmo selecciona pasajes representativos y los transforma en datos digitales (tokens). Después los pasajes se analizan mediante aprendizaje automático, análisis estilístico y pruebas de regresión (Librinova crea «vacíos» en el texto para ver si un LLM –Large Language Model- encontraría las palabras faltantes). Finalmente, los resultados se cruzan para lograr la máxima detección y precisión.
No obstante, ya hay voces que cuestionan la fiabilidad de este proceso de detección, aún más siendo únicamente a través de algoritmos. Un ejemplo es el de los escritores autores principiantes, quienes a veces han visto sus textos clasificados erróneamente como «IA», sólo debido a una sintaxis regular o un léxico quizá demasiado sencillo.
Aquí entraría la cuestión de estilo y, por tanto, una nueva brecha entre la creación humana y la capacidad única de una IA para analizar el origen y calidad de una obra.
