Alucinaciones de la IA en las traducciones de Wikipedia

Los editores de Wikipedia están intensificando sus esfuerzos para evitar que la IA generativa comprometa la precisión del que se considera el mayor repositorio de conocimiento online del mundo.

Según un informe de 404 Media, los editores voluntarios adoptaron recientemente nuevas reglas y restringieron a varios colaboradores que recibían un pago por traducir artículos de Wikipedia a otros idiomas utilizando herramientas de IA. Los cambios se produjeron después de que los editores descubrieran que algunas de esas traducciones introducían errores de hecho, a menudo descritos como ‘alucinaciones’ de la IA.

Los traductores estaban asociados con la Open Knowledge Association (OKA), una organización sin fines de lucro que apoya las contribuciones a Wikipedia y otras plataformas de conocimiento abierto. El grupo proporciona honorarios mensuales a colaboradores y traductores a tiempo completo y utiliza grandes modelos lingüísticos para automatizar gran parte del proceso de traducción.

Los problemas surgieron cuando los editores notaron que algunos artículos traducidos contenían detalles incorrectos o incluso inventados. Por ejemplo, un borrador de la traducción de una entrada de Wikipedia sobre la familia noble francesa La Bourdonnaye citaba un libro y un número de página para explicar los orígenes de la familia.

Sin embargo, el editor de Wikipedia Ilyas Lebleu -quien edita bajo el nombre de usuario “Chaotic Enby”- revisó la fuente y descubrió que la página referenciada no mencionaba a la familia en absoluto.

Asimismo, una investigación posterior reveló que OKA dependía en gran medida de trabajadores subcontratados. Según los editores que participaron en la revisión, a estos subcontratados se les solía indicar que copiaran y pegaran artículos en herramientas de modelos lingüísticos de uso común para generar traducciones.

Esta práctica generó preocupación, ya que se estaban publicando traducciones automáticas sin la verificación suficiente de las fuentes originales. En respuesta, los editores de Wikipedia decidieron no prohibir las traducciones de OKA directamente, sino que introdujeron medidas de control más estrictas.

Según la nueva política, los traductores afiliados a OKA que reciban cuatro advertencias verificadas por contenido infundado o incorrecto en un plazo de seis meses serán bloqueados si se produce otra infracción.

Los editores también indicaron que el contenido creado por traductores que posteriormente sean bloqueados por fallos de verificación podrá ser eliminado a menos que otro editor de confianza acepte revisarlo y asumir la responsabilidad.

Jonathan Zimmermann, fundador y presidente de la Open Knowledge Association, reconoció que pueden ocurrir errores, pero aseguró que la organización cuenta con medidas de seguridad.

Zimmermann también explicó que la OKA exige a los traductores que cotejen su trabajo con las fuentes citadas e incluye la revisión humana como parte del proceso. Añadió que los editores senior revisan periódicamente muestras de traducciones, especialmente las realizadas por colaboradores noveles.