25 febrero 2019

Una peligrosa inteligencia artificial generadora de textos

Fake news concept shot from above, por Charles Taylor/Shutterstock

Un proyecto de inteligencia artificial con la firma de Elon Musk ha tenido tanto éxito que sus desarrolladores no lo quieren hacer público por temor a que sea mal utilizado.

El grupo de investigación Open AI –también fundado por Musk- desarrolló un ‘modelo de lenguaje no supervisado a gran escala’ que puede generar noticias falsas y convincentes a partir de un simple titular.

El programa produjo una pieza de nueve párrafos basada en un folleto de dos líneas sobre científicos que descubrieron unicornios.

Esta inteligencia artificial puede leer textos largos, escribir, traducir, e incluso hacer resúmenes de texto o responder preguntas. Todo después de haber sido ‘entrenado’ con 10 millones de artículos (40 GB de datos extraídos de 8 millones de páginas web), donde ha aprendido diferentes estilos, tonos y ritmos de escritura diferentes.

En un principio, sólo era un programa de entrenamiento generador de texto para ver si podía predecir la siguiente palabra  en una frase. Según fueron alimentando al software con artículos, vieron que los resultados sobrepasaron sus expectativas al ver lo bueno que podía ser imitando la escritura de los humanos con poca cantidad de texto aprendido.

Por ejemplo, sobre la base de dos oraciones, fue capaz de continuar escribiendo una noticia completa –e inventada, claro-  de hasta nueve párrafos, con un resultado idéntico al de la sintaxis de un ser humano, ya que ha resultado ser muy bueno en adaptarse al estilo y al contenido de las indicaciones que se le dan.

Los resultados, como decíamos, han asustado a los creadores e investigadores porque si su inteligencia artificial es capaz de crear artículos largos y perfectamente legibles con citas falsas pero con temáticas realistas, su uso podría derivar en malas praxis generalizadas.

Sus desarrolladores afirman que la tecnología está lista para avanzar rápidamente en los próximos años, pero la especificación completa y los detalles del proyecto sólo se publicarán cuando los investigadores hayan discutido las posibles aplicaciones negativas que podría tener.

Veremos si todo esto es cierto o sólo –sin ser necesariamente falsa su capacidad para crear textos– producto de una campaña de publicidad.

Leave a Reply