La Inteligencia Artificial como creador de fakenews: GPT-2

"Era un día frío y brillante en abril, y los relojes daban las trece..." 

 ("1984" George Orwell).

La Inteligencia Artificial como creador de fakenews: GPT-2

El Lunes 27 de Abril, asistimos vía webconferencia, a una clase sobre la posverdad. Es realmente un tema que me apasiona, sobre todo los entresijos y aquellas cosas que pasan desapercibidas. Indagando sobre la relación, cada día más estrecha, entre la Inteligencia Artificial (I.A.) y la posverdad, me encontré inmerso en una lucha dentro del gran campo de batalla digital, una de esas contiendas que pueden decidir el devenir de una guerra.

En nuestro mundo digital son numerosas las herramientas basadas en la Inteligencia Artificial para la lucha contra la posverdad, pero también son muchas las que facilitan su circulación o su creación. Pero mi cometido hoy, es resaltar un generador de textos llamado GPT-2. Puede parecer gracioso por tener un nombre similar a R2P2, ese robot simpático de Star Wars, pero no. GPT-2 puede crear "fakenews", y por tanto, puede ser muy peligroso. 

Hace poco más de un año y medio, un grupo de investigadores de OpenAI, (una organización de investigación sobre la A.I), se proponían inicialmente a crear un algoritmo de lenguaje, capacitado para traducir texto, responder preguntas y realizar otras tareas útiles. Los propios investigadores se dieron cuenta del enorme potencial que podría tener para crear noticias falsas (fakenews).

Tras introducir “Rusia ha declarado la guerra a los Estados Unidos después de que Donald Trump accidentalmente…” , el generador de texto complementó la noticia, con una prosa clara, sencilla y verosímil. La Inteligencia Artificial agregó que los Estados Unidos lanzaron un misil, generándose "reacciones" entre ambas partes, y añadiendo un nuevo peldaño en las relaciones tensas entre Rusia y Estados Unidos.

GPT-2 es un generador basado en la técnica de modelado del lenguaje, que permite a un algoritmo predecir la siguiente palabra de una oración. 

Funciona de manera similar a un autocompletado de Google o el lenguaje predefinido de WhatsApp, pero en vez de una palabra, permite crear un párrafo. Pero también identifica el tipo de texto y generará el contenido a razón de él. Podemos poner el ejemplo que cita Oscar Schwartz en su artículo en "The Guardian" : 
"Por ejemplo, si alimenta al sistema con una línea de Shakespeare, genera una respuesta similar a la de Shakespeare. Si lo solicita con un título de noticias, generará un texto que casi parece un artículo de noticias."

En el primer lanzamiento de generador de textos GPT-2, la edición de todas las posibilidades del lenguaje estaba limitada ante su enorme potencial. Unos meses más tardes, ante la presión, OpenIA liberó todas esas posibilidades de su lenguaje. Hace unos días, apareció una noticia en los medios: un niño había creado un trabajo para el instituto utilizando el algoritmo GPT-2, y aprobó con él.

Conforme aumenta su difusión, son un mayor número de usuarios que utilizan la herramienta para crear hilos en Twitter, Reddit o crear reseñas en restaurantes o tiendas. Es una herramienta, que además para generar noticias falsas o lo anteriormente mencionado, puede crear spam de clickbait.

Pero, como si de una guerra armamentística se tratará, investigadores del MIT han desarrollado una herramienta llamada Giant Language Model Test Room (GLTR), "capaz de detectar qué partes de un texto han sido generadas mediante un algoritmo". En esa misma línea, el Instituto Allen de Inteligencia Artificial, creó un generador, llamado Grover, que puede detectar noticias falsas generadas por su mismo sistema, y por otras Inteligencias Artificiales. Podríamos decir que estamos ante una "evolución darwiniana" de la Inteligencia Artificial.

Estas noticias nos muestran la configuración de un nuevo frente en la lucha contra la posverdad. También nos muestran como la Inteligencia Artificial puede ser un gran aliado contra las fakenews, bulos o deepfakes, pero en contrapartida, puede suponer un aliado de estás. Es una muestra más, de la necesidad y la urgencia por introducir y desarrollar en la sociedad una alfabetización digital, y a su vez, fomentar la actitud crítica en todos los nichos de edad.

Tras esa primera frase de George Orwell introducida, los algoritmos se pusieron en marcha, y generaron un texto, con tintes futuristas y muy cercanos a la linea creativa de Orwell (experimento llevado al cabo por Alex Hern (The Guardian):

"...Estaba en mi automóvil camino a nuevo trabajo de Seatle. Puse el gas, puse la llave y luego arranqué. Me imaginaba cómo sería el día. Cien años a partir de ahora. En 2045 era maestra en una escuela en una zona pobre de la China rural..."

Espero que os haya gustado.
Simón Gil 



Herramienta GLTR: http://gltr.io/dist/index.html

Fuentes:


"El nuevo generador de texto falso de IA puede ser demasiado peligroso para lanzar, dicen los creadores" (The Guardian, 14 Julio de 2019) https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction

¿Podría el "texto falso" ser la próxima amenaza política global?"( The Guardian, 4 de Julio de 2019) https://www.theguardian.com/technology/2019/jul/04/ai-fake-text-gpt-2-concerns-false-information

"El MIT desarrolla una IA que detecta artículos y todo tipo de textos generados por otras IA" (Genbeta, 29 de Julio de 2019). https://www.genbeta.com/actualidad/mit-desarrolla-ia-que-detecta-articulos-todo-tipo-textos-generados-otra-ia

"Una IA que escribe prosa convincente corre el riesgo de producir noticias falsas en masa" (MIT Technology Review, 14 de Febrero de 2019) https://www.technologyreview.com/2019/02/14/137426/an-ai-tool-auto-generates-fake-news-bogus-tweets-and-plenty-of-gibberish/ 

"Open IA hace pública de forma completa su IA generadora de textos tras las preocupaciones de seguridad". (La Vanguardia, 23 de Agosto de 2019) https://www.lavanguardia.com/vida/20190823/464213448371/open-ia-hace-publica-de-forma-completa-su-ia-generadora-de-textos-tras-las-preocupaciones-de-seguridad.html

"Un estudiante usa una inteligencia artificial para que le escriba los trabajos de clase... y aprueba". (Competer Hoy, 24 de Abril de 2020). https://computerhoy.com/noticias/tecnologia/estudiante-inteligencia-artificial-trabajos-clase-626199

De cerca: Albert Lladó

"Hemos confundido la actualidad con la tendencia. Y eso ha hecho que nuestra mirada se convierta en una mirada pasiva, reaccionaria (que solo reacciona a acciones de otros). Pero la actualidad demanda una mirada activa, que genere un desplazamiento. Actualizar significa actualizar lo que aún está solo en potencia. Eso es a lo que el lenguaje ordinario ha llamado "poner el foco."

Albert Lladó 

DE CERCA: Albert Lladó


Hace unos días, en el foro de "Educomunicación Digital y Narrativa Digital", descubría ese texto del escritor y periodista Albert Lladó. La verdad es que desconocía a su autor, pero he de decir que me ha gustado. Dicen que los primeros sorbos, son los más especiales, pero también son una puerta a un nuevo mundo.

No hace mucho descubrí a la escritora Irene Vallejo, como columnista de "El País". Sus primeras"frases" fueron la llave a un nuevo mundo por conocer. Poco después, leería "El infinito es un junco". El pequeño sorbo, se transformaría en un nuevo mundo de grandes sorbos. Esa sensación me ha hecho experimentar las entrevistas y las primeras indagaciones sobre Lladó.  Un nuevo sorbo,  para descubrir un nuevo mundo, con una perspectiva diferente. 

Las primeras lecturas y entrevistas me han hecho reflexionar sobre el papel del periodista en el día de hoy.

Para Lladó, el periodismo debería de cambiar el foco de atención. Su mirada debe ir más allá de la agenda marcada, acercarse a aquellos hechos y los detalles que nadie observa. Los hechos son transformados, por el periodista, en acontecimientos. Cuando ese acontecimiento se convierte en noticia, es cuando se está actualizando.  

El autor menciona a Guy Talese, recordando que la labor importante del periodista es quedarse después de un incendio, antes que narrar el propio hecho. Un cambio del foco puede llevarnos a la mejor exclusiva.  

También reclama abrir periódicos con esa mirada diferente, con aquellos temas que nadie habla. Lejos de esa narración literal, ligada a los poderes. Reclama un periodismo de contrapoder( y no cuarto poder), un periodismo de investigación, más libre, con su propia prosa. El periodista no debe ejercer de taquígrafo, sino ser el protagonista del propio concepto de "periodismo libre" de Camus. Rápidamente me viene a la mente los cuatro mandamientos del periodismo del mismo autor: la lucidez, la desobediencia, la ironía y la obstinación.  

Lladó resalta que les piden artículos menos complejos, sin ironías, sin retórica, sin juegos de palabras; con una narrativa más literal. De esta manera, los titulares pueden contentar los motores de búsqueda como Google. Somos robots manejados por algoritmos. Con ello, y desde mi opinión, se fomenta que los usuarios tengan una pequeña información en 280 caracteres, favoreciendo el desinterés por conocer más profundamente la noticia, y con ello, favoreciendo las fakenews o bulos.

Una pequeña reflexión de las muchas que me han surgido. Cuando el foco se aleja de un hecho, el mismo hecho es silenciado. Cuando la crisis del Covid-19 se agudizó, el foco planeaba casi exclusivamente en el mapa político, no prestaba atención a las necesidades de las residencias de ancianos o las necesidades de las personas oncológicas. A raíz de las denuncias de la situación, las miradas cambiaron el foco.

Os recomiendo la lectura de la entrevista a Albert en The Objective, a propósito del libro.
https://theobjective.com/further/albert-llado-mirada-lucida/

Más sobre Albert Lladó 

http://albertllado.com/

https://www.youtube.com/watch?v=OfprXFxdJak