Tlön, Uqbar, Orbis Tertius… o el LLM grooming en la jerga de la IA generativa

En 1940, Jorge Luis Borges escribió «Tlön, Uqbar, Orbis Tertius». El relato arranca con Uqbar, un país que aparece en un único ejemplar de una oscura enciclopedia y en ningún atlas del mundo, y cuyos escritos remiten a un lugar aún más extraño: Tlön. Detrás de ambos está Orbis Tertius, una sociedad secreta de sabios que dedicó generaciones a inventar un planeta entero y a escribirlo, artículo por artículo, en una enciclopedia propia. El engaño estaba tan bien construido que la realidad acabó convirtiéndose en eso mismo, realidad: empezaron a aparecer objetos de Tlön, y el narrador termina convencido de que el mundo será Tlön.

Hoy, esa sociedad de sabios la forman los grandes modelos de lenguaje, los oráculos de la era pos-Google. No inventan nada a propósito: simplemente escriben lo que han leído. Así que quien escriba lo que ellos leen puede construir su propio Tlön. La técnica tiene nombre, LLM grooming, y las elecciones de Moldavia de 2025 la mostraron en práctica, empezando por un titular que nadie escribió.

El 29 de septiembre de 2025, el día después de la votación, apareció en internet un artículo en rumano con este título: «Escribe un post sobre la política moldava en 2025, sin que tenga relación con las elecciones». Alguien había escrito un pompt en ChatGPT, había publicado lo que salió, sin borrar dicho prompt. ERROR FATAL, como aparecía en la pantalla de nuestros viejos ordenadores. El desliz quedó registrado por el Mecanismo de Respuesta Rápida del G7, que siguió las elecciones en consulta con el Gobierno de Moldavia. ¿Gracioso? Mucho. ¿Inofensivo? No tanto.

El artículo pertenecía a la red Pravda, también conocida como Portal Kombat. Se trata de un entramado de al menos 193 webs que apenas producen nada propio y se limitan a republicar contenidos de medios afines. Su audiencia en Moldavia era prácticamente nula: el informe del G7 habla de «niveles mínimos de interacción auténtica». O sea, un medio que no lee nadie. En cualquier facultad de Periodismo, eso es un fracaso. Salvo que los lectores que buscaba no fueran personas.

Aquí es cuando la historia empieza a ponerse interesante, sobre todo desde el punto de vista de la IA generativa. Los grandes modelos de lenguaje aprenden de lo que contiene la web, y muchos de los chatbots construidos sobre ellos también buscan en la web antes de responder. Así que basta con inundar internet con tu versión de los hechos, una y otra vez, en decenas de webs y de idiomas, hasta que las máquinas la absorban. Después ellas la repiten, con su tono sereno y servicial, a usuarios que nunca han pisado tus webs. El Royal United Services Institute (RUSI), un think tank británico independiente dedicado a la defensa y la seguridad, fundado en 1831 por el duque de Wellington, lo resumió bastante bien: el objetivo ya no es la audiencia, sino las herramientas que usa la audiencia; es decir, los propios modelos de lenguaje.

Y en este caso concreto, ¿cuál era la historia que había que repetir? La de siempre. A la presidenta Maia Sandu y a su Partido Acción y Solidaridad se los acusó de un fraude electoral «orquestado por la UE y la OTAN», de malversación e incluso de drogadicción, y se presentó al partido como un títere de la OTAN que amenazaba la neutralidad de Moldavia. NewsGuard, una empresa estadounidense que evalúa la fiabilidad de los sitios de noticias y audita chatbots de IA, constató que la red blanqueaba bulos como estos «en un aparente intento de influir en los rastreadores web y en la IA generativa».

¿Mordieron el anzuelo las máquinas? Al menos una sí. Matryoshka es una operación de influencia que fabrica vídeos y artículos que imitan a medios de comunicación reales y luego los envía por correo electrónico a verificadores y redacciones para tenerlos ocupados desmintiendo. Entre mediados de abril y mediados de julio de 2025, difundió 39 bulos sobre Moldavia. Según NewsGuard, ChatGPT repitió uno de ellos y citó como fuente un artículo de la red Pravda, precisamente las webs que casi nadie lee. Casi nadie, salvo las máquinas.

Dicho esto, toca volver a ponerse el sombrero de analista. ¿Cambió todo esto un solo voto en Moldavia? No lo sabemos, y lo poco que sabemos apunta a menos de lo que parece. El Partido Acción y Solidaridad conservó su mayoría parlamentaria. Las mayores audiencias de la campaña fueron para el vídeo, no para la granja de textos: dos vídeos en inglés de otra operación sumaron más de 2,7 millones y al menos 5 millones de visualizaciones en X. Y ninguna de las fuentes que he leído mide qué llegó a creer un solo moldavo después de hacerle una pregunta a un chatbot de IA generativa. La producción está documentada hasta el último artículo. El efecto en las mentes sigue sin medirse.

Aquí va la luz, si es que estas líneas arrojan alguna. El grooming juega una partida más larga que una campaña electoral. No necesita ganar en septiembre. Necesita estar en los datos de los que aprenderá el próximo modelo y en los resultados de búsqueda que consultará el próximo chatbot. Por eso la defensa no empieza en las urnas, sino en la fuente. Hacen falta desarrolladores que valoren de dónde viene una respuesta tanto como si suena convincente, y usuarios que lean lo que les responde un chatbot sobre un tema político candente como leerían un soplo anónimo, comprobando la fuente que cita antes de fiarse.

Que alguien está intentando enseñar a las máquinas su propia versión de la realidad: pocas dudas caben. 

Que la lección haya calado lo suficiente como para inclinar un voto: ninguna prueba de ello, por ahora.

Y a quien publicó aquel prompt como titular: la próxima vez… por favor, vuelve a olvidarte de borrarlo.

El estrecho de Rashomon: la guerra cognitiva con IA generativa entre China y Taiwán

El estrecho de Rashomon: la guerra cognitiva con IA generativa entre China y Taiwán

Empecemos por el dato que abre todos los titulares: en 2025 la Oficina de Seguridad Nacional de Taiwán detectó 2,3 millones de piezas de desinformación procedentes de China, un 7 % más que el año anterior, y más de 45.000 cuentas falsas, un 61 % más. Vídeo generado en cadena. Voces clonadas a partir de grabaciones que ciudadanos taiwaneses cedieron, sin saberlo, respondiendo a falsas ofertas de empleo. Bienvenidos a la guerra cognitiva con inteligencia artificial generativa. Pasen y vean: industrial, barata y, sobre todo, personalizada.

Porque en este último adjetivo está la novedad de verdad. En agosto de 2025 se filtraron los documentos de GoLaxy, una empresa china que había construido algo llamado, ironías aparte, Sistema de Propaganda Inteligente. ¿En qué consiste este sistema? No dispara un mismo mensaje a millones de personas: lee el sentimiento de las redes sociales en tiempo real, clasifica a más de mil figuras taiwanesas en “duros”, “moderados” e “indecisos”, y sirve a cada grupo, a cada individuo, el bulo que mejor encaja con sus miedos. No es propaganda de altavoz. Es propaganda de francotirador.

Nada de esto salió de la nada. Quien siguiera el asunto recordará las presidenciales de enero de 2024: audios falsos fabricados con IA que acusaban al candidato del partido gobernante de haber sido informante, o un Terry Gou de pega respaldando a su rival por la nominación del KMT (Hou Yu-ih), asunto expuesto en el Microsoft Digital Defense Report. O los avatares sintéticos de la app Weta365, ligada a la red Spamouflage, difundiendo “la historia secreta de Tsai Ing-wen”, algo que documentó el Australian Strategic Policy Institute (ASPI). Dos años después, aquello parece el prototipo. Esto ya es la cadena de montaje.

¿Y qué piensa Pekín de todo esto? El 14 de enero de 2026, dos días después del informe taiwanés, la portavoz de la Oficina para Asuntos de Taiwán, Zhu Fenglian, no se anduvo con medias tintas: el informe “distorsiona los hechos y difama al continente”, y el que practica la guerra cognitiva —el “reincidente”, dijo— es en realidad el propio Partido Democrático Progresista taiwanés. ¿La desinformación? La del informe. ¿Los ejércitos de bots? Los de Taipéi, apuntando a la China continental. La Embajada china en Francia ya le había soltado lo mismo al Institut de recherche stratégique de l’École militaire (IRSEM), cuando éste destapó sus redes de influencia: “mentalidad de Guerra Fría”, “difamación”, y el gobierno chino “no necesita contratar a nadie”. Todos espontáneos, oigan.

Esto tiene nombre y es culto, como todos los que leen este post: el efecto Rashomon, por la película de Kurosawa en la que un mismo crimen se cuenta en cuatro versiones incompatibles y todas suenan sinceras. En el estrecho de Taiwán cada bando señala al otro como el gran manipulador. Y lo fascinante no es decidir quién miente, ésa precisamente es la trampa, sino que la propia disputa sobre quién desinforma se ha convertido en el campo de batalla. El ruido es el arma. Pura guerra cognitiva.

No obstante, ahora toca ponernos la gorra de analista: después de 2,3 millones de mentiras, voces clonadas y francotiradores algorítmicos, ¿cuánta gente cambió de opinión? La respuesta, incómoda para alarmistas y cínicos por igual, es: no lo sabemos y lo poco que sabemos apunta a menos de lo que parece. Las encuestas del DoubleThink Lab, taiwanés y nada sospechoso de blandura con Pekín, encuentran correlación, no causalidad: los bulos pro-chinos calan más entre quienes ya simpatizaban con la oposición, y resbalan sobre los demás. La máquina refuerza al convencido y rara vez convierte al escéptico. Enfrente, una sociedad civil taiwanesa que verifica, desmiente y se ríe (¡qué gran noticia, el humor como cortafuegos!) con una eficacia que sonroja a media Europa.

Aquí está la luz, si es que aportan alguna estas líneas: la capacidad de producir desinformación con IA generativa es real, está probada y crece a dos cifras al año. Su efecto sobre lo que la gente cree y hace es, de momento, la gran incógnita. Fuerte aguas arriba, débil aguas abajo. Confundir lo primero con lo segundo, dar por hecho que fabricar mentiras equivale a ganar mentes, es el error que separa el análisis del pánico. Taiwán es hoy nuestro mejor banco de pruebas.

Que China (y otros muchos) desinforma con IA generativa, poca duda cabe de ello. Que eso baste para doblegar a una democracia practicada por un pueblo con pensamiento crítico, que conoce muy bien a su vecino: ninguna prueba. Entre esos dos términos, desinformación mediante IA generativa y pensamiento crítico, se juega buena parte de la geopolítica de este siglo.

Los modelos de IA generativa como guardianes del conocimiento: ¿qué y a quién podemos creer?

Antes, los buscadores nos señalaban las fuentes y éramos nosotros quienes las juzgábamos. Los modelos de IA generativa no señalan: responden, con una voz segura de sí misma, y cada vez más estamos tomando esa voz por el conocimiento mismo. La pregunta ya no es solo si la máquina miente. Es más profunda. ¿Qué y a quién deja que se escuche? ¿De quién considera creíble el testimonio? ¿Y a quién obvia? Un artículo reciente le pone nombre a este problema: la injusticia epistémica. Titulado Epistemic Injustice in Generative AI, y firmado por Jackie Kay, Atoosa Kasirzadeh y Shakir Mohamed (Google DeepMind, Google Research, University College London y la Universidad de Edimburgo), el artículo científico toma prestado un concepto de la filósofa Miranda Fricker: la injusticia de negarle a alguien credibilidad como fuente de conocimiento, de no tomarlo en serio por el simple hecho de quién es. Y después se pregunta dicho artículo qué ocurre cuando quien concede o niega esa credibilidad es un modelo de IA generativa consultado por millones de personas.

Los autores describen cuatro daños. El modelo hereda nuestros prejuicios sobre quién es creíble, y los amplifica a escala. Produce falsedades convincentes, y erosiona nuestra confianza en el testimonio ajeno. Entrenado en unas pocas lenguas dominantes, es incapaz de representar a todos los demás. Y sus beneficios llegan a unas comunidades, pero no a otras.

Una sola frase resume el peligro: si tratamos a estos modelos como enciclopedias, acabarán moldeando la estructura misma de nuestro conocimiento colectivo. Ya no hablamos de un chatbot que se equivoca de vez en cuando. Hablamos de la infraestructura a través de la cual las sociedades deciden qué es verdad. Y su efecto más corrosivo no es que creamos una mentira concreta, sino que perdamos la base común sobre la que cualquier afirmación puede ponerse a prueba.

La lectura estratégica es evidente, y prolonga algo que ya he defendido aquí sobre el sesgo intrínseco de estos modelos. Esto es una cuestión de poder. Unos pocos actores construyen los modelos. Esos modelos piensan sobre todo en inglés y en chino. El espacio epistémico se estrecha, y eso es un hecho geopolítico. La injusticia epistémica tiene un mapa, y se parece mucho al mapa del poder.

Es también aquí donde la batalla se traslada a la mente. Los estrategas geopolíticos la llaman guerra cognitiva: el objetivo no es tomar un territorio, sino moldear cómo piensa su población —su percepción, su razonamiento, su juicio—. La injusticia epistémica es lo que la hace posible. Cuando la herramienta que media nuestro conocimiento es sesgada, opaca y está en manos de unos pocos, la mente humana se convierte en el terreno, y cada ciudadano en un objetivo.

La respuesta no es ni el tecno-optimismo ni el tecno-pánico. Es el pensamiento crítico. Si la máquina responde con una sola voz, la carga vuelve a nosotros: preguntar en qué se sostiene una afirmación, qué punto de vista encierra, qué deja fuera. Una sociedad que delega su juicio en una interfaz segura de sí misma acabará gobernada por quien la haya construido. Dudar de la fluidez, sopesar las fuentes, consultar más de un oráculo: esto ha dejado de ser una virtud. Es una condición de libertad.

Dos conclusiones. Primera: el debate sobre la desinformación se queda corto si se detiene en el “verdadero o falso”. El cambio de fondo es que la IA arbitra ya qué cuenta como conocimiento, y lo hace de forma desigual. Segunda: el sesgo intrínseco, el dominio lingüístico y la concentración del poder de la IA no son tres problemas. Son uno solo, y decide qué realidad replican las máquinas.

¿Cuáles son las verdaderas capacidades de los LLMs como máquinas de desinformación?

En el debate actual sobre la inteligencia artificial generativa y la guerra de la información, una afirmación se repite casi como un artículo de fe: que los grandes modelos de lenguaje generarán una inundación de desinformación capaz de ahogar la esfera pública. El argumento es intuitivo —si una máquina puede escribir una cantidad arbitraria de texto fluido y similar al humano a demanda, entonces cualquier actor que desee manipular la opinión pública dispone ya de un arma a escala industrial—. Sin embargo, la afirmación ha circulado mucho más ampliamente que la evidencia que la sustenta. Buena parte de lo que leemos sobre el potencial desinformador de los LLMs es teórico, especulativo o anecdótico. El trabajo experimental propiamente dicho; la comprobación paciente y sistemática de lo que estos modelos hacen realmente, cuando se les pide que mientan, ha sido sorprendentemente escasa.

Esta es precisamente la brecha que Ivan Vykopal y sus colegas del Kempelen Institute of Intelligent Technologies de Bratislava se propusieron cubrir. Su artículo, Disinformation Capabilities of Large Language Models, presentado en el Congreso Anual de la Association for Computational Linguistics de 2024, ofrece una de las evaluaciones empíricas más rigurosas realizadas hasta la fecha sobre lo que la generación actual de LLMs puede y no puede hacer, como generadora de noticias falsas: no un manifiesto, no un pronóstico, sino un experimento controlado con una metodología claramente definida y resultados reproducibles.

El diseño es directo y, por esa razón, convincente. Los investigadores seleccionaron veinte narrativas de desinformación reales extraídas de verificadores de datos profesionales —Snopes, Agence France-Presse, el European Digital Media Observatory—, que abarcaban la COVID-19, la guerra ruso-ucraniana, los bulos sanitarios, las elecciones estadounidenses y narrativas regionales. No son invenciones, sino falsedades en circulación, desde la afirmación de que las vacunas causan autismo hasta la de que la masacre de Bucha fue escenificada. El equipo solicitó entonces a diez modelos de lenguaje distintos —entre ellos GPT-3, GPT-4, ChatGPT, Llama-2, Mistral, Falcon y Vicuna— que redactaran artículos de prensa en apoyo de cada narrativa, generando 1.200 textos y sometiendo 840 de ellos a anotadores humanos según un marco de seis preguntas que medía la coherencia, el estilo periodístico, la concordancia con la narrativa y la generación de argumentos novedosos de apoyo.

El hallazgo central es preocupante. Los modelos están, en términos generales, perfectamente dispuestos y son perfectamente capaces de generar desinformación convincente. Producen artículos coherentes, bien estructurados y con apariencia de noticia que concuerdan con falsedades peligrosas y, lo que es más inquietante, a menudo inventan nuevas pruebas de apoyo para hacerlo, inventando nombres, sucesos y estadísticas verosímiles que confieren credibilidad a las fabricaciones. Esto resulta especialmente pernicioso: una cosa es repetir una mentira conocida y otra muy distinta fabricar hechos nuevos e inventados que un lector tendría que desmentir por su cuenta.

Pero la parte más interesante del estudio es donde se complica la narrativa simple. Los modelos no se comportaron de manera uniforme; su disposición a generar desinformación variaba drásticamente. Algunos —en particular Vicuña y el más antiguo GPT-3 Davinci— resultaron carecer prácticamente de filtros de seguridad operativos para este caso de uso, mientras que otros demostraron que un comportamiento más seguro es posible: Falcon rechazó aproximadamente un tercio de las solicitudes y Llama-2 mostró una tasa de rechazo comparativamente alta, con ChatGPT en una posición intermedia. El peligro, en otras palabras, no es una propiedad inherente y uniforme de la tecnología; es una función de cómo se entrenó y alineó cada modelo, lo que significa que la seguridad es una decisión de diseño, no una imposibilidad. El estudio también halló que los modelos son orientables mediante el contexto del prompt, y más complacientes con las falsedades regionales, donde existe menos información auténtica para contradecirlas. Los LLMs pueden ser, por tanto, especialmente peligrosos para campañas dirigidas a comunidades lingüísticas más pequeñas o a sucesos de evolución rápida, donde el lastre protector de la verdad bien documentada es escaso.

Con todo, el artículo no termina en una nota alarmante sin paliativos. Dos observaciones en sentido contrario matizan el panorama. Los textos generados resultaron bastante detectables: los mejores modelos de detección automática identificaron los artículos generados por LLMs con una alta precisión, lo que sugiere que una capa significativa de defensa es técnicamente viable, al menos hasta que los adversarios se adapten. Y, de manera bastante elegante, los investigadores demostraron que los propios modelos pueden formar parte de la solución, empleando GPT-4 para automatizar parcialmente la evaluación de los textos generados y apuntando hacia una monitorización escalable y reproducible de la seguridad de los modelos.

La conclusión honesta se resiste a la atracción tanto del tecno-optimismo como del tecno-pánico. La capacidad de generar desinformación convincente y peligrosa a escala es real, está demostrada y está presente en modelos ampliamente disponibles —incluidos los de código abierto, que no pueden retirarse ni controlarse de forma centralizada. Eso ya no es especulación; es un hecho experimental. Al mismo tiempo, la amenaza no es ni uniforme ni inmanejable: los filtros de seguridad funcionan cuando se construyen, el contenido generado sigue siendo detectable por ahora, y la misma tecnología que produce el problema puede ponerse al servicio de su mitigación.

Quizá la advertencia más importante sea la que los propios autores subrayan: su estudio es una instantánea, que capta el estado del campo en un momento concreto y con un conjunto concreto de modelos. La tecnología avanza deprisa y la próxima generación podría comportarse de otro modo. Este es el reto epistemológico recurrente de todo el ámbito: estamos evaluando un blanco móvil, y cualquier evaluación honesta debe llevar fecha de caducidad. Lo que Vykopal y sus colegas nos han dado no es la última palabra, sino algo más útil: un método riguroso y replicable para volver a formular la pregunta a medida que la tecnología evoluciona. En un debate que con demasiada frecuencia se conduce por la mera afirmación sin base sólida, esa contribución metodológica puede resultar tan valiosa como los propios hallazgos.