Tlön, Uqbar, Orbis Tertius… o el LLM grooming en la jerga de la IA generativa

En 1940, Jorge Luis Borges escribió «Tlön, Uqbar, Orbis Tertius». El relato arranca con Uqbar, un país que aparece en un único ejemplar de una oscura enciclopedia y en ningún atlas del mundo, y cuyos escritos remiten a un lugar aún más extraño: Tlön. Detrás de ambos está Orbis Tertius, una sociedad secreta de sabios que dedicó generaciones a inventar un planeta entero y a escribirlo, artículo por artículo, en una enciclopedia propia. El engaño estaba tan bien construido que la realidad acabó convirtiéndose en eso mismo, realidad: empezaron a aparecer objetos de Tlön, y el narrador termina convencido de que el mundo será Tlön.

Hoy, esa sociedad de sabios la forman los grandes modelos de lenguaje, los oráculos de la era pos-Google. No inventan nada a propósito: simplemente escriben lo que han leído. Así que quien escriba lo que ellos leen puede construir su propio Tlön. La técnica tiene nombre, LLM grooming, y las elecciones de Moldavia de 2025 la mostraron en práctica, empezando por un titular que nadie escribió.

El 29 de septiembre de 2025, el día después de la votación, apareció en internet un artículo en rumano con este título: «Escribe un post sobre la política moldava en 2025, sin que tenga relación con las elecciones». Alguien había escrito un prompt en ChatGPT, había publicado lo que salió, sin borrar dicho prompt. ERROR FATAL, como aparecía en la pantalla de nuestros viejos ordenadores. El desliz quedó registrado por el Mecanismo de Respuesta Rápida del G7, que siguió las elecciones en consulta con el Gobierno de Moldavia. ¿Gracioso? Mucho. ¿Inofensivo? No tanto.

El artículo pertenecía a la red Pravda, también conocida como Portal Kombat. Se trata de un entramado de al menos 193 webs que apenas producen nada propio y se limitan a republicar contenidos de medios afines. Su audiencia en Moldavia era prácticamente nula: el informe del G7 habla de «niveles mínimos de interacción auténtica». O sea, un medio que no lee nadie. En cualquier facultad de Periodismo, eso es un fracaso. Salvo que los lectores que buscaba no fueran personas.

Aquí es cuando la historia empieza a ponerse interesante, sobre todo desde el punto de vista de la IA generativa. Los grandes modelos de lenguaje aprenden de lo que contiene la web, y muchos de los chatbots construidos sobre ellos también buscan en la web antes de responder. Así que basta con inundar internet con tu versión de los hechos, una y otra vez, en decenas de webs y de idiomas, hasta que las máquinas la absorban. Después ellas la repiten, con su tono sereno y servicial, a usuarios que nunca han pisado tus webs. El Royal United Services Institute (RUSI), un think tank británico independiente dedicado a la defensa y la seguridad, fundado en 1831 por el duque de Wellington, lo resumió bastante bien: el objetivo ya no es la audiencia, sino las herramientas que usa la audiencia; es decir, los propios modelos de lenguaje.

Y en este caso concreto, ¿cuál era la historia que había que repetir? La de siempre. A la presidenta Maia Sandu y a su Partido Acción y Solidaridad se los acusó de un fraude electoral «orquestado por la UE y la OTAN», de malversación e incluso de drogadicción, y se presentó al partido como un títere de la OTAN que amenazaba la neutralidad de Moldavia. NewsGuard, una empresa estadounidense que evalúa la fiabilidad de los sitios de noticias y audita chatbots de IA, constató que la red blanqueaba bulos como estos «en un aparente intento de influir en los rastreadores web y en la IA generativa».

¿Mordieron el anzuelo las máquinas? Al menos una sí. Matryoshka es una operación de influencia que fabrica vídeos y artículos que imitan a medios de comunicación reales y luego los envía por correo electrónico a verificadores y redacciones para tenerlos ocupados desmintiendo. Entre mediados de abril y mediados de julio de 2025, difundió 39 bulos sobre Moldavia. Según NewsGuard, ChatGPT repitió uno de ellos y citó como fuente un artículo de la red Pravda, precisamente las webs que casi nadie lee. Casi nadie, salvo las máquinas.

Dicho esto, toca volver a ponerse el sombrero de analista. ¿Cambió todo esto un solo voto en Moldavia? No lo sabemos, y lo poco que sabemos apunta a menos de lo que parece. El Partido Acción y Solidaridad conservó su mayoría parlamentaria. Las mayores audiencias de la campaña fueron para el vídeo, no para la granja de textos: dos vídeos en inglés de otra operación sumaron más de 2,7 millones y al menos 5 millones de visualizaciones en X. Y ninguna de las fuentes que he leído mide qué llegó a creer un solo moldavo después de hacerle una pregunta a un chatbot de IA generativa. La producción está documentada hasta el último artículo. El efecto en las mentes sigue sin medirse.

Aquí va la luz, si es que estas líneas arrojan alguna. El grooming juega una partida más larga que una campaña electoral. No necesita ganar en septiembre. Necesita estar en los datos de los que aprenderá el próximo modelo y en los resultados de búsqueda que consultará el próximo chatbot. Por eso la defensa no empieza en las urnas, sino en la fuente. Hacen falta desarrolladores que valoren de dónde viene una respuesta tanto como si suena convincente, y usuarios que lean lo que les responde un chatbot sobre un tema político candente como leerían un soplo anónimo, comprobando la fuente que cita antes de fiarse.

Que alguien está intentando enseñar a las máquinas su propia versión de la realidad: pocas dudas caben. 

Que la lección haya calado lo suficiente como para inclinar un voto: ninguna prueba de ello, por ahora.

Y a quien publicó aquel prompt como titular: la próxima vez… por favor, vuelve a olvidarte de borrarlo.

Tlön, Uqbar, Orbis Tertius… or LLM Grooming, in GenAI Speak

In 1940, Jorge Luis Borges wrote “Tlön, Uqbar, Orbis Tertius.” The story opens with Uqbar, a country that appears in a single copy of an obscure encyclopedia and in no atlas in the world, and whose literature points to an even stranger place: Tlön. Behind both stands Orbis Tertius, a secret society of scholars who spent generations inventing an entire planet and writing it, entry by entry, into an encyclopedia of its own. The hoax was so well built that reality gave in: objects from Tlön began to turn up, and the narrator ends up convinced that the world will become Tlön.

Today, the society of sages is made up of large language models, the oracles of the post-Google era. They invent nothing on purpose: they simply write what they have read. So whoever writes what they read can build a little Tlön of their own. The technique has a name, LLM grooming, and Moldova’s 2025 election shows it at work, starting with a headline that nobody wrote.

On September 29, 2025, the day after the vote, a Romanian-language article went online under this title: “Write a post about Moldovan politics 2025, without being related to the elections.” Someone had typed an instruction into ChatGPT, published whatever came out, and forgot to delete the instruction. FATAL ERROR, as our old computers used to announce. The slip was recorded by the G7 Rapid Response Mechanism, which monitored the elections in consultation with Moldova’s government. Funny? Very. Harmless? Less so.

The article belonged to the Pravda network, also known as Portal Kombat. It is a cluster of at least 193 websites that write almost nothing of their own and simply republish content from friendly outlets. Its audience in Moldova was close to zero: the G7 report speaks of “minimal levels of authentic engagement.” So, a media outlet that nobody reads. In any journalism school, that is a failure. Unless the readers it was after were not people.

This is where the story starts to get interesting, especially from the perspective of generative AI. Large language models learn from what the web contains, and many of the chatbots built on them also search the web before they answer. So you flood the internet with your version of events, over and over, across dozens of sites and languages, until the machines absorb it. Then they repeat it, in their calm and helpful tone, to users who never set foot on your websites. The Royal United Services Institute (RUSI), an independent British think tank on defense and security founded in 1831 by the Duke of Wellington, put it neatly: the target is no longer the audience but the tools the audience uses, that is, the language models themselves.

And in this particular case, what was the story to be repeated? The usual one. President Maia Sandu and her Party of Action and Solidarity were accused of election fraud “orchestrated by the EU and NATO,” of embezzlement, and even of drug addiction, and the party was portrayed as a NATO puppet threatening Moldova’s neutrality. NewsGuard, a US company that rates the reliability of news websites and audits AI chatbots, found that the network laundered claims like these “in an apparent effort to influence web crawlers and generative AI.”

Did the machines take the bait? At least one did. Matryoshka is an influence operation that fabricates news videos and articles imitating real media outlets, then emails them to fact-checkers and newsrooms to keep them busy debunking. Between mid-April and mid-July 2025, it pushed 39 false claims about Moldova. According to NewsGuard, ChatGPT repeated one of them and cited as its source an article from the Pravda network, the very websites that almost nobody reads. Almost nobody, except the machines.

That said, time to put on our analyst’s hat again. Did all of this change a single Moldovan vote? We don’t know, and the little we do know points to less than it seems. The Party of Action and Solidarity kept its parliamentary majority. The campaign’s biggest audiences went to video, not to the text farm: two English-language videos from another operation drew more than 2.7 million and at least 5 million views on X. And no source I have read measures what any Moldovan came to believe after asking a generative AI chatbot a question. The production is documented down to the last article. The effect on minds remains unmeasured.

Here is the light, if these lines bring any. Grooming plays a longer game than an election campaign. It does not need to win in September. It needs to be sitting in the data the next model learns from, and in the search results the next chatbot retrieves. That is why the defense does not start at the ballot box but at the source. It needs developers who weigh where an answer comes from as much as whether it sounds right, and users who read a chatbot’s reply on a heated political topic the way they would read an anonymous tip, checking the footnote before trusting it.

That someone is trying to teach the machines their own version of reality: little doubt about it. That the lesson has sunk in deeply enough to sway a vote: no proof, for now.

And to whoever published that prompt as a headline: next time… please, forget to delete it again.

The Rashomon Strait: The Generative-AI Cognitive War Between China and Taiwan

Let’s start with the figure that runs every headline: in 2025, Taiwan’s National Security Bureau detected 2.3 million pieces of disinformation coming from China —7% more than the year before— and over 45,000 fake accounts, up 61%. Video churned out on a production line. Voices cloned from recordings that Taiwanese citizens handed over without knowing it, answering fake job ads. Welcome to cognitive warfare with generative artificial intelligence! Industrial, cheap and, above all, personalized.

Because it is in that last adjective that the real novelty lies. In August 2025 the internal files of GoLaxy leaked —a Chinese company that had built something called, irony aside, a Smart Propaganda System. What does it do? It doesn’t fire the same message at millions of people: it reads social-media sentiment in real time, sorts more than a thousand Taiwanese public figures into “hardliners,” “moderates” and “swing voters,” and serves each group —each individual— the hoax that best fits their fears. Not propaganda by loudspeaker. Propaganda by sniper.

None of this came out of nowhere. Anyone who followed the story will remember the January 2024 presidential election: AI-forged audio accusing the ruling-party candidate of having once been an informant, or a counterfeit Terry Gou endorsing his rival for the KMT nomination (Hou Yu-ih) —a case laid out in the Microsoft Digital Defense Report. Or the synthetic avatars of the Weta365 app, tied to the Spamouflage network, spreading “the secret history of Tsai Ing-wen,” something documented by the Australian Strategic Policy Institute (ASPI). Two years on, that looks like the prototype. This is already the assembly line.

And what does Beijing make of all this? On 14 January 2026, two days after the Taiwanese report, the spokeswoman for the Taiwan Affairs Office, Zhu Fenglian, didn’t beat around the bush: the report “distorts the facts and smears the mainland,” and the one waging cognitive warfare —the habitual offender, she said— is in fact Taiwan’s own Democratic Progressive Party. The disinformation? The report’s. The bot armies? Taipei’s, aimed at the mainland. China’s embassy in France had already told the Institut de recherche stratégique de l’École militaire (IRSEM) the very same thing when it exposed Beijing’s influence networks: “Cold War mentality,” “defamation,” and the Chinese government “doesn’t need to hire anyone.” All spontaneous, of course.

This has a name, and a cultured one —like everyone reading this post: the Rashomon effect, after Kurosawa’s film in which a single crime is told in four incompatible versions and every one of them rings true. In the Taiwan Strait each side points to the other as the great manipulator. And the fascinating part isn’t deciding who is lying —that, precisely, is the trap— but that the very quarrel over who is spreading disinformation has become the battlefield. The noise is the weapon. Pure cognitive warfare.

That said, time to put on our analyst’s hat: after 2.3 million lies, cloned voices and algorithmic snipers, how many people actually changed their minds? The answer, awkward for alarmists and cynics alike, is: we don’t know, and the little we do know points to less than it seems. Surveys by DoubleThink Lab —Taiwanese, and hardly suspected of going soft on Beijing— find correlation, not causation: pro-China hoaxes land better among those already leaning toward the opposition, and slide off everyone else. The machine hardens the convinced and rarely converts the skeptic. Facing it, a Taiwanese civil society that fact-checks, debunks and laughs (what wonderful news: humor as firewall) with an effectiveness that would put half of Europe to shame.

Here’s the light, if these lines bring any: the capacity to produce disinformation with generative AI is real, proven, and growing at double digits a year. Its effect on what people believe and do is, for now, the great unknown. Strong upstream, weak downstream. Mistaking the first for the second —taking for granted that manufacturing lies equals winning minds— is the error that separates analysis from panic. Taiwan is today our best test bed.

That China —and plenty of others— spreads disinformation with generative AI: little doubt about it. That this suffices to bend a democracy practiced by a people with critical thinking, who know their neighbor all too well: no proof. Between those two terms —AI-made disinformation and critical thinking— much of this century’s geopolitics will be decided.

El estrecho de Rashomon: la guerra cognitiva con IA generativa entre China y Taiwán

El estrecho de Rashomon: la guerra cognitiva con IA generativa entre China y Taiwán

Empecemos por el dato que abre todos los titulares: en 2025 la Oficina de Seguridad Nacional de Taiwán detectó 2,3 millones de piezas de desinformación procedentes de China, un 7 % más que el año anterior, y más de 45.000 cuentas falsas, un 61 % más. Vídeo generado en cadena. Voces clonadas a partir de grabaciones que ciudadanos taiwaneses cedieron, sin saberlo, respondiendo a falsas ofertas de empleo. Bienvenidos a la guerra cognitiva con inteligencia artificial generativa. Pasen y vean: industrial, barata y, sobre todo, personalizada.

Porque en este último adjetivo está la novedad de verdad. En agosto de 2025 se filtraron los documentos de GoLaxy, una empresa china que había construido algo llamado, ironías aparte, Sistema de Propaganda Inteligente. ¿En qué consiste este sistema? No dispara un mismo mensaje a millones de personas: lee el sentimiento de las redes sociales en tiempo real, clasifica a más de mil figuras taiwanesas en “duros”, “moderados” e “indecisos”, y sirve a cada grupo, a cada individuo, el bulo que mejor encaja con sus miedos. No es propaganda de altavoz. Es propaganda de francotirador.

Nada de esto salió de la nada. Quien siguiera el asunto recordará las presidenciales de enero de 2024: audios falsos fabricados con IA que acusaban al candidato del partido gobernante de haber sido informante, o un Terry Gou de pega respaldando a su rival por la nominación del KMT (Hou Yu-ih), asunto expuesto en el Microsoft Digital Defense Report. O los avatares sintéticos de la app Weta365, ligada a la red Spamouflage, difundiendo “la historia secreta de Tsai Ing-wen”, algo que documentó el Australian Strategic Policy Institute (ASPI). Dos años después, aquello parece el prototipo. Esto ya es la cadena de montaje.

¿Y qué piensa Pekín de todo esto? El 14 de enero de 2026, dos días después del informe taiwanés, la portavoz de la Oficina para Asuntos de Taiwán, Zhu Fenglian, no se anduvo con medias tintas: el informe “distorsiona los hechos y difama al continente”, y el que practica la guerra cognitiva —el “reincidente”, dijo— es en realidad el propio Partido Democrático Progresista taiwanés. ¿La desinformación? La del informe. ¿Los ejércitos de bots? Los de Taipéi, apuntando a la China continental. La Embajada china en Francia ya le había soltado lo mismo al Institut de recherche stratégique de l’École militaire (IRSEM), cuando éste destapó sus redes de influencia: “mentalidad de Guerra Fría”, “difamación”, y el gobierno chino “no necesita contratar a nadie”. Todos espontáneos, oigan.

Esto tiene nombre y es culto, como todos los que leen este post: el efecto Rashomon, por la película de Kurosawa en la que un mismo crimen se cuenta en cuatro versiones incompatibles y todas suenan sinceras. En el estrecho de Taiwán cada bando señala al otro como el gran manipulador. Y lo fascinante no es decidir quién miente, ésa precisamente es la trampa, sino que la propia disputa sobre quién desinforma se ha convertido en el campo de batalla. El ruido es el arma. Pura guerra cognitiva.

No obstante, ahora toca ponernos la gorra de analista: después de 2,3 millones de mentiras, voces clonadas y francotiradores algorítmicos, ¿cuánta gente cambió de opinión? La respuesta, incómoda para alarmistas y cínicos por igual, es: no lo sabemos y lo poco que sabemos apunta a menos de lo que parece. Las encuestas del DoubleThink Lab, taiwanés y nada sospechoso de blandura con Pekín, encuentran correlación, no causalidad: los bulos pro-chinos calan más entre quienes ya simpatizaban con la oposición, y resbalan sobre los demás. La máquina refuerza al convencido y rara vez convierte al escéptico. Enfrente, una sociedad civil taiwanesa que verifica, desmiente y se ríe (¡qué gran noticia, el humor como cortafuegos!) con una eficacia que sonroja a media Europa.

Aquí está la luz, si es que aportan alguna estas líneas: la capacidad de producir desinformación con IA generativa es real, está probada y crece a dos cifras al año. Su efecto sobre lo que la gente cree y hace es, de momento, la gran incógnita. Fuerte aguas arriba, débil aguas abajo. Confundir lo primero con lo segundo, dar por hecho que fabricar mentiras equivale a ganar mentes, es el error que separa el análisis del pánico. Taiwán es hoy nuestro mejor banco de pruebas.

Que China (y otros muchos) desinforma con IA generativa, poca duda cabe de ello. Que eso baste para doblegar a una democracia practicada por un pueblo con pensamiento crítico, que conoce muy bien a su vecino: ninguna prueba. Entre esos dos términos, desinformación mediante IA generativa y pensamiento crítico, se juega buena parte de la geopolítica de este siglo.

Los modelos de IA generativa como guardianes del conocimiento: ¿qué y a quién podemos creer?

Antes, los buscadores nos señalaban las fuentes y éramos nosotros quienes las juzgábamos. Los modelos de IA generativa no señalan: responden, con una voz segura de sí misma, y cada vez más estamos tomando esa voz por el conocimiento mismo. La pregunta ya no es solo si la máquina miente. Es más profunda. ¿Qué y a quién deja que se escuche? ¿De quién considera creíble el testimonio? ¿Y a quién obvia? Un artículo reciente le pone nombre a este problema: la injusticia epistémica. Titulado Epistemic Injustice in Generative AI, y firmado por Jackie Kay, Atoosa Kasirzadeh y Shakir Mohamed (Google DeepMind, Google Research, University College London y la Universidad de Edimburgo), el artículo científico toma prestado un concepto de la filósofa Miranda Fricker: la injusticia de negarle a alguien credibilidad como fuente de conocimiento, de no tomarlo en serio por el simple hecho de quién es. Y después se pregunta dicho artículo qué ocurre cuando quien concede o niega esa credibilidad es un modelo de IA generativa consultado por millones de personas.

Los autores describen cuatro daños. El modelo hereda nuestros prejuicios sobre quién es creíble, y los amplifica a escala. Produce falsedades convincentes, y erosiona nuestra confianza en el testimonio ajeno. Entrenado en unas pocas lenguas dominantes, es incapaz de representar a todos los demás. Y sus beneficios llegan a unas comunidades, pero no a otras.

Una sola frase resume el peligro: si tratamos a estos modelos como enciclopedias, acabarán moldeando la estructura misma de nuestro conocimiento colectivo. Ya no hablamos de un chatbot que se equivoca de vez en cuando. Hablamos de la infraestructura a través de la cual las sociedades deciden qué es verdad. Y su efecto más corrosivo no es que creamos una mentira concreta, sino que perdamos la base común sobre la que cualquier afirmación puede ponerse a prueba.

La lectura estratégica es evidente, y prolonga algo que ya he defendido aquí sobre el sesgo intrínseco de estos modelos. Esto es una cuestión de poder. Unos pocos actores construyen los modelos. Esos modelos piensan sobre todo en inglés y en chino. El espacio epistémico se estrecha, y eso es un hecho geopolítico. La injusticia epistémica tiene un mapa, y se parece mucho al mapa del poder.

Es también aquí donde la batalla se traslada a la mente. Los estrategas geopolíticos la llaman guerra cognitiva: el objetivo no es tomar un territorio, sino moldear cómo piensa su población —su percepción, su razonamiento, su juicio—. La injusticia epistémica es lo que la hace posible. Cuando la herramienta que media nuestro conocimiento es sesgada, opaca y está en manos de unos pocos, la mente humana se convierte en el terreno, y cada ciudadano en un objetivo.

La respuesta no es ni el tecno-optimismo ni el tecno-pánico. Es el pensamiento crítico. Si la máquina responde con una sola voz, la carga vuelve a nosotros: preguntar en qué se sostiene una afirmación, qué punto de vista encierra, qué deja fuera. Una sociedad que delega su juicio en una interfaz segura de sí misma acabará gobernada por quien la haya construido. Dudar de la fluidez, sopesar las fuentes, consultar más de un oráculo: esto ha dejado de ser una virtud. Es una condición de libertad.

Dos conclusiones. Primera: el debate sobre la desinformación se queda corto si se detiene en el “verdadero o falso”. El cambio de fondo es que la IA arbitra ya qué cuenta como conocimiento, y lo hace de forma desigual. Segunda: el sesgo intrínseco, el dominio lingüístico y la concentración del poder de la IA no son tres problemas. Son uno solo, y decide qué realidad replican las máquinas.