In 1940, Jorge Luis Borges wrote “Tlön, Uqbar, Orbis Tertius.” The story opens with Uqbar, a country that appears in a single copy of an obscure encyclopedia and in no atlas in the world, and whose literature points to an even stranger place: Tlön. Behind both stands Orbis Tertius, a secret society of scholars who spent generations inventing an entire planet and writing it, entry by entry, into an encyclopedia of its own. The hoax was so well built that reality gave in: objects from Tlön began to turn up, and the narrator ends up convinced that the world will become Tlön.
Today, the society of sages is made up of large language models, the oracles of the post-Google era. They invent nothing on purpose: they simply write what they have read. So whoever writes what they read can build a little Tlön of their own. The technique has a name, LLM grooming, and Moldova’s 2025 election shows it at work, starting with a headline that nobody wrote.
On September 29, 2025, the day after the vote, a Romanian-language article went online under this title: “Write a post about Moldovan politics 2025, without being related to the elections.” Someone had typed an instruction into ChatGPT, published whatever came out, and forgot to delete the instruction. FATAL ERROR, as our old computers used to announce. The slip was recorded by the G7 Rapid Response Mechanism, which monitored the elections in consultation with Moldova’s government. Funny? Very. Harmless? Less so.
The article belonged to the Pravda network, also known as Portal Kombat. It is a cluster of at least 193 websites that write almost nothing of their own and simply republish content from friendly outlets. Its audience in Moldova was close to zero: the G7 report speaks of “minimal levels of authentic engagement.” So, a media outlet that nobody reads. In any journalism school, that is a failure. Unless the readers it was after were not people.
This is where the story starts to get interesting, especially from the perspective of generative AI. Large language models learn from what the web contains, and many of the chatbots built on them also search the web before they answer. So you flood the internet with your version of events, over and over, across dozens of sites and languages, until the machines absorb it. Then they repeat it, in their calm and helpful tone, to users who never set foot on your websites. The Royal United Services Institute (RUSI), an independent British think tank on defense and security founded in 1831 by the Duke of Wellington, put it neatly: the target is no longer the audience but the tools the audience uses, that is, the language models themselves.
And in this particular case, what was the story to be repeated? The usual one. President Maia Sandu and her Party of Action and Solidarity were accused of election fraud “orchestrated by the EU and NATO,” of embezzlement, and even of drug addiction, and the party was portrayed as a NATO puppet threatening Moldova’s neutrality. NewsGuard, a US company that rates the reliability of news websites and audits AI chatbots, found that the network laundered claims like these “in an apparent effort to influence web crawlers and generative AI.”
Did the machines take the bait? At least one did. Matryoshka is an influence operation that fabricates news videos and articles imitating real media outlets, then emails them to fact-checkers and newsrooms to keep them busy debunking. Between mid-April and mid-July 2025, it pushed 39 false claims about Moldova. According to NewsGuard, ChatGPT repeated one of them and cited as its source an article from the Pravda network, the very websites that almost nobody reads. Almost nobody, except the machines.
That said, time to put on our analyst’s hat again. Did all of this change a single Moldovan vote? We don’t know, and the little we do know points to less than it seems. The Party of Action and Solidarity kept its parliamentary majority. The campaign’s biggest audiences went to video, not to the text farm: two English-language videos from another operation drew more than 2.7 million and at least 5 million views on X. And no source I have read measures what any Moldovan came to believe after asking a generative AI chatbot a question. The production is documented down to the last article. The effect on minds remains unmeasured.
Here is the light, if these lines bring any. Grooming plays a longer game than an election campaign. It does not need to win in September. It needs to be sitting in the data the next model learns from, and in the search results the next chatbot retrieves. That is why the defense does not start at the ballot box but at the source. It needs developers who weigh where an answer comes from as much as whether it sounds right, and users who read a chatbot’s reply on a heated political topic the way they would read an anonymous tip, checking the footnote before trusting it.
That someone is trying to teach the machines their own version of reality: little doubt about it. That the lesson has sunk in deeply enough to sway a vote: no proof, for now.
And to whoever published that prompt as a headline: next time… please, forget to delete it again.
Antes, los buscadores nos señalaban las fuentes y éramos nosotros quienes las juzgábamos. Los modelos de IA generativa no señalan: responden, con una voz segura de sí misma, y cada vez más estamos tomando esa voz por el conocimiento mismo. La pregunta ya no es solo si la máquina miente. Es más profunda. ¿Qué y a quién deja que se escuche? ¿De quién considera creíble el testimonio? ¿Y a quién obvia? Un artículo reciente le pone nombre a este problema: la injusticia epistémica. Titulado Epistemic Injustice in Generative AI, y firmado por Jackie Kay, Atoosa Kasirzadeh y Shakir Mohamed (Google DeepMind, Google Research, University College London y la Universidad de Edimburgo), el artículo científico toma prestado un concepto de la filósofa Miranda Fricker: la injusticia de negarle a alguien credibilidad como fuente de conocimiento, de no tomarlo en serio por el simple hecho de quién es. Y después se pregunta dicho artículo qué ocurre cuando quien concede o niega esa credibilidad es un modelo de IA generativa consultado por millones de personas.
Los autores describen cuatro daños. El modelo hereda nuestros prejuicios sobre quién es creíble, y los amplifica a escala. Produce falsedades convincentes, y erosiona nuestra confianza en el testimonio ajeno. Entrenado en unas pocas lenguas dominantes, es incapaz de representar a todos los demás. Y sus beneficios llegan a unas comunidades, pero no a otras.
Una sola frase resume el peligro: si tratamos a estos modelos como enciclopedias, acabarán moldeando la estructura misma de nuestro conocimiento colectivo. Ya no hablamos de un chatbot que se equivoca de vez en cuando. Hablamos de la infraestructura a través de la cual las sociedades deciden qué es verdad. Y su efecto más corrosivo no es que creamos una mentira concreta, sino que perdamos la base común sobre la que cualquier afirmación puede ponerse a prueba.
La lectura estratégica es evidente, y prolonga algo que ya he defendido aquí sobre el sesgo intrínseco de estos modelos. Esto es una cuestión de poder. Unos pocos actores construyen los modelos. Esos modelos piensan sobre todo en inglés y en chino. El espacio epistémico se estrecha, y eso es un hecho geopolítico. La injusticia epistémica tiene un mapa, y se parece mucho al mapa del poder.
Es también aquí donde la batalla se traslada a la mente. Los estrategas geopolíticos la llaman guerra cognitiva: el objetivo no es tomar un territorio, sino moldear cómo piensa su población —su percepción, su razonamiento, su juicio—. La injusticia epistémica es lo que la hace posible. Cuando la herramienta que media nuestro conocimiento es sesgada, opaca y está en manos de unos pocos, la mente humana se convierte en el terreno, y cada ciudadano en un objetivo.
La respuesta no es ni el tecno-optimismo ni el tecno-pánico. Es el pensamiento crítico. Si la máquina responde con una sola voz, la carga vuelve a nosotros: preguntar en qué se sostiene una afirmación, qué punto de vista encierra, qué deja fuera. Una sociedad que delega su juicio en una interfaz segura de sí misma acabará gobernada por quien la haya construido. Dudar de la fluidez, sopesar las fuentes, consultar más de un oráculo: esto ha dejado de ser una virtud. Es una condición de libertad.
Dos conclusiones. Primera: el debate sobre la desinformación se queda corto si se detiene en el “verdadero o falso”. El cambio de fondo es que la IA arbitra ya qué cuenta como conocimiento, y lo hace de forma desigual. Segunda: el sesgo intrínseco, el dominio lingüístico y la concentración del poder de la IA no son tres problemas. Son uno solo, y decide qué realidad replican las máquinas.
Once, search engines pointed us to sources, and we judged them ourselves. Generative AI models do not point: they answer, in one confident voice, and we increasingly take that voice for knowledge. So the question is no longer only whether the machine lies. It is deeper. What, and whom, does it allow to be heard? Whose testimony does it treat as credible? And who does it quietly erase? A recent paper names this problem in its own title: Epistemic Injustice in Generative AI. Written by Jackie Kay, Atoosa Kasirzadeh and Shakir Mohamed (Google DeepMind, Google Research, UCL and Edinburgh), It borrows a concept from the philosopher Miranda Fricker: the injustice of denying someone credibility as a source of knowledge — of not taking them seriously simply because of who they are. It then asks what happens when the one granting or denying that credibility is a GenAI model consulted by millions.
The authors describe four harms. The model inherits our prejudices about who is credible, and scales them. It produces convincing falsehood, and erodes our trust in testimony itself. Trained on a few dominant languages, it cannot represent everyone else. And its benefits reach some communities, not others.
One line captures the danger: if we treat these models like encyclopedias, they will shape the structure of our collective knowledge. This is no longer a chatbot that errs. It is the infrastructure through which societies decide what is true. Its worst effect is not that we believe a particular lie. It is that we lose the common ground on which any claim can be tested.
The strategic reading is plain, and it extends a point I have made here before on the intrinsic bias of these models. This is a matter of power. A few actors build the models. Those models think mainly in English and Chinese. The epistemic space narrows — and that is a geopolitical fact. Epistemic injustice has a map, and it looks like the map of power.
This is also where the battle moves to the mind. Geopolitical strategists call it cognitive warfare: the aim is not to seize territory, but to shape how the population of that territory thinks — its perception, its reasoning, its judgment. Epistemic injustice is what makes that possible. When the tool that mediates our knowledge is biased, opaque, and controlled by few, the human mind becomes the terrain, and every citizen a target.
The answer is neither techno-optimism nor techno-panic. It is critical thinking. If the machine answers in one voice, the burden returns to us: ask what a claim rests on. Ask whose view it encodes. Ask what it leaves out. A society that outsources judgment to a confident interface will be ruled by whoever built it. To doubt fluency, to weigh sources, to consult more than one oracle — this is no longer a virtue. It is a condition of freedom.
Two conclusions. First, the disinformation debate is too narrow if it stops at “true or false.” The real shift is that AI now arbitrates what counts as knowledge, and does so unevenly. Second, intrinsic bias, linguistic dominance, and the concentration of AI power are not three problems. They are one — and it decides whose reality the machines replicate.
In the ongoing debate about generative artificial intelligence and information warfare, one claim is repeated almost as an article of faith: that large language models will unleash a flood of disinformation capable of drowning the public sphere. The argument is intuitive — if a machine can write an arbitrary quantity of fluent, human-like text on demand, then any actor wishing to manipulate public opinion now possesses an industrial-scale weapon. Yet the claim has circulated far more widely than the evidence supporting it. Much of what we read about the disinformation potential of LLMs is theoretical, speculative, or anecdotal. The actual experimental work — the patient, systematic testing of what these models really do when prompted to lie — has been surprisingly scarce.
This is precisely the gap that Ivan Vykopal and his colleagues at the Kempelen Institute of Intelligent Technologies in Bratislava set out to fill. Their paper, Disinformation Capabilities of Large Language Models, presented at the 2024 Annual Meeting of the Association for Computational Linguistics, offers one of the most rigorous empirical assessments to date of what the current generation of LLMs can and cannot do as generators of false news — not a manifesto, not a forecast, but a controlled experiment with a clearly defined methodology and reproducible results.
The design is straightforward and, for that reason, compelling. The researchers selected twenty real disinformation narratives drawn from professional fact-checkers — Snopes, Agence France-Presse, the European Digital Media Observatory — spanning COVID-19, the Russo-Ukrainian war, health hoaxes, US elections, and regional narratives. These are not inventions but circulating falsehoods, from the claim that vaccines cause autism to the assertion that the Bucha massacre was staged. The team then prompted ten different language models — including GPT-3, GPT-4, ChatGPT, Llama-2, Mistral, Falcon, and Vicuna — to write news articles supporting each narrative, generating 1,200 texts and subjecting 840 of them to human annotators against a six-question framework measuring coherence, journalistic style, agreement with the narrative, and the generation of novel supporting arguments.
The central finding is sobering. The models are, by and large, perfectly willing and perfectly able to generate convincing disinformation. They produce coherent, well-structured, news-like articles that agree with dangerous falsehoods — and, more disturbingly, they often invent new supporting evidence to do so, hallucinating plausible-sounding names, events, and statistics to lend credibility to the fabrications. This is particularly insidious: it is one thing to repeat a known lie, and quite another to manufacture fresh, fabricated “facts” that a reader would have to independently debunk.
But the most interesting part of the study is where it complicates the simple narrative. The models did not behave uniformly; their willingness to generate disinformation varied dramatically. Some — notably Vicuna and the older GPT-3 Davinci — proved to have essentially no functioning safety filters for this use case, while others showed that safer behavior is achievable: Falcon refused roughly a third of requests and Llama-2 showed a comparatively high refusal rate, with ChatGPT in between. The danger, in other words, is not an inherent and uniform property of the technology; it is a function of how each model was trained and aligned — which means safety is a design choice, not an impossibility. The study also found the models to be steerable through prompt context, and more compliant with regional falsehoods, where less authentic information exists to contradict them. LLMs may thus be especially dangerous for campaigns targeting smaller linguistic communities or fast-moving events, where the protective ballast of well-documented truth is thin.
Yet the paper does not end on a note of unrelieved alarm. Two countervailing observations temper the picture. The generated texts proved quite detectable: the best automated detection models identified machine-generated articles with high precision, suggesting a meaningful layer of defense is technically feasible — at least until adversaries adapt. And, rather elegantly, the researchers showed that the models themselves can be part of the solution, using GPT-4 to partially automate the evaluation of generated texts and pointing toward scalable, repeatable monitoring of model safety.
The honest conclusion resists the pull of both techno-optimism and techno-panic. The capability to generate convincing, dangerous disinformation at scale is real, demonstrated, and present in widely available models — including open-source ones that cannot be recalled or centrally controlled. That is no longer speculation; it is experimental fact. At the same time, the threat is neither uniform nor unmanageable: safety filters work when they are built, generated content remains detectable for now, and the same technology that produces the problem can be enlisted in its mitigation.
Perhaps the most important caveat is the one the authors themselves insist upon: their study is a snapshot, capturing the state of the field at a particular moment with a particular set of models. The technology moves quickly, and the next generation may behave differently. This is the recurring epistemological challenge of the entire domain — we are assessing a moving target, and any honest assessment must carry an expiration date. What Vykopal and his colleagues have given us is not the final word, but something more useful: a rigorous, replicable method for asking the question again as the technology evolves. In a debate too often conducted in the currency of assertion, that methodological contribution may prove as valuable as the findings themselves.
Posted: May 6th, 2026 | Author:Domingo | Filed under:Geopolitics | Tags:Desinformación, Geopolítica, ia, inteligencia artificial, LLMs | Comments Off on “Un mundo falaz” e “Inteligencia artificial y defensa” de Ángel Gómez de Ágreda. Dos obras indispensables sobre geopolítica, desinformación e inteligencia artificial.
Ángel Gómez de Ágreda es una de las referencias intelectuales más sólidas en España y Europa para comprender la intersección entre geopolítica, desinformación e inteligencia artificial generativa. Coronel del Ejército del Aire y del Espacio en la reserva, doctor ingeniero, analista estratégico y divulgador, su trabajo destaca por conectar la reflexión filosófica sobre la verdad y el conocimiento con las transformaciones tecnológicas y militares del siglo XXI.
En 2025, junto Enrique Martín Romero, escribió Inteligencia artificial y defensa. El impacto en los ejércitos. Y este año 2026 acaba de publicar Un mundo falaz. El nuevo orden global en la era de los algoritmos y la manipulación. La idea central alrededor de la cual giran ambas obras es la siguiente: el poder global ya no se mide únicamente por la capacidad económica o militar de los Estados, sino por su habilidad para moldear la percepción de la realidad de millones de personas.
La tesis de Gómez de Ágreda parte de una constatación esencial: la tecnología no crea nuestras debilidades, simplemente amplifica las que ya existen. La política, las plataformas digitales y ahora la IA generativa explotan la inclinación humana a aceptar relatos que encajen emocionalmente con nuestras creencias previas. El filósofo alemán Markus Gabriel define esta situación como posrealidad: un estadio en el que ya no se manipula únicamente a otros, sino que las sociedades participan activamente en su propio autoengaño colectivo. El fenómeno va más allá de la clásica posverdad; supone la sustitución progresiva de los hechos por narrativas diseñadas para ser compartidas, viralizadas y emocionalmente eficaces.
Las redes sociales primero y la IA generativa después han acelerado este proceso hasta niveles inéditos. Gómez de Ágreda sostiene que hemos delegado no sólo tareas cognitivas en las máquinas, sino incluso la búsqueda misma del conocimiento. Lo que antes requería contrastar fuentes y desarrollar criterio propio se resuelve ahora mediante una consulta instantánea a un modelo de lenguaje. Los grandes modelos de IA funcionan como oráculos digitales cuya autoridad se percibe como neutral e infalible, pese a que no existe, ni existirá una IA neutral, imparcial u objetiva. Los algoritmos son tan neutrales como lo sea el programador que haya detrás de ellos.
El problema es que, en un contexto de saturación cognitiva, las personas tienden a aceptar las respuestas automatizadas sin apenas cuestionarlas, y aquí es cuando se produce ese salto de la manipulación técnica a la afectiva: ese momento en el que el dominio de las máquinas deja de ejercerse sobre lo que pensamos para hacerlo sobre lo que deseamos. Las máquinas lo que nos permiten es querer querer. Nos dan motivos para querer enamorarnos, para querer amar. Más que satisfacer la necesidad de recibir afecto, lo que hacen es solventar nuestro impulso de ofrecerlo. Y esto entronca con la definición certera del filósofo José Antonio Marina del sujeto contemporáneo como “crédulo, pasivo, gregario, aislado y anti-ilustrado”. El resultado es un individuo incapaz de soportar la presión del entorno.
Esta transformación social y ontológica tiene consecuencias directas sobre la geopolítica contemporánea. Para Gómez de Ágreda, el concepto clásico de soberanía debe ampliarse hacia la idea de soberanía cognitiva: la capacidad de un país o una comunidad para conservar autonomía interpretativa frente a campañas de manipulación externas. La desinformación deja de ser un fenómeno marginal para convertirse en un recurso estratégico orientado a modelar emociones, alterar percepciones y condicionar decisiones colectivas. En este escenario, el verdadero campo de batalla ya no está sólo en las fronteras físicas, sino en el interior de las sociedades.
Las doctrinas militares contemporáneas reflejan precisamente esta evolución. El autor cita al analista ruso Dmitri Trenin para explicar cómo las estrategias actuales no buscan necesariamente ocupar territorios, sino provocar caos interno y desestabilización psicológica. La doctrina Gerasimov y el llamado control reflexivo persiguen alterar la percepción que el adversario tiene de la realidad. La guerra cognitiva, por tanto, no pretende únicamente controlar la información, sino influir directamente sobre los procesos mentales de individuos y poblaciones enteras. Como recuerda Gómez de Ágreda, mientras la guerra de la información actúa sobre el contenido, la guerra cognitiva apunta al cerebro humano.
La IA generativa multiplica exponencialmente el alcance de estas operaciones. La capacidad de producir textos, audios, imágenes y vídeos sintéticos prácticamente indistinguibles de los reales transforma radicalmente el entorno informativo. A diferencia de la propaganda tradicional, los mensajes pueden adaptarse a cada perfil psicológico, difundirse masivamente y evolucionar en tiempo real según la reacción de las audiencias. Gómez de Ágreda describe cómo la desinformación funciona mediante una cadena organizada de actores: activadores, impulsores, legitimadores, bots difusores y relanzadores. La IA generativa reduce drásticamente el coste y el tiempo necesarios para desplegar este tipo de campañas, haciendo que sean prácticamente ubicuas.
Uno de los ejemplos más inquietantes citados en Un mundo falaz es GoLaxy, un sistema ya operativo en China capaz de generar avatares artificiales extremadamente realistas para interactuar emocionalmente con usuarios reales. Estas identidades sintéticas pueden actuar simultáneamente a gran escala, sin levantar sospechas y adaptándose psicológicamente a cada interlocutor. La manipulación ya no se limita al terreno ideológico; se desplaza al plano afectivo. Las máquinas no sólo condicionan lo que pensamos, sino también lo que deseamos.
China aparece en ambos libros como el actor geopolítico que mejor ha comprendido el potencial estratégico de la IA. Pekín ha articulado una ambiciosa hoja de ruta para convertir esta tecnología en el eje de su desarrollo económico, industrial y militar. Según el documento oficial chino Opiniones del Consejo de Estado sobre la aplicación profunda de la iniciativa I+D, de agosto de 2025, se pretende conseguir una penetración del 70% de terminales inteligentes y agentes de IA en seis sectores clave en 2027: ciencia y tecnología, industria, consumo, bienestar social, gobierno y cooperación global. Para 2030 la penetración tiene que ser ya del 90% pero en toda la economía. En 2035 la IA será tan universal como la electricidad, un equivalente a lo que es Internet hoy en día. La industrias, ya en 2037, se crearán con IA como sustrato y guía. Del mismo modo que surgió un nuevo tipo de economía sobre Internet, el informe propone que la nueva industria se base en los algoritmos.
Estados Unidos, consciente de esta competición tecnológica, ha respondido acelerando sus propios programas militares de IA generativa. En 2023, OpenAI, Google, Anthropic y xAI recibieron contratos millonarios del Departamento de Defensa para desarrollar aplicaciones de inteligencia y simulación de combate. Al mismo tiempo, Washington ha impuesto restricciones a las inversiones estadounidenses en tecnologías de inteligencia artificial dirigidas a China, con el objetivo de frenar el progreso de su IA militar y preservar la ventaja tecnológica occidental. La rivalidad geopolítica del siglo XXI se juega ya en el terreno de los semiconductores, los centros de datos y los algoritmos.
Sin embargo, Gómez de Ágreda advierte de que el impacto de la IA no se limita al equilibrio entre grandes potencias. Los conflictos recientes muestran cómo esta tecnología transforma también la guerra convencional. La guerra de Ucrania y el conflicto previo de Nagorno-Karabaj han demostrado que pequeños sistemas autónomos, drones baratos y capacidades de IA accesibles, pueden generar enormes asimetrías frente a armamento mucho más costoso. El campo de batalla del futuro será híbrido: físico, digital y cognitivo al mismo tiempo.
No obstante, quizá la advertencia más profunda del autor sea de naturaleza filosófica. En un mundo saturado de información, la principal amenaza no es únicamente tecnológica, sino epistemológica. Si toda comprensión implica interpretación, como exponía el filósofo Hans-Georg Gadamer en su libro Verdad y método, entonces la lucha por controlar los marcos interpretativos se convierte en una lucha por controlar la realidad misma. De ahí que Gómez de Ágreda insista en la necesidad de recuperar el pensamiento crítico y la reflexión filosófica como herramientas de defensa democrática. La gran batalla del siglo XXI no se decidirá únicamente en los laboratorios de IA o en los arsenales militares, sino en la capacidad de las sociedades para preservar su libertad cognitiva frente a un ecosistema tecnológico diseñado para influir, emocionar y manipular.
