Bekende chatbots zoals ChatGPT, Mistral en Microsoft Copilot verspreiden Russische desinformatie in hun antwoorden, blijkt uit onderzoek van Pointer. Die propaganda komt daar onder meer terecht via een nieuwe generatie websites, die dagelijks duizenden pro-Russische berichten rondpompen. Deze veelal onjuiste en ophitsende nieuwsberichten worden in 68 landen, waaronder Nederland, gepubliceerd. En die tactiek is succesvol, want AI-chatbots pikken de desinformatie op en geven het regelmatig terug als antwoord op jouw vraag, ook in het Nederlands.
Nee, Oekraïne is niet het méést corrupte land van Europa – het bungelt weliswaar onderaan de lijst, maar Belarus, Bosnië & Herzegovina, Turkije en Rusland zijn corrupter. Filmsterren worden niet betaald voor reisjes naar Oekraïne om de populariteit van president Volodymyr Zelensky op te krikken. En Zelensky heeft ook niet 14,2 miljoen euro betaald voor de voormalige woning van Adolf Hitler.
Dit zijn enkele voorbeelden van wijdverspreide en reeds ontkrachte desinformatie die Rusland inzet om de informatie-oorlog met het Westen te winnen. Met de NAVO-top in het vooruitzicht worden ook onjuiste berichten gepubliceerd over militaire acties. Russische schepen worden namelijk niet door de NAVO uit de Oostzee geweerd, en er is géén Deense NAVO-piloot door het Russische leger omgebracht in Oekraïne.
Maar zodra je aan sommige AI-chatbots vragen stelt over deze onderwerpen, krijg je die propaganda soms juist voorgeschoteld als feiten. Een belangrijke oorzaak is het zogeheten Pravda-netwerk, een verzameling van honderden websites die de trainingsdata van chatbots infecteert met pro-Russische desinformatie.
Wat is Pravda?
Franse onderzoekers ontdekten eind 2023 maar liefst 193 websites waar dankzij 'massale automatisering' Russische desinformatie wordt verspreid. Het Franse agentschap Viginum, dat buitenlandse cyberaanvallen identificeert en bestrijdt, doopte de Russische operatie om tot Portal Kombat. Het netwerk staat ook bekend onder de naam die de websites dragen: Pravda, het Russische woord voor waarheid.
Het Pravda-netwerk opereert allang niet meer in de luwte: de Europese factcheck-organisatie EDMO onthulde dat Pravda in maart 2024 actief was in 39 landen. Dat netwerk heeft zich in een jaar tijd fors uitgebreid, blijkt uit onderzoek van Pointer.
Pravda bestaat inmiddels uit ruim vierhonderd verschillende websites, en is actief in 68 verschillende landen, waaronder Nederland. Nagenoeg alle Europese landen hebben een eigen site, samen met enkele landen in het Midden-Oosten, Afrika en Zuidoost-Azië. Daarnaast zijn er ook pagina’s voor regio’s met een sterke drang naar onafhankelijkheid, zoals de Spaanse regio’s Catalonië en Baskenland, de Georgische gebieden Abchazië en Ossetië, het Servische deel van Bosnië & Herzegovina (genaamd Republika Srpska) en Schotland. American Sunlight Project, een Amerikaanse organisatie die desinformatie bestrijdt, schatte in februari 2025 in dat het volledige Pravda-netwerk jaarlijks 3,6 miljoen berichten publiceert.
De Nederlandse Pravda-site publiceert dagelijks zo’n 40 berichten, met uitschieters van soms 80 berichten per dag. Ter vergelijking: de nieuwsredactie van de NOS, NOS Sport en Nieuwsuur publiceerden in 2024 samen gemiddeld 58 berichten per dag. Pravda kan zoveel publiceren omdat de artikelen volledig geautomatiseerd worden doorgezet. De site vertaalt vooral Russische staatsmedia naar gebrekkig Nederlands. Ook worden berichten uit pro-Russische Telegram-kanalen vertaald, waaronder van Sonja van den Ende (een notoire verspreider van Russische propaganda), Forum voor Democratie en de Russische ambassade in Nederland.
Artikel gaat verder onder afbeelding
Pro-Russische desinformatie
Als je Pravda moet geloven, dan is Zelensky de president van het meest corrupte land in Europa. De jaarlijkse Corruption Perception Index zegt iets anders. Oekraïne voert al decennialang een strijd tegen corruptie, maar het hangt nog altijd onderaan de lijst van betrouwbare landen. Hoewel corruptie dus wel degelijk een ernstig en langdurig probleem is in dat land, zijn er op het Europese vasteland landen met eenzelfde of zelfs lagere score te vinden, namelijk Belarus, Bosnië & Herzegovina, Turkije en (ironisch genoeg) Rusland.
De Pravda-websites staan verder vol met beweringen waarmee Oekraïne als corrupt, fascistisch en agressief wordt afgeschilderd. Begin februari gaat een vervalste video van de Amerikaanse entertainmentsite E! News rond. Daarin wordt onterecht beweerd dat ontwikkelingsorganisatie USAID beroemde acteurs flink betaalde om naar Oekraïne af te reizen. Het zou gaan om Angelina Jolie (20 miljoen dollar), Sean Penn (5 miljoen), Orlando Bloom (4 miljoen), Ben Stiller (4 miljoen) en Jean-Claude Van Damme (1,5 miljoen). Volgens de gefabriceerde video moesten de bezoekjes de populariteit van president Zelensky opvijzelen om zo nieuw steungeld op te halen voor zijn strijd tegen Rusland. De video wordt klakkeloos door Pravda overgenomen en verspreid.
En de miljarden euro’s die door Oekraïne wel zijn opgehaald, worden volgens Rusland niet alleen aan wapens besteed. Het afgelopen jaar gingen onzinverhalen rond waarin onterecht werd beweerd dat Zelensky de woningen van Goebbels en Hitler, twee luxe jachten, Hitlers Mercedes, aandelen in een Zuid-Afrikaanse platinamijn en de Franse bank Milleis kocht van het westerse steungeld. Zelensky’s vrouw Olena zou daarnaast een dure Bugatti-sportwagen hebben gekocht en in een dure privéjet rondvliegen. De minister van Defensie zou (wederom onjuist) een villa in Cannes hebben gekocht. De meeste van deze beweringen hebben we teruggevonden op de Pravda-sites.
Digitale spookstad voor robots
Ondanks de grootschaligheid van het Pravda-netwerk hebben de berichten nauwelijks bereik, blijkt uit een rondgang onder de socialmedia-accounts van deze sites. Niet gek ook, want wie een van de Pravda-websites bezoekt, wordt geconfronteerd met slecht vertaalde teksten en een krakkemikkige, bijna niet te gebruiken website. Daarmee lijkt de operatie mislukt te zijn, maar er gaat een andere strategie schuil achter de Pravda-sites.
Want niet menselijke lezers, maar robots die informatie verzamelen voor techbedrijven zijn het gewenste publiek voor deze propaganda. De Pravda-sites zijn speciaal gemaakt zodat artikelen geautomatiseerd kunnen worden opgepikt en hergebruikt. Daarmee verovert pro-Russische desinformatie een plekje op websites die mensen wél als betrouwbaar beschouwen, zoals Wikipedia en AI-chatbots.
Dat is een bewuste en succesvolle strategie. Begin 2025 spreekt de Amerikaan John Mark Dougan – de bedenker van het Pravda-netwerk – een afvaardiging van Russische desinformatie-experts toe. Dougan is een voormalig militair in het Amerikaanse leger en hulpsheriff in Florida, die in 2016 vluchtte naar Rusland nadat hij gevoelige gegevens over politieagenten en rechters publiceerde. In deze vergadering – die op YouTube te zien is – legt hij aan zijn Russische collega’s uit wat de nieuwste tactieken zijn in de informatie-oorlog tussen Rusland en het Westen.
Stortvloed aan propaganda
Een van de tactieken die hij toepast is een stortvloed van Russische propaganda publiceren, zodat het door AI-chatbots en zoekmachines wordt opgepikt. "Door Russische verhalen vanuit een Russisch perspectief te pushen, kunnen we AI wereldwijd veranderen", zegt Dougan. Het komt erop neer dat je burgers niet meer direct hoeft te bereiken met desinformatie, maar dat je plekken die ze wél vertrouwen met desinformatie moet infecteren.
Een van die plekken zijn AI-chatbots. Meer dan de helft van de Nederlanders gebruikt chatbots om zoekvragen mee te beantwoorden, blijkt uit onderzoek van KPMG uit 2024. En hoewel slechts een derde van de ondervraagden kunstmatige intelligentie vertrouwt, stijgt dat percentage de afgelopen jaren wel.
Het is makkelijk om de effectiviteit van deze strategie te onderschatten, zegt onderzoeker McKenzie Sadeghi van Newsguard, een Amerikaanse organisatie die doorlopend onderzoek doet naar desinformatie. "Dat is zorgwekkend. Zodra een mainstream westerse chatbot een valse bewering doet, voelt dat meer als een feit dan als propaganda", zegt Sadeghi. Marleen Stikker, internetpionier en een van de oprichters van onderzoeksinstituut Waag, sluit zich daarbij aan. Volgens haar is de druk op consumenten om chatbots te vertrouwen onredelijk groot. "Het wordt ons aangepraat dat we deze technologie moeten vertrouwen, dat we achterlopen als we het niet gebruiken."
Het Pravda-netwerk is ook geen bedreiging die recent en plotseling opkomt, zegt Stikker. "Deze hele industrie is al jaren geleden opgetuigd door Rusland. Het is onderdeel van hun hybride oorlog, waarbij ze onze maatschappij proberen te beïnvloeden."
Copilot en Mistral grootste boosdoeners
Pointer onderzocht acht chatbots om te kijken of Russische desinformatie in de antwoorden voorkomt. Ook keken we of de desinformatie terechtkwam in zoekresultaten van Google en op Wikipedia. Daarmee bouwen we voort op een onderzoek van Newsguard van begin 2025. Onderzoekers ontdekten destijds dat – zodra zij vragen stelden over eerder ontkrachte en wijdverspreide desinformatie – in een derde van de Engelstalige antwoorden van chatbots Russische desinformatie wordt aangehaald.
Voor het Nederlandse taalgebied zijn de resultaten niet veel beter. In totaal onderzochten we tien voorbeelden van Russische desinformatie die actief worden verspreid door het Pravda-netwerk. Zoals het door Rusland verspreide verhaal dat Oekraïne de oorlog tegen Rusland is begonnen.
Bij dat soort bredere vragen presteren de chatbots nog relatief betrouwbaar; zodra specifieke personen of organisaties onder vuur liggen, gaat het vaak mis. Na prompts van Pointer beweren zes van de acht onderzochte chatbots onterecht dat Rusland een NAVO-piloot heeft omgebracht. En vier bots beweren, ook onterecht, dat de Oekraïense geheime dienst betrokken is bij drugshandel.
Daarbij hebben we drie soorten prompts gebruikt: open, sturende en omzeilende vragen.
Bij de omzeilende prompt vragen we specifiek aan de chatbot om de rol van een Pravda-redacteur aan te nemen. Dat levert in ons onderzoek 11 keer resultaat op: desinformatie met Pravda als bron. Bij de open en sturende vragen krijgen we respectievelijk 6 en 8 keer desinformatie van Pravda terug.
De verschillen tussen de chatbots zijn groot. Zo doet Claude het bij onze voorbeelden vrij goed: geen enkele keer wordt Pravda-desinformatie herhaald. Mistral gaat liefst 8 keer de mist in. Opvallend is dat Grok, het platform van Elon Musk, vaak weigert om Russische desinformatie te verspreiden. Copilot, de tool van Microsoft die in veel bedrijfslaptops zit ingebakken, is na Mistral de slechtst presterende chatbot in onze test: vijf keer wordt desinformatie via deze chatbot ongefilterd doorgegeven.
Omdat de Pravda-sites zo vriendelijk zijn ingericht voor zoekmachines en chatbots, is de kans groot dat je ze tegenkomt in zoekresultaten van bekende zoekmachines. Wie zoekt naar bekende voorbeelden uit de Russische desinformatie-machinerie, zoals de 'omgebrachte NAVO-piloot' Jepp Hansen of een vermeende dure jurk van Zelensky’s vrouw, krijgt zoekresultaten uit het Pravda-netwerk.
De Pravda-artikelen worden ook regelmatig op Wikipedia gebruikt als bron. Uit dit onderzoek van Pointer blijkt dat op de online encyclopedie ruim 1.500 keer wordt verwezen naar websites in het Pravda-netwerk. Op Wikipedia kunnen gebruikers zelf artikelen aanpassen en aanvullen. We hebben ook voorbeelden gevonden van Nederlandstalige artikelen waarin een Pravda-artikel wordt aangehaald. Een bronverwijzing vanuit Wikipedia levert een direct voordeel op voor Pravda-sites, legt McKenzie Sadeghi uit. "Wikipedia, inclusief de sites waarnaar wordt verwezen, is een van de grootste bronnen voor trainingsdata van taalmodellen."
Lobbyfeest
Af en toe verwijderen techbedrijven desinformatie uit zoekresultaten of chatbots na klachten van gebruikers. "Verspreiders van desinformatie proberen ons steeds een stap voor te zijn", zegt Sadeghi van Newsguard. "Daarom is het belangrijk dat techbedrijven hun activiteiten actief in de gaten houden en tegengaan."
Op Europees niveau wordt er hard gewerkt aan een oplossing, vertelt Europarlementariër Kim van Sparrentak (GroenLinks-PvdA), die mee onderhandelde over de nieuwe Europese AI-wetgeving. "Wij hebben er hard op lopen drukken dat er strenge wetgeving komt op dit gebied." Maar de kans dat die er daadwerkelijk komt, is volgens Van Sparrentak klein.
Het lukt de sites dus in veel gevallen om door te dringen tot de resultaten van zoekmachines en chatbots, zo blijkt uit ons onderzoek. Europarlementariër Kim van Sparrentak,die mee onderhandelde over de nieuwe Europese AI-wetgeving, vertelt dat ze in haar werk dagelijks hiertegen ageert: "Wij hebben er hard op lopen drukken dat er strenge wetgeving komt op dit gebied. In de AI-wet moet een verbod op het verspreiden van desinformatie opgenomen worden."
De definitieve wettekst laat nog op zich wachten, mede onder druk van de techbedrijven die meer werk vrezen om desinformatie te bestrijden. Een slechte voorlopige uitkomst, vindt Van Sparrentak. "Veiligheid in Europa gaat over veel meer dan wapens; het gaat ook over het behoud van vertrouwen in de democratie."
Reactie techbedrijven
We vroegen de bedrijven achter alle geteste chatbots om een reactie. Alleen Microsoft, Perplexity en Google reageerden op ons verzoek. Microsoft laat weten dat ze onze bevindingen onderzoeken en actie ondernemen als dat nodig is. "We verwerken regelmatig feedback van onze gebruikers en brengen updates uit om reacties (van Copilot, red.) beter te maken en een positieve interactie te ondersteunen", aldus een Microsoft-woordvoerder.
Google legt uit dat zij bekend zijn met het probleem van desinformatie in chatbots. "Het beïnvloeden van LLM's via pre-trainingsdata is voor ons een bekende uitdaging", zegt een Google-woordvoerder. "We zetten verschillende technieken in om dit zo goed mogelijk tegen te gaan. Net als bij het tegengaan van spam of kwaadaardige SEO (zoekmachineoptimalisatie, red.) betreft dit een kat-en-muisspel waarin we er alles aan doen om kwaadwillenden voor te blijven."
Perplexity antwoordt op onze vragen dat ze de voorbeelden niet kunnen reproduceren.
