Chatbots zoals ChatGPT, Mistral en Microsoft Copilot geven regelmatig desinformatie terug als antwoord op jouw vraag, blijkt uit onderzoek van journalistiek onderzoeksplatform Pointer (KRO-NCRV). De Nederlandstalige chatbots zijn geïnfecteerd door het Russische Pravda-netwerk, dat massaal desinformatie verspreidt.
Het Pravda-netwerk bestaat uit honderden websites waarop geautomatiseerd op grote schaal pro-Russische propaganda wordt gepubliceerd. Vorig jaar werden 3,6 miljoen berichten gepubliceerd op deze sites. Hoewel de websites zelf nauwelijks bezoekers trekken vanwege hun gebrekkige kwaliteit, worden ze regelmatig geciteerd door zoekmachines en AI-chatbots.
Dat netwerk is veel groter dan eerder werd gedacht, blijkt uit het onderzoek van Pointer. De Europese factcheck-organisatie EDMO onthulde dat Pravda in maart 2024 actief was in 39 landen. Inmiddels bestaat het netwerk uit ruim vierhonderd websites in 68 landen, waaronder Nederland. Ook bleek uit het onderzoek van Pointer dat ze maar liefst 1.500 keer worden geciteerd op Wikipedia.
Pointer onderzocht acht chatbots om te kijken of Russische desinformatie in de antwoorden voorkomt op vragen over de oorlog tussen Rusland en Oekraïne. Ook keken ze of de desinformatie terechtkwam in zoekresultaten van Google en op Wikipedia. Eerder ontdekten onderzoekers van Newsguard dat bij vragen over eerder ontkrachte en wijdverspreide desinformatie, in een derde van de Engelstalige antwoorden van chatbots alsnog Russische desinformatie wordt aangehaald. Voor het Nederlandse taalgebied zijn de resultaten niet veel beter.
Na prompts van Pointer beweren zes van de acht onderzochte chatbots onterecht dat Rusland een NAVO-piloot heeft omgebracht. En vier bots beweren, ook onterecht, dat de Oekraïense geheime dienst betrokken is bij drugshandel. De chatbot Claude komt het beste uit onze test: geen enkele keer wordt desinformatie, zoals van Pravda, herhaald. Mistral gaat liefst 8 keer de mist in. Opvallend is dat Grok, het platform van Elon Musk, vaak weigert om Russische desinformatie te verspreiden. Copilot, de tool van Microsoft die in veel bedrijfslaptops zit ingebakken, is na Mistral de slechtst presterende chatbot in onze test: vijf keer wordt desinformatie via deze chatbot ongefilterd doorgegeven.
Het lukt de sites dus in veel gevallen om door te dringen tot de resultaten van zoekmachines en chatbots, zo blijkt uit ons onderzoek. Europarlementariër Kim van Sparrentak,die mee onderhandelde over de nieuwe Europese AI-wetgeving, vertelt dat ze in haar werk dagelijks hiertegen ageert: "Wij hebben er hard op lopen drukken dat er strenge wetgeving komt op dit gebied. In de AI-wet moet een verbod op het verspreiden van desinformatie opgenomen worden."
De definitieve wettekst laat nog op zich wachten, mede onder druk van de techbedrijven die meer werk vrezen om desinformatie te bestrijden. Een slechte voorlopige uitkomst, vindt Van Sparrentak. "Veiligheid in Europa gaat over veel meer dan wapens; het gaat ook over het behoud van vertrouwen in de democratie."
