Ruim vijftig anonieme Twitter-accounts hebben sinds februari schadelijke en onjuiste berichten over COVID-19 in Nederland verspreid. Deze zogeheten trollen plaatsen enkel berichten om discussies over maatschappelijke thema's te kapen of te sturen. De ernst van het coronavirus wordt door deze accounts in twijfel getrokken, de oorzaak van het virus wordt toegewezen aan samenzweringen en ze verspreiden valse claims over geneesmiddelen.

Dat blijkt uit onderzoek van Pointer naar 1,7 miljoen tweets over het coronavirus. Twitter heeft naar aanleiding van ons onderzoek actie ondernomen tegen veertien trollen, waaronder het opschorten en tijdelijk beperken van deze accounts.

Deze Nederlandstalige accounts zijn als trollen te herkennen door anonieme gebruikersnamen en profielfoto's, eenzijdig Twitter-gedrag, en een zeer klein sociaal netwerk. Bijna de helft van de bevestigde trol-accounts zijn aangemaakt na de eerste besmetting door het virus in Nederland. Daarnaast zijn andere accounts juist na lange tijd 'ontwaakt' om vanaf het begin van de coronacrisis extreem veel misinformatie over het virus te verspreiden.

Ook valt op dat een aanzienlijk deel van de accounts zich associeert met de QAnon-beweging: de extreemrechtse complottheorie die beweert dat president Trump een geheime oorlog voert tegen de gevestigde orde.

Pointer analyseerde de ruim 1,7 miljoen tweets over COVID-19, en vond naast de vijftig Twitter-trollen nog ruim vijfhonderd accounts waar sterke vermoedens voor trol-activiteit te zien is. In de afgelopen vijf maanden hebben we 530 berichten met misinformatie over COVID-19 veelvuldig gedeeld zien worden via Twitter. Deze nieuwsberichten en video’s zijn in 12.354 tweets aangehaald door 3.901 accounts.

'Tegen de gevestigde orde ingaan'

In de ruim vijfhonderd berichten met misinformatie over COVID-19 wordt onder andere gesteld dat het coronavirus niet dodelijker is dan een griepvirus (factcheck). Daarnaast wordt beweerd dat het virus in een laboratorium is gefabriceerd (factcheck), door het 5G-netwerk wordt veroorzaakt (factcheck), of in naam van personen zoals miljardairs George Soros (factcheck) en Bill Gates (factcheck) is ontwikkeld en verspreid om meer vaccins te verkopen. Allemaal onjuiste en onbewezen claims.

Het coronavirus is een ideaal onderwerp om complottheorieën over te smeden, constateerde Peter Burger, universitair docent journalistiek (Universiteit Leiden) en misinformatie-expert, in ons eerdere onderzoek naar misinformatie.

Het gaat om een nieuwsonderwerp waar iedereen het over heeft. Via sociale media kun je vrij eenvoudig een groot publiek bereiken met onbetrouwbare berichten. "Dat is de ideale voedingsbodem voor de verspreiding van hoaxes, broodjeaapverhalen en samenzweringstheorieën", zei Burger.

COVID-19 was zeker in de eerste maanden van de uitbraak een perfect onderwerp om complottheorieën en misinformatie over te verspreiden, denkt Michael Hameleers, universitair docent politieke communicatie aan de Universiteit van Amsterdam. Er wordt volgens hem niet meer misinformatie verspreid dan anders, maar het valt nu meer op omdat alles geconcentreerd is rondom een onderwerp dat iedereen raakt.

Ze proberen de maatschappij te ontwrichten. Meer wantrouwen in de mainstream media te kweken, en twijfels over de overheid te verspreiden.

Michael Hameleers, universitair docent UvA

"Iedereen praat over het virus", zegt Hameleers. "En zeker in het begin was er weinig kennis en informatie. Niet alle misinformatie is dus bewust verspreid met het doel om te misleiden." Daarmee wijst hij op het onderscheid tussen misinformatie (onjuiste informatie, maar niet doelbewust onjuist geproduceerd) en desinformatie (onjuiste informatie met een specifiek doel en motief).

Mis- en desinformatie hebben voornamelijk effect op personen die hun standpunt al hebben ingenomen, weet Hameleers. "Zo'n bericht hoeft dan helemaal niet te kloppen, maar het is wel in lijn met hun perceptie. Die persoon wordt dan gesterkt in zijn mening. Dat zorgt voor polarisatie, omdat iemand dan een extremer standpunt kan innemen."

De Twitter-trollen die onjuiste informatie verspreiden, hebben naast polarisatie nog een ander doel: verwarring zaaien. "Ze proberen de maatschappij te ontwrichten, meer wantrouwen in de mainstream media te kweken, en twijfels over de overheid te verspreiden." Het motief van trollen is dan ook vaak ideologisch: "Het idee dat je tegen de gevestigde orde ingaat."

Het verwijderen van trollen heeft volgens hem nauwelijks nut. "Als zo’n account wordt neergehaald, dan duikt er ergens anders weer eentje op." En een enkele trol heeft volgens hem geen effect op lezers. Maar de optelsom van alle accounts bij elkaar kan wel iets teweeg brengen. Misinformatie kan een veel groter bereik halen dankzij trollen, en een georganiseerde aanval met trol-accounts kan een gesprek op sociale media flink laten ontsporen.

Platforms zoals Twitter en Facebook kunnen en moeten meer doen om de verspreiding van misinformatie te voorkomen, vindt Hameleers. Vaak grijpen ze achteraf pas in, nadat de onjuiste berichten al verspreid zijn. "Het najagen van misinformatie is onmogelijk. Ik denk dat deze platforms meer moeten investeren in preventie en educatie."

Ook ziet hij een rol weggelegd voor de overheid, al wordt die juist vaak door de verspreiders van misinformatie gewantrouwd. Een oplossing ligt in het onderwijs. "Hoe kun je deze platforms verantwoordelijk gebruiken? Jongeren op scholen bijvoorbeeld kritisch laten nadenken wat wel en niet klopt op sociale media."

Aangescherpt beleid COVID-19

Pointer heeft de lijsten van trol-accounts naar Twitter gestuurd ter verifiëring. In een reactie op onze onderzoeksresultaten reageert een woordvoerder: "Het verbeteren van de gezondheid van het openbare gesprek is een prioriteit voor ons bedrijf. Platformmanipulatie — inclusief spam en andere pogingen om het openbare gesprek te ondermijnen — is een overtreding van de Twitter-regels. We ondernemen elke week pro-actieve actie tegen miljoenen accounts wegens schending van ons beleid op dit gebied."

Twitter heeft zijn beleid rondom misinformatie aangescherpt sinds de uitbraak van COVID-19. "We geven prioriteit aan het verwijderen van berichten over COVID-19 die mogelijk schade kan veroorzaken. Sinds de introductie van ons nieuwe beleid op 18 maart en het verdubbelen van onze technische mogelijkheden, hebben onze geautomatiseerde systemen ruim 4,5 miljoen accounts aangepakt die discussies over COVID-19 probeerden te beïnvloeden met manipulatief gedrag."

Weerbaarheid bij lezers

Juridisch gezien is misinformatie moeilijk om aan te pakken. "Want wie wordt er persoonlijk door geraakt?", stelt Jens van den Brink, advocaat bij Kennedy Van Der Laan, gespecialiseerd in uitings- en digitale vrijheid en advocaat van onder meer Facebook. "De grens wordt sowieso bereikt zodra de gezondheid wordt geschaad, dat lijkt me duidelijk." Of dat bij misinformatie rondom het coronavirus ook is gebeurd, kan hij niet inschatten.

Deze onjuiste berichten kunnen volgens Van den Brink de maatschappij destabiliseren, zoals bij de presidentsverkiezingen in de Verenigde Staten en het Brexit-referendum (beide in 2016) is gebeurd. De makers en verspreiders van mis- en desinformatie worden echter zelden vervolgd, laat staan veroordeeld, aldus de advocaat. De grens tussen meningen en kwaadaardige misinformatie is vaak helemaal niet makkelijk te vinden. Hij raadt dan ook niet aan om elk onjuist bericht voor de rechter te brengen, ook omdat het onnodig aandacht vestigt op misinformatie.

Je moet de mogelijkheden tot meningsuiting niet inperken omdat een paar debielen gekke dingen roepen.

Jens van den Brink, advocaat

"Niet ieder probleem is juridisch op te lossen", vindt hij. Wetgeving op het gebied van misinformatie ziet hij niet zitten. "Je moet de mogelijkheden tot meningsuiting niet inperken omdat een paar debielen gekke dingen roepen. Het alternatief is een soort dictatuur waarin berichten worden gecensureerd. Ik vind dat je de extremen moet aanpakken, en daar voorziet de huidige wetgeving al voldoende in. Bij excessen op internet klinkt soms wat te makkelijk de roep om strengere wetgeving."

Een civiele procedure tegen een individueel geval raadt Van den Brink meestal ook af. "Je geeft het meer aandacht dan het verdient. Als een persoon bijvoorbeeld iemand compleet ongefundeerd van pedofilie beschuldigt, is de kans vrij groot dat je zoiets wint, maar dan worden zulke figuren ook een soort ridders of martelaren. Voor hun aanhang althans."

In plaats van aandacht geven aan deze extremen, vindt Van den Brink het verstandiger om mensen weerbaarder te maken tegen misinformatie, en wel gevallen aan te pakken waarin bijvoorbeeld concreet met geweld wordt gedreigd.

Makers