Samen met de NOS en De Groene Amsterdammer hebben we onderzocht hoe het publieke debat op Twitter wordt gemanipuleerd. Daarvoor hebben we de mentions aan lijsttrekkers van huidige Tweede Kamerfracties en alle berichten met de hashtag #TK2021 verzameld. Deze gegevens zijn verzameld op 25 en 26 februari met Twint, en gaan terug tot 1 januari 2020.

We hebben in totaal 4.764.713 unieke tweets verzameld, verstuurd door 273.740 accounts. Daarvan zijn een aantal zeer prominent aanwezig in het publieke debat: ze bestoken politici continu en onvermoeibaar met berichten. Daar hebben we een top 10-lijst van gemaakt, zodat we een eerste indruk krijgen wat voor accounts zich vreemd gedragen.

Spamgedrag

We willen echter weten of accounts onderdeel kunnen zijn van gecoördineerde spamacties of geautomatiseerd zijn. De belangrijkste aanwijzing om zulke accounts te vinden, is een bovengemiddeld hoge activiteit in berichten plaatsen.

Het onderzoeksinstituut Digital Forensic Research Lab (DFRLab) heeft in het verleden meerdere van dit soort onderzoeken uitgevoerd. Zij hanteren een grens van 144 tweets per dag. Zit je daarboven, dan is dat erg verdacht. Een doorsnee gebruiker valt al op als hij er 72 per dag plaatst. Dat komt neer op drie tweets per uur, of zo’n zes als je ook meerekent dat iemand moet slapen.

Zo’n hoge activiteit volhouden over een lange periode is iets wat bijna geen enkel persoon volhoudt. We hebben de 273.740 unieke accounts in onze dataset in het softwarepakket R onderzocht met de package Rtweet. Voor elk account verzamelen we de datum waarop het account is aangemaakt, en het aantal berichten dat een account heeft geplaatst. Hiermee kunnen we een inschatting maken hoe actief een account is. Nadat we onze gegevens hierop filteren, vinden we 552 buitensporig actieve Twitteraccounts.

Die inschatting heeft echter een klein nadeel: sommige accounts zijn lang geleden aangemaakt, en pas recent actief geworden. Daarom ligt het aantal bots en trollen waarschijnlijk een stuk hoger dan de 552 die we nu hebben gevonden.

We hebben deze accounts allemaal handmatig gecontroleerd, omdat daar ook nuttige en herkenbare bots tussen zitten. Denk dan bijvoorbeeld aan @threadreaderapp, waarmee je gesprekken op Twitter eenvoudig kunt lezen en opslaan. Er zitten accounts tussen die aan klantenservice doen, zoals @NS_online. We vinden daarnaast ook nieuwsorganisaties en journalisten die voornamelijk op Twitter actief zijn.

Na deze menselijke check houden we 525 accounts over die zich zeer verdacht gedragen. Je kunt ze grofweg indelen in drie categorieën: gecoördineerde trollenlegers, geautomatiseerde accounts, en individueën die politici met tweets bestoken. In die laatste categorie zitten vaak oudere Nederlanders die zijn geëmigreerd of gepensioneerd, de zogeheten hangmataccounts.

Hoe herken je een trol of bot?

We hebben alle accounts van een label voorzien: bij welk onderwerp zijn ze betrokken geweest, en zijn het Nederlandse of buitenlandse accounts? Daarmee zien we snel een aantal groepjes van accounts ontstaan. Toen Wilders onlangs werd gespamd vanwege zijn Erdoğan-tweet (15 februari 2021), zie je veel accounts met ongeveer dezelfde uiterlijke kenmerken. Veel Turkse vlaggen in de accountnamen, rode profielfoto’s en banners, en opmerkelijk veel afbeeldingen van de Turkse president.

Daarnaast gebruiken veel accounts foto’s die niet van hen zijn. Vaak gaat het om tekeningen van personen of stockfoto’s. Met de WeVerify browser-plugin kun je snel en eenvoudig afbeeldingen onderzoeken. Onderstaande afbeelding lijkt in eerste instantie een normale profielfoto te zijn, maar zodra je gaat zoeken waar hij nog meer wordt gebruikt, blijkt dat het op meerdere websites onder verschillende namen opduikt.

Door alle profielen handmatig na te lopen, kom je er snel genoeg achter of een profiel echt of nep is. Nog meer aanwijzingen dat je met een trol of bot te maken hebt, kun je vinden in de onderstaande video.