Hier vind je de bronnenlijst bij de uitzending: zó cashen oplichters met deepfake-BN'ers.
Gesprekken met experts
In de aflevering spreken we onder meer met:
- Mark Evenblij, deepfake-expert bij DuckDuckGoose
- Prof. Renger Witkamp, hoogleraar voeding en farmacologie, Wageningen University
Achtergrond: ICT-recht en deepfakes
Voor de juridische context raadpleegden we:
- Autoriteit Consument en Markt
- Dr. Bart van der Sloot, expert technologie en recht
- Prof. Evert Stamhuis, hoogleraar ICT-recht, Erasmus Universiteit Rotterdam
Gesprekken met gedupeerden
We spraken daarnaast met meerdere personen wier identiteit in deepfakes werd gebruikt:
- Arie Boomsma, influencer op het gebied van sport en gezondheid
- Michael Pilarczyk, spreker en schrijver over mindfulness
- Prof. Erik Scherder, hoogleraar neuropsychologie, Vrije Universiteit Amsterdam
- Prof. Diederik Gommers, hoogleraar intensive care, Erasmus Universiteit Rotterdam
- Dr. Tamara Derks, huisarts ‘Dokter Tamara’
- Prof. Hanneke Takkenberg, Erasmus Universiteit Rotterdam
- Artsenfederatie KNMG
Aanleiding
Op TikTok stuitte Pointer Checkt op meerdere accounts met deepfakes van bekende Nederlanders en artsen. De video’s waren opvallend overtuigend en gingen vaak viraal; sommige werden meer dan 200.000 keer bekeken. In vrijwel alle gevallen werd hetzelfde product aangeprezen: het supplement shilajit van het merk Wellness Nest.
Shilajit is een zeldzame, teerachtige substantie afkomstig uit gesteenten in hooggebergten. Hoewel het rijk zou zijn aan mineralen, ontbreekt een solide wetenschappelijke basis voor geneeskrachtige claims. Dat blijkt uit een analyse van beschikbare literatuur, uitgevoerd met hulp van hoogleraar Renger Witkamp (WUR). Bovendien betreft het product van Wellness Nest geen pure shilajit, maar een mengsel met diverse andere stoffen.
De deepfakes werden vooral geplaatst op de volgende TikTok-accounts:
- @everyday.wellness52
- @wellnessnl1
- @pure.kracht.herste
Deze accounts begonnen in juli en augustus met posten en bleven gemiddeld twee maanden actief. Na een melding van Pointer Checkt heeft TikTok ze offline gehaald.
De Nederlandstalige deepfake-accounts bleken slechts een klein deel van alle accounts van Wellness Nest. Pointer Checkt vond in twee dagen tijd tientallen vergelijkbare accounts in onder meer het Frans, Duits, Spaans, Pools en Engels; vermoedelijk bestaan er nog aanzienlijk meer.
Onderzoek naar Wellness Nest
De deepfakes verwezen telkens naar shilajit van Wellness Nest. Na aankoop van het supplement ontvingen we een e-mail met een uitnodiging voor een Facebookgroep voor klanten van het merk.
Een deel van de beheerders van die groep woont in Vietnam en werkt bij Pati Group, een bedrijf dat volgens LinkedIn actief is in de handel in supplementen. Er zijn sterke aanwijzingen dat Pati Group het moederbedrijf is van Wellness Nest. Via een andere onderzoeksroute stuitten we op aanvullende aanwijzingen: de CEO van Pati Group lijkt de partner te zijn van de vrouw op wiens naam Wellness Nest staat geregistreerd in Colorado en Vietnam. Op haar Facebookprofiel verschijnen gezinsfoto’s met de CEO, en ze is te zien bij een bedrijfsuitje van Pati Group.
Pati Group lijkt niet zelf alle deepfake-accounts te beheren. Op persoonlijke Facebookpagina’s van medewerkers worden affiliateprogramma’s gepromoot waarbij iedereen zich kan aanmelden om producten van het bedrijf te verkopen. Affiliates mogen daarbij een percentage van de omzet houden.
Medewerkers van Pati Group promoten hun affiliatteprogramma door het delen van screenshots van PayPal-betalingen van meer dan duizend dollar voor de verkoop van Wellness Nest-producten en kondigen maandelijkse affiliatewedstrijden aan waarbij eveneens duizenden dollars te verdienen zouden zijn.
Door deze constructie wordt TikTok overspoeld met nieuwe verkoopaccounts: elke affiliate opent nieuwe profielen op social media om het product te promoten. Niet elk account gebruikt deepfakes; een andere veelgebruikte methode is het posten van volledig AI-gegenereerde video’s met fictieve influencers of artsen, waarbij geen echte identiteit wordt misbruikt.
Pointer Checkt heeft contact gezocht met de assistent van de CEO van Pati Group. Hij ontkent dat hij of zijn affiliates deepfakes inzetten om supplementen te verkopen. Verdere verzoeken om een reactie bleven onbeantwoord.
Reactie TikTok
“Ons doel is om inhoud of accounts die onze regels overtreden te verwijderen voordat ze worden bekeken of gedeeld. Inhoud wordt eerst automatisch beoordeeld. Als de inhoud wordt geïdentificeerd als een mogelijke overtreding, wordt deze automatisch verwijderd of gemarkeerd voor aanvullende beoordeling door onze moderatoren. Extra beoordeling vindt plaats als de inhoud populair wordt of is gerapporteerd. Om de nauwkeurigheid van de moderatie te ondersteunen, passen we extra kwaliteitscontrole toe op sommige accounts die al een extra validatieproces hebben doorlopen, zoals geverifieerde accounts.
Ondanks onze uitgebreide moderatieprocessen kunnen we niet garanderen dat alle inhoud voldoet aan onze Community-richtlijnen of Servicevoorwaarden. Als je iets ziet dat mogelijk de regels overtreedt, kun je dit melden in de app of op onze website.”
Schrijf je in voor onze nieuwsbrief
Ontvang iedere week onze beste verhalen in je mailbox.
