Ruim 40 artsen en bekende Nederlanders zijn slachtoffer van deepfake-video’s waarmee supplementen op TikTok worden gepromoot, blijkt uit onderzoek van Pointer Checkt. Het gaat hierbij onder andere om het product shilajit van het merk Welness Nest, waarachter een netwerk van Vietnamese ondernemers schuilgaat. Artsenfederatie KNMG laat weten “zich grote zorgen te maken over het toenemende misbruik van deepfakes voor misleidende gezondheidclaims”.
In de deepfakevideo’s worden echte beelden gebruikt van artsen en bekende Nederlanders, zoals sportschool-ondernemer Arie Boomsma, influencer Monica Geuze of neuropsycholoog Erik Scherder. Door een met AI nagebootste stem lijkt het alsof zij reclame maken voor de supplementen van Wellness Nest, die bijvoorbeeld zouden helpen tegen vermoeidheid of overgangsklachten. Maar voor de geneeskrachtige werking ervan ontbreekt wetenschappelijk bewijs.
Hoewel de sprekers in de video’s soms nog wat robotisch praten en de mondbewegingen niet altijd matchen met de uitspraken, werkt de methode wel. Onder de video’s staan veel reacties van mensen die vragen waar ze het supplement kunnen kopen. Ook laten artsen Erik Scherder en Diederik Gommers aan Pointer Checkt weten dat ze regelmatig e-mails ontvangen van mensen die vragen of ze de producten moeten kopen die zij online ‘aanprijzen’ in deepfake-video's.
De artsenfederatie KNMG maakt zich grote zorgen over het toenemend misbruik van medische deepfakes, waarin de gezichten en stemmen van artsen zonder hun toestemming worden gebruikt voor misleidende gezondheidsclaims. Dat is volgens KNMG schadelijk voor de beroepsgroep en misleidend voor het publiek: “Bovendien kan de verspreiding van deze misleidende content leiden tot verkeerde gezondheidsbeslissingen bij burgers en zo een risico vormen voor de volksgezondheid.”
Uit handelsregisters in Colorado (Verenigde Staten) en in Vietnam, en uit openbare bedrijfsinformatie die wordt gedeeld op Facebook, blijkt dat Wellness Nest wordt gerund door een groep Vietnamese e-commerce-ondernemers van het bedrijf Pati Group. De Vietnamese ondernemers runnen voor het merk ook een zogenoemd affiliateprogramma: ze sporen anderen aan om handelspartner (affiliate) te worden en tegen een commissie via TikTok zelf supplementen te verkopen. Dit zijn niet enkel deepfakes, soms worden ook fictieve artsen of influencers met AI gegenereerd, of medische stockbeelden gebruikt.
De medewerkers van Pati Group delen online screenshots van geldbedragen die affiliates zouden verdienen met de verkoop van hun product, zoals PayPal-bijschrijvingen die variëren van 1700 tot 66.000 Amerikaanse dollar en wedstrijden voor affiliates waar winnaars meer dan 100.000 Amerikaanse dollar in een maand verdienen. Pointer Checkt kan niet verifiëren of deze bedragen echt worden verdiend.
Na vele contactpogingen ontkent een medewerker van Pati Group de aantijgingen over het gebruiken van deepfakes. Op herhaaldelijke verzoeken om een schriftelijke reactie wordt verder niet gereageerd.
Gedupeerden van de deepfakes, zoals Arie Boomsma en mindfullness-spreker Michael Pilarczyk, hebben TikTok verzocht om de accounts van Wellness Nest te verwijderen. Pilarczyk schakelde hiervoor zelfs een advocaat in. Toch verwijderde TikTok de video’s pas nadat Pointer Checkt contact opnam. In een schriftelijke reactie laat het platform weten: “Ondanks onze uitgebreide moderatieprocessen kunnen we niet garanderen dat alle inhoud voldoet aan onze richtlijnen.” Op de vraag waarom de accounts twee maanden lang online konden staan, komt geen duidelijk antwoord.
Bekijk de aflevering van Pointer Checkt vanaf zondag 23 november 16:00 uur op NPO3 YouTube.
Op de hoogte blijven van ons onderzoek?
Schrijf je in voor onze nieuwsbrief!
