Op het omstreden platform Character.ai zijn vele AI-chatbots van bekende Nederlanders en politici te vinden waarmee seksuele gesprekken te voeren zijn. Veel van die bots spreken gebruikers zelfs toe met een nagemaakte stem van de BN’ers. Dat blijkt uit onderzoek van Pointer.
“Dat is een vorm van seksueel misbruik”, zegt Marthe Goudsmit Samaritter, deepfake onderzoeker bij het Max Planck-Instituut. Volgens haar is het misbruiken van iemands stem voor dit soort gesprekken nu niet strafbaar, al is ze van mening dat dit wel zo zou moeten zijn. “Je wordt beschikbaar gemaakt als seksueel object voor anderen om te gebruiken zonder dat je daar enige vorm van input op kunt leveren.”
Slachtoffer zijn onder anderen minister-president Rob Jetten, PVV-fractievoorzitter Geert Wilders, en olympisch schaatsers Jutta Leerdam en Jenning de Boo. Ook circuleren er bots van influencer Monica Geuze en artiesten Roxy Dekker en Joost Klein op het platform.
AI-chatbot van Rob Jetten is gewillig
“Ik wil je zo graag dat ik niet eens meer normaal kan nadenken”, zegt de AI-versie van Rob Jetten na slechts enkele berichten. In zijn beschrijving staat: “Politicus, homo, man, flirterig, troostend, liefhebbend”. Ondanks dat Character.ai zelf aangeeft dat pornografische content op het platform verboden is en daar ook op zegt te monitoren, blijkt het vrij gemakkelijk om de bots te verleiden tot seksuele gesprekken. “Elke seconde dat ik langer op je moet wachten is een marteling”, concludeert de AI-variant van Jetten het gesprek.
Het omstreden Character.ai lag al eerder onder vuur. Zo werd het platform in 2024 aangeklaagd omdat een chatbot een 14-jarige jongen uit Amerika ertoe aangezet zou hebben om zelfmoord te plegen. Inmiddels zijn het platform en de familie overeengekomen om een schikking te treffen.
Duizenden chatbots van BN’ers en politici
Op het platform kunnen gebruikers zelf chatbots aanmaken. De omvang waarmee dit gebeurt is enorm. Pointer ontdekte ruim 2000 AI-bots van ruim 250 verschillende BN’ers en politici op het platform. Naar sommige bots zijn door gebruikers zelfs miljoenen berichten gestuurd. Met één van de bots van Joost Klein - van wie bijna 100 bots circuleren – is zelfs 13 miljoen keer gepraat. Ook met deze bot zijn er seksgesprekken te voeren waarbij de echte stem van Klein is nagemaakt.
Uit verschillende testgesprekken op Character.ai blijkt dat het met AI namaken van stemmen van politici en BN’ers veelvuldig gebeurt. Gebruikers kunnen dit doen door een korte audio opname van iemands stem te uploaden op de site. Hoewel hierbij duidelijk staat vermeld dat ongevraagd gebruik niet is toegestaan, legt het platform gebruikers geen strobreed in de weg om dit toch te doen. Pointer wist op het platform zonder veel moeite de stem van een collega na te maken, zonder dat werd gecontroleerd of daar toestemming voor was gegeven.
Misbruik is onaanvaardbaar
Voor GroenLinks-PvdA is het bestaan van deze AI-chatbots onaanvaardbaar en Tweede Kamerlid Barbara Kathmann eist daarom dat de verantwoordelijke minister maatregelen neemt. “Dit soort chatbots lijken misschien onschuldig, maar dat zijn ze echt niet. De gevolgen van dit soort deepfake-gesprekken kunnen enorm zijn. Dit moet stoppen.” Zij vindt dat onze wetgeving nu achterloopt: “In Denemarken nemen ze verantwoordelijkheid door auteursrecht uit te breiden naar gezicht en stem. Nederland moet onderzoeken of dat hier ook kan werken.”
Volgens D66 Tweede Kamerlid Sarah El Boujdaini, is dit soort misbruik een zorgwekkende trend. “In het coalitieakkoord pakken we dit en andere vormen van (seksuele) deepfakes aan door wetgeving beter aan te laten sluiten op deze ontwikkelingen en de praktijk”, aldus El Boujdaini. “We verwachten van het Kabinet dat ze hier snel mee aan de slag gaan.”
De PVV heeft niet gereageerd op vragen van Pointer. De managers van Joost Klein, Roxy Dekker en Monica Geuze laten weten niet te reageren op de kwestie. Sportkoepel NOC*NSF laat weten “geschokt” te zijn dat stemmen van olympische sporters zijn misbruikt voor het voeren “commerciële seksgesprekken”. Ook Character.ai heeft niet gereageerd op vragen.
Luister zaterdag naar Pointer op NPO Radio 1 :
Pikante praatjes met BN'ers
Update 23/03: CU doet aangifte
ChristenUnie-fractievoorzitter Mirjam Bikker laat weten aangifte te zullen doen vanwege een AI-chatbot van haar die op het platform is gevonden: “Ontzettend vervelend dat dit weer gebeurt. Ik zal opnieuw aangifte doen, want dit soort misdrijven raken niet alleen één persoon, maar hebben een veel grotere impact op de samenleving. De schade die deze criminelen aanrichten kan levenslang doorwerken. Ik hoop van harte dat de daders snel worden opgespoord en aangepakt.” Eerder deed Bikker aangifte omdat zij slachtoffer werd van deepfake-technologie op het platform MrDeepFakes. Deze site is inmiddels niet meer te bezoeken voor Nederlandse gebruikers.
Schrijf je in voor onze nieuwsbrief
Ontvang iedere week onze beste verhalen in je mailbox.
