*Trigger warning: in dit stuk wordt gesproken over suïcide.

“Wauw, wat een mooie foto van jou in je bikini.” Daisy (24) schrikt van het bericht dat in haar inbox verschijnt. Op haar scherm ziet ze een foto van haarzelf – schaars gekleed, in een witte bikini – ontvangen van een wildvreemde man via Facebook. Daisy weet meteen dat er iets niet klopt: ze heeft helemaal geen foto’s in bikini. De rest van de foto herkent ze wel, maar haar spijkerbroek en zwarte jas zijn ineens verdwenen.

Helpwanted, een hulplijn voor online grensoverschrijdend gedrag, ziet een sterke toename in het aantal meldingen over AI-gemanipuleerde nepfoto’s. Waar de organisatie in 2023 nog negen meldingen binnenkreeg over dit soort naakt- of bikinifoto’s, stond de teller vorig jaar op 59. Teamleider Nikki Lee Janssen denkt dat dit nog maar het topje van de ijsberg is: “Lang niet iedereen die hier last van heeft, komt bij ons terecht.”

Schadelijk

Bij de slachtoffers die het meldpunt inschakelen loopt de impact uiteen ziet Janssen. Sommige slachtoffers willen vooral graag de beelden offline halen. “Maar er zijn ook slachtoffers die soms echt het leven niet meer zien zitten.”

Ook Annemiek van Noord, interventiespecialist bij de landelijke politie, maakt zich zorgen om de schade die AI-nepnaaktbeelden kunnen veroorzaken: “Pestgedrag als dit kan heel schadelijk zijn. Er zijn internationaal ook voorbeelden van meisjes die zelfmoord hebben gepleegd nadat ze gepest of afgeperst zijn met dit soort materiaal.”

*Denk je aan zelfdoding? Neem contact op met 113 Zelfmoordpreventie via www.113.nl, of bel gratis 0800-0113 of 113.

Daisy zonderde zich steeds meer af van anderen, nadat de bikinifoto van haar werd gemaakt. “Ik heb mezelf een hele tijd in mijn huisje opgesloten. Ik wil mensen ook niet meer gelijk toelaten op mijn social media en blokkeer iemand direct zodra diegene iets doet wat ik niet leuk vind.”

Strafbaar

Het genereren van nepnaaktbeelden zonder toestemming is in Nederland een seksueel misdrijf en kan bestraft worden met maximaal 2 jaar gevangenisstraf. Bovendien gelden er verzwarende omstandigheden als het om beelden van een minderjarig slachtoffer gaat. Interventiespecialist Van Noord: “Ook als een minderjarige jongen een AI-naaktfoto maakt van een minderjarige medestudent, kunnen we dat bestempelen als kinderpornografie.” Dat de beelden nep zijn, maakt daarbij niet uit.

Desondanks duiken AI-naaktbeelden van jonge slachtoffers online steeds vaker op. Zo werden verschillende Nederlandse middelbare scholen al geconfronteerd met pestgedrag met gegenereerde nepnaaktbeelden en gingen via Telegram AI-naaktfoto’s van minderjarige influencers rond.

Uitkleedapps

Dat komt deels doordat het relatief eenvoudig is om online nepnaaktbeelden te maken: met breed beschikbare ‘uitkleedapps’ kan een normale foto binnen enkele seconden omgetoverd worden tot een naaktfoto. Omdat deze apps in veel gevallen zelf aangeven dat ze bedoeld zijn om foto’s te bewerken waarvoor degene die erop staat toestemming heeft gegeven, zijn deze niet direct illegaal. Van Noord: “We hopen wel dat partijen die dit soort apps maken, gaan inzien wat er nu mee gedaan wordt en ervoor zorgen dat de tool daarvoor niet misbruikt kan worden.”

Staatssecretaris Coenradie van Justitie en Veiligheid noemt het omzetten van foto’s tot AI-naaktbeelden “enorm schadelijk”. Tegelijkertijd ziet ze het verbieden van apps die deze toepassingen aanbieden niet direct als oplossing: “We weten uit ervaring dat het vaak ontzettend makkelijk is om bepaalde beperkingen te omzeilen. Een verbod of het verder aanscherpen van wetgeving is niet altijd de oplossing.”

Preventie

Coenradie ziet daarom meer in een preventieve aanpak. “Dat begint thuis, maar ook op scholen. Het is belangrijk om met elkaar het gesprek aan te gaan, maar ook om als ouder te weten wat je kind online uitspookt.” Bovendien benadrukt ze de strafbaarheid van het maken van AI-naaktbeelden: “Op het moment dat we dit constateren, kan succesvol overgegaan worden op vervolging. Ook om in ieder geval een nieuwe norm te stellen. We moeten ervoor zorgen dat het duidelijk is: dit kan en mag niet.”

Janssen van Helpwanted denkt dat het probleem ‘realistisch gezien’ niet te voorkomen is. “Op het moment dat je een slachtoffer bent van AI-naaktbeelden, dan heb je die vrijwel nooit zelf gegenereerd. Je kan je daar niet tegen beschermen.”

Daisy hoopt vooral dat makers van AI-naaktbeelden in de toekomst harder worden aangepakt: “Er moeten gevolgen aan verbonden zitten. Als je echt moet boeten voor je daden, is het niet meer zo leuk om te doen. Dan ben je er wel snel klaar mee, denk ik.”

Dit artikel is geschreven door Daniël Hemmer, Maartje Kral en Anouk Gras, studenten Journalistiek en media aan de Universiteit van Amsterdam (UvA). Pointer deed samen met hen onderzoek naar pesten met AI op middelbare scholen.

Bekijk onze YouTube-video over AI-uitkleedapps.