Pointer verspreidde een vragenlijst en 24 procent van de ruim 60 ondervraagde scholen gaf aan dat er wordt gepest met AI-naaktfoto's. 10 procent van de scholen meldde dat dit zelfs meer dan vijf keer per jaar gebeurt.

Dat de impact van dit soort nepnaaktfoto’s groot is voor slachtoffers mag duidelijk zijn. Slachtoffers van wie een nepnaaktfoto werd verspreid, vertellen in de YouTube-video van Pointer over hoe hun gevoel van sociale veiligheid werd geraakt.

Zo vertelt Daisy dat ze de kleding die ze in de originele foto aan had, niet meer in haar kast heeft liggen. “Het voelt alsof die door iemand anders van mij zijn afgenomen.” Ook Jasmijn, die anoniem haar verhaal deed, omschrijft hoe erg zij schrok toen ze de nepnaaktfoto van zichzelf ontving. “De wereld zakt onder je voeten vandaan”, zegt ze.

Slachtoffer AI-tools

Kamerlid Beckerman is zelf ook slachtoffer geweest van dit soort AI-tools. In 2024 werd er een deepfake-pornovideo van haar verspreid. In een eerder geschreven column vertelt Beckerman hoe deze situatie haar destijds aangreep en hoe groot haar verbazing was dat er na een paar maanden ophef uiteindelijk niks veranderde.

“We moeten erover praten. De afgelopen maanden gebeurde het keer op keer. Er kwamen zaken naar boven over de onveiligheid van vrouwen, seksuele intimidatie en misbruik. Er was ophef en het werd stil”, schreef ze destijds.

Beckerman en Van Nispen willen daarom van staatssecretaris Mariëlle Paul en minister David van Weel (VVD) weten of ze op de hoogte zijn van het gebruik van dit soort tools op middelbare scholen. Daarnaast zijn ze benieuwd wat scholen en de overheid eraan zouden kunnen, en willen, doen. Ze vragen of ze "de zorgen van scholen herkennen dat zij onvoldoende middelen, kennis en ondersteuning hebben om AI-gerelateerde pestincidenten tegen te gaan, en wat het kabinet op dit moment doet om scholen, leerlingen en ouders beter te beschermen tegen dit soort digitale beeldmanipulatie en online pesten".

Wettelijk verbod?

Uit het onderzoek van Pointer blijkt verder dat de verspreiding van nepnaaktfoto’s niet beperkt blijft tot middelbare scholen. Er zijn verschillende Nederlandstalige Telegram-groepen, waar mensen onderling nepnaaktbeelden van bekende Nederlandse en Vlaamse influencers delen. Sommige van hen zijn nog minderjarig.

Beckerman en Van Nispen zijn daarom benieuwd of de minister en staatssecretaris erkennen dat het gebruik van AI-uitkleedapps en -websites een ernstige bedreiging vormt voor de veiligheid en het welzijn van jongeren, zeker wanneer minderjarigen doelwit zijn. Ook willen ze weten of zij vinden dat er een wettelijk verbod moet komen op deze apps en websites, zoals 87 procent van de ondervraagde scholen wil.

Bovendien vragen ze Paul en Van Weel wat ze concreet gaan doen om dit probleem aan te pakken en of ze bereid zijn om samen met platforms als Telegram, TikTok en Instagram te werken aan strengere controle op het delen van gemanipuleerde seksuele beelden van minderjarigen. Als laatste willen ze ook weten of de minister en de staatssecretaris bereid zijn een meldpunt te introduceren, waar slachtoffers van deepfakes of ander seksueel getint online beeldmateriaal terechtkunnen.