Op meerdere middelbare scholen gaan nepnaaktfoto’s en andere seksueel getinte beelden rond die met kunstmatige intelligentie (AI) gegenereerd zijn. Dat blijkt uit onderzoek van Pointer (KRO-NCRV), dat op YouTube te bekijken is. Leerlingen pesten elkaar met de beelden.
*Trigger warning: in dit stuk wordt gesproken over suïcide.
Pointer verspreidde een vragenlijst die door ruim 60 middelbare scholen werd ingevuld. Van die scholen geeft 24 procent aan dat pesten met dit soort door AI-gegenereerde naaktfoto’s of andere seksueel getinte AI-beelden wel eens voorkomt. Volgens 10 procent van de scholen gebeurt dat zelfs meer dan 5 keer per jaar.
Seksuele foto’s en filmpjes
Volgens de scholen bewerken leerlingen foto’s en filmpjes van elkaar met behulp van AI tot seksueel getinte beelden en die delen via sociale media. Ook komt het voor dat leerlingen bestaande foto’s of filmpjes van internet halen en daarop de hoofden van medeleerlingen plakken.
Helpwanted, een hulplijn voor slachtoffers van online grensoverschrijdend gedrag, ziet dat het rondgaan van dit soort beeldden grote gevolgen kan hebben. “De impact is heel divers”, zegt teamleider Nikki Lee Janssen. “Sommige slachtoffers bellen ons en zijn op zich best oké, maar willen vooral de beelden offline halen. Andere zien het leven niet meer zitten, omdat ze niet kunnen indenken dat dit ooit achter ze komt te liggen. We hebben helaas ook mensen aan de telefoon die suïcidaal zijn doordat iemand nepbeelden van ze gegenereerd heeft.”
*Denk je aan zelfdoding? Neem contact op met 113 Zelfmoordpreventie via www.113.nl, of bel gratis 0800-0113 of 113.
Uitkleedapps
Hoewel het niet altijd duidelijk is hoe de AI-beelden precies worden gegenereerd, geeft 7 procent van de ondervraagde scholen wel aan dat leerlingen er soms AI-uitkleedapps en -websites voor gebruiken. In de YouTube aflevering van Pointer laat Jos de groot zien dat je met deze software eenvoudig een foto kunt uploaden van iemand met kleding aan, die je dan met behulp van AI kunt uitkleden. Dit soort tools kwamen eerder in het nieuws omdat uit onderzoek van Pointer bleek dat minderjarige influencers virtueel worden uitgekleed en de beelden daarvan worden gedeeld in groepen op Telegram.
Het genereren en verspreiden van nepnaaktfoto’s is strafbaar als dat gebeurt zonder iemands instemming. Wanneer het gaat om nepfoto’s van minderjarigen, zijn de beelden zelfs te classificeren als kinderporno.
Stickers en memes
Behalve met seksueel getinte afbeeldingen en video’s, wordt op de ondervraagde scholen ook op andere manieren gepest met AI. Volgens 42 procent van de scholen komt pesten met AI in de brede zin (ook niet-seksueel getint) voor. Zo is het maken van memes en stickers populair, al is daarvan niet altijd duidelijk vast te stellen of er AI voor wordt gebruikt.
Zorgen bij scholen
Maar liefst 90 procent van de scholen die de vragenlijst invulde, maakt zich zorgen over pesten met AI. 87 procent van de scholen verwacht dat pesten met door AI gemaakte naaktbeelden of seksueel getinte beelden in de toekomst vaker gaat voorkomen. Hetzelfde percentage vindt dan ook dat er een verbod zou moeten komen op AI-uitkleedapps en -websites.
Bekijk de video over AI-uitkleedapps op het YouTube-kanaal van Pointer.
Dit artikel kwam tot stand in samenwerking met Daniël Hemmer, Maartje Kral en Anouk Gras, studenten Journalistiek en media aan de Universiteit van Amsterdam (UvA). Pointer deed samen met hen onderzoek naar pesten met AI op middelbare scholen.
Schrijf je in voor onze nieuwsbrief
Ontvang iedere week onze beste verhalen in je mailbox.
