Tientallen Nederlandse middelbare scholen hebben in het afgelopen jaar te maken gehad met pestgedrag waarbij AI werd gebruikt, blijkt uit een rondvraag van Pointer. In veel gevallen gaat het om beledigende foto’s, video’s of memes, of zelfs om nepnaaktfoto’s die nauwelijks van echt te onderscheiden zijn. Experts vertellen over wat zij in de praktijk zien en hoe dit voorkomen kan worden. “Het lijkt mij niet fijn als dat jouw foto is.”
"Je kan er mensen mee uitkleden", zegt een jongen van vijftien nonchalant, terwijl hij in de kleine pauze met een groep jongens in donkere pufferjassen op een bankje naast het schoolplein in Amsterdam-Zuid zit.
“Gast, wat zeg jij? Waarom zou je dit vertellen?” lacht een vriend die wegduikt uit het gesprek.
“Ik lieg niet”, reageert hij. “Ik zag laatst nog zo’n naaktfoto. Er zijn gewoon apps waar je foto’s op kan gooien die kleding weghalen.” Zijn vrienden lachen ongemakkelijk, maar sommigen knikken wel.
Volgens het groepje jongens worden deze AI-tools met enige regelmaat gebruikt om neppe naaktbeelden te maken van klasgenoten en is het niet moeilijk om zo’n foto te genereren: “Die apps kan je gewoon op internet vinden.” Soms verschijnen de gegenereerde nepfoto’s zomaar in WhatsApp-gesprekken. “Die worden dan vaak ook weer doorgestuurd. Het lijkt mij niet fijn als dat jouw foto is.”
Levensechte nepfoto’s
De school in Amsterdam-Zuid is niet de enige plek waar AI-nepfoto's rondgaan. Uit een vragenlijst die Pointer onder middelbare scholen verspreidde, blijkt dat tientallen scholen te maken hebben gehad met pestgedrag waarbij kunstmatige intelligentie een rol speelde. Het gaat bijvoorbeeld om AI-gegenereerde stickers, afbeeldingen of video’s waarin leerlingen belachelijk gemaakt worden, en die via sociale media of groepchats gedeeld worden.
Van de ruim 60 middelbare scholen die hun ervaringen deelden meldde 42 procent op de hoogte te zijn van minstens één pestincident waarbij AI-technologie werd ingezet. Volgens 10 procent van de scholen gebeurt dat zelfs meer dan 5 keer per jaar. Bijna een kwart van de scholen gaf aan geconfronteerd te zijn met naaktfoto’s of seksueel getinte beelden die met behulp van AI zijn gemaakt.
“AI is tegenwoordig zo goed: je weet soms niet meer of iets echt is”, reageert een antipestcoördinator van een school uit Noord-Brabant. Volgens deze school verscheen er op TikTok een naaktvideo waar de gezichten van leerlingen ingeplakt waren. Ook maakten leerlingen video’s waarbij AI twee losse foto’s combineerde en omvormde tot een video waarin de afgebeelde personen elkaar zoenen. “Omdat het vaker gebeurt, lijkt het soms wel alsof het de kinderen niet meer raakt.”
Kinderspel
Roy Vathorst van voorlichtingsorganisatie Digiwijzer ziet dat slechts kleine groepjes leerlingen gebruikmaken van AI als middel om te pesten. “Het gros van de leerlingen is er niet mee bezig. Maar als leerlingen kennis hiervan hebben, gaan zij er vaak direct erg ver in.”
Vathorst denkt dat het maken van beledigende stickers de meest voorkomende manier van AI-pesten is. Bij deze vorm van pesten wordt kunstmatige intelligentie gebruikt om bestaande foto’s op een vervelende manier te bewerken of anderen in een kwetsende situatie af te beelden. Denk daarbij aan het vervangen van de neus van een klasgenoot met een varkensneus of het afbeelden van een docent in Nazi-uniform. Deze stickers worden vervolgens via groepschats verspreid.
Dat middelbare scholen geconfronteerd worden met AI-pestgedrag, komt in belangrijke mate doordat het genereren van beledigende nepfoto’s weinig geduld of technische kennis vereist. Verschillende gebruiksvriendelijke apps en websites bieden gratis de mogelijkheid om gewone foto’s van anderen binnen enkele seconden te bewerken. Maatregelen tegen het maken van beledigende content zijn er nauwelijks.
Geen openheid
In ernstige gevallen gaat het pestgedrag bovendien dus verder dan dat: AI-gegenereerde nepnaaktbeelden, die eveneens simpel te maken zijn, gaan op meerdere scholen rond. Deze beelden zijn bovendien steeds realistischer. Vathorst: “Voor ons ligt de focus bij deze gevallen ook op het feit dat leerlingen steeds minder goed kunnen zien of een beeld gegenereerd is of dat het échte beelden zijn.” Van de 60 scholen die Pointer ondervroeg, vreest 87% dan ook dat pestgedrag met AI-gegenereerde naaktfoto’s of seksueel getinte foto’s in de toekomst vaker voor problemen zal gaan zorgen.
In het buitenland zijn al enkele voorbeelden te vinden van de grootschalige inzet van AI-uitkleedtools op scholen. Zo werden in het Spaanse stadje Almendralejo van minimaal twintig meisjes tussen de 11 en 17 jaar nepnaaktfoto’s gemaakt en verspreid via groepchats en sociale media. In Zuid-Korea zouden zelfs 500 scholen en universiteiten te maken hebben gehad met grootschalige chatgroepen op Telegram waarin nepnaaktbeelden van vrouwelijke studenten werden gedeeld.
Hoewel scholen grip proberen te krijgen op digitaal pestgedrag, blijft het lastig om zicht te houden op wat er online gebeurt. "Door het telefoonverbod in de klas krijgen wij als docenten steeds minder mee wat er allemaal speelt", zegt de antipestcoördinator van de school uit Noord-Brabant. "Leerlingen willen het bovendien vaak zelf oplossen, zonder daarbij docenten te betrekken. Ik weet van naaktvideo’s en AI-gegenereerde foto's die rondgaan. Maar als leerlingen daar geen openheid over geven, kunnen wij weinig doen zonder het vertrouwen te schaden."
Dit artikel is geschreven door Daniël Hemmer, Maartje Kral en Anouk Gras, studenten Journalistiek en media aan de Universiteit van Amsterdam (UvA). Pointer deed samen met hen onderzoek naar pesten met AI op middelbare scholen.
Bekijk onze YouTube-video over AI-uitkleedapps.
Schrijf je in voor onze nieuwsbrief
Ontvang iedere week onze beste verhalen in je mailbox.
