Het Europees Parlement stemt in met een verbod op uitkleed-apps, tools waarmee met AI nepnaaktbeelden van mensen kunnen worden gemaakt. Daders gebruikten deze technologie de afgelopen jaren ook om kinderen digitaal te misbruiken, met ernstige gevolgen voor hun veiligheid en welzijn. Het verbod is een belangrijke stap voor de bescherming van kinderen online.

Bescherming van kinderen volgens het VN-Kinderrechtenverdrag

Kinderen hebben volgens het VN-Kinderrechtenverdrag recht op bescherming tegen alle vormen van geweld en uitbuiting, ook online. De online verspreiding van seksueel misbruikmateriaal van kinderen, waaronder AI-gegenereerde deepfakes en nudifying-tools die kinderen digitaal uitkleden, schaadt kinderen direct en herhaaldelijk.

“Alle manieren, tools en platforms waarop seksueel misbruikmateriaal van kinderen kan worden gemaakt of gedeeld, moeten worden gecontroleerd en aangepakt”, vertelt Celine Verheijen, manager programma seksuele uitbuiting bij Defence for Children – ECPAT Nederland. “Achter elk beeld zit een echt kind, ook bij beelden die met AI worden gemaakt. Elk van deze kinderen is slachtoffer.”

Hoewel het verspreiden van seksueel misbruikmateriaal van kinderen al verboden is, was het tot nu toe relatief eenvoudig om met generatieve AI-chatbots en uitkleedwebsites dergelijke beelden te maken en te verspreiden. Zoekmachines die deze sites tonen, zoals Google en Bing, kunnen hiervoor binnenkort hoge boetes krijgen. Ook zal het verboden worden voor chatbots om functies te ondersteunen waarmee gebruikers iemand digitaal kunnen uitkleden.

Onze inzet

Defence for Children – ECPAT Nederland zet zich al jaren in voor de bescherming van kinderen tegen seksuele uitbuiting, online én offline. Zo namen wij deel aan de internationale campagne No To Nudify en riepen wij op tot een wereldwijd verbod op nudifying-tools, om te voorkomen dat kinderen slachtoffer worden van digitale seksuele uitbuiting.

Recent onderzoek van UNICEF, ECPAT en INTERPOL laat zien dat wereldwijd minstens 1 op de 25 kinderen aangeeft dat zijn of haar beeldmateriaal het afgelopen jaar is gebruikt voor het maken van seksuele deepfakes. Deze technologie wordt in veel gevallen al gretig misbruikt door daders. Elk kind dat op deze manier wordt misbruikt, is een slachtoffer. Ook als het niet direct herkenbaar is.

Waarom dit verbod belangrijk is

Het verbod op uitkleed-apps maakt het gebruik van deze tools illegaal en legt verantwoordelijkheid bij technologiebedrijven en zoekmachines. Zo wordt het voor daders moeilijker om digitale seksuele misdrijven te plegen en worden kinderen beter beschermd. Het Europees Parlement stemt naar verwachting vóór het verbod, dat naar verwachting voor de zomer in alle lidstaten van de Europese Unie van kracht wordt.

Blijf alert en meld misbruik

Kinderen hebben recht op een veilige digitale wereld. De overheid is verantwoordelijk voor regels en wetten die kinderen beschermen, maar ook ouders, scholen en professionals kunnen een verschil maken. Zij kunnen kinderen informeren, bewustzijn vergroten en eventuele misdrijven melden. Voor vragen of advies kunnen kinderen, ouders en professionals terecht bij de Kinderrechtenhelpdesk van Defence for Children – ECPAT Nederland.