De Europese Commissie presenteerde in mei 2022 de verordening om online seksueel kindermisbruik tegen te gaan. Sindsdien is het wetsvoorstel uitgebreid aan bod gekomen in het politieke en maatschappelijk debat. Daarbij is vooral aandacht geweest voor de vrees dat er met deze verordening mogelijk te veel inbreuk zou worden gemaakt op privacy. Deze discussie ging niet alleen voorbij aan de waarborgen die al in de wet opgenomen zijn om privacy wel degelijk te beschermen, daarnaast werd het belangrijkste punt uit het oog verloren: dat er goede wetgeving nodig is om online seksueel kindermisbruik tegen te gaan. Anderhalf jaar na het oorspronkelijke voorstel van de Europese Commissie presenteerden leden van de LIBE-commissie op 26 oktober 2023 een aangepast voorstel. Defence for Children – ECPAT heeft dit voorstel tot zich genomen. En hoewel wij veel van de aanpassingen goede stappen vooruit vinden, maken wij ons zorgen dat de aanpassingen onder de streep zullen leiden tot minder signalering van online kindermisbruik.

Het is goed om te zien dat alle partijen het belang erkennen van verplichte preventiemaatregelen en van de opsporing van bekend en onbekend materiaal van seksueel kindermisbruik als laatste middel. Wij juichen toe dat de LIBE Commissie meer rechten aan slachtoffers toekent en de oprichting van het ‘Victim’s Rights and Survivors Forum’ voorstelt. We betreuren echter dat de detectiebevelen alleen zijn gericht op (groepen) gebruikers die een link hebben met strafbaar materiaal van kindermisbruik. Aangezien er reeds mogelijkheden zijn via het strafrecht om communicatie in te zien van verdachten van seksueel kindermisbruik, heeft het voorstel daarmee geen toegevoegde waarde. Bovendien leidt het tot een drastische vermindering van de hoeveelheid gedetecteerd, gerapporteerd en verwijderd strafbaar materiaal van kindermisbruik. Met daarnaast de verwijdering van de opsporing van grooming en end-to-end encryptie, zullen de compromissen leiden tot een aanzienlijke beperking van de kinderen die door deze verordening worden beschermd.

EU Centre for Child Protection

De LIBE commissie introduceert een nieuwe naam voor het EU Centrum, EU Centre for Child Protection, en extra rechten voor slachtoffers. Slachtoffers kunnen niet alleen verzoeken om informatie en verwijdering van hun beelden, zij hebben ook het recht op steun en bijstand van zowel het EU Centrum als de nationale coördinerende autoriteiten. Daarnaast komt er een ‘Victim’s Rights and Survivors Forum’, als het aan de commissie ligt. Het EU-Centrum zal zoekopdrachten kunnen uitvoeren naar publiek toegankelijke inhoud, zoals NCMEC (Amerikaanse Cybertiplijn), en er komt een officier voor fundamentele rechten, zoals privacy. Het is daarnaast een goede stap dat de Europese Commissie binnen zes maanden na inwerkingtreding van de verordening een uniform notificatiemechanisme moet hebben ontwikkeld met een gemakkelijk herkenbaar pictogram voor de online gebruikersomgevingen om het melden van misbruik te vergemakkelijken, oftewel: een meldknop.

Detectiebevel enkel gericht op (groepen) gebruikers

Detectiebevelen kunnen in het nieuwe voorstel alleen nog gericht zijn op individuele gebruikers of specifieke groepen gebruikers, die een (indirecte) link hebben met beeldmateriaal van kindermisbruik op basis van informatie die betrouwbaar en legaal is verkregen – als individuele gebruiker of als abonnee van een specifiek communicatiekanaal. Het bevel was in het originele voorstel gericht op een identificeerbaar deel of onderdeel van de online dienst, zoals specifieke soorten kanalen, én op specifieke gebruikers of specifieke groepen gebruikers, voor zover zij geïsoleerd kunnen worden. Dit betekent dat er door het nieuwe voorstel minder gedetecteerd zal gaan worden ten opzichte van wat nu op platformniveau gebeurt.

Opsporing van grooming eruit

Data van onder andere de Internet Watch Foundation laat zien dat grooming enorm is toegenomen en dat het een zeer reëel gevaar is voor kinderen online. Het is daarom goed dat online dienstverleners hiervoor mitigerende maatregelen moeten nemen. Online dienstverleners kunnen geen maatregelen nemen om signalen van grooming op te sporen. Grooming is alleen onderdeel van risicobeoordeling en mitigerende maatregelen, in plaats van dat hiervoor een detectiebevel kan worden uitgevaardigd door een rechter als een online dienst een hoog risico heeft op grooming. Wanneer een online dienstverlener feitelijke kennis heeft van grooming, dienen zij dit te melden bij het EU centrum. Drie jaar na inwerkingtreding van de verordening moet de Europese Commissie een rapport indienen, en indien relevant een wetsvoorstel, over het integreren van grooming in de verordening.

End-to-end encryptie eruit

Veiligheid van onze communicatie is van groot belang voor onze samenleving en vertrouwelijkheid van communicatie is een fundamenteel recht. Nu al zijn in End-to-End-Encrypted (E2EE)-omgevingen mogelijkheden om detectie uit te voeren zonder dat de vertrouwelijkheid van de communicatie gevaar loopt en de zonder dat de versleuteling wordt gecompromitteerd. Dit gebeurt voor het detecteren van malware en spam en link previews te genereren. Dit zou in theorie ook kunnen voor het detecteren van online kindermisbruik. Zo zou er kunnen worden gescand op bekend misbruikmateriaal om te voorkomen dat het (opnieuw) wordt gedeeld of zelfs viraal gaat, zonder dit te melden. Hierdoor blijft communicatie end-to-end versleuteld. Bovendien kan er geïnvesteerd worden in waarschuwingssystemen die mensen bewust maken van risico's en mogelijkheden bieden om misbruikmateriaal te blokkeren, melden en hulp te zoeken, bijvoorbeeld via speciale portals bij de kindertelefoon en hulplijnen. Door E2EE volledig uit te sluiten worden al deze (toekomstige) mogelijkheden uitgesloten, zelfs wanneer ze geen inbreuk maken op de vertrouwelijkheid en veiligheid van onze interpersoonlijke online communicatie. Volgens het VN Kinderrechtencomité (General Comment 25, paragraaf 70) moeten landen nadenken over goede maatregelen om het opsporen en melden van online seksueel misbruik en misbruikmateriaal mogelijk te maken in versleutelde omgevingen, met toepassing van gedegen waarborgen.

Wijzigingen in de risicobeoordeling

De inschatting van het overblijvend risico na de voorgestelde mitigerende maatregelen bij de risicobeoordeling is verwijderd. Echter, om een inschatting te kunnen maken of detectie nodig is, zou men moeten weten wat het geschatte risico op online kindermisbruik is na de genomen mitigerende maatregelen. Zo kan de impact van de mitigerende maatregelen worden ingeschat. Voor providers die zich richten op kinderen, voor platforms die voornamelijk worden gebruikt voor de verspreiding van pornografische inhoud en voor nummeronafhankelijke communicatiediensten binnen games zijn verplichte specifieke maatregelen voorgesteld. Voor aanbieders die niet substantieel blootgesteld zijn aan online kindermisbruik is een uitzondering op de verplichting om een risicobeoordeling uit te voeren en voor kleine en middelgrote bedrijven zijn vereenvoudigde procedures opgesteld.

Oproep

Laat het belang van het kind de primaire overweging zijn in het wetgevingsproces rondom deze verordening. Online seksueel kindermisbruik komt op grote schaal voor en heeft levenslange gevolgen voor slachtoffers en hun omgeving. We hebben met deze wetgeving de kans om de online wereld veiliger te maken voor kinderen en hun welzijn in de digitale wereld te beschermen. Zorg ervoor dat de verordening behelst waar het voor is opgesteld: de bescherming van kinderen tegen alle gevaren voor online kindermisbruik. De wijzigingen beperken het signaleren en verwijderen van online kindermisbruik in vergelijking van wat het nu is. Dat kan toch niet de bedoeling zijn.

Meer informatie:

Brief aan de commissie LIBE van 09 november 2023