Op grond van de voorgestelde wetgeving zouden de EU-landen kunnen eisen dat rechtbanken bedrijven als Facebook-moederbedrijf Meta en Apple gelasten systemen in te voeren waarmee inhoud met seksueel misbruik van kinderen op hun platforms kan worden opgespoord.
Er zal een nieuw EU-centrum voor seksueel misbruik van kinderen worden opgericht om de naleving van de maatregelen af te dwingen. De waakhond zal een databank bijhouden met digitale "indicatoren" van kinderpornomateriaal. Deze indicatoren zullen worden vergeleken met inhoud op relevante onlinediensten. Het is vergelijkbaar met een systeem dat vorig jaar door Apple werd voorgesteld.
Het blok zegt de voorstellen in te dienen omdat vrijwillige acties van techgiganten momenteel niet volstaan. "We slagen er vandaag niet in kinderen te beschermen", zei Ylva Johansson, EU-commissaris voor Binnenlandse Zaken, woensdag op een persconferentie. Ze noemde het plan een "baanbrekend voorstel" dat van Europa een wereldleider zou maken in de strijd tegen seksueel misbruik van kinderen online.
Het plan komt er nadat de EU vorige maand overeenstemming bereikte over baanbrekende regels die techbedrijven verplichten sneller haatzaaiende en andere illegale inhoud van hun platforms te halen.
Privacy 'ramp'
Privacyactivisten vrezen dat het nieuwe EU-wetsvoorstel de end-to-end-encryptie kan ondermijnen, waarmee berichten zo worden vervormd dat ze alleen door de beoogde ontvanger kunnen worden bekeken.
Het voorstel is "onverenigbaar met end-to-end encryptie en met fundamentele privacyrechten," zei Joe Mullin, senior beleidsanalist bij de digitale rechten groep Electronic Frontier Foundation.
"Er is geen andere manier om te doen wat het EU-voorstel wil doen, dan overheden op grote schaal berichten van gebruikers te laten lezen en scannen," zei Mullin. "Als het wet wordt, zou het voorstel een ramp zijn voor de privacy van gebruikers, niet alleen in de EU maar over de hele wereld."
Beleidsmakers aan weerszijden van de Atlantische Oceaan worstelen al lang met techgiganten over mogelijk misbruik van versleutelde berichtendiensten zoals WhatsApp en iMessage. Verschillende regeringen vragen om zogenaamde "backdoors", die hen in staat zouden stellen privacycontroles te omzeilen.
"We kijken ernaar uit om met de EU samen te werken om het wetgevingsproces te informeren over hoe we de veiligheid van kinderen waarborgen, zowel offline als online," vertelde een woordvoerder van Meta aan CNBC.
"Het is belangrijk dat eventuele maatregelen die worden aangenomen de end-to-end encryptie niet ondermijnen, die de veiligheid en privacy van miljarden mensen, waaronder kinderen, beschermt."
'Technologisch neutraal'
Hoewel Brussel zei dat de voorgestelde verplichtingen "technologisch neutraal" zijn, waarschuwde het dat de gevolgen van het weglaten van end-to-end-encryptie uit de eisen "ernstig" zouden zijn voor kinderen.
Het Amerikaanse National Center for Missing & Exploited Children schat dat meer dan de helft van de meldingen van kindermisbruik zal verdwijnen met end-to-end encryptie, waardoor misbruik onopgemerkt blijft.
Maar privacy-activisten geloven dat maatregelen om versleutelde communicatie uit te hollen niet effectief zouden zijn.
"Criminelen gebruiken nu al distributiekanalen die niet door deze scans zouden worden getroffen en zullen in de toekomst gemakkelijk aan scans ontsnappen," vertelde Linus Neumann van het Duitse hackerscollectief Chaos Computer Club, CNBC.
Voorstanders van het wetsvoorstel zeggen echter dat het een noodzakelijke stap is in de richting van het uitbannen van kindermisbruik op het internet.
De Brave Movement, een organisatie die campagne voert voor de veiligheid van kinderen, zei dat de wetten "de veiligheid van kinderen, adolescenten en toekomstige generaties zullen waarborgen".
"In de EU zijn digitale ruimten in sommige gevallen volledig ongereguleerd - waardoor kinderen worden blootgesteld aan de dreiging van afschuwelijk seksueel geweld en uitbuiting," zei Wibke Müller, mede-oprichter van de Brave Movement, in een verklaring.
Müller, die zelf seksueel misbruik van kinderen heeft overleefd, zei dat techbedrijven "al de middelen hebben om online seksueel geweldmateriaal op te sporen en te verwijderen" en dat ze "voorrang moeten geven aan de veiligheid van kinderen".
