Europakommisjonen la 11. mai frem forslag til et nytt rammeverk for å forebygge og bekjempe seksuelt misbruk av barn på nett (CSAM). Kommisjonen mener dagens system, som bygger på frivillig sporing og rapportering fra selskapenes side, ikke er tilstrekkelig, og forordningsforslaget pålegger leverandører å spore, rapportere og fjerne bilder og video som viser seksuelle overgrep begått mot barn. Kommisjonen skriver i pressemeldingen at covid19-pandemien har forverret situasjonen, og viser til innrapporterte bekreftede seksuelle overgrep mot barn økte med 64 prosent i 2021 i forhold til året før.

Forordningsforslaget vil blant annet pålegge leverandører av vertstjenester eller mellommenneskelige kommunikasjonstjenester (interpersonal communication services) å vurdere risikoen for at deres tjenester brukes til å spre materiale med overgrep mot barn, eller for å søke kontakt med barn, såkalt «grooming». Leverandørene vil også måtte foreslå risikoreduserende tiltak. Medlemslandene skal utpeke nasjonale myndigheter som vil få ansvar for å gjennomgå risikovurderingen. Hvis disse myndighetene fastslår at det fortsatt er en betydelig risiko, kan de be en domstol eller en uavhengig nasjonal myndighet om å utstede en ordre om sporing av kjent eller nytt materiale, eller grooming. Sporingsordren er tidsbegrenset og er rettet mot en bestemt type innhold på en bestemt tjeneste.

Kommisjonen ønsker også å etablere et nytt uavhengig EU-senter for å bekjempe seksuelt misbruk av barn, som skal assistere medlemslandene og selskaper i implementeringen av regelverket. Ekspertsenteret vil samarbeide tett med Europol, og være lokalisert i Haag.

Forordningsforslaget er hjemlet i EU-traktaten (TEUV) artikkel 114 (det indre markeds funksjon), og merket EØS-relevant. «Forordningsforslaget er nært knyttet til Digital Services Act (DSA) og vil bli ansett som lex specialis til det regelverket, og DSA vil få anvendelse på spørsmål som ikke adresseres i det nye spesialregelverket», skriver IKT-råd Camilla Ongre i EU-delegasjonen.

Forordningsforslaget sier ikke noe om hvordan selskapene skal overvåke innholdet på sine plattformer, skriver Agence Europe. Kommisjonen mener det vil være kontraproduktivt å spesifisere teknologier som skal brukes til sporing, siden denne raskt kan bli utdatert. Det overlates dermed til selskapene å bestemme både overvåkings- og risikoreduserende verktøy.

NRK beta skriver i en omtale av forslaget at flere eksperter mener dette i praksis vil innebære å lokalt skanne informasjon som skal sendes mellom to personer. «Dersom denne EU reguleringen blir adoptert i Norge så betyr det at kommunikasjonen til alle norske nettbrukere vil bli analysert når det sendes, og kan potensielt bli rapportert og anmeldt. Det vil være uklart hva som skannes for, og vi kan forvente at ting vil gå galt, som i praksis vil føre til falske rapporter og uskyldig utestengte brukere», sier stipendiat Tjerand Silde ved NTNU til NRK.

Den digitale rettighetsorganisasjonen EDRi uttaler at Kommisjonens CSAM-forslag mislykkes med å finne de rette løsningene: «Despite several attempts at safeguards, the main risks of the proposal remain, putting journalists, whistleblowers, civil rights defenders, lawyers, doctors and others who need to maintain the confidentiality of their communications at risk».

Den tyske digital- og transportministeren, Volker Wissing, skriver i en pressemelding 17. mai at forordningsforslaget går for langt, og kan bryte med det tyske regelverket for kommunikasjonskonfidensialitet. Lederen av det tyske datatilsynet, Ulrich Kelber, har tidligere gått ut og sagt at forslaget bryter med grunnleggende EU-verdier.

Leder av den britiske organisasjonen The Internet Watch Foundation (IWF), Susie Hargreaves, støtter Kommisjonens fremleggelse: «We have long been drawing attention to the issues within Europe as it has become the destination of choice for people seeking to host this content. We are pleased to see the proposal announced today brings forward strategies which have the potential to improve this situation, particularly with the introduction of mandatory detection for known Child Sexual Abuse Material».

Justis- og beredskapsminister Emilie Mehl svarte 4. mai på spørretimespørsmål om rapporteringsplikt og CSAM: «En plikt til å pålegge tjenesteleverandørene å melde fra hvis deres tjenester brukes til å begå straffbare handlinger eller distribuere ulovlig materiale, mener jeg er viktig at vi utreder nærmere, og det kan være aktuelt å innføre dette i Norge […] Det trengs ikke bare nasjonal innsats, men også internasjonalt samarbeid. Derfor mener jeg det er veldig viktig at utredning av en sånn plikt som vi snakker om nå, gjøres i samarbeid med våre naboland. Forslaget fra Europakommisjonen, som representanten refererer til, vil det være naturlig å se på».

Sammen med forordningsforslaget la Kommisjonen frem en ny EU-strategi for et bedre internett for barn, som er basert på tre pilarer:

• Barn skal beskyttes mot skadelig innhold, risiko og oppførsel på nettet. Kommisjonen vil arbeide for en EU-kodeks for «alderstilpasset design» og anmode om at det innføres en europeisk standard for alderskontroll på nett innen 2024.
• Styrke barns digitale ferdigheter, slik at de kan treffe informerte valg og gi uttrykk for sine meninger på nett på en sikker og ansvarlig måte.
• Aktiv deltakelse hvor barn respekteres ved å få medinnflytelse på det digitale miljø. Kommisjonen vil blant annet at eldre barn underviser yngre i nettmuligheter og -risiko, og vil annethvert år stå for en barnestyrt evaluering av strategien.

«Alle børn i Europa fortjener at kunne færdes i et sikkert digitalt miljø, hvor de har medindflydelse. Med den nye strategi ønsker vi at sikre børn, navnlig børn i sårbare situationer, adgang til digitalt udstyr og digitale færdigheder samt at bekæmpe cybermobning og beskytte alle børn mod skadeligt og ulovligt onlineindhold. Dette stemmer overens med vores kerneværdier og digitale principper», uttalte Kommisjonens visepresident Margrethe Vestager ved fremleggelsen av strategien.