Bakgrunn

De senere år har det vokst frem en rekke voldelige og ekstremistiske digitale nettverk som opererer på tvers av sosiale medier og digitale plattformer, herunder Discord, Telegram, Snapchat, TikTok og Instagram. Nettverkene består ofte av løst organiserte grupperinger uten fast struktur, som stadig dannes, oppløses og reetableres under nye navn, på nye plattformer eller i lukkede fora.

Med voldelige og ekstremistiske digitale nettverk menes i dette forslaget miljøer som fremmer, normaliserer eller legger til rette for vold, grov selvskading eller alvorlige overgrep, særlig rettet mot barn og unge, og som benytter digitale plattformer til rekruttering, kontroll eller eskalering av skade.

Et kjent eksempel internasjonalt er det såkalte 764-miljøet, som inngår i det som ofte omtales som «The Com». Dette miljøet illustrerer hvordan slike nettverk kan fungere i praksis, men representerer ikke et isolert fenomen. Tilsvarende metoder, dynamikker og skadevirkninger er dokumentert i en rekke andre voldelige og ekstremistiske digitale miljøer.

Felles for disse nettverkene er at de systematisk retter seg mot barn og unge, særlig mindreårige i sårbare livssituasjoner. Rekruttering skjer ofte gjennom tilsynelatende uskyldig kontakt i åpne og etablerte digitale arenaer. Kontakten utvikler seg gradvis gjennom tillitsbygging, manipulasjon, trusler og utpressing. Når kontroll først er etablert, presses ofrene over tid til å utføre stadig mer ekstreme handlinger, blant annet selvskading og vold, som dokumenteres gjennom bilder og video. Slike opptak brukes videre som pressmiddel for å sikre lydighet og eskalere overgrepene.

Internasjonalt foreligger det dokumenterte tilfeller der barn og unge, som følge av påvirkning fra voldelige digitale nettverk, har begått alvorlige voldshandlinger mot både mennesker og dyr. Nettverkenes interne hierarkier, belønningsmekanismer og normer bidrar til normalisering av vold, dehumanisering og radikalisering.

Norske medier har gjennom omfattende gravejournalistikk dokumentert at også barn og unge i Norge har blitt rekruttert inn i slike miljøer. Sakene viser hvordan prosessen ofte starter i helt vanlige digitale rom, og hvordan mange ofre ikke tør å varsle om overgrep av frykt for represalier eller offentlig uthenging eller fordi overgripere sitter med kompromitterende eller seksualisert materiale.

Kripos har advart kraftig mot denne utviklingen. Det er pekt på at dette er et voksende problem, og at politiet ikke kan bekjempe fenomenet alene. Det er samtidig fremhevet at teknologiselskapenes forretningsmodeller og anbefalingsalgoritmer bidrar til å forsterke og spre voldelig og ekstremistisk innhold, også rettet mot barn og unge.

Forslagsstillerne mener utviklingen utgjør en alvorlig trussel mot barns sikkerhet og samfunnet som helhet, og at dagens virkemidler ikke er tilstrekkelige.

Regjeringen har tidligere vist tilbakeholdenhet med å regulere teknologiselskaper. Samtidig har det de senere år vært økende politisk og samfunnsmessig erkjennelse av behovet for sterkere regulering, særlig for å beskytte barn mot digital vold, overgrep og ekstremistisk påvirkning. Avsløringer knyttet til blant annet seksuell utnyttelse, bruk av kunstig intelligens til krenkende formål og digital rekruttering til voldelige nettverk viser at dagens regulering ikke er tilstrekkelig.

Forslagsstillerne viser til EUs forordning om digitale tjenester (Digital Services Act – DSA), som er tatt inn i EØS-avtalen, og mener Norge bør benytte det eksisterende handlingsrommet til å stille strengere krav der barns sikkerhet står på spill. Dette inkluderer tydelig ansvarliggjøring av plattformene, økte krav til åpenhet, forebygging og effektive sanksjonsmuligheter.

Forslagsstillerne understreker at tiltakene må utformes på en rettssikker og forholdsmessig måte og være i samsvar med ytringsfriheten og grunnleggende rettsstatsprinsipper. Samtidig må barns rett til beskyttelse mot vold, overgrep og alvorlig skadelig påvirkning tillegges betydelig vekt.

Teknologiselskapenes samfunnsansvar står i dag ikke i forhold til den faktiske makten de besitter over informasjonsflyt, oppmerksomhet og barns digitale liv. Plattformene må i langt større grad holdes ansvarlige for hvordan deres tjenester muliggjør, forsterker og i enkelte tilfeller tjener på spredning av skadelig innhold.

Forslagsstillerne legger til grunn at flere av tiltakene kan gjennomføres innenfor eksisterende forvaltningsstrukturer. Administrative sanksjoner og bøter rettet mot teknologiselskaper som bryter kravene, kan generere inntekter til staten. Samtidig kan styrket forebygging redusere langsiktige kostnader knyttet til politi, helsevesen og oppfølging av ofre.