Marius Langballe Dalin (MDG): Vil regjeringen vurdere tiltak mot tjenester som tillater og understøtter ulovlig KI-generert overgrepsmateriell, for eksempel å pålegge at slike tjenester blir blokkert fra Norge i påvente av at tilstrekkelige sikkerhetsmekanismer implementeres?
Begrunnelse
KI-programmet Grok er en del av plattformen X (tidligere Twitter). Den siste uken har brukere startet å benytte KI-en for å generere seksualiserte bilder av andre brukere og av mindreårige ekte personer. Programmet brukes også for å fremstille bilder av overgrep mot reelle personer. Bildene som genereres har høy grad av realisme
Dette utgjør en aktiv fare for brukere og kan utgjøre ulovlig overgrepsmateriell mot barn (Straffeloven § 311) og et alvorlig brudd mot retten til eget bilde (åndsverkloven § 104)
X har ikke tatt grep for å stoppe misbruk av Grok og har heller ikke kommet med en offisiell uttalelse om problemet. Brukere av Grok har bedt Grok om å generere en unnskyldning, men denne genererte unnskyldningen har ingen reell substans.