Begrunnelse
I 2023 fikk KI for alvor sitt gjennombrudd.
Selv om en økende andel av befolkningen har glede av ny teknologi
og KI, utfordrer dette menneskerettighetene på ulike måter: Avansert
desinformasjon kan svekke ytringsfriheten blant annet fordi vi ikke
lenger kan skille mellom menneskeskapt og maskinskapt informasjon.
KI kan bidra til diskriminering gjennom å forsterke eksisterende
fordommer eller skape nye skillelinjer. Dertil kommer at KI har
et uoverskuelig potensiale for å krenke retten til personlig integritet,
privatliv og personvern.
Den raske teknologiutviklingen gir stadig større makt
til selskapene som utvikler og drifter vår digitale infrastruktur.
Hittil har teknologiselskapene fått sette rammene for den digitale
aktiviteten i sosiale medier.
Siden 2020 har EU tatt en ledende regulatorisk
rolle, og på tampen av 2023 ble Europaparlamentet og Rådet for Den
europeiske union enige om verdens første lov om regulering av KI
med utgangspunkt i en risikobasert tilnærming. Europarådet arbeider
også med en rammekonvensjon om KI og menneskerettigheter. Slike
regler vil bidra til å beskytte både ytringsfriheten, personvernet
og diskrimineringsvernet, men det er usikkert når og hvordan de
vil bli gjennomført i Norge.
Etter NIMs syn er det et betydelig «etterslep»
når det gjelder vurdering av hvordan regelverkene effektivt bør implementeres
i Norge. Etablering av et digitaliseringsdepartement er positivt
og et godt utgangspunkt for å iverksette dette arbeidet.
EUs regler oppstiller flere institusjonelle
krav som fordrer strukturell tenkning knyttet til ulike tilsynsorganers
oppgaver, mandater og ressurser og samordning dem imellom.
Gode kontrollmekanismer er en forutsetning for god
menneskerettslig etterlevelse.
Det er også krevende å skaffe oversikt over
både tilsiktede og utilsiktede virkninger av KI og hvordan KI er regulert.
Når KI-regler skal implementeres i Norge, vil de virke inn i et
komplekst internasjonalt rettslig lappeteppe, som består av allerede
vedtatte regler om plattformselskapenes ansvar, kombinert med vanskelige
og fragmenterte personvernregler, samt menneskerettslige regler
etter EMK og EØS-retten.
Nye regler krever omfattende arbeid med tilrettelegging
og implementering, i et landskap som er svært uoversiktlig og vanskelig
tilgjengelig. Det er ikke gitt at alle teknologireglene som er utviklet
for å implementeres i samtlige av EUs medlemsstater gir den optimale
løsningen for den norske virkeligheten. Så vidt NIM forstår er dette kompliserte
arbeidet i beste fall i en svært tidlig fase.
Regjeringen har kunngjort at den vil satse på
forskning på KI og digital teknologi, og at den har satt av betydelige
midler til dette. Det er angitt at forskningen vil ha tre hovedspor:
konsekvenser for samfunnet, teknologien i seg selv, og bruk av teknologien
for innovasjon for næringsliv og offentlig sektor.