Komiteens merknader
Komiteen, medlemmene fra
Arbeiderpartiet, Odd Harald Hovland, Hadia Tajik, og Maria Aasen-Svensrud,
fra Høyre, Ingunn Foss og Sveinung Stensland, fra Senterpartiet,
Ivar B. Prestbakmo og Else Marie Rødby, fra Fremskrittspartiet, lederen
Per-Willy Amundsen og Tor André Johnsen, fra Sosialistisk Venstreparti, Andreas
Sjalg Unneland, og fra Venstre, Ingvild Wetrhus Thorsvik,
viser til representantforslaget og til vurdering av forslaget i
brev fra statsråd Karianne O. Tung av 25. oktober 2023. Brevet følger vedlagt
denne innstillingen.
Komiteen viser til
at Kunstig intelligens (KI) har eksistert i ulike former i mange
år, og den grunnleggende teknologien bak KI har eksistert helt siden
1960-tallet.
Komiteen påpeker
at det er utviklet en rekke regelverk for KI innenfor ulike bruksområder
i Norge, samtidig som det er positivt at det nå kommer en egen EU-forordning
for KI, som vil sette noen overordnede standarder og regulere ny
teknologi på en måte som setter samfunnets og individenes interesser
i sentrum. Dette vil være et nyttig supplement til den reguleringen
landet allerede har og som vil være under utvikling fremover.
Komiteen viser til
at regjeringen Støre har startet arbeidet med en ny, helhetlig digitaliseringsstrategi
for Norge. Målet vil være en sterkere samordning og utvikling av
en helhetlig politikk som går på tvers av offentlig og privat sektor.
Som en del av dette arbeidet vil de også se på hvordan man skal
regulere, utvikle og bruke kunstig intelligens. Strategien skal
etter planen være klar i 2024.
Komiteens medlemmer
fra Arbeiderpartiet og Senterpartiet trekker frem at regjeringen
i Prop. 1 S (2023–2024) for Kunnskapsdepartementet har foreslått
en forsknings- og innovasjonssatsing på blant annet kunstig intelligens.
Regjeringen foreslår der minst 1 mrd. kroner over 5 år til en satsing
på fremtidens databehandling – kunstig intelligens, digital sikkerhet
og samfunnskonsekvenser av teknologiutviklingen. Satsingen, som
skal skje i regi av Norges forskningsråd, har tre hovedspor:
-
1. Forskning på konsekvenser
av kunstig intelligens og andre digitale teknologier for individ
og samfunn.
-
2. Forskning på digitale teknologier som
kunstig intelligens, digital sikkerhet, neste generasjons IKT, nye sensorer
og kvanteteknologi.
-
3. Forskning på hvordan digitale teknologier
kan brukes til innovasjon i næringslivet og offentlig sektor, og
hvordan kunstig intelligens brukes i forskningen på mange ulike
fagområder.
Disse medlemmer er
enige i intensjonen til forslagsstillerne om at det er viktig å
ha god utdanning og forskning innen anvendt kunstig intelligens
på flere områder. Disse medlemmer fremhever
likevel at lov om universiteter og høyskoler sikrer høyere utdanningsinstitusjoner
faglig frihet og ansvar for læreinnholdet i den enkelte utdanning.
Gjennom rammefinansiering og styring legges det i stor grad vekt på
den enkelte institusjons ansvar for å bestemme sammensetning av
studietilbudet. De overordnede målene for dimensjonering av høyere
utdanning er å møte arbeidslivets behov for kvalifisert arbeidskraft
og studentenes etterspørsel etter utdanning.
Disse medlemmer fremhever
at utdanningstilbudet innen kunstig intelligens øker i Norge, selv
om det er noe mindre enn i øvrige nordiske land, jf. Meld. St. 14
(2022–2023) Utsyn over kompetansebehovet i Norge (utsynsmeldingen).
Utdanningstilbud innen kunstig intelligens er mest utbredt innenfor
teknologiske fag, men har også begynt å spre seg til andre fagfelt,
og særlig til økonomisk administrative fag. Statistikken bekrefter
at utdanningskapasitet og innhold vris mot nye teknologier, både
i teknologifag og innenfor andre fagfelt. I utsynsmeldingen uttrykker
regjeringen at den forventer at universiteter og høyskoler i dimensjoneringen
prioriterer helsefag, IT og områder som er særlig viktige for det
grønne skiftet.
Disse medlemmer viser
til at regjeringen i budsjettforslaget for 2024 nettopp foreslår
100 nye studieplasser i IKT som skal fordeles på sju institusjoner
(NTNU, UiO, OsloMet, UiA, UiB, HVL og HiØ). Flere av disse institusjonene
har dedikerte fagmiljøer som jobber med kunstig intelligens og tilbyr
utdanning i kunstig intelligens. Flere av disse institusjonene er
også tilknyttet Norwegian Artificial Intelligence Research Consortium (NORA)
som er en norsk sammenslutning av universiteter, høyskoler og forskningsinstitutter
som samarbeider om kunstig intelligens.
Komiteens flertall,
medlemmene fra Arbeiderpartiet, Senterpartiet og Fremskrittspartiet,
peker på at EUs kommende forordning om kunstig intelligens trolig
vil vedtas i EU i løpet av året eller i begynnelsen av 2024, og
vil stille krav til KI-systemer før de plasseres på markedet, i
tillegg til å gi enkelte regler for bruk av systemene. Forordningen
legger en risikobasert tilnærming til grunn for regulering av kunstig
intelligens. Etter at forslaget er vedtatt, ligger det an til at reglene
får virkning fra to eller tre år etter vedtakelse. I perioden fra
vedtakelse til forordningen gis virkning, skal medlemsstatene gjøre
de nødvendige forberedelsene nasjonalt, som å etablere en egnet
forvaltningsstruktur.
Flertallet viser
til at regjeringen allerede har nedsatt en arbeidsgruppe som skal
utarbeide en plan for rettidig innlemmelse og god gjennomføring
av EUs forordning etter at den er vedtatt. Målet med arbeidet er
å sikre at forordningen skal kunne tre i kraft i Norge samtidig
som den trer i kraft i EU. Arbeidsgruppen ledes av Justis- og beredskapsdepartementet
og består ellers av medlemmer fra Kommunal- og distriktsdepartementet, Kunnskapsdepartementet,
Kultur- og likestillingsdepartementet, Finansdepartementet og Utenriksdepartementet.
Gruppen leverte sine anbefalinger til videre oppfølging til regjeringen
i november 2023.
Flertallet viser
til at arbeidsgruppen som skal legge en plan for gjennomføring av
EUs kommende forordning om kunstig intelligens, også har fått i
oppgave å vurdere nasjonale reguleringsbehov. Dette vil bli omtalt i
gruppens rapport. Samtidig har Norge en rekke gode, teknologinøytrale
regelverk, og disse gjelder også for kunstig intelligens. Det gjelder
for eksempel lov om likestilling og forbud mot diskriminering, forvaltningsloven
og ikke minst personopplysningsloven. Flertallet forstår
likevel at mange virksomheter som vurderer å utvikle eller ta i
bruk kunstig intelligens, kan synes det er krevende å vurdere hvordan
de skal tolke og bruke disse regelverkene.
Flertallet fremhever
derfor at Digitaliseringsdirektoratet allerede har fått i oppdrag
å utvikle god, brukerrettet veiledning i utvikling og bruk av kunstig
intelligens. Denne veiledningen er tilgjengelig på direktoratets
hjemmesider. For personvernområdet har Datatilsynets regulatoriske
sandkasse en viktig funksjon, både i å gi råd og veiledning til
de prosjektene som deltar i sandkassen, men ikke minst ved å gjøre
vurderingene fra de ulike prosjektene tilgjengelig. Datatilsynet
og Digitaliseringsdirektoratet har et godt samarbeid for å sikre
at erfaringene fra sandkassen også reflekteres i Digitaliseringsdirektoratets
veiledning.
Flertallet viser
til at det på mer overordnet nivå gjøres vurderinger av hvordan
man skal tolke og bruke eksisterende regelverk i en kontekst med
kunstig intelligens fortløpende i departementene og sektorene med ansvar
for de respektive lovene. Spørsmål som gjelder tolkning av eksisterende
lovbestemmelser må i utgangspunktet finne sin løsning på vanlig
måte, ved anvendelse av rettskildeprinsippene og eventuelt avklaring
i domstolene. Noen ganger kan uklarheten være så stor at det er
ønskelig med presisering gjennom lovarbeid. Andre steder igjen kan
en oppdage hull i lovgivningen eller nye spørsmål som bør reguleres. Flertallet fremhever at dette arbeidet
er regjeringen i gang med.
Komiteens medlemmer
fra Høyre og Fremskrittspartiet mener utviklingen i kunstig
intelligens bringer med seg et stort verdiskapingspotensial, som
kan gi bedre tjenester i offentlig sektor og et mer effektivt næringsliv.
Teknologien byr også på utfordringer, som at man må bli mer kritisk
til det man ser, hører og leser.
Disse medlemmer mener
det bør settes tydelige rammer for kunstig intelligens for å forhindre
misbruk, og vil presisere at menneskene skal sette rammene for teknologiutviklingen,
ikke omvendt. Det fordrer både utvikling og bruk av kunstig intelligens
under ansvarlige prinsipper.
Disse medlemmer viser
til regjeringen Støres forslag til bevilgning til forskningsmidler
på kunstig intelligens og digital trygghet. Disse
medlemmer er fornøyde med initiativet fra regjeringen, og
mener midlene og hovedsporene som skisseres gir en viktig forsterkning
av forskning på kunstig intelligens. Disse medlemmer vil
samtidig presisere at det er viktig at satsingen ikke går på bekostning
av annen forskning med stor verdi for samfunnet. Avstanden fra grunnforskning
til anvendelse blir stadig kortere innen kunstig intelligens, derfor
mener disse medlemmer videre at det
i forskning på kunstig intelligens både må fokuseres på anvendt
forskning som løser dagens utfordringer, og på grunnforskning innenfor
kunstig intelligens som kan bidra å løse morgendagens utfordringer.
Disse medlemmer er
bekymret for etterslepet i kompetansebehovet innenfor digitale teknologier. Samfunnsøkonomisk
analyse konkluderte i 2021 at det var behov for 40 000 flere sysselsatte
med IKT-utdanning i 2030. Disse medlemmer mener
Norge er avhengig av å utdanne de skarpeste utviklerne og forskerne
på kunstig intelligens om landet skal lykkes med teknologien. Derfor
er det viktig at regjeringen sørger for nødvendig kompetanse innenfor
kunstig intelligens og andre teknologier, ved å stimulere og støtte
utdanningsinstitusjonene til å møte det store behovet for digital
og teknisk kompetanse.
Disse medlemmer mener
at flere spesialister innenfor kunstig intelligens ikke er nok.
Når algoritmer utgjør en stadig større del av samfunnet, vil flere
ha behov for en grunnleggende forståelse av teknologien. Spisskompetanse
i utviklingen av teknologien er viktig, men disse
medlemmer mener også at kompetanse i møte med økt bruk av
kunstig intelligens er essensielt. Disse medlemmer mener
derfor at det i større grad bør åpnes for at ikke-tekniske studier,
som juridiske fag og helsefag, generelt får tekniske emner integrert
i studieløpet, og spesielt at kunstig intelligens integreres i flere
utdanninger, i tråd med vedtak 582 (2022–2023) fra behandlingen
av Dokument 8:73 S (2022–2023), jf. Innst. 238 S (2022–2023).
Disse medlemmer mener
forslagsstillerne løfter viktige og riktige tilnærminger i bakgrunnen
for representantforslaget, der det pekes på behovet for samarbeid
på tvers av landegrensene i Europa i møte med teknologi som kunstig
intelligens. Disse medlemmer mener kunstig
intelligens ikke bør reguleres i et nasjonalt vakuum, men bør ses
i en internasjonal sammenheng. Derfor bør prosessene i EU følges
tett, og dersom forordningen om kunstig intelligens, AI Act, som ventet
anses EØS-relevant, bør Norge effektivt implementere forordningen
i norsk rett og sikre at den trer i kraft om lag samtidig som den
trer i kraft i EU. Disse medlemmer mener
arbeidet må være effektivt når forordningen er vedtatt, men at regjeringen
allerede nå bør iverksette tiltak for å forberede seg på implementeringen,
som med stor sannsynlighet vil bli nødvendig.
Disse medlemmer er
opptatt av at menneskene setter rammene for teknologiutviklingen,
ikke omvendt. I møte med kunstig intelligens blir behovet for ytterligere
regulering jevnlig nevnt. Disse medlemmer vil
presisere at en rekke misbruk av kunstig intelligens allerede er
velregulert i norsk rett. Et eksempel er diskriminering ved ansettelse,
som er ulovlig uavhengig av om diskrimineringen blir gjort av en
person eller en maskin. Disse medlemmer mener
at det er behov for en digital lovvask, der det kartlegges hvilke
sider av det norske regelverket som kan tolkes og anvendes i møte
med bruk av kunstig intelligens, og hvor det utarbeides lovverk
der det er mangler.
Disse medlemmer mener
at det med økt anvendelse av kunstig intelligens, vil være flere
tilsynsorganer som blir berørt av utviklingen, og som vil trenge økt
kompetanse på teknologiområdet. Det vil spesielt gjelde personvern-,
forbruker- og likestillings- og diskrimineringsområdene. Disse medlemmer mener videre at det i
møte med kunstig intelligens kan forekomme situasjoner som krever
nye former for tilsyn, og at man ikke allerede nå kan forutse utfordringene
som vil komme. Samtidig vil innretningen av et algoritmetilsyn avhenge
av internasjonale prosesser, som EUs AI Act. Disse
medlemmer mener man bør avvente disse prosessene før man konkluderer
på en endelig innretning, som et eget norsk algoritmetilsyn. Disse medlemmer mener videre at vel så
viktig som innretningen, er at de eksisterende tilsynene samarbeider
i møte med utfordringene kunstig intelligens vil gi.
Disse medlemmer mener
erfaring bør hentes fra andre teknologier med både store muligheter
og krevende utfordringer. Kunstig intelligens bringer med seg etiske
problemstillinger i mange anvendelser, enten det er diskriminering
i automatisk beslutningstaking eller hvordan handle i kollisjonssituasjoner
for autonome kjøretøy. I møte med disse etiske problemstillingene,
og med et behov for veiledning om ansvarlig bruk av kunstig intelligens,
mener disse medlemmer det bør opprettes
et rådgivende og frittstående organ for å følge med på utviklingen
av kunstig intelligens, gi råd i prinsipielle og etiske spørsmål
rundt teknologien og veilede om ansvarlig bruk av den. Disse medlemmer mener at når kompetansen
er bygd opp i et slikt organ, kan det på sikt også kunne utvides
til et lovhjemlet algoritmetilsyn, dersom AI Act muliggjør det.
Komiteens medlem
fra Sosialistisk Venstreparti understreker at digitaliseringen
av samfunnet og utviklingen av kunstig intelligens går fort, hvor stadig
nye prosesser automatiseres. Dette medlem peker
på at det gir store muligheter for å effektivisere og bedre en rekke
tilbud og tjenester i samfunnet. På den andre siden byr dette også
på en rekke utfordringer som samfunnet må løse. Det er derfor viktig
å sikre god regulering i tråd med grunnleggende demokratiske verdier. Dette medlem viser til sine merknader
i Innst. 152 S (2023–2024).
Komiteens medlem
fra Venstre viser til at kunstig intelligens (KI) har eksistert
i ulike former i mange år, og den grunnleggende teknologien bak
KI har eksistert senest siden 1960-tallet. Mange tjenester man tar
for gitt i dag, bygger i større eller mindre grad på kunstig intelligens.
Det siste året har imidlertid KI gått fra å være et nyttig verktøy
i bakgrunnen av hverdagen vår til å bli allemannseie i form av såkalt
generativ KI. I desember 2022 tilgjengeliggjorde stiftelsen/selskapet Open
AI KI-en «Chat GPT» for allmennheten, og applikasjonen ble den raskest
voksende i historien. Dette har bidratt til en større offentlig
debatt om bruken av KI i samfunnet.
Dette medlem mener
i likhet med flere høringsinstanser, herunder Norges ingeniør- og
teknologiorganisasjon (NITO) at det ikke lenger hersker tvil om
at maskinlæring vil spille en sentral rolle i framtidens samfunn,
og at teknologien vil ha store konsekvenser for både økonomi og
arbeidsliv.
Dette medlem mener
at en bør legge til grunn en teknologioptimistisk tilnærming, og
ser positivt på at KI vil kunne spille en viktig rolle for å løse
store samfunnsutfordringer i årene som kommer, som energikrisen,
behovet for grønn omstilling, ressursmangel i helsevesenet og håndtering
av eldrebølgen mv. Dette medlem anerkjenner
samtidig behovet for at teknologien reguleres, slik at man unngår
og minimerer eventuelle skadelige effekter, slik som diskriminering,
overvåkning, negative konsekvenser for person- og rettsvern mv.
Dette medlem mener
at debatten omkring kunstig intelligens i Norge kan beskrives som
først euforisk og deretter panisk. Den siste tiden har noen personer
tatt til orde for full stans i videreutvikling av kunstig intelligente
systemer, i påvente av regulering og sikkerhetssystemer. Dette medlem er svært kritisk til et slikt
standpunkt. Det nytter ikke å sette teknologi på pause. Det vil
bare sette Norge tilbake i utviklingen sammenliknet med andre deler
av verden. Dette medlem mener i likhet
med NITO at det er mer hensiktsmessig å finne ut hvordan teknologien
skal reguleres enn å prøve å forby den.
Dette medlem er
videre enig med flere høringsinstanser i at for å sikre trygg, sikker
og pålitelig utvikling av KI, må det reguleres på en måte som svarer
til utfordringene, uten å bremse verdiskapning og positiv utvikling. Dette medlem mener at man må sikre en demokratisk
og positiv utvikling av kunstig intelligens.
Dette medlem mener
at for at man skal sikre en demokratisk og positiv utvikling av
KI, er det svært viktig å utvikle robusthet og styrke kunnskapen
som trengs for å forstå mulighetene og utfordringene med KI for samfunnet.
Det er nødvendig å styrke forskningen på KI og betydningen og påvirkningen
det har på samfunnet. Dette medlem er
bekymret for at for få mennesker i Norge besitter den nødvendige
kompetansen for å utvikle og bruke KI, samt at det i dag forskes
for lite på det. Dette medlem vil understreke
viktigheten av at reguleringen må skje med aktiv involvering av
fagekspertise. For å sikre at teknologien kan tas i bruk på en ansvarlig
og nyskapende måte, er det nødvendig med mer forskning og flere
studieplasser.
Komiteens medlemmer
fra Sosialistisk Venstreparti og Venstre viser til at EU er
i gang med en prosess hvor det kommer flere KI-tiltak, Artificial
Intelligence Act (AIA). Disse medlemmer understreker
viktigheten av at Norge er klar til å implementere EUs KI-forordning
så fort som mulig, samtidig som Norge har muligheten til å gå lenger
enn EU for å sikre en ansvarlig utvikling. Disse
medlemmer mener i likhet med flere høringsinstanser, herunder
Microsoft, at det er nødvendig med internasjonalt samarbeid mellom
land som deler felles verdier og interesser for å sikre at KI blir
brukt på en måte som fremmer menneskerettigheter, bærekraft og innovasjon.
Disse medlemmer er
videre enig med flere høringsinstanser i at nøkkelen for å sikre
trygg, sikker og pålitelig utvikling av KI, ligger i å påvirke og
delta.
Disse medlemmer viser
til at Norge har et bredt sett med rettsregler og prinsipper for
hvilke hensyn offentlig sektor skal ivareta, og hvordan privat sektor
får utfolde seg. Disse reglene vil også få anvendelse på kunstig
intelligens. Disse medlemmer viser til
at deler av allerede eksisterende lovverk vil gjøre seg gjeldende
på KI, eksempelvis diskriminering- og personvernregelverket. Disse medlemmer vil derfor understreke
viktigheten av å undersøke hvordan relevant lovverk skal brukes
for KI-arkitekturen. Der det kan tenkes å være behov for å utvikle
nye regler, eller hvor gjeldende regler trenger utdypning eller
presisering, bør dette identifiseres og utarbeides så raskt som
mulig. Disse medlemmer er enig med Microsoft
i at det haster å sikre sikkerhetsmekanismer inn mot KI-systemer
som styrer samfunnskritisk infrastruktur.
Disse medlemmer vil
berømme Likestillings- og diskrimineringsombudet, som har lansert
en veileder om hvordan utviklerteam kan vurdere risiko for diskriminering
i KI-systemer. Formålet med veilederen er at de ansvarlige for utvikling,
anskaffelse og bruk av maskinlæringssystemer skal gjøres kjent med
diskrimineringsregelverket, og at de skal kunne forebygge diskriminering
ved å vurdere diskrimineringsrisikoen teknologien kan medføre.
Disse medlemmer fremmer
følgende forslag:
«Stortinget ber regjeringen så raskt
som mulig legge fram en plan for forsterkning av forskning på kunstig
intelligens og betydningen av bruken av kunstig intelligens i samfunnet,
som ledd i oppfølgingen av langtidsplanen for forskning og høyere
utdanning.»
«Stortinget ber regjeringen forberede
implementering av Den europeiske unions Artificial Intelligence Act,
med mål om at denne kan tre i kraft i Norge samtidig som den trer
i kraft i EU.»
Komiteens medlem
fra Venstre fremmer følgende forslag:
«Stortinget ber regjeringen skalere
opp antall studieplasser innenfor utdanningsområder som er viktige for
å forstå og anvende kunstig intelligens, eksempelvis STEM-fag, juss,
filosofi og etikk.»
«Stortinget ber regjeringen igangsette
et arbeid for å undersøke hvordan relevante sider av det norske
regelverket skal tolkes og anvendes i lys av bruk av kunstig intelligens,
herunder blant annet åndsverksreglene, straffeprosessreglene, konkurranseretten
og forvaltningsregelverk.»
«Stortinget ber regjeringen etablere
et eget algoritmetilsyn.»