Komiteen, medlemmene fra Arbeiderpartiet, Odd Harald Hovland, Hadia Tajik, og Maria Aasen-Svensrud, fra Høyre, Ingunn Foss og Sveinung Stensland, fra Senterpartiet, Ivar B. Prestbakmo og Else Marie Rødby, fra Fremskrittspartiet, lederen Per-Willy Amundsen og Tor André Johnsen, fra Sosialistisk Venstreparti, Andreas Sjalg Unneland, og fra Venstre, Ingvild Wetrhus Thorsvik, viser til representantforslaget og til vurdering av forslaget i brev fra statsråd Karianne O. Tung av 25. oktober 2023. Brevet følger vedlagt denne innstillingen.

Komiteen viser til at Kunstig intelligens (KI) har eksistert i ulike former i mange år, og den grunnleggende teknologien bak KI har eksistert helt siden 1960-tallet.

Komiteen påpeker at det er utviklet en rekke regelverk for KI innenfor ulike bruksområder i Norge, samtidig som det er positivt at det nå kommer en egen EU-forordning for KI, som vil sette noen overordnede standarder og regulere ny teknologi på en måte som setter samfunnets og individenes interesser i sentrum. Dette vil være et nyttig supplement til den reguleringen landet allerede har og som vil være under utvikling fremover.

Komiteen viser til at regjeringen Støre har startet arbeidet med en ny, helhetlig digitaliseringsstrategi for Norge. Målet vil være en sterkere samordning og utvikling av en helhetlig politikk som går på tvers av offentlig og privat sektor. Som en del av dette arbeidet vil de også se på hvordan man skal regulere, utvikle og bruke kunstig intelligens. Strategien skal etter planen være klar i 2024.

Komiteens medlemmer fra Arbeiderpartiet og Senterpartiet trekker frem at regjeringen i Prop. 1 S (2023–2024) for Kunnskapsdepartementet har foreslått en forsknings- og innovasjonssatsing på blant annet kunstig intelligens. Regjeringen foreslår der minst 1 mrd. kroner over 5 år til en satsing på fremtidens databehandling – kunstig intelligens, digital sikkerhet og samfunnskonsekvenser av teknologiutviklingen. Satsingen, som skal skje i regi av Norges forskningsråd, har tre hovedspor:

• 1. Forskning på konsekvenser av kunstig intelligens og andre digitale teknologier for individ og samfunn.

• 2. Forskning på digitale teknologier som kunstig intelligens, digital sikkerhet, neste generasjons IKT, nye sensorer og kvanteteknologi.

• 3. Forskning på hvordan digitale teknologier kan brukes til innovasjon i næringslivet og offentlig sektor, og hvordan kunstig intelligens brukes i forskningen på mange ulike fagområder.

Disse medlemmer er enige i intensjonen til forslagsstillerne om at det er viktig å ha god utdanning og forskning innen anvendt kunstig intelligens på flere områder. Disse medlemmer fremhever likevel at lov om universiteter og høyskoler sikrer høyere utdanningsinstitusjoner faglig frihet og ansvar for læreinnholdet i den enkelte utdanning. Gjennom rammefinansiering og styring legges det i stor grad vekt på den enkelte institusjons ansvar for å bestemme sammensetning av studietilbudet. De overordnede målene for dimensjonering av høyere utdanning er å møte arbeidslivets behov for kvalifisert arbeidskraft og studentenes etterspørsel etter utdanning.

Disse medlemmer fremhever at utdanningstilbudet innen kunstig intelligens øker i Norge, selv om det er noe mindre enn i øvrige nordiske land, jf. Meld. St. 14 (2022–2023) Utsyn over kompetansebehovet i Norge (utsynsmeldingen). Utdanningstilbud innen kunstig intelligens er mest utbredt innenfor teknologiske fag, men har også begynt å spre seg til andre fagfelt, og særlig til økonomisk administrative fag. Statistikken bekrefter at utdanningskapasitet og innhold vris mot nye teknologier, både i teknologifag og innenfor andre fagfelt. I utsynsmeldingen uttrykker regjeringen at den forventer at universiteter og høyskoler i dimensjoneringen prioriterer helsefag, IT og områder som er særlig viktige for det grønne skiftet.

Disse medlemmer viser til at regjeringen i budsjettforslaget for 2024 nettopp foreslår 100 nye studieplasser i IKT som skal fordeles på sju institusjoner (NTNU, UiO, OsloMet, UiA, UiB, HVL og HiØ). Flere av disse institusjonene har dedikerte fagmiljøer som jobber med kunstig intelligens og tilbyr utdanning i kunstig intelligens. Flere av disse institusjonene er også tilknyttet Norwegian Artificial Intelligence Research Consortium (NORA) som er en norsk sammenslutning av universiteter, høyskoler og forskningsinstitutter som samarbeider om kunstig intelligens.

Komiteens flertall, medlemmene fra Arbeiderpartiet, Senterpartiet og Fremskrittspartiet, peker på at EUs kommende forordning om kunstig intelligens trolig vil vedtas i EU i løpet av året eller i begynnelsen av 2024, og vil stille krav til KI-systemer før de plasseres på markedet, i tillegg til å gi enkelte regler for bruk av systemene. Forordningen legger en risikobasert tilnærming til grunn for regulering av kunstig intelligens. Etter at forslaget er vedtatt, ligger det an til at reglene får virkning fra to eller tre år etter vedtakelse. I perioden fra vedtakelse til forordningen gis virkning, skal medlemsstatene gjøre de nødvendige forberedelsene nasjonalt, som å etablere en egnet forvaltningsstruktur.

Flertallet viser til at regjeringen allerede har nedsatt en arbeidsgruppe som skal utarbeide en plan for rettidig innlemmelse og god gjennomføring av EUs forordning etter at den er vedtatt. Målet med arbeidet er å sikre at forordningen skal kunne tre i kraft i Norge samtidig som den trer i kraft i EU. Arbeidsgruppen ledes av Justis- og beredskapsdepartementet og består ellers av medlemmer fra Kommunal- og distriktsdepartementet, Kunnskapsdepartementet, Kultur- og likestillingsdepartementet, Finansdepartementet og Utenriksdepartementet. Gruppen leverte sine anbefalinger til videre oppfølging til regjeringen i november 2023.

Flertallet viser til at arbeidsgruppen som skal legge en plan for gjennomføring av EUs kommende forordning om kunstig intelligens, også har fått i oppgave å vurdere nasjonale reguleringsbehov. Dette vil bli omtalt i gruppens rapport. Samtidig har Norge en rekke gode, teknologinøytrale regelverk, og disse gjelder også for kunstig intelligens. Det gjelder for eksempel lov om likestilling og forbud mot diskriminering, forvaltningsloven og ikke minst personopplysningsloven. Flertallet forstår likevel at mange virksomheter som vurderer å utvikle eller ta i bruk kunstig intelligens, kan synes det er krevende å vurdere hvordan de skal tolke og bruke disse regelverkene.

Flertallet fremhever derfor at Digitaliseringsdirektoratet allerede har fått i oppdrag å utvikle god, brukerrettet veiledning i utvikling og bruk av kunstig intelligens. Denne veiledningen er tilgjengelig på direktoratets hjemmesider. For personvernområdet har Datatilsynets regulatoriske sandkasse en viktig funksjon, både i å gi råd og veiledning til de prosjektene som deltar i sandkassen, men ikke minst ved å gjøre vurderingene fra de ulike prosjektene tilgjengelig. Datatilsynet og Digitaliseringsdirektoratet har et godt samarbeid for å sikre at erfaringene fra sandkassen også reflekteres i Digitaliseringsdirektoratets veiledning.

Flertallet viser til at det på mer overordnet nivå gjøres vurderinger av hvordan man skal tolke og bruke eksisterende regelverk i en kontekst med kunstig intelligens fortløpende i departementene og sektorene med ansvar for de respektive lovene. Spørsmål som gjelder tolkning av eksisterende lovbestemmelser må i utgangspunktet finne sin løsning på vanlig måte, ved anvendelse av rettskildeprinsippene og eventuelt avklaring i domstolene. Noen ganger kan uklarheten være så stor at det er ønskelig med presisering gjennom lovarbeid. Andre steder igjen kan en oppdage hull i lovgivningen eller nye spørsmål som bør reguleres. Flertallet fremhever at dette arbeidet er regjeringen i gang med.

Komiteens medlemmer fra Høyre og Fremskrittspartiet mener utviklingen i kunstig intelligens bringer med seg et stort verdiskapingspotensial, som kan gi bedre tjenester i offentlig sektor og et mer effektivt næringsliv. Teknologien byr også på utfordringer, som at man må bli mer kritisk til det man ser, hører og leser.

Disse medlemmer mener det bør settes tydelige rammer for kunstig intelligens for å forhindre misbruk, og vil presisere at menneskene skal sette rammene for teknologiutviklingen, ikke omvendt. Det fordrer både utvikling og bruk av kunstig intelligens under ansvarlige prinsipper.

Disse medlemmer viser til regjeringen Støres forslag til bevilgning til forskningsmidler på kunstig intelligens og digital trygghet. Disse medlemmer er fornøyde med initiativet fra regjeringen, og mener midlene og hovedsporene som skisseres gir en viktig forsterkning av forskning på kunstig intelligens. Disse medlemmer vil samtidig presisere at det er viktig at satsingen ikke går på bekostning av annen forskning med stor verdi for samfunnet. Avstanden fra grunnforskning til anvendelse blir stadig kortere innen kunstig intelligens, derfor mener disse medlemmer videre at det i forskning på kunstig intelligens både må fokuseres på anvendt forskning som løser dagens utfordringer, og på grunnforskning innenfor kunstig intelligens som kan bidra å løse morgendagens utfordringer.

Disse medlemmer er bekymret for etterslepet i kompetansebehovet innenfor digitale teknologier. Samfunnsøkonomisk analyse konkluderte i 2021 at det var behov for 40 000 flere sysselsatte med IKT-utdanning i 2030. Disse medlemmer mener Norge er avhengig av å utdanne de skarpeste utviklerne og forskerne på kunstig intelligens om landet skal lykkes med teknologien. Derfor er det viktig at regjeringen sørger for nødvendig kompetanse innenfor kunstig intelligens og andre teknologier, ved å stimulere og støtte utdanningsinstitusjonene til å møte det store behovet for digital og teknisk kompetanse.

Disse medlemmer mener at flere spesialister innenfor kunstig intelligens ikke er nok. Når algoritmer utgjør en stadig større del av samfunnet, vil flere ha behov for en grunnleggende forståelse av teknologien. Spisskompetanse i utviklingen av teknologien er viktig, men disse medlemmer mener også at kompetanse i møte med økt bruk av kunstig intelligens er essensielt. Disse medlemmer mener derfor at det i større grad bør åpnes for at ikke-tekniske studier, som juridiske fag og helsefag, generelt får tekniske emner integrert i studieløpet, og spesielt at kunstig intelligens integreres i flere utdanninger, i tråd med vedtak 582 (2022–2023) fra behandlingen av Dokument 8:73 S (2022–2023), jf. Innst. 238 S (2022–2023).

Disse medlemmer mener forslagsstillerne løfter viktige og riktige tilnærminger i bakgrunnen for representantforslaget, der det pekes på behovet for samarbeid på tvers av landegrensene i Europa i møte med teknologi som kunstig intelligens. Disse medlemmer mener kunstig intelligens ikke bør reguleres i et nasjonalt vakuum, men bør ses i en internasjonal sammenheng. Derfor bør prosessene i EU følges tett, og dersom forordningen om kunstig intelligens, AI Act, som ventet anses EØS-relevant, bør Norge effektivt implementere forordningen i norsk rett og sikre at den trer i kraft om lag samtidig som den trer i kraft i EU. Disse medlemmer mener arbeidet må være effektivt når forordningen er vedtatt, men at regjeringen allerede nå bør iverksette tiltak for å forberede seg på implementeringen, som med stor sannsynlighet vil bli nødvendig.

Disse medlemmer er opptatt av at menneskene setter rammene for teknologiutviklingen, ikke omvendt. I møte med kunstig intelligens blir behovet for ytterligere regulering jevnlig nevnt. Disse medlemmer vil presisere at en rekke misbruk av kunstig intelligens allerede er velregulert i norsk rett. Et eksempel er diskriminering ved ansettelse, som er ulovlig uavhengig av om diskrimineringen blir gjort av en person eller en maskin. Disse medlemmer mener at det er behov for en digital lovvask, der det kartlegges hvilke sider av det norske regelverket som kan tolkes og anvendes i møte med bruk av kunstig intelligens, og hvor det utarbeides lovverk der det er mangler.

Disse medlemmer mener at det med økt anvendelse av kunstig intelligens, vil være flere tilsynsorganer som blir berørt av utviklingen, og som vil trenge økt kompetanse på teknologiområdet. Det vil spesielt gjelde personvern-, forbruker- og likestillings- og diskrimineringsområdene. Disse medlemmer mener videre at det i møte med kunstig intelligens kan forekomme situasjoner som krever nye former for tilsyn, og at man ikke allerede nå kan forutse utfordringene som vil komme. Samtidig vil innretningen av et algoritmetilsyn avhenge av internasjonale prosesser, som EUs AI Act. Disse medlemmer mener man bør avvente disse prosessene før man konkluderer på en endelig innretning, som et eget norsk algoritmetilsyn. Disse medlemmer mener videre at vel så viktig som innretningen, er at de eksisterende tilsynene samarbeider i møte med utfordringene kunstig intelligens vil gi.

Disse medlemmer mener erfaring bør hentes fra andre teknologier med både store muligheter og krevende utfordringer. Kunstig intelligens bringer med seg etiske problemstillinger i mange anvendelser, enten det er diskriminering i automatisk beslutningstaking eller hvordan handle i kollisjonssituasjoner for autonome kjøretøy. I møte med disse etiske problemstillingene, og med et behov for veiledning om ansvarlig bruk av kunstig intelligens, mener disse medlemmer det bør opprettes et rådgivende og frittstående organ for å følge med på utviklingen av kunstig intelligens, gi råd i prinsipielle og etiske spørsmål rundt teknologien og veilede om ansvarlig bruk av den. Disse medlemmer mener at når kompetansen er bygd opp i et slikt organ, kan det på sikt også kunne utvides til et lovhjemlet algoritmetilsyn, dersom AI Act muliggjør det.

Komiteens medlem fra Sosialistisk Venstreparti understreker at digitaliseringen av samfunnet og utviklingen av kunstig intelligens går fort, hvor stadig nye prosesser automatiseres. Dette medlem peker på at det gir store muligheter for å effektivisere og bedre en rekke tilbud og tjenester i samfunnet. På den andre siden byr dette også på en rekke utfordringer som samfunnet må løse. Det er derfor viktig å sikre god regulering i tråd med grunnleggende demokratiske verdier. Dette medlem viser til sine merknader i Innst. 152 S (2023–2024).

Komiteens medlem fra Venstre viser til at kunstig intelligens (KI) har eksistert i ulike former i mange år, og den grunnleggende teknologien bak KI har eksistert senest siden 1960-tallet. Mange tjenester man tar for gitt i dag, bygger i større eller mindre grad på kunstig intelligens. Det siste året har imidlertid KI gått fra å være et nyttig verktøy i bakgrunnen av hverdagen vår til å bli allemannseie i form av såkalt generativ KI. I desember 2022 tilgjengeliggjorde stiftelsen/selskapet Open AI KI-en «Chat GPT» for allmennheten, og applikasjonen ble den raskest voksende i historien. Dette har bidratt til en større offentlig debatt om bruken av KI i samfunnet.

Dette medlem mener i likhet med flere høringsinstanser, herunder Norges ingeniør- og teknologiorganisasjon (NITO) at det ikke lenger hersker tvil om at maskinlæring vil spille en sentral rolle i framtidens samfunn, og at teknologien vil ha store konsekvenser for både økonomi og arbeidsliv.

Dette medlem mener at en bør legge til grunn en teknologioptimistisk tilnærming, og ser positivt på at KI vil kunne spille en viktig rolle for å løse store samfunnsutfordringer i årene som kommer, som energikrisen, behovet for grønn omstilling, ressursmangel i helsevesenet og håndtering av eldrebølgen mv. Dette medlem anerkjenner samtidig behovet for at teknologien reguleres, slik at man unngår og minimerer eventuelle skadelige effekter, slik som diskriminering, overvåkning, negative konsekvenser for person- og rettsvern mv.

Dette medlem mener at debatten omkring kunstig intelligens i Norge kan beskrives som først euforisk og deretter panisk. Den siste tiden har noen personer tatt til orde for full stans i videreutvikling av kunstig intelligente systemer, i påvente av regulering og sikkerhetssystemer. Dette medlem er svært kritisk til et slikt standpunkt. Det nytter ikke å sette teknologi på pause. Det vil bare sette Norge tilbake i utviklingen sammenliknet med andre deler av verden. Dette medlem mener i likhet med NITO at det er mer hensiktsmessig å finne ut hvordan teknologien skal reguleres enn å prøve å forby den.

Dette medlem er videre enig med flere høringsinstanser i at for å sikre trygg, sikker og pålitelig utvikling av KI, må det reguleres på en måte som svarer til utfordringene, uten å bremse verdiskapning og positiv utvikling. Dette medlem mener at man må sikre en demokratisk og positiv utvikling av kunstig intelligens.

Dette medlem mener at for at man skal sikre en demokratisk og positiv utvikling av KI, er det svært viktig å utvikle robusthet og styrke kunnskapen som trengs for å forstå mulighetene og utfordringene med KI for samfunnet. Det er nødvendig å styrke forskningen på KI og betydningen og påvirkningen det har på samfunnet. Dette medlem er bekymret for at for få mennesker i Norge besitter den nødvendige kompetansen for å utvikle og bruke KI, samt at det i dag forskes for lite på det. Dette medlem vil understreke viktigheten av at reguleringen må skje med aktiv involvering av fagekspertise. For å sikre at teknologien kan tas i bruk på en ansvarlig og nyskapende måte, er det nødvendig med mer forskning og flere studieplasser.

Komiteens medlemmer fra Sosialistisk Venstreparti og Venstre viser til at EU er i gang med en prosess hvor det kommer flere KI-tiltak, Artificial Intelligence Act (AIA). Disse medlemmer understreker viktigheten av at Norge er klar til å implementere EUs KI-forordning så fort som mulig, samtidig som Norge har muligheten til å gå lenger enn EU for å sikre en ansvarlig utvikling. Disse medlemmer mener i likhet med flere høringsinstanser, herunder Microsoft, at det er nødvendig med internasjonalt samarbeid mellom land som deler felles verdier og interesser for å sikre at KI blir brukt på en måte som fremmer menneskerettigheter, bærekraft og innovasjon.

Disse medlemmer er videre enig med flere høringsinstanser i at nøkkelen for å sikre trygg, sikker og pålitelig utvikling av KI, ligger i å påvirke og delta.

Disse medlemmer viser til at Norge har et bredt sett med rettsregler og prinsipper for hvilke hensyn offentlig sektor skal ivareta, og hvordan privat sektor får utfolde seg. Disse reglene vil også få anvendelse på kunstig intelligens. Disse medlemmer viser til at deler av allerede eksisterende lovverk vil gjøre seg gjeldende på KI, eksempelvis diskriminering- og personvernregelverket. Disse medlemmer vil derfor understreke viktigheten av å undersøke hvordan relevant lovverk skal brukes for KI-arkitekturen. Der det kan tenkes å være behov for å utvikle nye regler, eller hvor gjeldende regler trenger utdypning eller presisering, bør dette identifiseres og utarbeides så raskt som mulig. Disse medlemmer er enig med Microsoft i at det haster å sikre sikkerhetsmekanismer inn mot KI-systemer som styrer samfunnskritisk infrastruktur.

Disse medlemmer vil berømme Likestillings- og diskrimineringsombudet, som har lansert en veileder om hvordan utviklerteam kan vurdere risiko for diskriminering i KI-systemer. Formålet med veilederen er at de ansvarlige for utvikling, anskaffelse og bruk av maskinlæringssystemer skal gjøres kjent med diskrimineringsregelverket, og at de skal kunne forebygge diskriminering ved å vurdere diskrimineringsrisikoen teknologien kan medføre.

Disse medlemmer fremmer følgende forslag:

«Stortinget ber regjeringen så raskt som mulig legge fram en plan for forsterkning av forskning på kunstig intelligens og betydningen av bruken av kunstig intelligens i samfunnet, som ledd i oppfølgingen av langtidsplanen for forskning og høyere utdanning.»

«Stortinget ber regjeringen forberede implementering av Den europeiske unions Artificial Intelligence Act, med mål om at denne kan tre i kraft i Norge samtidig som den trer i kraft i EU.»

Komiteens medlem fra Venstre fremmer følgende forslag:

«Stortinget ber regjeringen skalere opp antall studieplasser innenfor utdanningsområder som er viktige for å forstå og anvende kunstig intelligens, eksempelvis STEM-fag, juss, filosofi og etikk.»

«Stortinget ber regjeringen igangsette et arbeid for å undersøke hvordan relevante sider av det norske regelverket skal tolkes og anvendes i lys av bruk av kunstig intelligens, herunder blant annet åndsverksreglene, straffeprosessreglene, konkurranseretten og forvaltningsregelverk.»

«Stortinget ber regjeringen etablere et eget algoritmetilsyn.»