Innstilling fra kommunal- og forvaltningskomiteen om representantforslag om Norges neste steg for kunstig intelligens

Dette dokument

Søk
Til Stortinget

Bakgrunn

I dokumentet fremmes følgende forslag:

  • «1. Stortinget ber regjeringen gjennomføre en digital lovvask, der det kartlegges hvilke deler av lovverket som er utydelige i møte med ny teknologi som kunstig intelligens. Kartleggingen bør ha særlig fokus på åpenhet og innsyn, rettssikkerhet, personvern og forbrukerrettigheter. Resultatet fra kartleggingen skal gjøres kjent for Stortinget.

  • 2. Stortinget ber regjeringen utrede godkjenningsmetoder for systemer med kunstig intelligens som har potensielt svært alvorlige konsekvenser ved feil i anvendelsen, men som allikevel kan ha særskilt stor samfunnsnytte.

  • 3. Stortinget ber regjeringen tilrettelegge for regulatoriske sandkasser innenfor digitale teknologier som kunstig intelligens og opprette en egen regulatorisk sandkasse for helseteknologi.

  • 4. Stortinget ber regjeringen etablere arenaer der næringslivet selv får anledning til å komme med råd og anbefalinger om å utnytte data internt i industrier og dele på tvers av dem.

  • 5. Stortinget ber regjeringen vurdere hvor egnet EUs Artificial Intelligence Act er for å ivareta norske interesser, hvilke utfordringer som vil møtes ved implementeringen av forordningen dersom den anses EØS-relevant, og hvordan Norge raskest mulig kan innføre forordningen når den er vedtatt.

  • 6. Stortinget ber regjeringen jobbe tett med EU slik at Norges interesser ivaretas best mulig i utformingen av standardisering for høyrisikosystemer med kunstig intelligens etter definisjonen til EU.

  • 7. Stortinget ber regjeringen fremlegge en strategi for å sikre at Norge får mest mulig igjen for deltakelsen i Digital Europe, og opprette en medfinansieringsordning for norsk deltakelse i programmet.

  • 8. Stortinget ber regjeringen utarbeide en NOU om konsekvensene generativ kunstig intelligens har for kunst-, kultur- og mediefeltet, og mulige tiltak i møte med konsekvensene.

  • 9. Stortinget ber regjeringen komme tilbake til Stortinget med tiltak for å sikre tilstrekkelig samarbeid mellom tilsynsorganer i møte med kunstig intelligens.

  • 10. Stortinget ber regjeringen opprette et råd for kunstig intelligens som skal være et rådgivende og frittstående organ for å følge med på utviklingen av kunstig intelligens, gi råd i prinsipielle spørsmål rundt teknologien og veilede om ansvarlig bruk av den.

  • 11. Stortinget ber regjeringen utarbeide nasjonale retningslinjer for bruk av kunstig intelligens i skolen, som sikrer læringsgevinster, konstruktiv og kritisk bruk av teknologien og et tydelig skille mellom når kunstig intelligens kan og ikke kan brukes i undervisningen.

  • 12. Stortinget ber regjeringen sørge for tilstrekkelig bredde- og spisskompetanse innenfor digitale teknologier som kunstig intelligens i møte med kommende kompetansebehov.

  • 13. Stortinget ber regjeringen styrke etter- og videreutdanningen og mulighetene for kompetanseheving innenfor utvikling og bruk av kunstig intelligens.

  • 14. Stortinget ber regjeringen igangsette et arbeid med å styrke kompetanseverifiseringen for realkompetanse og mikrosertifisering.

  • 15. Stortinget ber regjeringen gjennomføre en ringvirkningsanalyse for datasenterindustrien og dens effekter på verdiskaping, bærekraft og grønn omstilling i tradisjonell industri.

  • 16. Stortinget ber regjeringen ta initiativ til et nordisk toppmøte om kunstig intelligens.

  • 17. Stortinget ber regjeringen løfte samarbeid om nordiskspråklige modeller for generativ kunstig intelligens i Nordisk ministerråd.

  • 18. Stortinget ber regjeringen komme tilbake til Stortinget med forslag til lovendringer som forbyr samarbeid med utenlandsk etterretning i påvirkningsoperasjoner.

  • 19. Stortinget ber regjeringen sikre at sikkerhetsmyndigheter tilgjengeliggjør cybersikkerhetsopplæring til små og mellomstore virksomheter.

  • 20. Stortinget ber regjeringen utrede felleskommunale innkjøpsordninger for avanserte digitale teknologier som kunstig intelligens, etter modell av Danmarks KOMBIT.»

Det vises til dokumentet for nærmere redegjørelse for forslagene.

Komiteens behandling

Komiteen har i brev av 5. desember 2023 til Kommunal- og distriktsdepartementet ved statsråd Karianne O. Tung bedt om en vurdering av forslaget. Statsrådens uttalelse følger av vedlagte brev av 12. januar 2024 fra Digitaliserings- og forvaltningsdepartementet. Komiteen har invitert til og mottatt skriftlige høringsinnspill i saken.

Merknader fra komiteen

Komiteen, medlemmene fra Arbeiderpartiet, Rune Støstad, Siri Gåsemyr Staalesen, Terje Sørvik og lederen Lene Vågslid, fra Høyre, Mudassar Kapur, Anne Kristine Linnestad og Mari Holm Lønseth, fra Senterpartiet, Heidi Greni og Kathrine Kleveland, fra Fremskrittspartiet, Helge André Njåstad og Erlend Wiborg, fra Sosialistisk Venstreparti, Birgit Oline Kjerstad, og fra Rødt, Tobias Drevland Lund, viser til Representantforslag 46 S (2023–2024) fra stortingsrepresentantene Linda Hofstad Helleland, Nikolai Astrup, Anne Kristine Linnestad, Margret Hagerup, Sveinung Stensland og Svein Harberg om Norges neste steg for kunstig intelligens. Representantene legger frem 20 forslag på området.

Komiteen viser til svarbrev fra statsråd Karianne O. Tung av 12. januar 2024. Komiteen har mottatt skriftlige innspill i saken.

Komiteens flertall, medlemmene fra Arbeiderpartiet, Senterpartiet og Sosialistisk Venstreparti, viser til at utviklingen innen kunstig intelligens (KI) åpner opp store muligheter for innovasjon og utvikling av bedre produkter og tjenester i både næringsliv og offentlig sektor. Norske bedrifter som tar i bruk KI, vil kunne få konkurransefortrinn, og offentlig sektor vil kunne benytte teknologien til å redusere konsulentbruk og administrasjon. Bruk av KI i offentlig sektor kan også gi muligheter til å flytte menneskelig arbeidskraft til førstelinjen innen helse, omsorg, skole og forsvar – områder vi vet vil ha et stort behov for arbeidskraft fremover.

Et annet flertall, komiteens medlemmer fra Arbeiderpartiet, Senterpartiet, Sosialistisk Venstreparti og Rødt, viser samtidig til at risikoen knyttet til misbruk av teknologien er stor, og at dette kan utfordre grunnleggende rettigheter og samfunnsverdier som rettssikkerhet, demokrati, helse, miljø og sikkerhet. Ukontrollert bruk av KI-teknologien kan føre til diskriminering og til brudd på personvernet og åndsverksloven. Ytrings- og pressefriheten kan utfordres ved at KI enkelt kan produsere meningsbærende innhold.

Dette flertallet viser til at innføring av KI også vil bety store omstillinger for arbeidslivet. Nye jobber vil oppstå, andre vil endres og mange vil forsvinne. Den enkeltes forutsetninger for å delta i og dra nytte av utviklingen vil også variere mye. Dette flertallet understreker at det blir viktig å sikre arbeidstakere reell innflytelse og nødvendig kompetanseløft når ny teknologi innføres og prosesser endres.

Komiteens flertall, medlemmene fra Arbeiderpartiet, Senterpartiet og Sosialistisk Venstreparti, mener representantforslaget fra Høyre løfter flere viktige problemstillinger rundt KI. Det er bra at det er et stort engasjement på tvers av partiene for å legge til rette for å utnytte de store mulighetene KI representerer, samtidig som samfunnet beskyttes mot potensielle trusler.

Komiteens medlemmer fra Arbeiderpartiet og Senterpartiet viser til svarbrev fra digitaliserings- og forvaltningsministeren av 12. januar 2024, hvor det fremkommer at forslagene i saken allerede er godt ivaretatt gjennom regjeringens pågående arbeid. Disse medlemmer deler statsrådens vurderinger, og vil ikke støtte forslagene som er fremmet i saken, siden dette er forslag som allerede er ivaretatt eller blir vurdert i regjeringens arbeid med ny digitaliseringsstrategi.

Komiteens medlemmer fra Høyre, Sosialistisk Venstreparti og Rødt viser til at kunstig intelligens har vært et begrep i datateknikken siden 1950-tallet. Kunstig intelligens ble i starten brukt til automatisering av repetitive oppgaver, men de senere årene har det utviklet seg til å bistå i mer komplekse og kreative oppgaver. Disse medlemmer viser til at høsten 2022 ble kunstig intelligens for alvor synliggjort for allmennheten gjennom den store språkmodellen ChatGPT, som gjorde det enkelt å interagere med et KI-system. Gjennombruddet skjedde innenfor generativ kunstig intelligens, som er maskinlæringssystemer som trenes til å generere innhold som tekst, bilder, video og lyd.

Komiteens medlemmer fra Høyre viser til at Solberg-regjeringen la fram Norges første strategi for kunstig intelligens i 2020. Utviklingen innenfor kunstig intelligens har vært stor siden den gang, spesielt det siste året, og det er behov for at politikkutviklingen følger samme tempo. Disse medlemmer mener at kunstig intelligens gir samfunnet muligheter som man tidligere ikke har hatt, men også utfordringer som det må utvikles fremtidsrettet og teknologioptimistisk politikk for å møte. Disse medlemmer mener at kunstig intelligens kan gi offentlig sektor og privat næringsliv handlingsrom til å utvikle bedre og mer effektive tjenester.

Komiteens medlemmer fra Høyre, Sosialistisk Venstreparti og Rødt viser til at det har blitt et tydeligere skille mellom grunnmodeller og spesialiserte modeller innenfor språkmodeller, noe som gir en tydeligere verdikjede for maskinlæring. Disse medlemmer viser til at en grunnmodell lages av en aktør, for så å spesialiseres av en annen, og leveres til sluttbrukere i et produkt av en siste aktør. Disse medlemmer mener at dette gir opphav til problemstillinger som hvem som står til ansvar ved skadelig oppførsel fra KI-systemet. I mange anvendelser kan det løses i verdikjeden selv, men hvis konsekvensen er stor, kan etterfølgende ledd i verdikjeden ønske å ikke bære ansvaret, noe som gjør at det første leddet sitter igjen med hele ansvaret. Disse medlemmer mener at dette kan motvirke innovasjon, også i situasjoner der mulig samfunnsverdi kan gjøre risikoen verdt det. Disse medlemmer viser til at lignende problemstillinger kan oppstå i for eksempel legemiddelutvikling. For legemidler gjennomføres det grundige kartlegginger av bivirkninger og frekvensen av disse før de når markedet. Gitt at et nytt legemiddel er godkjent, er ansvaret begrenset. Bivirkningene kan være ubehagelige og vesentlige, men samfunnsnytten fra legemiddelet kan gjøre risikoen verdt det allikevel. Disse medlemmer mener at for høyrisiko bruk av kunstig intelligens kan en lignende modell være hensiktsmessig, der modeller med svært alvorlige konsekvenser i bruksområdet må gjennomgå en initial testing og godkjenning før modellen tilgjengeliggjøres. Disse medlemmer mener at et område dette kan være naturlig, er for autonome kjøretøy.

Disse medlemmer viser til at de store språkmodellene som brukes i Norge i dag, er trent på hovedsakelig engelskspråklig materiale. Disse medlemmer viser videre til at dataene som ligger til grunn for læringen av disse modellene, derfor har andre kulturelle forutsetninger enn hvis de hadde blitt trent på en større andel norsk og nordisk materiale. Disse medlemmer viser til at det finnes initiativ innenfor akademia og næringslivet til en norsk språkmodell. I 2023 opprettet Nordisk råd en arbeidsgruppe for hvordan kunstig intelligens påvirker demokratiet. Sett i lys av dette arbeidet mener disse medlemmer at Norge bør løfte det nordiske samarbeidet ytterligere og sikre mer robusthet i modellene og bevaring av den fellesnordiske kulturarven.

Disse medlemmer viser til at de aller fleste KI-systemene er avhengige av data. Disse medlemmer mener at det kan være en utfordring at generativ KI, som i større grad bruker umerket data i form av tekst, kan innhente store mengder data fra kilder som man ikke nødvendigvis har rettigheter til å bruke. Disse medlemmer mener at effekten som generativ KI har på kunst, kultur og mediefeltet er stor, og derfor bør innvirkningene utredes nærmere og behovet for lovendringer på området defineres.

Disse medlemmer viser til at utviklingen av ny teknologi kan føre med seg utfordringer når teknologien skaper nye situasjoner som man tidligere ikke har stått overfor. Disse medlemmer påpeker at det er behov for hjemler, mekanismer og verktøy for å avdekke uønskede eller utilsiktede effekter og unngå at uønskede situasjoner oppstår. Disse medlemmer mener at lovverket bør være så teknologinøytralt som mulig, og sørge for at plikter, rettigheter og samfunnsmessige mål blir ivaretatt uavhengig av hvilke tjenester og teknologier som finnes.

Komiteens medlemmer fra Høyre og Rødt mener at det kan være vanskelig å identifisere disse utfordringene i forkant og mener derfor at det er behov for en digital lovvask, der det kartlegges hvilke deler av lovverket som er utydelige i møte med ny teknologi og KI. Disse medlemmer mener at en kartlegging skal ha særlig fokus på åpenhet og innsyn, rettssikkerhet, personvern og forbrukerrettigheter. Resultatet fra kartleggingen skal gjøres kjent for Stortinget.

Komiteens medlemmer fra Høyre og Sosialistisk Venstreparti viser til at generativ kunstig intelligens muliggjør mer treffende desinformasjon, som kan genereres i et enormt omfang. Disse medlemmer vil vise til at enkelte aktører kan ha interesse av å utføre påvirkningskampanjer mot utøvelsen av det norske demokratiet, og at med generativ kunstig intelligens blir det både enklere og rimeligere å gjennomføre slike kampanjer. Disse medlemmer viser at Solberg-regjeringen i mai 2021 sendte ut et høringsnotat om endringer i straffeloven tilknyttet påvirkningsvirksomhet, og sett i lys av truslene generativ kunstig intelligens utgjør på feltet, mener disse medlemmer at arbeidet for å bekjempe falske nyheter og desinformasjon fra fremmede trusselaktører bør forsterkes.

Komiteens medlem fra Rødt viser til at Stortingets justiskomité for tiden behandler Prop. 42 L (2023–2024), som nettopp tar for seg påvirkningsvirksomhet fra fremmede makter og et lovforslag lik det forslagsstillerne har etterlyst. Dette medlem merker seg at det er kommet svært kritiske høringsinnspill blant annet fra Advokatforeningen, Redaktørforeningen, Journalistlaget og Presseforbundet. Dette medlem viser til presseorganisasjonenes opprinnelige høringsuttalelse til Justisdepartementet, hvor det blant annet heter:

«Vi mener summen av siktede og utilsiktede konsekvenser vil kunne ha en nedkjølende og negativ effekt på ytringsfriheten og kildevernet. Lovutkastet og høringsnotatet inneholder en rekke begreper, som enten er meget uklare, meget vidt definert eller ikke definert overhodet. Dette setter borgerne og journalistene i en helt uakseptabel usikkerhet om hvorvidt deres ytringer og medienes formidling er lovstridige.»

Dette medlem visere videre til presseorganisasjonens høringsuttalelse til Stortinget, og deler deres prinsipale konklusjon:

«Forslaget bør avvises og sendes tilbake til regjeringen, med anmodning om at regjeringen utarbeider et nytt forslag som i større grad hensyntar de innspill tunge faglige instanser har kommet med.»

Komiteens medlemmer fra Høyre, Sosialistisk Venstreparti og Rødt viser til at generativ kunstig intelligens også bidrar til økt risiko for lettere tilgang på skadevare og økt cybertrussel mot norske virksomheter, som omtalt i Kripos’ rapport om generativ KI. Disse medlemmer mener at det derfor blir enda viktigere å sikre at virksomhetene har grunnleggende cybersikkerhet på plass. I en presset kompetansesituasjon kan det være spesielt krevende for mindre virksomheter å vite hva de viktigste tiltakene er. Disse medlemmer mener at Norge har en egeninteresse av at norske virksomheter er trygge, og mener at tilbud til mindre virksomheter som Digital Norways «Hele Norge øver» bør styrkes i samarbeid med sikkerhetsmyndighetene.

Disse medlemmer mener at utviklingen av kunstig intelligens utfordrer samfunnet på nye måter, og at det er avgjørende at menneskene setter rammene for teknologien, ikke omvendt.

Komiteens medlemmer fra Høyre mener at det må etableres et uavhengig organ, inspirert av Bioteknologirådet, for å gi råd når det gjelder spørsmål knyttet til kunstig intelligens. Rådet skal løfte etiske debatter, veilede om ansvarlig bruk og på sikt kunne fungere som et algoritmetilsyn. Disse medlemmer viser til Høyres alternative statsbudsjett for 2024, der det ble foreslått 10 mill. kroner til å opprette et KI-råd. Disse medlemmer mener videre at det vil være naturlig å videreutvikle den etiske og tekniske kompetansen som bygges opp på området, til et lovhjemlet algoritmetilsyn.

Medlemene i komiteen frå Sosialistisk Venstreparti og Raudt viser til at Teknologirådet vart vedteke oppretta ved kongeleg resolusjon 17. november 2000. Vedtektene definerer rådet sitt formål og organisering. I formålsparagrafen heiter det:

«Teknologirådet skal være et uavhengig rådgivende organ for teknologivurdering. Teknologirådet skal arbeide i skjæringspunktet mellom teknologi og samfunn, og bidra til å fremme en menneske - og miljøvennlig teknologiutvikling. Rådet skal ta stilling til teknologiutfordringene og de muligheter som ligger i ny teknologi på alle samfunnsområder, samt fremme en offentlig teknologidebatt og komme med forslag til tiltak.»

Desse medlemene meiner det er unødvendig å opprette eit nytt uavhengig råd, då Teknologirådet allereie eksisterer, og gjer ein god jobb med å forklare og løfte viktige tema ope fram i samfunnsdebatten. I tillegg sørger Teknologirådet for å halde Stortinget løpande orientert om viktige trendar ,og gir konkrete og forståelege råd om det som til kvar tid er viktige tema å ta tak i frå lovgjevar si side. I tillegg fylgjer både Medietilsynet, Forbrukarrådet, Datatilsynet og Likestillings- og diskrimineringsombodet utviklinga av kunstig intelligens og gir råd på sine respektive område.

Komiteens medlemmer fra Høyre viser til at regulatoriske sandkasser fungerer bra for å teste ut nye teknologiske løsninger i trygge og kontrollerte omgivelser. Det brukes i dag innenfor for eksempel finanstjenester, personvern og for nye digitale verktøy for automatisert arkivering. Disse medlemmer mener at det må tilrettelegges for regulatoriske sandkasser innenfor digitale teknologier som KI, og at det må opprettes en egen regulatorisk sandkasse for helseteknologi.

Disse medlemmer viser til at EUs forordning om europeisk regelverk for kunstig intelligens, kalt AI Act, har som mål å bli det nye overordnede europeiske juridiske rammeverket for KI-systemer. Disse medlemmer viser videre til at AI Act er en produktlovgivning til å etablere bruk- og risikokategorier som et svar på utfordringer som personvern, hallusinasjoner, cybersikkerhet og økonomiske konsekvenser av KI. AI Act vil også delegere fastsettelsen av KI-standarder. Disse medlemmer mener at å fastsette standarder for et bredt spekter høyrisiko KI-systemer imidlertid vil være en stor utfordring, med mange ubesvarte spørsmål. En sentral suksessfaktor for en vellykket implementering av AI Act ligger derfor i å sikre at standardene i kravene faktisk imøtekommer utfordringene teknologien skaper. Disse medlemmer mener at Norge aktivt bør ta del i utformingen av disse standardene, som i stor grad vil påvirke systemene man kan bruke i Norge.

Disse medlemmer mener at mulighetene for kunstig intelligens i klasserommene er store, så lenge teknologien brukes rett.

Komiteens medlemmer fra Høyre, Sosialistisk Venstreparti og Rødt viser til at ulike skoler i dag kan velge å benytte seg av kunstig intelligens på ulike måter, da det kan være opp til den enkelte kommune, skole eller lærer å bestemme om eller hvordan man bruker teknologien i klasserommet. Disse medlemmer viser til at mange lærere varsler om utbredt juks og mer kompliserte vurderingssituasjoner etter at ChatGPT har blitt allment tilgjengelig. Flere ønsker tydeligere anbefalinger om bruk samt følgeforskning om hvilke konsekvenser og resultater KI har for undervisningen. Disse medlemmer mener derfor at det er behov for nasjonale retningslinjer for bruk av kunstig intelligens i skolen som kan gjøre lærere tryggere på bruken av teknologi i klasserommet, og gi tydeligere mandat for når bruk av KI er forbudt. Et eksempel på dette kan være i vurderingssituasjoner. Disse medlemmer vil samtidig peke på at økt bruk av deepfakes og annet syntetisk innhold fra generativ KI betyr at det er avgjørende at elevene får god opplæring i å stille kritiske spørsmål og utøve god kildekritikk.

Disse medlemmer viser til at Samfunnsøkonomisk analyse i 2021 konkluderte med at det vil bli behov for 40 000 flere sysselsatte med IKT-utdanning i 2030. Disse medlemmer mener at hvis Norge skal lykkes med kunstig intelligens, er man avhengig av at utviklere og forskere innenfor kunstig intelligens utdannes i Norge, og samtidig er det behov for at flere ikke-tekniske studier, som juridiske fag og helsefag, får anledning til å ta tekniske emner gjennom studieløpet. Disse medlemmer mener videre at det vil være viktig at personer som allerede er i arbeidslivet, får muligheten til å oppdatere eller få ny kunnskap om kunstig intelligens for å bruke det i arbeidshverdagen. Disse medlemmer mener at en mulig måte er å videreutvikle eksisterende verktøy brukt av arbeidsgivere for kompetanseverifisering, for eksempel ved å innarbeide støtte for mikrosertifisering i Vitnemålsportalen. Disse medlemmer mener det bør sikres spiss- og breddekompetanse på kunstig intelligens for å møte fremtidens kompetansebehov.

Komiteens medlemmer fra Høyre og Sosialistisk Venstreparti viser til at Datasenterindustrien er blitt omtalt som verdens raskest voksende kraftkrevende industri. Disse medlemmer viser videre til at det å ha tilgang til regnekraften datasentre muliggjør, er en forutsetning for å trene store KI-modeller. Tilgangen på denne regnekraften blir også sentral for å realisere nytten av kunstig intelligens i norsk industri. Skal det sikres mer forutsigbar energi fra vindmølleparker og en optimalisert hydrogenutvinning, mener disse medlemmer at man er avhengig av dataintensive KI-systemer som gjør industrien «smart». Datasentre er derfor ikke bare en viktig industri i seg selv, men en nødvendighet for å lykkes også i andre industrieventyr. Disse medlemmer er likevel bekymret for det høye energiforbruket som de store generative modellene fører med seg. Selv om anvendelsene av dem kan ha positiv effekt på den grønne omstillingen, er det viktig å få den totale klimaeffekten på bordet. Disse medlemmer mener at for å sikre en bærekraftig datasenterindustri bør det derfor gjennomføres en ringvirkningsanalyse som ser på hvilke effekter datasentre i Norge har på verdiskaping og bærekraft i tradisjonell industri.

Komiteens medlemmer fra Sosialistisk Venstreparti og Rødt støtter forslaget om en ringvirkningsanalyse for datasenterindustrien. Disse medlemmer mener at en ringvirkningsanalyse vil være viktig for å se til at det ikke legges opp til storstilt feil- og overetablering av datasentre i Norge, og være med på å sikre at den industrielle innsatsfaktoren kraft brukes til formål som skaper mest mulig arbeidsplasser og annen verdiskaping, fremfor å sløses på mindre samfunnsnyttige formål, slik som datasentre som primært utvinner kryptovaluta.

Komiteens medlemmer fra Høyre, Sosialistisk Venstreparti og Rødt viser til at ifølge en rapport som SSB la fram om digitaliseringen i kommunene i 2023, mente over halvparten av kommunene at manglende IKT-kompetanse var til hinder for utviklingen av kommunens digitale tjenester. Disse medlemmer viser til at kommunene deler mange av de felles utfordringene som kan løses med avansert digital teknologi som kunstig intelligens. Disse medlemmer viser til at kommunene i Danmark har gått sammen og dannet et felleskommunalt IT- og forvaltningshus kalt KOMBIT. Det fungerer som innkjøpsansvarlig for en rekke digitale anskaffelser for kommunene. Spisskompetansen deres kommer alle kommunene til gode, og gir bedre avtalebetingelser og programvareutforming som treffer kommunenes felles behov. Disse medlemmer mener at for å møte utfordringene med avansert digital kompetanse i norske kommuner bør lignende løsninger vurderes i Norge.

Disse medlemmer fremmer følgende forslag:

«Stortinget ber regjeringen sørge for tilstrekkelig bredde- og spisskompetanse innenfor digitale teknologier som kunstig intelligens i møte med kommende kompetansebehov.»

«Stortinget ber regjeringen styrke etter- og videreutdanningen og mulighetene for kompetanseheving innenfor utvikling og bruk av kunstig intelligens.»

«Stortinget ber regjeringen igangsette et arbeid med å styrke kompetanseverifiseringen for realkompetanse og mikrosertifisering.»

«Stortinget ber regjeringen gjennomføre en ringvirkningsanalyse for datasenterindustrien og dens effekter på verdiskaping, bærekraft og grønn omstilling i tradisjonell industri.»

«Stortinget ber regjeringen løfte samarbeid om nordiskspråklige modeller for generativ kunstig intelligens i Nordisk ministerråd.»

«Stortinget ber regjeringen utrede felleskommunale innkjøpsordninger for avanserte digitale teknologier som kunstig intelligens etter modell av danske KOMBIT.»

«Stortinget ber regjeringen utarbeide en NOU om konsekvensene generativ kunstig intelligens har for opphavsrett, media, kultur, demokrati og den offentlige samtalen og mulige tiltak for å møte disse konsekvensene.»

Komiteens medlemmer fra Høyre og Sosialistisk Venstreparti fremmer følgende forslag:

«Stortinget ber regjeringen ta initiativ til et nordisk toppmøte om kunstig intelligens.»

Komiteens medlemmer fra Høyre og Rødt fremmer følgende forslag:

«Stortinget ber regjeringen gjennomføre en digital lovvask, der det kartlegges hvilke deler av lovverket som er utydelige i møte med ny teknologi som kunstig intelligens. Kartleggingen bør ha særlig fokus på åpenhet og innsyn, rettssikkerhet, personvern og forbrukerrettigheter. Resultatet fra kartleggingen skal gjøres kjent for Stortinget.»

«Stortinget ber regjeringen utrede godkjenningsmetoder for systemer med kunstig intelligens som har potensielt svært alvorlige konsekvenser ved feil i anvendelsen, men som likevel kan ha særskilt stor samfunnsnytte.»

«Stortinget ber regjeringen jobbe tett med EU slik at Norges interesser ivaretas best mulig i utformingen av standardisering for høyrisikosystemer med kunstig intelligens etter definisjonen til EU.»

«Stortinget ber regjeringen komme tilbake til Stortinget med tiltak for å sikre tilstrekkelig samarbeid mellom tilsynsorganer i møte med kunstig intelligens.»

«Stortinget ber regjeringen utarbeide nasjonale retningslinjer for bruk av kunstig intelligens i skolen som sikrer læringsgevinster, konstruktiv og kritisk bruk av teknologien og et tydelig skille mellom når kunstig intelligens kan og ikke kan brukes i undervisningen.»

«Stortinget ber regjeringen sikre at sikkerhetsmyndighetene tilgjengeliggjør cybersikkerhetsopplæring til små og mellomstore virksomheter.»

Komiteens medlemmer fra Høyre fremmer følgende forslag:

«Stortinget ber regjeringen tilrettelegge for regulatoriske sandkasser innenfor digitale teknologier som kunstig intelligens og opprette en egen regulatorisk sandkasse for helseteknologi.»

«Stortinget ber regjeringen etablere arenaer der næringslivet selv får anledning til å komme med råd og anbefalinger om å utnytte data internt i industrier og dele på tvers av dem.»

«Stortinget ber regjeringen vurdere hvor egnet EUs Artificial Intelligence Act er for å ivareta norske interesser, hvilke utfordringer som vil møtes ved implementeringen av forordningen dersom den anses EØS-relevant, og hvordan Norge raskest mulig kan innføre forordningen når den er vedtatt.»

«Stortinget ber regjeringen fremlegge en strategi for å sikre at Norge får mest mulig igjen for deltakelsen i Digital Europe.»

«Stortinget ber regjeringen opprette et råd for kunstig intelligens som skal være et rådgivende og frittstående organ for å følge med på utviklingen av kunstig intelligens, gi råd i prinsipielle spørsmål rundt teknologien og veilede om ansvarlig bruk av den.»

Komiteens medlemmer fra Fremskrittspartiet viser til at kunstig intelligens er maskinelle systemer som er konstruert for å operere med varierende grad av autonomi, og som kan, for eksplisitte eller implisitte formål, generere output i form av prediksjoner, anbefalinger eller beslutninger. Disse medlemmer viser til at utviklingen innen kunstig intelligens vil endre samfunnet markant, og at de samfunnsmessige implikasjonene vil være vanskelige å forstå samt kontrollere. Kunstig intelligens og digitalisering treffer alle samfunnsområder, og den teknologiske utviklingen påvirker både folk og næringsliv. Disse medlemmer mener det er viktig at norsk næringsliv ikke henger etter, men får mulighet til å ta del i utviklingen av kunstig intelligens. Disse medlemmer viser til at kunstig intelligens har blitt mer kjent de siste årene gjennom utviklingen av tjenester slik som ChatGPT. Tjenesten brukes av mange, blant annet innenfor skolesektoren, hvor én av tre i alderen femten til tjuefire år bruker ChatGPT ukentlig til skolearbeid ifølge rapporten «Medietrender Ung 2023» fra Kantar Media. Disse medlemmer viser til at kunstig intelligens og dens muligheter kan brukes både til gode og dårlige formål, og at dette verktøyet fort kan misbrukes. Disse medlemmer mener at det er viktig at menneskerettigheter og personvern legges til grunn både i utviklingen, anvendelsen og fremtidig regulering av kunstig intelligens. Teknologien muliggjør mer treffende desinformasjon som kan generes i et stort omfang, og kan dermed bidra til å svekke demokratiet. Samtidig kan kunstig intelligens brukes til å utfordre ytrings- og pressefriheten i den forstand at kunstig intelligens kan brukes til å produsere innhold. Disse medlemmer mener derfor at reguleringer innenfor kunstig intelligens må skje i samspill med våre allierte. Siden kunstig intelligens er grenseløs, er det hensiktsmessig at Norge og våre allierte har et felles lovverk innenfor kunstig intelligens.

Medlemen i komiteen frå Sosialistisk Venstreparti viser til Representantforslag 232 S (2022–2023) og Innst. 152 S (2023–2024) om demokratisk kunstig intelligens, der Sosialistisk Venstreparti fremja forslag om å utvikle ei konsesjonsordning for innsamling, bruk og lagring av både offentleg data og persondata for kommersielle aktørar. Dette skal vere ei konsesjonsordning som fastset krav til kva data som kan brukast til kva type formål, kvar og korleis data vert lagra, og korleis data kan delast med ulike tredjepartar. Sosialistisk Venstreparti foreslo òg at det skulle leggast fram ei stortingsmelding om kunstig intelligens som skulle gjere greie for korleis det vert arbeidd med KI på alle nivå og sektorar. Sosialistisk Venstreparti foreslo òg eit moratorium for å ta i bruk kommersielle verktøy i offentleg sektor som byggjer på KI, fram til eit regelverk for innføring og bruk av kunstig intelligens er på plass.

Medlemene i komiteen frå Sosialistisk Venstreparti og Raudt viser til at digitaliseringa og utviklinga av kunstig intelligens og maskinlæring no går svært fort, og at det gir ei rekke utfordringar som samfunnet må løyse. Trenden i utviklinga av KI er stadig større og meir komplekse modellar. Då må ein sikre at dei er rettferdige, og at reguleringa får bukt med dei negative konsekvensane av KI og gir grobotn for dei positive. Ifylgje Europol kan så mykje som 90 pst. av innhaldet på internett vere generert av KI innan 2026. Dette krev ei utvikling som speler på lag med behova og ønska for samfunnet og befolkninga.

Desse medlemene meiner det er svært viktig å sørge for gode språkmodellar, rammer og regelverk som gjer at dei nye, svært kraftfulle verktøya ikkje diskriminerer eller undergrev demokratiet, trugar rettstryggleiken eller endrar samfunnet på ein måte som ikkje gagnar fellesskapen.

Medlemen i komiteen frå Sosialistisk Venstreparti vil òg peike på at utviklinga og bruken av datateknologi som skal handtere større og større mengder data, krev kraftige maskinvarer som vil vere både dyre og energikrevjande å drifte. Teknologiutviklinga krev store naturareal og store energiressursar. Difor vil det vere svært viktig å sørge for demokratisk kontroll, og sørge for at samfunnsnytten og verdiskapinga kjem fellesskapen til gode, ikkje berre nokre få store internasjonale teknologiselskap.

Medlemene i komiteen frå Sosialistisk Venstreparti og Raudt meiner det blir viktig å sørge for å utvikle regelverk som gir demokratisk kontroll over dei nye kraftige teknologiane. Det er eit politisk ansvar å sørge for reguleringar som i så stor grad som mogleg gir samfunnet kontroll på kva kunstig intelligens vert brukt til, kven sin teknologi som skal brukast kvar, og kven som skal eige data som vert mata inn i systema. Og sist, men ikkje minst, kven har ansvar for at algoritmane ikkje er rasistiske, sexistiske, undertrykker eller diskriminerer grupper i samfunnet? Desse medlemene vil peike på at det er ein reell fare for at bruken av kunstig intelligens kan verte innført fortare enn staten greier å sikre folk sine rettar. Det finst fleire eksempel på at KI bidreg til å forsterke og reprodusere eksisterande ulikskapar. Desse medlemene meiner difor at det er viktig å understreke at offentleg sektor har eit særskilt ansvar etter diskrimineringslova § 24 til å fremje likestilling og hindre diskriminering. Dette er ikkje minst viktig å vere merksam på når forvaltninga tek i bruk avanserte digitale verktøy i sakshandsaming i offentleg forvaltning.

Komiteens medlemmer fra Sosialistisk Venstreparti og Rødt understreker at det er på høy tid å ta styringen over utviklingen av kunstig intelligens. KI-teknologi er ikke en problemstilling som vil komme, men som på stadig flere felt allerede er her, og utviklingen foregår svært raskt. Disse medlemmer vil på det sterkeste advare mot å overlate utviklingen til privateide internasjonale teknologigiganter. For å sikre at ny teknologi kommer folk og samfunnet til gode, trengs det demokratisk kontroll over styringen og utviklingen av teknologien. Disse medlemmer viser til at Sosialistisk Venstreparti og Rødt mener at det egentlig trengs en helhetlig vurdering gjennom en stortingsmelding om kunstig intelligens som tar for seg alle områder som er relevante, men registrerer at stortingsflertallet så sent som i januar 2024 avviste dette i behandlingen av Innst. 152 S (2023–2024). Disse medlemmer merker seg at representanter fra regjeringspartiene avviste en stortingsmelding fordi de mente man i stedet trengte konkret politikkutvikling på konkrete felt hvor det er aktuelt. Disse medlemmer er enige i at det trengs mer konkret politikkutvikling, og mener at flere av forslagene som nå er til behandling, kan være positive.

Komiteens medlem fra Rødt vil her spesielt fremheve forslaget om en NOU for kunstig intelligens innen kulturfeltet samt forslaget om å vurdere alle sider ved kunstig intelligens-bruk innen skoleverket. Begge er spørsmål som det siste året allerede er kommet på agendaen. Dette medlem mener det er på overtid at staten tar et overordnet ansvar for utviklingen her: Innen skoleverket for å sikre en helhetlig og god politikk på tvers av kommuner, innen kulturfeltet fordi KI-teknologi på sikt kan utfordre livsgrunnlaget til flere yrkesgrupper og samtidig reiser store opphavsrettslige problemstillinger.

Forslag fra mindretall

Forslag fra Høyre, Sosialistisk Venstreparti og Rødt:
Forslag 1

Stortinget ber regjeringen sørge for tilstrekkelig bredde- og spisskompetanse innenfor digitale teknologier som kunstig intelligens i møte med kommende kompetansebehov.

Forslag 2

Stortinget ber regjeringen styrke etter- og videreutdanningen og mulighetene for kompetanseheving innenfor utvikling og bruk av kunstig intelligens.

Forslag 3

Stortinget ber regjeringen igangsette et arbeid med å styrke kompetanseverifiseringen for realkompetanse og mikrosertifisering.

Forslag 4

Stortinget ber regjeringen gjennomføre en ringvirkningsanalyse for datasenterindustrien og dens effekter på verdiskaping, bærekraft og grønn omstilling i tradisjonell industri.

Forslag 5

Stortinget ber regjeringen løfte samarbeid om nordiskspråklige modeller for generativ kunstig intelligens i Nordisk ministerråd.

Forslag 6

Stortinget ber regjeringen utrede felleskommunale innkjøpsordninger for avanserte digitale teknologier som kunstig intelligens etter modell av danske KOMBIT.

Forslag 7

Stortinget ber regjeringen utarbeide en NOU om konsekvensene generativ kunstig intelligens har for opphavsrett, media, kultur, demokrati og den offentlige samtalen og mulige tiltak for å møte disse konsekvensene.

Forslag fra Høyre og Sosialistisk Venstreparti:
Forslag 8

Stortinget ber regjeringen ta initiativ til et nordisk toppmøte om kunstig intelligens.

Forslag fra Høyre og Rødt:
Forslag 9

Stortinget ber regjeringen gjennomføre en digital lovvask, der det kartlegges hvilke deler av lovverket som er utydelige i møte med ny teknologi som kunstig intelligens. Kartleggingen bør ha særlig fokus på åpenhet og innsyn, rettssikkerhet, personvern og forbrukerrettigheter. Resultatet fra kartleggingen skal gjøres kjent for Stortinget.

Forslag 10

Stortinget ber regjeringen utrede godkjenningsmetoder for systemer med kunstig intelligens som har potensielt svært alvorlige konsekvenser ved feil i anvendelsen, men som likevel kan ha særskilt stor samfunnsnytte.

Forslag 11

Stortinget ber regjeringen jobbe tett med EU slik at Norges interesser ivaretas best mulig i utformingen av standardisering for høyrisikosystemer med kunstig intelligens etter definisjonen til EU.

Forslag 12

Stortinget ber regjeringen komme tilbake til Stortinget med tiltak for å sikre tilstrekkelig samarbeid mellom tilsynsorganer i møte med kunstig intelligens.

Forslag 13

Stortinget ber regjeringen utarbeide nasjonale retningslinjer for bruk av kunstig intelligens i skolen som sikrer læringsgevinster, konstruktiv og kritisk bruk av teknologien og et tydelig skille mellom når kunstig intelligens kan og ikke kan brukes i undervisningen.

Forslag 14

Stortinget ber regjeringen sikre at sikkerhetsmyndighetene tilgjengeliggjør cybersikkerhetsopplæring til små og mellomstore virksomheter.

Forslag fra Høyre:
Forslag 15

Stortinget ber regjeringen tilrettelegge for regulatoriske sandkasser innenfor digitale teknologier som kunstig intelligens og opprette en egen regulatorisk sandkasse for helseteknologi.

Forslag 16

Stortinget ber regjeringen etablere arenaer der næringslivet selv får anledning til å komme med råd og anbefalinger om å utnytte data internt i industrier og dele på tvers av dem.

Forslag 17

Stortinget ber regjeringen vurdere hvor egnet EUs Artificial Intelligence Act er for å ivareta norske interesser, hvilke utfordringer som vil møtes ved implementeringen av forordningen dersom den anses EØS-relevant, og hvordan Norge raskest mulig kan innføre forordningen når den er vedtatt.

Forslag 18

Stortinget ber regjeringen fremlegge en strategi for å sikre at Norge får mest mulig igjen for deltakelsen i Digital Europe.

Forslag 19

Stortinget ber regjeringen opprette et råd for kunstig intelligens som skal være et rådgivende og frittstående organ for å følge med på utviklingen av kunstig intelligens, gi råd i prinsipielle spørsmål rundt teknologien og veilede om ansvarlig bruk av den.

Komiteens tilråding

Komiteens tilråding fremmes av medlemmene i komiteen fra Arbeiderpartiet, Senterpartiet, Fremskrittspartiet og Sosialistisk Venstreparti.

Komiteen har for øvrig ingen merknader, viser til dokumentet og rår Stortinget til å gjøre følgende

vedtak:

Dokument 8:46 S (2023–2024) – Representantforslag fra stortingsrepresentantene Linda Hofstad Helleland, Nikolai Astrup, Anne Kristine Linnestad, Margret Hagerup, Sveinung Stensland og Svein Harberg om Norges neste steg for kunstig intelligens – vedtas ikke.

Vedlegg:

Vedlegg finnes kun som PDF, se merknadsfelt.

Oslo, i kommunal- og forvaltningskomiteen, den 7. mars 2024

Lene Vågslid

Rune Støstad

leder

ordfører