Stortinget - Møte tirsdag den 26. november 2024

Dato: 26.11.2024
President: Ingrid Fiskaa
Dokumenter: (Innst. 50 S (2024–2025), jf. Dokument 3:18 (2023–2024))

Søk

Innhold

Sak nr. 3 [10:08:12]

Innstilling fra kontroll- og konstitusjonskomiteen om Riksrevisjonens undersøkelse av bruk av kunstig intelligens i staten (Innst. 50 S (2024–2025), jf. Dokument 3:18 (2023–2024))

Talere

Presidenten []: Etter ønske frå kontroll- og konstitusjonskomiteen vil presidenten ordna debatten slik: 5 minutt til kvar partigruppe og 5 minutt til medlemer av regjeringa.

Vidare vil det – innanfor den fordelte taletida – bli gjeve høve til eit replikkordskifte på inntil seks replikkar med svar etter innlegg frå medlemer av regjeringa, og dei som måtte teikna seg på talarlista utover den fordelte taletida, får ei taletid på inntil 3 minutt.

Kari Henriksen (A) [] (ordfører for saken): Det ryktes at det i dag foregår et seminar i Oslo som heter Brain. Det omhandler altså kunstig intelligens, KI. Vi er virkelig i godt selskap når vi diskuterer dette temaet.

Først vil jeg takke komiteen for godt samarbeid om saken. Hvordan vi skal bruke KI i staten, er det nødvendig å ha gode diskusjoner rundt. Det er derfor bra at Riksrevisjonen følger dette tett. Det foreligger flere rapporter og digitaliseringsstrategier.

KI skal være et virkemiddel for og i utviklingen av demokratiet gjennom å styrke sikkerhet, kvalitet, felles forståelse, åpenhet, lik tilgang til tjenester og rettferdighet, for å nevne noe. Riktig bruk av KI kan bidra til effektivisering som minsker konsekvensene av framtidig personellmangel.

Riksrevisjonen har undersøkt hvordan staten har brukt KI i perioden 2018–2023 og har konkludert med «ikke tilfredsstillende», som er det laveste kritikknivået. Likevel konkluderer Riksrevisjonen i sin rapport med følgende:

  • Viktige forutsetninger for å ta i bruk kunstig intelligens i større skala er fortsatt uklare.

  • Det er et stort behov for å avklare juridiske spørsmål i bruken av kunstig intelligens.

  • Det er mangelfull infrastruktur og tilgang på data av god kvalitet.

  • Det er stort behov for kompetanse og språkressurser på norsk.

Videre anfører Riksrevisjonen

  • at de etiske prinsippene for ansvarlig bruk av KI må være på plass

  • at samordningen av arbeidet med KI i offentlig sektor er mangelfull

  • at den samlede innsatsen er for svak gitt ambisjonene om at Norge skal ha en infrastruktur for KI i verdensklasse

En samlet komité slutter seg til kritikkpunktene.

Anbefalingene Riksrevisjonen legger fram, er også støttet av en samlet komité:

  • Virkemiddelapparatet må utvikles slik at grunnleggende forutsetninger for ansvarlig bruk er på plass.

  • Departementet må bidra til regulatoriske avklaringer og en samordnet tolking av regelverket i utviklingen og bruken av KI.

  • Det må sikres en samordnet forståelse av de etiske prinsippene og veiledning om hvordan prinsippene kan ivaretas i praksis i utviklingen og bruken av KI.

Det er pekt på utfordringen med samordning mellom departementene. Komiteen viser til at det er Digitaliserings- og forvaltningsdepartementet som har ansvaret for koordineringen av arbeidet, og peker på at regjeringa som samlet organ er ansvarlig for at målene oppfylles.

Departementet har svart på Riksrevisjonens kritikk og peker på at det er iverksatt samt planlagt tiltak for å styrke samordningen i offentlig sektor, også på departementsnivå. Regjeringa er opptatt av at Norge skal få en infrastruktur for KI i verdensklasse i form av digitaliseringsvennlig regelverk, gode språkressurser, raske og robuste kommunikasjonsnett og tilstrekkelig regnekraft. Denne visjonen støttes av komiteen.

I Prop. 1 S for 2023–2024 framgår formålet med digitaliseringsstrategien. Det er bl.a. å utvikle rammebetingelser som støtter digitalisering i de ulike sektorene og på tvers av dem, samt utviklingen i samfunnet som helhet.

Det er særmerknader fra SV og Rødt som jeg regner med de respektive partiene vil redegjøre for.

For Arbeiderpartiets del vil jeg vise til regjeringas digitaliseringsstrategi, som beskriver politikk for Norges bruk av KI. Regjeringa har bevilget 40 mill. kr til å starte utviklingen av en nasjonal infrastruktur for KI, inkludert tilgang på norske og samiske språkmodeller. Det ligger et sett prinsipper, jf. Nasjonal strategi for kunstig intelligens fra 2020, til grunn for veiledning i Digitaliseringsdirektoratet og andre etater.

Når regjeringa får på plass en tilsynsstruktur for KI-rettsakten, vil det føre til at kontrollmekanismene kommer på plass.

Jeg regner for øvrig med at statsråden også vil redegjøre nærmere for regjeringas arbeid med strategien og oppfølgingen av Riksrevisjonens rapport.

Svein Harberg (H) []: Jeg vil starte med å takke saksordføreren for godt arbeid, godt samarbeid og en god gjennomgang. Man trenger kanskje ikke si noe mer, for det er stor enighet om dette, men jeg vil gi noen kommentarer likevel.

Med kunstig intelligens tror jeg det for de fleste av oss er litt slik at akkurat når vi synes vi har fått grepet om det, smetter det ut en eller annen vei. Det er frustrerende, spesielt når man skal være den som skal legge føringer for hvordan vi skal bruke det. Kunnskapen om det er utfordrende fordi det er så stor utvikling hele tiden.

Vi snakker om infrastruktur, vi snakker om kompetanse, og så snakker vi om svarte bokser. Det er veldig fint at folk her på huset nå har tatt fatt i en nyutvikling som faktisk skjer, der det arbeides med kunstig intelligens uten svarte bokser – et helt åpent system: Tsetlin-maskinen – og lanserer det for parlamenter over hele verden. Tenk hvis parlamentene kunne gå i spissen for å ha åpne systemer for kunstig intelligens! Da har vi nådd langt.

Vi får en påminning, selvfølgelig, gjennom Riksrevisjonens rapport, som er viktig. Jeg tror jeg vil kalle det en viktig underveisrapport, for dette vil vi komme tilbake til – det er jeg ganske sikker på. En peker på forholdet mellom ambisjonene og det som gjøres, og det kan være en påminning også til Stortinget: Har vi ambisjoner som står i forhold til det vi virkelig kan gjennomføre? Det tror jeg er et arbeid vi skal gjøre sammen framover – virkelig arbeide med å sette oss inn i dette. På Stortinget er det for tiden en rekkefølge på tre seminarer som handler om kunstig intelligens og den digitale utviklingen. Vi bygger kunnskap, men det er mer å gjøre. Vi synes Riksrevisjonens påpekninger og anbefalinger er gode.

Jeg kunne ikke dy meg: Jeg måtte inn og prøve kunstig intelligens. Jeg spurte hvordan en bør regulere kunstig intelligens, og det kom veldig mye fint ut av det. Det fine er også at det kommer så fort, så her er to sider med tekst, med sju overskrifter om hvordan vi bør regulere kunstig intelligens. Det nevnes etiske prinsipper, juridiske rammer, tilsyn, håndheving osv.

Jeg spurte også om hvordan statlig forvaltning kan bli flinkere til å ta i bruk kunstig intelligens. Dette tekstarket skal selvfølgelig statsråden få etterpå. Det er veldig gode og klare råd om hvordan en skal gjøre dette. Det stemmer også med det Riksrevisjonen – litt mer utfyllende, kanskje – har påpekt.

Vi ser at kunstig intelligens – brukt riktig – er en stor mulighet. Det er et godt hjelpemiddel, ikke til erstatning for oss mennesker, men til hjelp for oss mennesker. Vi må passe på å være i forkant, og våre ambisjoner må henge sammen med de ressursene vi setter inn på å få det til. Denne riksrevisjonsrapporten er en god påminning om det, og det er godt at statsråden er tydelig på at dette skal følges opp videre.

Nils T. Bjørke (Sp) []: Eg vil starta med å takka saksordføraren for godt arbeid.

Det er viktig at staten fylgjer med i teknologiutviklinga. Staten må ha godt nok grep om ny teknologi til å veta korleis menneskeleg og kunstig intelligens til kvar tid utfyller kvarandre best i oppgåveløysinga. Likeins må Riksrevisjonen vera oppdatert på dette i rapportering til Stortinget.

Stortinget handsamar i dag for andre gong ny lov om Riksrevisjonen. Lova presiserer at Riksrevisjonen skal gjera revisjon av at staten sine midlar og verdiar vert forvalta på ein økonomisk forsvarleg måte og i samsvar med Stortinget sine vedtak og føresetnader.

I rapporten om kunstig intelligens har Riksrevisjonen gjort noko nytt, av di det i dag ikkje finst nokon lovheimel som dekkjer algoritmebruken til kunstig intelligens i forvaltninga. Riksrevisjonen har nytta etiske retningslinjer frå ei ekspertgruppe i EU som grunnlag for delar av vurderingane i rapporten. Desse retningslinjene vart fyrst handsama av Stortinget i etterkant av undersøkinga frå Riksrevisjonen. Det vert kommentert av komiteen i innstillinga. Eg vil understreka særskilt at desse etiske retningslinjene frå EU ikkje påverkar tolkinga av den norske grunnlova, slik det kan sjå ut til at Riksrevisjonen har lagt til grunn. Eg stussar over at partia SV og Raudt ikkje problematiserer dette i merknadene sine i innstillinga.

Undersøkinga omfattar perioden 2018–2023. I innleiinga i rapporten legg Riksrevisjonen vekt på at digitaliserings- og forvaltningsministeren i munnleg spørjetime i Stortinget den 8. mai 2024 uttalte eit mål om at 80 pst. av offentleg sektor skal ta i bruk kunstig intelligens innan 2025. Uttalen i spørjetimen kom etter at undersøkinga var ferdig. Eg vil understreka at når lova har presisert at Riksrevisjonen skal driva revisjon, tyder det at kriteria som ligg til grunn for revisjonen, må gjelda for den perioden som er undersøkt. Eg ber Riksrevisjonen om å merka seg dette, og presiserer at uttalen frå statsråden i mai 2024 ikkje ligg til grunn for tilslutnaden frå komiteen til Riksrevisjonens konklusjon og vurderingar og tilrådinga i innstillinga.

Eg er samd med Riksrevisjonen i at etiske prinsipp må liggje i botnen når forvaltninga tek i bruk kunstig intelligens. Eg skulle ynskt at me sjølve kunne tenkt aktivt om dette og ikkje berre venta på regelverk frå EU. For å få det til må me ha nok kompetanse og vera oppdaterte på kva delar av eige regelverk som må utviklast for å vera i takt med den raske teknologiske utviklinga.

Eg vil særleg trekkja fram konklusjonen frå Riksrevisjonen om at det er viktig med språkressursar på norsk, både på bokmål og på nynorsk. Det er viktig å minna om at Stortinget for snart to veker sidan handsama rapporten frå sannings- og forsoningskommisjonen. Dei samiske språka og kvensk må òg ha sin rettmessige plass i den digitale staten.

Audun Lysbakken (SV) []: Det er en viktig undersøkelse vi har til behandling, og den minner meg om at SV for to sesjoner tilbake fremmet et omfattende forslag i Stortinget knyttet til å sette på bremsene i offentlig sektors bruk av nye kommersielle verktøy bygget på kunstig intelligens. Den gangen foreslo vi et midlertidig moratorium, og vi foreslo også at Norge burde få en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører.

Jeg tror for det første at Riksrevisjonens undersøkelse understreker relevansen av både den debatten og de forslagene vi kom med den gangen, og den er også et viktig bidrag til en større politisk diskusjon rundt bruken av kunstig intelligens, noe vi bør ha i langt større grad. Det bør ikke være en debatt om ja eller nei til teknologien, men en diskusjon om hvem som kontrollerer den, hvordan vi skal bruke den, og hvordan den skal reguleres til beste for samfunnet og ikke bare for de kreftene som søker å tjene store penger på den.

Det er viktige ting som er påpekt i undersøkelsen. Det gjelder et rammeverk som er for ufullstendig. Det gjelder spørsmålet om hva prinsippene skal være for ansvarlig bruk. Vi tenker fra SVs side at det er særs viktig at regjeringen følger opp dette nøye.

Jeg vil også si at jeg nå oppdaget at det har sneket seg inn en bitte liten trykkfeil i SVs merknad, der det står om viktigheten av «estiske» prinsipper. Det er jo mye godt å si om Estland, men det er altså «etiske» prinsipper vi er opptatt av i denne sammenheng.

Presidenten []: Det er notert.

Statsråd Karianne O. Tung []: Digitalisering og kunstig intelligens har kraft i seg til å være et viktig verktøy for å transformere offentlig sektor. Ansvarlig bruk av KI gjør at vi kan redusere behovet for arbeidskraft og effektivisere og øke produktiviteten i det offentlige, og det kan løfte kvaliteten på tjenestene. KI har f.eks. vist seg å være nyttig for å oppdage og behandle sykdom som kreft i spesialisthelsetjenesten. Jeg er derfor glad for at Riksrevisjonen har undersøkt bruken av kunstig intelligens i staten.

Jeg merker meg at Riksrevisjonen konstaterer at statlige virksomheter utnytter mulighetene med kunstig intelligens ulikt, og at teknologien fortsatt er lite i bruk. Riksrevisoren konkluderer med at viktige forutsetninger for å ta i bruk KI i større skala ikke er på plass. Det er stort behov for juridiske avklaringer og kompetanse, infrastrukturen er mangelfull, og det trengs bedre tilgang på norske språkdata og andre kvalitetsdata. Jeg finner det likevel positivt at flertallet av de statlige virksomhetene som tar i bruk KI, oppgir at de når målene om effektivisering og forbedring av egen oppgaveløsning. Dette viser at kunstig intelligens gir gevinster for offentlig sektor.

Jeg merker meg Riksrevisjonens overordnede vurdering om at det ikke er tilfredsstillende at Digitaliserings- og forvaltningsdepartementet gjennom styring og i samarbeid med de andre departementene ikke har lagt bedre til rette for at offentlig sektor kan utnytte mulighetene med kunstig intelligens og ta i bruk KI på en ansvarlig måte. Den samlede innsatsen er for svak, gitt ambisjonene om at Norge skal ha en infrastruktur for kunstig intelligens i verdensklasse.

Riksrevisjonens undersøkelse omfatter perioden 2018–2023. I 2024 opprettet regjeringen Digitaliserings- og forvaltningsdepartementet, nettopp for å styrke samordnings- og pådriverkraften i digitaliseringspolitikken. Regjeringen har også lagt fram en ny digitaliseringsstrategi – Fremtidens digitale Norge. Strategien viser retning for hvordan Norge i perioden fram mot 2030 skal bli det mest digitaliserte landet i verden. Vi har satt et mål om at 80 pst. av offentlige virksomheter skal ha tatt i bruk KI innen 2025 og 100 pst. innen 2030. Vi har allerede startet på flere viktige tiltak for å nå disse målene.

Regjeringen jobber nå med å få på plass en nasjonal infrastruktur for KI, og her samarbeider mitt departement med Kultur- og likestillingsdepartementet og Kunnskapsdepartementet. Infrastrukturen vil omfatte tilgang på regnekraft og grunnmodeller som er tuftet på våre samfunnsverdier og våre språk. Vi er i gang med gjennomføringen av EUs forordning om kunstig intelligens i norsk lov. Regelverket vil bidra til større forutsigbarhet for norske virksomheter og bidra til at KI-systemene utvikles og brukes på en ansvarlig og etisk måte.

Vi følger også opp viderebruksutvalgets forslag til ny lovgivning om viderebruk av offentlige data. Regelverket skal bidra til at data i større grad deles, og at de er av god kvalitet. Det tas sikte på å fremme forslag om en ny datadelingslov for Stortinget i løpet av 2025. Regjeringen ser behovet for å styrke arbeidet med å tilgjengeliggjøre offentlige data som er viktige for samfunnet, og vil derfor etablere et nasjonalt prioriteringsråd for deling av data.

Kompetanse er Norges fremste konkurransefortrinn og viktigste ressurs. Regjeringen har allerede økt forskningsinnsatsen innen kunstig intelligens med 1 mrd. kr de neste fem årene, og det skal opprettes fire til seks tverrfaglige og tverrsektorielle forskningssentre for kunstig intelligens, med oppstart i 2025. Regjeringen arbeider også for å styrke den digitale kompetansen, helt fra grunnskolen via videregående opplæring, fagskoler og høyere utdanning til etter- og videreutdanning.

Digitaliserings- og forvaltningsdepartementet har ansvaret for å koordinere digitaliseringspolitikken, og det enkelte fagdepartementet har ansvar for å prioritere og gjennomføre tiltak på egne sektorområder. Jeg er enig i Riksrevisjonens anbefaling om at Digitaliserings- og forvaltningsdepartementet må styrke sin samordnings- og pådriverrolle for aktivt å stimulere til og legge til rette for ansvarlig bruk av kunstig intelligens i offentlig sektor i samarbeid med andre departementer. I regjeringens digitaliseringsstrategi er det uttalt at vi skal sørge for en mer helhetlig og langsiktig prioritering av digitaliseringstiltak i offentlig sektor. Mitt departement har allerede startet på den oppgaven.

Presidenten []: Dei talarane som heretter får ordet, har ei taletid på inntil 3 minutt.

Svein Harberg (H) []: Det er mulig jeg nå avslører en sterk interesse for akkurat dette feltet, og jeg har arbeidet mye med det. Det gjorde at jeg må ha et par kommentarer som ikke går direkte på rapporten, men på innlegget fra SV. For det første kunne det godt stått noe om «estiske» her. Jeg har vært på studietur til Estland nylig – som visepresident, riktignok – for å se hva de har gjort, ikke minst med hensyn til å bruke det digitale inn i valg gjennom sikre systemer. De ligger faktisk bortimot 20 år foran oss, og det er mye å lære – bare som en kommentar til at det estiske faktisk er interessant.

Så prøvde jeg å være litt beskjeden – det er ikke alltid så enkelt. Det gjaldt dette med kommersielle interesser, som Lysbakken var inne på, når det gjelder disse programmene. Det er kanskje det som er det mest spennende med videreutvikling av Tsetlin-maskinen – som egentlig er en gammel oppfinnelse, men som er plukket opp igjen. Utviklingen har skjedd ved kompetansemiljøet for kunstig intelligens på Universitetet i Agder, og de tar i bruk og arbeider på et språk maskinene liker. Det er ikke-kommersielt, for vedkommende som kunne tatt patenter og tjent store penger på dette, professoren, har lagt dette ut åpent for at alle skal kunne bruke det – det har vært et poeng for ham. Som jeg sa, er det ingen svarte bokser – jeg har faktisk en T-skjorte på kontoret der det står «no more black boxes», som jeg har fått av dem – og det er jo helt sentralt i bruken av kunstig intelligens. Det siste er at det, ifølge dem, bruker 1/5 000-del av energien i forhold til de systemene som er i dag, så det løser mange ting.

Det er ting her som gjør at vi kan være verdensledende på dette feltet, så jeg vil bare understreke det også, at det er muligheter til å ligge i front.

Presidenten []: Fleire har ikkje bedt om ordet til sak nr. 3.

Votering, se voteringskapittel
Forrige kapittel
Neste kapittel