Presidenten [10:08:26 ]: Etter ønske
frå kontroll- og konstitusjonskomiteen vil presidenten ordna debatten slik:
5 minutt til kvar partigruppe og 5 minutt til medlemmer av regjeringa.
Vidare vil det – innanfor den fordelte taletida
– bli gjeve høve til eit replikkordskifte på inntil seks replikkar med
svar etter innlegg frå medlemmer av regjeringa. Og dei som måtte
teikna seg på talarlista utover den fordelte taletida, får ei taletid
på inntil 3 minutt.
Kari Henriksen (A) [10:09:01 ] (ordfører for saken): Det ryktes
at det i dag foregår et seminar i Oslo som heter Brain. Det omhandler
altså KI. Så vi er virkelig i godt selskap når vi diskuterer dette
temaet.
Først vil jeg takke komiteen for godt samarbeid
om saken. Hvordan vi skal bruke KI i staten er det nødvendig å ha
gode diskusjoner rundt. Det er derfor bra at Riksrevisjonen følger
dette tett. Det foreligger flere rapporter og digitaliseringsstrategier.
KI skal være et virkemiddel for og i utviklingen
av demokratiet gjennom å styrke sikkerhet, kvalitet, felles forståelse,
åpenhet, lik tilgang til tjenester og rettferdighet, for å nevne
noe. Riktig bruk av KI kan bidra til effektivisering som minsker
konsekvensene av framtidig personellmangel.
Riksrevisjonen har undersøkt hvordan staten
har brukt KI i perioden 2018–2023 og har konkludert med «ikke tilfredsstillende»,
som er det laveste kritikknivået. Likevel konkluderer Riksrevisjonen
i sin rapport med at:
viktige forutsetninger for å ta i
bruk kunstig intelligens i større skala fortsatt er uklare
det er et stort behov for å avklare juridiske spørsmål i
bruken av kunstig intelligens
det er mangelfull infrastruktur og tilgang på data av god
kvalitet
det er stort behov for kompetanse og språkressurser på norsk
Videre anfører Riksrevisjonen at:
de etiske prinsippene for ansvarlig
bruk av KI må være på plass
samordningen av arbeidet med KI i offentlig sektor er mangelfull
den samlede innsatsen er for svak gitt ambisjonene om at
Norge skal ha en infrastruktur for KI i verdensklasse
En samlet komité slutter seg til kritikkpunktene.
Anbefalingene Riksrevisjonen legger fram, er
også støttet av en samlet komité:
Virkemiddelapparatet må utvikles slik
at grunnleggende forutsetninger for ansvarlig bruk er på plass.
Departementet må bidra til regulatoriske avklaringer og
en samordnet tolking av regelverket i utviklingen og bruken av KI.
Det må sikres en samordnet forståelse av de etiske prinsippene
og veiledning om hvordan prinsippene kan ivaretas i praksis i utviklingen
og bruken av KI.
Det er pekt på utfordringen med samordning
mellom departementer. Komiteen viser til at det er Digitaliserings-
og forvaltningsdepartementet som har ansvaret for koordineringen
av arbeidet, og peker på at regjeringa som samlet organ er ansvarlig
for at målene oppfylles.
Departementet har svart på Riksrevisjonens
kritikk og peker på at det er iverksatt samt planlagt tiltak for
å styrke samordningen i offentlig sektor, også på departementsnivå.
Regjeringa er opptatt av at Norge skal få en infrastruktur for KI
i verdensklasse i form av digitaliseringsvennlig regelverk, gode
språkressurser, raske og robuste kommunikasjonsnett og tilstrekkelig
regnekraft. Denne visjonen støttes av komiteen.
I Prop. 1 S for 2023–2024 framgår formålet
med digitaliseringstrategien. Det er bl.a. å utvikle rammebetingelser
som støtter digitalisering i de ulike sektorene og på tvers av dem,
samt utviklingen i samfunnet som helhet.
Det er også særmerknader fra SV og Rødt som
jeg regner med de respektive partiene vil redegjøre for.
For Arbeiderpartiets del vil jeg vise til regjeringas
digitaliseringsstrategi, som beskriver politikk for Norges bruk
av KI. Regjeringa har bevilget 40 mill. kr til å starte utviklingen
av en nasjonal infrastruktur for KI, inkludert tilgang på norske
og samiske språkmodeller. Det ligger et sett prinsipper, jf. Nasjonal
strategi for kunstig intelligens fra 2020, til grunn for veiledning
i Digitaliseringsdirektoratet og andre etater.
Når regjeringa får på plass en tilsynsstruktur
for KI-rettsakten vil det føre til at kontrollmekanismene kommer
på plass.
Jeg regner for øvrig med at statsråden også
vil redegjøre nærmere for regjeringas arbeid med strategien og oppfølgingen
av Riksrevisjonens rapport.
Svein Harberg (H) [10:13:29 ] : Jeg vil starte med å takke
saksordføreren for godt arbeid, godt samarbeid og en god gjennomgang.
Man trenger kanskje ikke si noe mer, for det er stor enighet om
dette, men jeg vil gi noen kommentarer likevel.
Jeg tror det – for de fleste av oss – er litt
sånn med kunstig intelligens at akkurat når vi synes vi har fått
grepet om det, så smetter det ut en eller annen vei. Det er frustrerende,
spesielt når man skal være den som skal legge føringer for hvordan
vi skal bruke det. Kunnskapen om det er utfordrende fordi det er
så stor utvikling hele tiden.
Vi snakker om infrastruktur, vi snakker om
kompetanse, og så snakker vi om svarte bokser. Det er veldig fint
at folk her på huset nå har tatt fatt i en nyutvikling som faktisk
skjer, der det arbeides med kunstig intelligens uten svarte bokser
– et helt åpent system: Tsetlin-maskinen – og lanserer det for parlamenter
over hele verden. Tenk hvis parlamentene kunne gå i spissen for
å ha åpne systemer for kunstig intelligens! Da har vi nådd langt.
Så får vi en påminning, selvfølgelig, gjennom
Riksrevisjonens rapport, som er viktig. Jeg tror jeg vil kalle det en
viktig underveisrapport, for dette kommer vi til å komme tilbake
til – det er jeg ganske sikker på. En peker på forholdet mellom
det som gjøres, og ambisjonene, og det kan være en påminning til
Stortinget også: Har vi ambisjoner som står i forhold til det vi
virkelig kan gjennomføre? Det tror jeg er et arbeid vi skal gjøre
sammen framover – virkelig arbeide med å sette oss inn i dette.
På Stortinget er det for tiden tre seminarer som handler om kunstig
intelligens og den digitale utviklingen. Så vi bygger kunnskap,
men det er mer å gjøre. Vi synes Riksrevisjonens påpekninger og
anbefalinger er gode.
Jeg kunne ikke dy meg: Jeg måtte inn og prøve
kunstig intelligens. Jeg spurte hvordan en bør regulere kunstig
intelligens, og det kom veldig mye fint ut av det. Det fine er også
at det kommer så fort, så her er to sider med tekst, med sju overskrifter
om hvordan vi bør regulere kunstig intelligens. Det nevnes etiske
prinsipper, juridiske rammer, tilsyn, håndheving osv.
Jeg spurte også om hvordan statlig forvaltning
kan bli flinkere til å ta i bruk kunstig intelligens. Dette tekstarket
skal selvfølgelig statsråden få etterpå. Det er veldig gode og klare
råd om hvordan en skal gjøre dette. Det stemmer også med det som
Riksrevisjonen – litt mer utfyllende, kanskje – har påpekt.
Vi ser at kunstig intelligens – brukt riktig
– er en stor mulighet. Det er et godt hjelpemiddel, ikke til erstatning for
oss mennesker, men til hjelp for oss mennesker. Vi må passe på å
være i forkant, og våre ambisjoner må henge sammen med de ressursene
vi setter inn på å få det til. Denne riksrevisjonsrapporten er en
god påminning om det, og det er godt at statsråden er tydelig på
at dette skal følges opp videre.
Nils T. Bjørke (Sp) [10:17:31 ] : Eg vil starta med å takka
saksordføraren for godt arbeid.
Det er viktig at staten fylgjer med i teknologiutviklinga.
Staten må ha godt nok grep om ny teknologi til å veta korleis menneskeleg
og kunstig intelligens til kvar tid utfyller kvarandre best i oppgåveløysinga.
Likeins må Riksrevisjonen vera oppdatert på dette i rapportering
til Stortinget.
Stortinget handsamar i dag for andre gong ny
lov om Riksrevisjonen. Lova presiserer at Riksrevisjonen skal gjera
revisjon av at staten sine midlar og verdiar vert forvalta på ein
økonomisk forsvarleg måte og i samsvar med Stortinget sine vedtak
og føresetnader.
I rapporten om kunstig intelligens har Riksrevisjonen
gjort noko nytt, av di det i dag ikkje finst nokon lovheimel som
dekkjer algoritmebruken til kunstig intelligens i forvaltninga.
Riksrevisjonen har nytta etiske retningslinjer frå ei ekspertgruppe
i EU som grunnlag for delar av vurderingane i rapporten. Desse retningslinjene
vart fyrst handsama av Stortinget i etterkant av undersøkinga frå
Riksrevisjonen. Det vert kommentert av komiteen i innstillinga.
Eg vil understreka særskilt at desse etiske retningslinjene frå
EU ikkje påverkar tolkinga av den norske grunnlova, slik det kan
sjå ut til at Riksrevisjonen har lagt til grunn. Eg stussar over
at partia SV og Raudt ikkje problematiserer dette i merknadene sine i
innstillinga.
Undersøkinga omfattar perioden 2018–2023. I
innleiinga i rapporten legg Riksrevisjonen vekt på at digitaliserings-
og forvaltningsministeren i munnleg spørjetime i Stortinget den
8. mai 2024 uttalte eit mål om at 80 pst. av offentleg sektor skal
ta i bruk kunstig intelligens innan 2025. Uttalen i spørjetimen
kom etter at undersøkinga var ferdig. Eg vil understreka at når
lova har presisert at Riksrevisjonen skal driva revisjon, tyder
det at kriteria som ligg til grunn for revisjonen, må gjelda for den
perioden som er undersøkt. Eg ber Riksrevisjonen om å merka seg
dette, og presiserer at uttalen frå statsråden i mai 2024 ikkje
ligg til grunn for tilslutnaden frå komiteen til Riksrevisjonens
konklusjon og vurderingar og tilrådinga i innstillinga.
Eg er samd med Riksrevisjonen i at etiske prinsipp må
liggje i botnen når forvaltninga tek i bruk kunstig intelligens.
Eg skulle ynske at me sjølve kunne tenkt aktivt om dette og ikkje
berre venta på regelverk frå EU. For å få det til må me ha nok kompetanse
og vera oppdaterte på kva delar av eige regelverk som må utviklast
for å vera i takt med den raske teknologiske utviklinga.
Eg vil særleg trekkja fram konklusjonen frå
Riksrevisjonen om at det er viktig med språkressursar på norsk, både
på bokmål og på nynorsk. Det er viktig å minna om at Stortinget
for snart to veker sidan handsama rapporten frå sannings- og forsoningskommisjonen.
Dei samiske språka og kvensk må òg ha sin rettmessige plass i den
digitale staten.
Audun Lysbakken (SV) [10:20:42 ] : Det er en viktig undersøkelse
vi har til behandling, og den minner meg om at SV for to sesjoner
tilbake fremmet et omfattende forslag i Stortinget knyttet til å
sette på bremsene i offentlig sektors bruk av nye kommersielle verktøy
bygget på kunstig intelligens. Den gangen foreslo vi et midlertidig
moratorium, og vi foreslo også at Norge burde få en konsesjonsordning
for innsamling, bruk og lagring av både offentlige data og persondata
for kommersielle aktører.
Jeg tror for det første at Riksrevisjonens
undersøkelse understreker relevansen av både denne debatten og de
forslagene vi kom med den gangen, og den er også et viktig bidrag
til en større politisk diskusjon rundt bruken av kunstig intelligens,
noe vi bør ha i langt større grad. Det bør ikke være en debatt om
ja eller nei til teknologien, men en diskusjon om hvem som kontrollerer den,
hvordan vi skal bruke den, og hvordan den skal reguleres til beste
for samfunnet og ikke bare for de kreftene som søker å tjene store
penger på den.
Det er viktige ting som er påpekt i undersøkelsen. Det
gjelder et rammeverk som er for ufullstendig. Det gjelder spørsmålet
om hva prinsippene skal være for ansvarlig bruk. Vi tenker fra SVs
side at det er særs viktig at regjeringen følger opp dette nøye.
Så skal jeg si at jeg nå oppdaget at det har
sneket seg inn en bitte liten trykkfeil i SVs merknad, der det står
om viktigheten av estiske prinsipper. Det er jo mye godt å si om
Estland, men det er altså etiske prinsipper vi er opptatt av i denne
sammenheng.
Presidenten [10:22:58 ]: Det er notert.
Statsråd Karianne O. Tung [10:23:15 ] : Digitalisering og kunstig
intelligens har kraft i seg til å være et viktig verktøy for å transformere
offentlig sektor. Ansvarlig bruk av KI gjør at vi kan redusere behovet
for arbeidskraft og effektivisere og øke produktiviteten i det offentlige,
og det kan løfte kvaliteten på tjenestene. KI har f.eks. vist seg
å være nyttig for å oppdage og behandle sykdom som kreft i spesialisthelsetjenesten.
Jeg er derfor glad for at Riksrevisjonen har undersøkt bruken av
kunstig intelligens i staten.
Jeg merker meg at Riksrevisjonen konstaterer
at statlige virksomheter utnytter mulighetene med kunstig intelligens
ulikt, og at teknologien fortsatt er lite i bruk. Riksrevisoren
konkluderer med at viktige forutsetninger for å ta i bruk KI i større
skala ikke er på plass. Det er stort behov for juridiske avklaringer
og kompetanse, infrastrukturen er mangelfull, og det trengs bedre tilgang
på norske språkdata og andre kvalitetsdata. Jeg finner det likevel
positivt at flertallet av de statlige virksomhetene som tar i bruk
KI, oppgir at de når målene om effektivisering og forbedring av
egen oppgaveløsning. Det har vist seg at kunstig intelligens gir
gevinster for offentlig sektor.
Jeg merker meg Riksrevisjonens overordnede
vurdering om at det ikke er tilfredsstillende at Digitaliserings-
og forvaltningsdepartementet gjennom styring og i samarbeid med
de andre departementene ikke har lagt bedre til rette for at offentlig
sektor kan utnytte mulighetene med kunstig intelligens og ta i bruk
KI på en ansvarlig måte. Den samlede innsatsen er for svak, gitt ambisjonene
om at Norge skal ha en infrastruktur for kunstig intelligens i verdensklasse.
Riksrevisjonens undersøkelse omfattet perioden 2018 til 2023. I
2024 opprettet regjeringen Digitaliserings- og forvaltningsdepartementet
nettopp for å styrke samordnings- og pådriverkraften i digitaliseringspolitikken.
Regjeringen har også lagt fram en ny digitaliseringsstrategi, framtidens digitale
Norge. Strategien viser retning for hvordan Norge i perioden fram
mot 2030 skal bli det mest digitaliserte landet i verden. Vi har
satt et mål om at 80 pst. av offentlige virksomheter skal ha tatt
i bruk KI innen 2025 og 100 pst. innen 2030. Vi har allerede startet
på flere viktige tiltak for å nå disse målene. Regjeringen jobber nå
med å få på plass en nasjonal infrastruktur for KI, og her samarbeider
mitt departement med Kultur- og likestillingsdepartementet og Kunnskapsdepartementet.
Infrastrukturen vil omfatte tilgang på regnekraft
og grunnmodeller som er tuftet på våre samfunnsverdier og våre språk.
Vi er i gang med gjennomføringen av EUs forordning om kunstig intelligens
i norsk lov. Regelverket vil bidra til større forutsigbarhet for
norske virksomheter og bidra til at KI- systemene utvikles og brukes
på en ansvarlig og etisk måte. Vi følger også opp viderebruksutvalgets
forslag til ny lovgivning om viderebruk av offentlige data. Regelverket
skal bidra til at data i større grad deles, og at de er av god kvalitet.
Det tas sikte på å fremme forslag om en ny datadelingslov for Stortinget i
løpet av 2025. Regjeringen ser behovet for å styrke arbeidet med
å tilgjengeliggjøre offentlige data som er viktige for samfunnet,
og vil derfor etablere et nasjonalt prioriteringsråd for deling
av data. Kompetanse er Norges fremste konkurransefortrinn og viktigste
ressurs. Næringen har allerede økt forskningsinnsatsen innen kunstig
intelligens med 1 mrd. kr i de neste fem årene, og det skal opprettes
fire til seks tverrfaglige og tverrsektorielle forskningssentre
for kunstig intelligens, med oppstart i 2025. Regjeringen arbeider
også for å styrke den digitale kompetansen, helt fra grunnskolen
til videregående opplæring, fagskole, høyere utdanning og etter-
og videreutdanning. Digitaliserings- og forvaltningsdepartementet
har ansvaret for å koordinere digitaliseringspolitikken, og det
enkelte fagdepartementet har ansvar for å prioritere å gjennomføre
tiltak på egne sektorområder.
Jeg er enig i Riksrevisjonens anbefaling om
at Digitaliserings- og forvaltningsdepartementet må styrke sin samordnings-
og pådriverrolle for aktivt å stimulere til og legge til rette for
ansvarlig bruk av kunstig intelligens i offentlig sektor i samarbeid
med andre departementer. I regjeringens digitaliseringsstrategi
er det uttalt at vi skal sørge for en mer helhetlig og langsiktig
prioritering av digitaliseringstiltak i offentlig sektor. Mitt departement
har allerede startet på den oppgaven.
Presidenten [10:28:04 ]: Dei talarane
som heretter får ordet, har ei taletid på inntil 3 minutt.
Svein Harberg (H) [10:28:07 ] : Det er mulig jeg nå avslører
en sterk interesse for akkurat dette feltet, og jeg har arbeidet
mye med det. Det gjorde at jeg må ha et par kommentarer som ikke
går direkte på rapporten, men på innlegget fra SV. For det første
kunne det godt stått noe om «estiske» her. Jeg har vært på studietur
til Estland nylig – som visepresident, riktignok – for å se hva
de har gjort, ikke minst med hensyn til å bruke det digitale inn
i valg gjennom sikre systemer. De ligger faktisk bortimot 20 år
foran oss, og det er mye å lære – bare som en kommentar til at det
estiske faktisk er interessant.
Så prøvde jeg å være litt beskjeden – det
er ikke alltid så enkelt. Det gjaldt dette med kommersielle interesser,
som Lysbakken var inne på, når det gjelder disse programmene. Det
er kanskje det som er det mest spennende med videreutvikling av
Tsetlin-maskinen – som egentlig er en gammel oppfinnelse, men som
er plukket opp igjen. Utviklingen har skjedd ved kompetansemiljøet
for kunstig intelligens på Universitetet i Agder, og de tar i bruk
og arbeider på et språk som maskinene liker. Og det er ikke-kommersielt,
for vedkommende som kunne tatt patenter og tjent store penger på
dette, professoren, har lagt dette ut åpent for at alle skal kunne bruke
det – det har vært et poeng for ham. Som jeg sa, det er ingen svarte
bokser – jeg har faktisk en T-skjorte på kontoret der det står «no
more black boxes», som jeg har fått av dem – og det er jo helt sentralt
i bruken av kunstig intelligens. Det siste er at det, ifølge dem,
bruker 1/5000-del av energien i forhold til de systemene som er i
dag, så det løser mange ting.
Det er ting her som gjør at vi kan være verdensledende
på dette feltet, så jeg vil bare understreke det også, at det er
muligheter til å ligge i front.
Presidenten [10:30:28 ]: Fleire har
ikkje bedt om ordet til sak nr. 3.
Votering, se voteringskapittel