1.1 Store teknologifremskritt

Kunstig intelligens (KI) er ikke noe helt nytt, og brukes allerede i over hundre prosjekter i offentlig sektor. Teknologien utvikler seg, og det som ble ansett som KI i går, anses ikke nødvendigvis som KI i morgen. Fremskrittene har vært store, og høsten 2022 ble KI for alvor synliggjort for allmennheten gjennom den store språkmodellen ChatGPT, som gjorde det enkelt å interagere med et KI-system.

Gjennombruddet skjedde innenfor generativ KI, som er maskinlæringssystemer som trenes til å generere innhold som tekst, bilder, video og lyd. Kort sagt lærer de, og henter inspirasjon fra eksisterende media og genererer noe nytt.

For å lykkes med utvikling og bruk av kunstig intelligens er det behov for regulering og tilsyn, men også internasjonalt samarbeid og utvikling av både kompetanse og infrastruktur. Skal man lykkes med teknologien er det viktig at menneskene setter rammene for teknologiutviklingen, ikke omvendt.

1.2 Regulering

Lovreguleringer, kontroll og tilsyn er ikke noe mål i seg selv, men noe et moderne samfunn benytter for å sikre at den enkelte innbyggers og virksomhets plikter og rettigheter er tydelige og forutsigbare, og at det finnes systemer for å ivareta disse. Regulering skal også sikre at noens frihet ikke går på bekostning av andres muligheter, eller er til skade for andre personer, natur og miljø eller materielle verdier.

Når det tas i bruk ny og kraftfull teknologi, som KI, er utfordringen at selv om formålet med lover og reguleringer er like viktige som før, mangler det hjemler, mekanismer og verktøy for å avdekke uønskede eller utilsiktede effekter. KI kan forsterke eksisterende problemer, forårsake nye problemer, eller gi uakseptabel høy risiko for at noe kan gå galt, som det mangler virkemidler for å håndtere. I visse tilfeller vil det kunne oppstå situasjoner der det ikke er mulig å overskue utfordringene i forkant, og at det først er når noe er blitt tatt i bruk eller skalert opp at problemet identifiseres.

Et godt lovverk bør være så teknologinøytralt som mulig, og sørge for at plikter, rettigheter og samfunnsmessige mål blir ivaretatt uavhengig av hvilke tjenester og teknologier som finnes.

Til tross for at KI bringer med seg nye utfordringer tilknyttet regulering, er det flere tilfeller av misbruk som allerede er velregulert. Skjevhet i data kan gi grobunn for diskriminering i KI-systemer, for eksempel i rekrutteringsverktøy. Ved automatisk selektering av søkere til en ny rekrutteringsrunde med et KI-basert rekrutteringsverktøy vil denne diskrimineringsrisikoen være reell. Dette er imidlertid allerede regulert, da diskriminering ved ansettelse er ulovlig, uavhengig av om det er mennesker eller maskiner som utøver den.

1.3 Tilrettelegge for innovasjon

Med fremskrittene innenfor store språkmodeller er det blitt et tydeligere skille mellom grunnmodeller og spesialiserte modeller, noe som gir en tydeligere verdikjede for maskinlæring. For eksempel kan en grunnmodell lages av en aktør, spesialiseres av en annen, og leveres til sluttbrukere i et produkt av en siste aktør. Det gir opphav til problemstillinger som hvem som står til ansvar ved skadelig oppførsel fra KI-systemet. I mange anvendelser kan det løses i verdikjeden selv, men hvis konsekvensen er stor, kan ledd i verdikjeden ikke ønske å bære ansvaret, noe som gjør at det første leddet sitter igjen med hele ansvaret. Det kan motvirke innovasjon, også i situasjoner der mulig samfunnsverdi kan gjøre risikoen verdt det. Lignende problemstillinger kan oppstå i for eksempel legemiddelutvikling. For legemidler gjennomføres det grundige kartlegginger av bivirkninger og frekvens av disse før det når markedet. Gitt at et nytt legemiddel er godkjent, er ansvaret begrenset. Bivirkningene kan være ubehagelige og vesentlige, men samfunnsnytten fra legemiddelet kan gjøre risikoen verdt det allikevel. For høyrisiko bruk av kunstig intelligens kan en lignende modell være hensiktsmessig, der modeller med svært alvorlige konsekvenser i bruksområdet må gjennomgå en initial testing og godkjenning før modellen tilgjengeliggjøres. Det vil for eksempel være naturlig for autonome kjøretøy.

Regulatoriske sandkasser gir bedrifter og myndigheter mulighet til å teste ut nye teknologier og tjenester som er på trappene, men ikke har funnet sin plass innen dagens lov- og regelverk, i et kontrollert testmiljø. Det er allerede flere regulatoriske sandkasser i drift, blant annet hos Datatilsynet, med fokus på kunstig intelligens opp mot personvernutfordringer. Helsesektoren er et felt der KI kan ha svært stor nytte, i alt fra røntgendeteksjon til turnusplanlegging. Samtidig er det også et felt der det er særlig viktig å trå forsiktig. Det bør tilrettelegges for flere regulatoriske sandkasser for uttesting av ny teknologi, spesielt innen helseteknologi. Det kan gi økt forståelse for både de regulatoriske kravene og de teknologiske mulighetene i sektoren, samtidig som nye utfordringer kan identifiseres tidlig og sikre reell verdi og bedre tjenester for brukerne.

Data er avgjørende for å trene maskinlæringsmodeller. Deling av forbrukerdata har de siste årene vokst betydelig, men ifølge en rapport fra 2022, var 90 prosent av verdens industridata fortsatt uutnyttet.¹ Med en sterk tradisjonell industri kan Norge sikre seg et konkurransefortrinn på KI om man klarer å utnytte verdien i industridataen til nye og innovative løsninger i næringslivet.

1.4 Europeiske initiativ

EUs forordning om europeisk regelverk for kunstig intelligens, kalt AI Act, har som mål å bli det nye overordnede europeiske juridiske rammeverket for KI-systemer. AI Act er ikke en respons på alle utfordringer knyttet til KI, men en produktlovgivning til å etablere bruk- og risikokategorier, som et svar på utfordringer som personvern, hallusinasjoner, cybersikkerhet og økonomiske konsekvenser av KI.

AI Act er forventet å være EØS-relevant, og dermed vil forordningen på et tidspunkt innarbeides i norsk rett. Etter innarbeidelsen er det forventet at det fortsatt vil gå to år før den trer i kraft. For å ikke risikere usikkerhet rundt håndhevingen lenger enn nødvendig, bør en forsvarlig og effektiv implementering av forordningen etterstrebes, slik at AI Act ikke trer i kraft senere enn nødvendig. Det fordrer at forberedelsene som kan gjøres, begynner allerede nå.

AI Act delegerer fastsettelsen av KI-standarder. Å fastsette standarder for et bredt spekter høyrisiko KI-systemer vil imidlertid være en stor utfordring, med mange ubesvarte spørsmål. En sentral suksessfaktor for en vellykket implementering av AI Act ligger derfor i å sikre at standardene i kravene faktisk imøtekommer utfordringene teknologien skaper. Norge bør aktivt ta del i utformingen av disse standardene som i stor grad vil påvirke systemene man kan bruke i Norge.

Utover reguleringsinitiativ kan Norge også bidra i den digitale utviklingen gjennom program som DIGITAL Europe. Her bidrar Norge allerede med kontingent, men for å få mest mulig igjen for investeringene i programmet, bør det utarbeides en helhetlig strategi for deltakelsen og opprettes en medfinansieringsordning for norske prosjekter.

1.5 Immaterielle rettigheter

De aller fleste KI-systemer er avhengige av data. Tidligere er det i stor grad brukt intern data som er merket, og som man sitter på rettighetene til. Med fremveksten av generativ KI, som i større grad bruker umerket data i form av for eksempel tekst, kan store mengder data hentes fra kilder man ikke nødvendigvis har rettigheter til å bruke. Store språk- og bildebehandlingsmodeller kan benytte tusener av individuelle datakilder til å generere et nytt verk, der sporet tilbake kan være uklart. Både i Norge og i utlandet reageres det på at grunnmodeller har kjennskap til opphavsrettsbeskyttet materiale. Det finnes internasjonale initiativ på feltet, gjennom digitalmarkedsdirektivet til EU. Effekten generativ KI har på kunst, kultur og mediefeltet vil allikevel være svært stor, og derfor bør innvirkningene utredes nærmere og behovet for lovendringer på området defineres.

1.6 Tilsyn og veiledning

Med økt anvendelse av KI er det flere tilsynsorganer som kan og vil bli berørt av utviklingen, for eksempel Datatilsynet, Forbrukertilsynet, Likestillings- og diskrimineringsombudet og Helsetilsynet. Samtidig er det klart at behovet for tydelige avklaringer i utviklingen og anvendelsen av KI står sentralt. Aktører trenger én myndighet å forholde seg til for å unngå usikkerhet om hva som faller innenfor regelverket og ikke.

Som med bioteknologi bringer KI med seg mange etiske utfordringer, og KI-systemer vil i flere tilfeller kreve eksplisitte svar på disse, om man ikke skal la beslutninger avgjøres av tilfeldigheter. Avveiningene som må tas er krevende, og arbeidet bør begynne allerede nå. Det kan gjøres ved å opprette et rådgivende organ etter modell fra Bioteknologirådet, som skal veilede om ansvarlig bruk av KI og gi innspill i prinsipielle og etiske spørsmål.

Et KI-råd kan også være et naturlig skritt mot et lovhjemlet algoritmetilsyn, avhengig av endelig vedtak i KI-forordningen til EU. Problemene KI bringer med seg er imidlertid flerdimensjonale, og vel så viktig som hvor tilsynet vil ligge, er at tilsynsmyndigheter tar initiativ til samarbeid og samhandling, for å sikre at alle perspektiver tas med.

1.7 Utdanning og kompetanse

I møte med KI er grunnleggende forståelse av teknologien nødvendig. Det gir oss evnen til å forstå verden vi lever i, og samtidig kunne stille kritiske spørsmål og utøve god kildekritikk. Deepfakes og annet syntetisk innhold fra generativ KI gjør at man må bli mer kritisk til det man ser, hører og leser. I dag kan ulike skoler velge å benytte seg av KI på ulike måter, da det kan være opp til den enkelte kommune, skole eller lærer å bestemme om eller hvordan man bruker teknologien i klasserommet. Mulighetene med KI i klasserommet er store, så lenge teknologien brukes rett. Det kan bidra til hyppigere uformell tilbakemelding til elever i enkelte fag, og den kan også styrke forståelsen av begrensningene til KI, ved å stille spørsmål og reflektere hva den svarer som er rett eller galt. Generative KI-systemer er ikke oppslagsverk, men de er trent på å være gode i språk, og kan gi læringsgevinster så lenge de brukes konstruktivt. Samtidig kan KI misbrukes til for eksempel fusk i skolen. Nasjonale retningslinjer for bruk av KI i skolen kan gjøre lærere tryggere på bruken av teknologien i klasserommet, og gi tydeligere mandat til når bruken er forbudt, som i enkelte vurderingssituasjoner.

Allerede før interessen for KI fikk et kraftig oppsving høsten 2022, ble det varslet om økt behov for IKT-kompetanse i Norge. Samfunnsøkonomisk analyse konkluderte i 2021 at det var behov for 40 000 flere sysselsatte med IKT-utdanning i 2030.² Skal Norge lykkes med KI, er man avhengig av at de skarpeste KI-utviklerne og forskerne utdannes her. Flere spesialister er imidlertid ikke nok. Når folk i stadig større grad omgir seg med algoritmer som påvirker livene deres, vil mange flere ha behov for en grunnleggende forståelse for teknologien. Det bør i større grad åpnes for at ikke-tekniske studier, som juridiske fag og helsefag, får anledning til å ta tekniske emner gjennom studieløpet. Det bør sikres spiss- og breddekompetanse på KI for å møte fremtidens kompetansebehov.

Livslang læring vil bli enda viktigere fremover. KI kan bidra til å automatisere enkelte oppgaver, noe som øker behovet for å holde seg oppdatert på faget og videreutvikle egen kompetanse. Den livslange læringen blir viktigere, uavhengig av om den kommer fra utdanningssektoren eller som realkompetanse. Kommer den fra realkompetanse eller andre ikke-gradsgivende kurs, bør det tilrettelegges for at verdien av også den kompetansen kan synliggjøres enklere. En mulig måte er å videreutvikle eksisterende verktøy brukt av arbeidsgivere for kompetanseverifisering, for eksempel ved å innarbeide støtte for mikrosertifisering i Vitnemålsportalen.

1.8 Infrastruktur

Datasenterindustrien er blitt omtalt som verdens raskest voksende kraftkrevende industri.³ Å ha tilgang til regnekraften datasentre muliggjør er en forutsetning for å trene store KI-modeller. Tilgangen på denne regnekraften blir også sentral for å realisere nytten av kunstig intelligens i norsk industri. Skal det sikres mer forutsigbar energi fra vindmølleparker og en optimalisert hydrogenutvinning, er man avhengig av dataintensive KI-systemer som gjør industrien «smart». Datasentre er derfor ikke bare en viktig industri i seg selv, men en nødvendighet for å lykkes også i andre industrieventyr.

Samtidig bringer de store generative modellene med seg bekymring for høyt energiforbruk. Selv om anvendelsene av dem kan ha positiv effekt på den grønne omstillingen, er det viktig å få den totale klimaeffekten på bordet. Datasentres regnekraft har også andre bruksområder enn trening og bruk av KI-modeller. For å sikre en bærekraftig datasenterindustri bør det derfor gjennomføres en ringvirkningsanalyse, som ser på hvilke effekter datasentre i Norge har på verdiskaping og bærekraft i tradisjonell industri.

De store språkmodellene som brukes i Norge i dag, er gjerne trent på hovedsakelig engelskspråklig materiale. Dataen som ligger til grunn for læringen av disse modellene har derfor andre kulturelle forutsetninger enn hvis de hadde blitt trent på en større andel norsk og nordisk materiale. Det finnes allerede initiativ innenfor akademia og næringslivet til en norsk språkmodell. Tidligere i 2023 opprettet Nordisk råd en arbeidsgruppe for hvordan kunstig intelligens påvirker demokratiet. Sett i lys av dette arbeidet bør Norge ytterligere løfte det nordiske samarbeidet og sikre mer robusthet i modellene og bevaring av den fellesnordiske kulturarven.

1.9 Sikkerhet

Generativ KI gjør at alle må bli mer kritiske til det man ser, hører og leser. Teknologien muliggjør mer treffende desinformasjon som kan genereres i et enormt omfang. Enkelte aktører kan ha interesse av å utføre påvirkningskampanjer i utøvelsen av det norske demokratiet. Med generativ KI blir det både enklere og rimeligere å gjennomføre slike kampanjer. Solberg-regjeringen sendte i mai 2021 ut et høringsnotat om endringer i straffeloven tilknyttet påvirkningsvirksomhet, og sett i lys av truslene generativ KI utgjør på feltet, bør arbeidet for å kontre falske nyheter og desinformasjon fra fremmede trusselaktører forsterkes.

Generativ KI bidrar også til økt risiko for lettere tilgang på skadevare og økt cybertrussel mot norske virksomheter, som omtalt i Kripos’ rapport om generativ KI. Det blir enda viktigere å sikre at ens virksomhet har grunnleggende cybersikkerhet på plass. I en presset kompetansesituasjon kan det være spesielt krevende for mindre virksomheter å vite hva de viktigste tiltakene er. Norge har en egeninteresse av at norske virksomheter er trygge, og tilbud til mindre virksomheter som Digital Norway sitt «Hele Norge øver» bør styrkes, i koordinasjon med sikkerhetsmyndighetene.

1.10 Digitale anskaffelser

Alle kommuner har sine utfordringer, men de har også mange fellestrekk. Statistisk sentralbyrå (SSB) la frem en rapport om digitalisering i kommunene i august 2023,⁴ som viser at over halvparten av kommunene mente manglende IKT-kompetanse var til hinder for utviklingen av kommunens digitale tjenester. Tross forskjeller deler kommunene også mange felles utfordringer som kan løses med avansert digital teknologi som kunstig intelligens. I Danmark har kommuner gått sammen og dannet et felleskommunalt IT- og forvaltningshus kalt KOMBIT. Det fungerer som innkjøpsansvarlig for en rekke digitale anskaffelser for kommunene. Spisskompetansen deres kommer alle kommunene til gode og gir bedre avtalebetingelser og programvareutforming som treffer deres felles behov. For å møte utfordringene med avansert digital kompetanse i norske kommuner bør lignende løsninger vurderes i Norge.