Spørsmål

Mirell Høyer-Berntsen (SV): Hvordan vil statsråden ta initiativ til å styrke forbrukervernet i møte med generativ kunstig intelligens (KI), slik at selskaper ikke kan bruke KI til å kartlegge, forutsi og påvirke (individtilpasset kommersiell påvirkning) barns og forbrukeres valg på måter de selv ikke forstår eller har reell mulighet til å kontrollere?

Begrunnelse

Generativ kunstig intelligens representerer et teknologisk skifte som kan endre maktforholdet mellom forbrukere og digitale tjenester. Der algoritmer tidligere anbefalte innhold og målrettet reklame, kan generativ KI analysere språk, preferanser og atferd og tilpasse kommunikasjon i sanntid. Det gir store muligheter, men reiser også grunnleggende spørsmål om forbrukermakt, åpenhet og retten til å ta informerte valg.

Barn og unge er særlig sårbare. De er storbrukere av digitale tjenester, samtidig som evnen til kritisk vurdering fortsatt er under utvikling. Når KI kan skreddersy innhold til den enkelte, oppstår nye utfordringer knyttet til påvirkning som brukeren verken forstår eller har reell kontroll over.

Utviklingen illustreres av KI-baserte samtaleassistenter og digitale «venner» som kan føre langvarige, personlige samtaler. De kan tilpasses brukerens språk, interesser og følelsesmessige reaksjoner. Teknologien kan gi læring og støtte, men reiser også spørsmål om avhengighet, kommersielle interesser og hvor tydelig det er hvem som faktisk påvirker brukeren.

Også voksne møter nye former for kommersiell påvirkning. Tradisjonell reklame er synlig og gjenkjennelig. Generativ KI kan derimot gjøre påvirkningen personlig, kontinuerlig og nærmest usynlig. En tjeneste kan analysere tidligere valg og reaksjoner og skreddersy argumentasjonen for å øke sannsynligheten for et bestemt valg. Det utfordrer etablerte prinsipper om transparens og informerte beslutninger.

EU har innført Digital Services Act og KI-forordningen, som blant annet forbyr enkelte manipulerende KI-systemer og stiller strengere krav til åpenhet og beskyttelse av mindreårige. Samtidig utvikler teknologien seg raskere enn regelverket, og det er grunn til å spørre om dagens vern er tilstrekkelig mot stadig mer avansert individtilpasset påvirkning.

Norge har lange tradisjoner for sterk forbrukerbeskyttelse. Når kunstig intelligens blir en integrert del av hverdagen, må vi sikre at retten til selvbestemmelse og informerte valg følger med inn i den digitale tidsalderen. Spørsmålet er om regelverket er rustet for en utvikling der KI ikke bare forstår hva vi vil, men også blir stadig bedre til å påvirke hva vi velger, og KI går fra å anbefale innhold til å aktivt tilpasse påvirkning av enkeltpersoner.

Svar

Svaret er ennå ikke tilgjengelig