Bruk av kunstig intelligens til politi- og justisformål

I en vedtatt rapport om bruk av kunstig intelligens (KI) til politi- eller justisformål, går Europaparlamentet blant annet inn for et forbud mot KI-teknologi for automatisk identifisering av personer på offentlig sted. Parlamentet går med det lenger enn Europakommisjonens KI-lovforslag fra april i år, som åpner for bruk av slik teknologi i særlige tilfeller knyttet til alvorlig kriminalitet, kidnapping og terrorisme. Parlamentet ønsker også å forby sosiale poengsystem og bruk av KI-teknologi til å forutsi straffbare handlinger basert på profilering (predictive policing). Rapporten er ikke-bindende, men gir et signal om Parlamentets posisjon i de kommende forhandlingene om KI-lovforslaget. Bruk av kunstig intelligens til rettshåndhevelse diskuteres også i Rådet, hvor flere land skal være opptatt av at Kommisjonens forordningsforslag ikke blir for restriktivt.

Parlamentet vedtok i plenum 5. oktober den egeninitierte rapporten om bruk av kunstig intelligens (KI) til politi- eller justisformål, med 377 mot 24 stemmer, mens 62 avsto. I vedtaket ligger det et forbud mot å etablere private ansiktsgjenkjenningsdatabaser, og bruk av KI-teknologi til automatisk gjenkjenning på offentlige steder og ved grensekontroll. Ifølge Parlamentet er det allerede en utfordring at KI-baserte identifikasjonssystemer i større grad feilidentifiserer etniske minoriteter, LGBTI-personer, eldre og kvinner «which is particularly concerning in the context of law enforcement and the judiciary».

Parlamentet ønsker også et forbud mot sosiale poengsystem, som blant annet har vært tatt i bruk av Kina for å måle borgernes pålitelighet basert på deres oppførsel, og bruk av KI-teknologi til «predictive policing», som benyttes til å forutse mulig kriminalitet før et lovbrudd har funnet sted. Parlamentet understreker at KI-teknologi bør underlegges menneskelig kontroll, og at det bør være åpenhet om algoritmene som brukes.

Parlamentet stemte ned flere tilleggsforslag fra sentrum høyre-gruppen (EPP), som ville tillatt bruk av ansiktsgjenkjenningsteknologi på offentlige steder og myket opp teksten knyttet til «forutseende politiarbeid». I forkant av avstemningen advarte 42 interesseorganisasjoner mot tilleggsforslagene, som de mente ville «enable discriminatory predictive policing and biometric mass surveillance».

Rapporten er ikke-bindende, men gir et signal om Parlamentets posisjon i de kommende forhandlingene om Kommisjonens KI-lovforslag, som ble lagt frem i april i år. Kommisjonen plasserer her KI-systemer for biometrisk fjernidentifisering (som ansiktsgjenkjenning) i kategorien for høy risiko, og de vil bli omfattet av strenge krav. Bruk av slike systemer på offentlige plasser til rettshåndhevelsesformål foreslås i prinsippet forbudt, men det kan gis unntak ved særlige tilfeller (kidnapping, terrorhandlinger, alvorlig kriminalitet) som krever godkjenning av et rettslig eller uavhengig organ.

Bruk av kunstig intelligens til rettshåndhevelse diskuteres også i Rådet, og var tema på justisrådsmøtet 7.-8. juni i år. I et samlenotat til møtet, skrev den danske regjeringen at bruk av kunstig intelligens til biometrisk fjernidentifisering i enkelte, strengt begrensede situasjoner kan rettferdiggjøres: «Danmark støtter ikke et generelt forbud mod brug af biometriske fjernidentifikationssystemer i realtid (såsom ansigtsgenkendelse) med henblik på retshåndhævelse». Reglene som omhandler biometrisk fjernidentifikasjon vil være omfattet av rettsforbeholdet, og derfor ikke være bindende for Danmark. Ifølge notatet var det ventet at flere medlemsland ville gi uttrykk for at Kommisjonens forslag inneholder for mange restriksjoner «i forhold til retshåndhævelsesmyndighedernes muligheder for at anvende kunstig intelligens, f.eks. i forbindelse med efterforskning, hvilket kan vanskeliggøre bekæmpelse af kriminalitet og dermed opretholdelse af den interne sikkerhed i EU». EUs telekomministre, som har ansvaret for KI-lovforslaget i Rådet, vil diskutere saken på en det uformelle minsterrådsmøtet 14. oktober. I notatet til Folketinget i forkant av møtet skriver den danske regjeringen at det slovenske formannskapet prioriterer KI-forslaget høyt, og ønsker å skape en betydelig framdrift i behandlingen denne høsten.

Den europeiske forbrukerorganisasjonen har publisert et posisjonsnotat om Kommisjonens KI-lovforslag, som de mener må betydelig forbedres for å sikre forbrukere tilstrekkelig beskyttelse. BEUC ber blant annet om et klart forbud mot biometrisk fjernidentifisering utført av private aktører i det offentlige rom.

Kontaktinfo

Stortingsbiblioteket: bibl@stortinget.no
Ansvarlig: Jeannette Berseth


Sist oppdatert: 13.10.2021 10:38