Bakgrunn for oppdraget
Oppdragsgiver er NAV Seksjon informasjonsforvaltning.
Velferdsstaten er i endring. Forvaltningen står midt i et digitalt paradigmeskifte hvor enkeltvis og manuell behandling av enkeltvedtak gradvis erstattes med automatisk saksbehandling. Allerede i dag fattes flere vedtak i forvaltningen basert på automatiske prosesser hvor rettigheter og plikter bestemmes automatisk basert på profiler og opplysninger som forvaltningen har om borgerne. Enkeltvedtak som tidligere ble fattet av en saksbehandler, behandles nå i større grad, helt eller delvis, automatisk i rettslige beslutningssystemer. Et eksempel er at borgere kan søke om en ytelse eller tjeneste digitalt og få et enkeltvedtak sekunder etterpå i sin digitale postkasse. Denne formen for saksbehandling innebærer at man kan behandle langt flere saker på samme tid enn det man kunne med manuell saksbehandling. Automatisk saksbehandling utfordrer samtidig flere sider av våre tradisjonelle oppfatninger om rettssikker og forsvarlig saksbehandling. For eksempel er det ofte ikke slik at din sak behandles individuelt, du behandles ut fra en profilering – hva som gjelder typisk for personer som deg.
Det neste steget i omleggingen av offentlig forvaltning og særlig velferdsforvaltningen er å ta i bruk kunstig intelligens på ulike måter. Det er store ambisjoner for bruk av slik intelligens. I januar 2020 publiserte Kommunal- og moderniseringsdepartementet en nasjonal strategi for kunstig intelligens. I strategien pekes det på de store mulighetene bruk av kunstig intelligens gir, og det settes flere mål på veien til omfattende bruk av kunstig intelligens i offentlig sektor. Blant annet ønsker regjeringen å:
- gjennomgå og vurdere regelverk som er til hinder for hensiktsmessig og ønsket bruk av kunstig intelligens i offentlig og privat sektor
- stille krav om gjennomsiktighet og etterrettelighet i nye løsninger for offentlig forvaltning der KI er en del av løsningen
I strategien fremhever også regjeringen at:
- kunstig intelligens som utvikles og brukes i Norge skal bygge på etiske prinsipper, og respektere menneskerettighetene og demokratiet
- forskning, utvikling og bruk av kunstig intelligens i Norge skal bidra til ansvarlig og pålitelig kunstig intelligens
- utvikling og bruk av kunstig intelligens i Norge skal ivareta den enkeltes integritet og personvern
Dagens masseforvaltning kan bli radikalt endret ved bruk av kunstig intelligens. Det gjelder ikke minst velferdsforvaltningen og særlig NAV. I NAV skjer det for tiden et utviklingsarbeid.
Oppdrag
Studentgruppen skal utrede hvordan kunstig intelligens kan tas i bruk på velferdsforvaltningen på en ansvarlig og pålitelig måte. Et grunnleggende spørsmål gruppen må vurdere er hvordan man kan legge til rette for en effektiv masseforvaltning gjennom bruk av kunstig intelligens som samtidig ivaretar enkeltindividers rettsikkerhet.
Studentgruppen skal foreslå regler for digital masseforvaltning og særlig bruken av lærende algoritmer. Reglene skal sikre at grunnleggende rettssikkerhetsverdier ivaretas og operasjonalisere forvaltningsrettslige, statsrettslige og menneskerettslige regler for bruken av kunstig intelligens.
Studentgruppen kan velge å foreslå prinsipper for bruk av kunstig intelligens i offentlig sektor eller regler om slik bruk f.eks. i forvaltningsloven, folketrygdloven, offentleglova eller i en helt egen lov. Studentgruppen kan også vurdere om det trengs andre mekanismer for å bidra til rettssikkerhet, for eksempel om det bør opprettes et eget ombud for digital forvaltning eller om eksisterende ombudsordninger burde få et særskilt mandat til å uttale seg om slike spørsmål.
Studentgruppen skal ta stilling til hvilket nivå som bør ta stilling til om det skal brukes kunstig intelligens i beslutningsprosessene og hvordan disse beslutningene bør tas. Studentgruppen skal vurdere om borgerne bør ha særskilte rettigheter dersom kunstig intelligens blir brukt i hele eller deler av saksbehandlingen, eksempler på spørsmål som oppstår er hvordan forutsigbarhet og forklarbarhet skal ivaretas. Studentgruppen kan også vurdere krav til konsekvensutredning i forkant av at algoritmene tas i bruk, om hvilke data algoritmen kan øve seg på og hvordan slik øving kan skje. Studentgruppen kan også utrede hvordan en ordning for bruk av en “regulatorisk sandkasse” kan organiseres i velferdsforvaltningen med tanke på utvikling av gode algoritmer. Studentgruppen kan også vurdere hvordan domstolenes kontroll med den nye masseforvaltningen bør organiseres.
Det forventes ikke at studentgruppen tar for seg alle spørsmålene. Grupperingen er ment for å vise at man kan besvare oppdraget på flere måter. Oppdragsgiver vil bistå studentgruppen med avgrensning av prosjektet.
Studentgruppen skal undersøke og ta stilling til alle spørsmål i mandatet, og utarbeide en skriftlig utredning som fremlegges for UiO og NAV form av en JOU (Jusstudentenes offentlige utredninger). Studentgruppens arbeid skal utføres i henhold til Utredningsinstruksen og forvaltningsloven og andre relevante veiledninger. Utredningen skal også bygge på litteraturen og undervisningen i faget JUS5502 Lovgivningslære. Studentgruppen står fritt til å innhente informasjon og kontakte relevante aktører for innspill.
Utredningen skal inneholde forslag til lov- og forskriftstekst der det fremmes forslag eller gis anbefalinger som vil kreve slike endringer. Eventuelle forslag til endringer skal utformes i tråd med reglene i Justisdepartementets veiledning Lovteknikk og lovforberedelse (2000).
Bakgrunnsdokumenter
- “Elements of AI” - Et gratis nettkurs i kunstig intelligens utviklet av NTNU
- Nasjonal strategi for kunstig intelligens
- Intervju med prof. Phillip Alston, FNs rapportør på fattigdom
- Rapport fra FNs rapportør på fattigdom om den digitale velferdsstat (lenke til hele rapporten finner dere i det andre avsnittet)
- Intervju med leder for NAVs AI-lab Cathrine Pihl Lyngstad
- JOU 2019: 2 Lex Digitalis - hendelsesorientert tildeling av velferdsytelser