Bakgrunn for oppdraget
Oppdragsgiver er NAV Seksjon informasjonsforvaltning.
Ytelser etter folketrygdloven og andre særlover som NAV forvalter bygger på et gjensidig tillitsforhold mellom brukerne og NAV. NAV legger til grunn at brukerne gir korrekte opplysninger ved fremsettelse av krav om ytelse, og at de informerer NAV om endringer som har betydning for ytelsen. Manglende eller uriktige opplysninger kan føre til feilutbetaling og vedtak om tilbakekreving. Slike forhold vil også kunne være straffbare.
I dag kontrolleres borgernes regeletterlevelse i etterkant av at NAV har utbetalt ytelsen, og utløses oftest av at NAV har mottatt tips eller foretatt stikkprøver. Digitalisering av tidligere manuelle prosesser og bruk av teknologi som for eksempel kunstig intelligens gjør det mulig å flytte tidspunktet for kontroll slik at man ikke lenger har en etterfølgende kontroll av regeletterlevelsen, men kan foreta denne før vedtak om innvilgelse av ytelse fattes.
Her er det nærliggende å trekke fram Nederland som et eksempel. Nederlandske myndigheter har utviklet et algoritmebasert system for å føre kontroll med borgernes etterlevelse av trygdelovgivningen (SyRI). Systemet bruker algoritmer som knytter informasjon fra ulike statlige registre sammen og vurderer risiko for trygdesvindel basert på profilene til personer som allerede har blitt dømt for trygdesvindel. Algoritmen leter så gjennom offentlige registre for å finne personer som har en lignende risikoprofil. Disse personene merkes som potensielle trygdesvindlere og blir sortert ut for videre oppfølging. Den lokale tingretten i Haag fant at SyRi bryter menneskerettighetene fordi inngrepet i enkeltindividets autonomi var uforholdsmessig sammenlignet med de hensyn, altså forhindre trygdesvindel, løsningen er ment å ivareta. SyRi-dommen har fått stor oppmerksomhet verden rundt og ses på som en ildprøve for bruk av kunstig intelligens i kontrolløyemed.
Diskusjonene om bruk av kunstig intelligens i forvaltningens kontrollvirksomhet er relevante også for Norge. Norge har en godt utviklet digital forvaltning og det står også høyt på den politiske dagordenen å ta i bruk kunstig intelligens for å effektivisere kontroll.
Diskusjonene som vi nå ser i Nederland er også aktuelle her hjemme i Norge. Forvaltningslovutvalget har i utkast til ny forvaltningslov (NOU 2019: 23 Ny forvaltningslov) fremmet et forslag til en formålsparagraf som, i større grad enn i dag, åpner for en interesseavveining mellom partenes interesse i saken og interessene til samfunnet/fellesskapet.
Oppdrag
Studentgruppen skal utrede rettslige rammer for bruk av kunstig intelligens i velferdsforvaltningens kontrollarbeid, med særlig vekt på NAVs kontroll med uriktig utbetalte ytelser. Studentgruppen skal utrede hvordan kunstig intelligens kan brukes til å effektivisere kontroll samtidig som grunnleggende hensyn som rettssikkerhet og forsvarlighet ivaretas.
Studentgruppen skal foreslå regler om bruk av kunstig intelligens i form av en helt ny lov om bruk av kunstig intelligens i velferdsforvaltningen, et nytt kapittel eller nye bestemmelser i forvaltningsloven eller folketrygdloven, eller som regler i forskrift til noen av disse lovene. Det bør også vurderes å foreslå interne regler i NAV for å sikre at krav i lovgivningen etterleves. Det kan vurderes om det bør utformes en atferdsnorm for denne type virksomhet i henhold til GDPR.
Ved utformingen av reglene må grunnleggende forvaltnings-, diskriminerings- og menneskerettslige regler tas i betraktning og verdiene disse bygger på. Det innebærer blant annet at studentgruppen må vurdere hvordan for eksempel partene i en kontrollsak sin rett til innsyn og kontradiksjon kan ivaretas, og hvordan man kan forhindre krenkelser av personvern og diskriminering.
Studentgruppen skal undersøke og ta stilling til alle spørsmål i mandatet, og utarbeide en skriftlig utredning som fremlegges for UiO og NAV form av en JOU (Jusstudentenes offentlige utredninger). Studentgruppens arbeid skal utføres i henhold til Utredningsinstruksen og forvaltningsloven og andre relevante veiledninger. Utredningen skal også bygge på litteraturen og undervisningen i faget JUS5502 Lovgivningslære. Studentgruppen står fritt til å innhente informasjon og kontakte relevante aktører for innspill.
Utredningen skal inneholde forslag til lov- og forskriftstekst der det fremmes forslag eller gis anbefalinger som vil kreve slike endringer. Eventuelle forslag til endringer skal utformes i tråd med reglene i Justisdepartementets veiledning Lovteknikk og lovforberedelse (2000).
Bakgrunnsdokumenter
- “Elements of AI” - Et gratis nettkurs i kunstig intelligens utviklet av NTNU
- Nasjonal strategi for kunstig intelligens
- Intervju med prof. Phillip Alston, FNs rapportør på fattigdom
- Rapport fra FNs rapportør på fattigdom om den digitale velferdsstat (lenke til hele rapporten finner dere i det andre avsnittet)
- Intervju med leder for NAVs AI-lab Cathrine Pihl Lyngstad
- JOU 2019: 2 Lex Digitalis - hendelsesorientert tildeling av velferdsytelser