JOU 2022:2 Autonome våpensystemer

Bakgrunn

Utviklingen av kunstig intelligens og autonom teknologi gjør det mulig å lage nye autonome våpensystemer, våpensystemer som reiser grunnleggende prinsipielle spørsmål. Slike autonome systemer kan ta beslutninger om overvåking, bruk av makt og vold, om å angripe eller ikke å angripe, uten at mennesker er involvert. Systemet kan velge når vold skal brukes, mot hvem og hvordan. 

Dagens rettsregler er innrettet med tanke på at det er mennesker som tar beslutninger og mennesker som er ansvarlig for beslutningene. Hvordan skal rettsreglene sikre at bruken av autonome våpensystemer holdes innenfor rettsstatlige og folkerettslige rammer? 

Utviklingen har fått flere til å fremheve sikring av menneskelig kontroll over autonome våpensystemene som en av de viktigste fredssakene i vår tid.

Bruken av autonome våpensystemer (AVS) er foreløpig begrenset, men bruken er økende. Det gjelder både systemer brukt på land, sjø og i luften. Både stater og private aktører viser stor interesse for utviklingene av nye systemer. Statene er enige om at internasjonal humanitærrett og andre folkerettslige regler får anvendelse på autonome våpensystemer, men de er ikke samstemte i hvordan retten skal tolkes og anvendes.

Oppdrag

Studentgruppen skal utrede hvordan utvikling, bruk og eksport av autonome våpensystemer bør reguleres i norsk rett. På bakgrunn av denne utredningen skal gruppen foreslå en lov som regulerer utvikling, bruk og eksport av autonome våpensystemer. Gruppen kan også velge – i stedet for eller i tillegg til å lage en ny lov – å foreslå endringer i gjeldende lover. Dersom gruppen foreslår å gi hjemmel i lov til å gi forskrifter, bør gruppen gi signaler om hva skal reguleres i forskrift eller foreslå konkrete forskriftsbestemmelser.

Utredningen bør identifisere og drøfte etiske spørsmål som oppstår når beslutninger om liv og død overlates til maskiner. På denne bakgrunn bør gruppen vurdere om det er beslutninger som ikke kan overlates til maskiner. Dersom beslutningene kan overlates til maskiner: Hvordan vi kan sikre at beslutningen blir underlagt en effektiv rettsstatlig, folkerettslig og humanitærrettslig kontroll. 

Utredningen skal omfatte alle livsfasene til autonome våpensystemer. Det vil si forskning, utvikling, testing, omsetning, anskaffelse, utplassering og bruk. Disse utredningsspørsmålene bør ses i sammenheng med Genevekonvensjonen første tilleggsprotokoll artikkel 36.

Studentgruppen skal ta utgangspunkt i følgende anbefalinger fra Den internasjonale Røde Kors-komiteen vedrørende autonome våpensystemer (norsk oversettelse):

1.    Autonome våpensystemer som opererer uforutsigbart, skal være forbudt. Dette vil være et våpen som man ikke fullt ut kan ha meningsfull menneskelig kontroll over gitt at de opererer vilkårlig.

2.    For eventuelle våpensystemer som vil kunne fungere forutsigbart og derav ikke være forbudt, så må rammene for bruken av disse klargjøres og det må settes inn operasjonelle begrensninger for bruk av slike våpensystemer hva gjelder systemenes design, egenskaper, innstillinger og bruksområde. 

3.    Utgangspunktet må være at autonome våpensystemer ikke skal benyttes til å rette angrep mot mennesker, hvilket vil være forbudt. Dette grunnes i etiske og moralske hensyn, herunder at beslutninger om liv og død skal fattes av mennesker og ikke teknologi da sistnevnte vil kunne ha en dehumaniserende effekt. 

4.    I tillegg anbefales det at for de våpnene som ikke forbys, så må det trekkes tydelige grenser for hva som er lovlig i forhold til:
a.    målutvelgelse - eksempelvis at kun militære mål vil være lovlige 
b.    varigheten for bruk, herunder hvor lenge de kan operere autonomt, over hvor stort område de kan operere (geografisk anvendelsesområde) og i hvor stort antall og omfang de kan brukes i en militær operasjon 
c.    i hvilke kontekster bruk av slike våpensystemer vil være tillatt - eksempelvis at de kun kan benyttes i områder hvor det ikke er sivile eller sivile objekter (ikke befolkede områder)

5.    Det vil også måtte være et klart krav om at mennesker og systemene kan interagere og samhandle slik at mennesket sikres en effektiv kontrollfunksjon og at denne kan utøves på en meningsfull måte, herunder at mennesker kan gripe inn og deaktiverer systemene ved behov og i tide.

Studentgruppen skal også ta hensyn til den internasjonale erklæringen om 11 førende prinsippene for autonome våpensystemer, som Norge og flere andre land har sluttet seg til (Utenriksdepartementet, 2021).

Studentgruppen må i arbeidet med å definere hva autonome våpensystemer er, være særlig oppmerksom på graden av autonomi i våpenet og eventuelle utfordringer med skille mellom sivil og militær teknologi. Gruppen bør også utvikle en presis definisjon av hva som er uforutsigbare våpensystemer og være særlig oppmerksom på hvor terskelen for hva som kan sies å være uforutsigbart skal legges.

Studentgruppen må utrede spørsmål om folkerettslige-, strafferettslige-, forvaltningsrettslige- og erstatningsrettslige ansvarsspørsmål dersom det skjer feil i bruken av autonome våpensystemer. Et sentralt spørsmål er hvem som skal bære ansvaret og hva ansvaret innebærer.

Studentgruppen må i arbeidet se hen til, utrede forholdet til og vurdere behovet for endringer i tilstøtende norske lover. Blant disse er straffeloven, produktkontrolloven, våpenloven og eksportkontrolloven. Studentgruppen kan også vurdere forslaget fra Etikklovutvalget, som i NOU 2020: 7 Verdier og ansvar – Det etiske rammeverket for Statens pensjonsfond utland, foreslo å inkludere autonome våpen i kriteriene for utelukkelse fra Statens pensjonsfond utland (Oljefondet).

Studentgruppen kan i arbeidet se hen til sammenlignbare norske reguleringer av problemstillinger rundt samhandlingen mellom mennesker og maskiner, f.eks. automatisering av biler, fly og skip.

Studentgruppen skal besvare mandatet, og utarbeide en skriftlig utredning som fremlegges for Røde Kors i form av en JOU (Jusstudentenes offentlige utredninger). Studentgruppens arbeid skal utføres i henhold til utredningsinstruksen, forvaltningsloven og andre relevante veiledninger. Utredningen skal også bygge på litteraturen og undervisningen i faget JUS5502 Lovgivningslære. Studentgruppen står fritt til å innhente informasjon og kontakte relevante aktører for innspill.

Utredningen skal inneholde forslag til lov- og forskriftstekst der det fremmes forslag eller gis anbefalinger som vil kreve slike endringer. Slike forslag skal utformes i tråd med retningslinjene i Justisdepartementets veiledning Lovteknikk og lovforberedelse (2000).

Bakgrunnsdokumenter