Kunstig intelligens (KI) er langt bedre enn mennesker til å ta visse typer beslutninger. Særlig når det gjelder områder av samfunnet der det må gjøres strategiske valg basert på en stor mengde informasjon fra ulike hold, er maskinene overlegne.
Hvilke deler av samfunnet kan dette minne om?
– Det er en temmelig presis beskrivelse av politikken, sier førsteamanuensis Henrik Skaug Sætra på Institutt for informatikk ved Universitetet i Oslo.
– Politikken er den delen av samfunnet der det tas viktige beslutninger basert på en lang rekke ulike hensyn. Som menneske er det fort gjort å miste oversikt.
Kunstig intelligens som gjør beslutninger for oss, er ikke science fiction. Vi er alt kommet dit.
– Store deler av forvaltningen bruker eller snuser allerede kunstig intelligens, særlig i helsesektoren.
Men også andre er på ballen.
– NAV har lenge arbeidet med KI. Etaten ønsker å bruke KI til å klassifisere søknader, prioritere brukere for oppfølging og forberede vedtak, forteller Sætra.
Og mer skal det bli. Før sommeren sa digitaliseringsminister Karianne Tung (Ap) at 80 prosent av offentlig sektor skal ta i bruk KI innen 2025.
«Vi trenger å frigjøre arbeidskapasitet til det som faktisk er viktig», sa Tung til NRK, og hevdet at KI-toget har forlatt perrongen og at det er «viktigere enn noensinne å passe på at vi ikke blir hengende etter, eller stående igjen på stasjonen.
Digitaliseringsministerens tog som går, kan minne om det Sætra kaller «AI creep» – KI kommer krypende inn i stadig flere deler av styre og forvaltning.
– I forskningen min beskriver jeg en utvikling som allerede er godt i gang. KI er nå etablert i alle deler av forvaltningen.
Den magiske boksen
Hvordan en KI fungerer i praksis er for teknisk komplisert og heller ikke det sentrale i denne sammenhengen. Derfor ber Sætra oss bli med på et lite tankesprang.
– Det kan høres litt for enkelt ut, men det er en god grunn til det. Jeg gir dere et tankeeksperiment kalt «Den magiske beslutningsboksen».
I artikkelen «A shallow defence of a technocracy of artificial intelligence», bruker Sætra «boksen» til å teste teoretiske argumenter for og mot bruk av KI i politikk og forvaltning.
– Boksen er en KI som mates med data og spytter ut en løsning på problemet.
Heller ikke dette er sci-fi. Det snakkes allerede om at de nye intelligensene er som svarte bokser. Som menneske er vi ikke i stand til å forstå hvordan de kommer fram til løsningene som dukker opp på den andre siden.
– KIs vei inn i beslutningstukturene kan skje på flere måter – alt fra datamaskiner som hjelper mennesker å ta beslutninger til at de i stor grad erstatter dem. Jeg har undersøkt den siste muligheten, som jeg kaller et KI-teknokrati, forteller Sætra.
Ordet gir umiddelbart en emmen smak i munnen. Ideen om et fåtallsstyre av de mest kyndige, forbinder vi gjerne med autoritær ideologi, eller med overgangsordninger for stater som har havnet i et alvorlig økonomisk eller politisk uføre. Mest kjent fra nyere tid er regjeringen til Mario Monti som ledet Italia i halvannet år fra 2011 til 2013.
Da var tanken at teknokratene skulle ta tømmene en så kort stund som mulig før et fullverdig demokrati blir gjeninnført.
Dårlig rykte til tross, teknokrati et ord som stadig oftere er på forskeres lepper i diskusjonen om KI.
– Årsaken er nettopp, som vi har vært inne på, at KI i visse tilfeller er langt bedre enn mennesker til å fatte beslutninger.
Ideelt sett er det imidlertid fortsatt mennesket som tar den siste avgjørelsen, særlig i politiske spørsmål som får konsekvenser for befolkningen, mener Sætra.
– Dette kaller vi «human in the loop» – altså at mennesket fortatt har en sentral rolle i saksgangen – at for eksempel en saksbehandler i NAV kan gripe inn og endre et KI-generert saksgrunnlag.
Men det at KI-ene blir stadig mer «magiske», gjør at menneskene står i fare for å bli tilskuere.
– Når beslutningene overgår vår fatteevne, ligger det litt i sakens natur at menneskets reelle involvering kan bli litt illusorisk.
Kan vi stole på maskinene?
Hvis vi i det hele tatt skal drømme om å gi reell politisk makt til kunstige intelligens, må vi svare på ett, stort spørsmål: Kan vi stole på dem?
Henrik Skaug Sætra spør om maskinene har etos – et begrep han har lånt fra de gamle grekerne.
– Aristoteles foreslo at vi har tre retoriske virkemidler når vi skal prøve å overbevise noen: Logos, patos og etos.
En enkel måte å skjønne hvordan etos kan oppstå på, er å se for seg tidligere NRK- korrespondent Hans Wilhelm Steinfeld si: «Da eeeg intervjuet Mikael Gorbatsjov hjemme i stuen hans i 1986». Hvis noen før lurte, er det nå ingen tvil om at denne mannen vet hva han snakker om når det gjelder Russland. Vi stoler på alt han sier etter den ene setningen – han har etos.
Men hvordan kan maskiner være som Steinfeld?
Dersom utviklingen får fortsette kan vi sitte igjen med et KI-teknokrati uten at det er politisk støttet eller demokratisk bestemt. Det bare skjedde liksom. Uten debatt
Det er temaet for artikkelen «A Machine’s ethos? An inquiry into artificial ethos and trust».
– Der viser jeg hvordan vi ikke trenger å stole på maskinene i seg selv, dersom vi har reguleringer i samfunnet som gjør at vi kan ha tro på personene og organisasjonene som utvikler og anvender KI-systemer.
Sætra etterlyser derfor politikere som ikke bare «kaster seg på toget». I stedet bør de gå skikkelig inn i problemstillingene.
– Dersom utviklingen får fortsette kan vi sitte igjen med et KI-teknokrati uten at det er politisk støttet eller demokratisk bestemt. Det bare skjedde liksom. Uten debatt. Uten at vi som samfunn har tatt stilling til om det er det vi ønsket.
Han avviser ikke en form for KI-teknokrati. Men det må være et teknokrati på menneskenes premisser.
– Et fungerende KI-teknokrati må sørge for at folket beholder makten til å definere det grunnleggende målet for politikken, hva våre grunnleggende verdier er, og hvordan vi forestiller oss det gode samfunn.
Hvis velgerne beholder denne rollen, er ikke nødvendigvis KI noe vi bør frykte. Tvert imot.
– Min klare anbefaling er at vi tar debatten om KI sin rolle i politikk og forvaltning nå, og ikke senere. Slik kan vi gi teknologien nøyaktig den rollen vi ønsker, verken mer eller mindre. I et slikt scenario kan KI bidra til å forbedre demokratiet, ikke forringe det, sier Sætra.
Er det bedre å bestemme selv?
Det neste store spørsmålet er: Vil vi egentlig overlate beslutningsmakt til datamaskiner, selv om vi kan stole på at de tar bedre beslutninger enn vi klarer selv?
Slik en middag vi har lagd sammen med venner kan smake bedre enn en med tre michelinstjerner, kan en politisk løsning vi som samfunn har tatt i fellesskap, være mer tilfredsstillende enn en fasit som er spyttet ut av en datamaskin.
En idé fra politisk teori sier er at mennesker er avhengig av politisk aktivitet for å trives. Det har igjen røtter tilbake til filosofen Aristoteles som mente at mennesket av natur var et politisk vesen.
Den tyske filosofen Jürgen Habermas mener, nesten 2500 år senere, at demokratiet i sin ånd er deliberativt – drøftende og vurderende.
– At en beslutning er tatt i fellesskap gjør at den får legitimitet. Hvis vi legger vekt på legitimitet gjennom deltakelse, vil ulempene ved en teknisk «bedre» løsning være større enn fordelene, mener Sætra.
Kort sagt: Hva er vitsen med en optimal løsning på et samfunnsspørsmål hvis vi spørsmålet gjelder, ikke er engasjerte eller har investert noe i det?
– Satt på spissen kan det sammenliknes med et diktatur. Selv om en diktator tar de beste valgene, vil de ikke ha noen legitimitet om folket ikke har noe de skulle sagt.
En sentral del av Habermas’ teori er at våre meninger også kan og vil forandre seg underveis i en debatt.
– Uten debatten mister vi kontroll over meningsdannelsen i samfunnet. Overveielse og rådslagning er viktig, deliberasjonen som Habermas så fint kalte det. Det handler ikke om ideelle utfall – men om prosess og hvordan vi kom dit.
Henrik Skaug Sætra slår et slag for den gode, gamle politiske samtalen.
– Vi må snakke sammen om hva det er du og jeg foretrekker. Da oppdager jeg kanskje at du setter pris på noe som jeg syns er veldig rart, men når vi møtes i samtale kan jeg forstå hvorfor. Og kanskje jeg synes det er interessant, og sammen kan vi finne fram til en felles forståelse – konsensus.
Dype usannheter i mediene
Demokrati forutsetter god informasjon til så mange som mulig. Uten et godt faktagrunnlag kan ikke vi velgere og politikerne vi delegerer makten til, fatte gode beslutninger.
Hvis vi ønsker å holde på deliberasjonen er vi som velgere avhengig av pålitelig informasjon.
– Vi har sett at KI kan hjelpe til med dette i tilfeller som handler om å bedømme komplekse samfunnsspørsmål med mye informasjon.
Men den nye intelligensen er også en del av problemet.
– Den siste tiden har det vært mye debatt om såkalte deep fakes. Plutselig dukker det opp videoer i sosiale medier av politikere som sier helt hårreisende ting.
Såkalt generativ KI, kan lage tekst, bilder og video som framstår helt ekte, men i virkeligheten er ren fiksjon. Den danske statsministeren står plutselig og sier at den muslimske eid-høytiden skal være den eneste nasjonale helligdagen. Mens den amerikanske presidenten hevder at tilhengerne hans ikke trenger å stemme fordi det «gjør det mulig for republikanerne å nå målet sitt om å velge Donald Trump igjen.»
– Tidligere var det slik at hvis vi så en video av noen, eller hørte et lydopptak, kunne vi med nærmere 100 prosent sikkerhet selv slå fast om vedkommende faktisk hadde sagt det som kom fram i videoen.
Slik er det ikke lenger.
– Ingen bør stole på noe de ser eller hører lenger. Teknologien er blitt for flink til å lure oss. Det er en ny situasjon i menneskehetens historie.
Vi har i dag ressurser som Faktisk.no som gjør sitt ytterste for rydde opp i hva som er sant og hva som er fake.
– Som regel er det allerede for sent. De som ønsker å tro på det falske innholdet, har fått bekreftet sitt verdenssyn. At det da kommer en rapport en uke senere, har dessverre begrenset effekt.
Sannheten blir relativ. Vi er ikke lenger i stand til å si om noe er sant eller ikke.
– Grunnlaget for å ha en felles verdensforståelse smuldrer opp, mener Sætra.
Han slår et slag for å holde seg med medier med, nettopp, etos.
– Vi må finne noen anerkjente autoriteter som vi stoler på. Det kan minne litt om hvordan alle før i tiden så på og stolte på NRK. Selv om det selvsagt hadde andre ulemper.
Noen tenker at vi skal løse problemet med mer teknologi – såkalte «vannmerker» eller KI-detektorer.
En utfordring er at svært mange unge i dag er såkalte nyhetsunnvikere. De velger for det meste bort tradisjonelle medier til fordel for KI-styrt innhold i sosiale medier.
– Det er imidlertid langt fra sikkert at dette vil gi fullgode løsninger. Derfor tror jeg vi trenger institusjoner i samfunnet som vi kjenner og kan stole på, sier Sætra.
Forskeren mener redaktørstyrte medier er viktige, men det langt fra gitt at de vil være i stand til å fylle denne rollen uten betydelig støtte.
– En utfordring er at svært mange unge i dag er såkalte nyhetsunnvikere. De velger for det meste bort tradisjonelle medier til fordel for KI-styrt innhold i sosiale medier.
Han mener politikerne må demme opp for KI og «big tech» sin innflytelse, også her.
– Det er ikke nok å oppfordre individer til å ta ansvar ved å tegne abonnementer. I stedet bør det vurderes å styrke den offentlige finansieringen av seriøse medieaktører.