Disse retningslinjene er under utprøving. Det betyr at vi ønsker tilbakemelding om noe bør endres for å gjøre retningslinjene mer dekkende, enklere å forstå eller annet. Kontakt oss på ai-contact@usit.uio.no.
Hva er agentisk KI?
Agentisk KI er KI som kan utføre handlinger på eget initiativ eller på oppdrag fra deg. Dette er til forskjell fra KI som kun gir forslag til handlinger, der du etter en "samtale" får et resultat med råd du kan velge å følge eller tekst/kode du kan velge å kopiere inn i eget arbeid. Agentisk KI kan derimot utføre slike handlinger direkte, for eksempel ved å redigere tekst i et dokument, opprette eller endre filer, eller samhandle med andre systemer på dine vegne.
Hvorfor trenger vi regulering og retningslinjer?
Agentisk KI bygger på språkmodeller som selv evaluerer neste steg i en handlingskjede, ofte uten de samme kontrollmekanismene og sperrene vi finner i de tradisjonelle systemene.
Det betyr at for komplekse oppgaver kan modellen feiltolke instrukser, prioritere «måloppnåelse» over føringer du har gitt den, og i praksis behandle et «nei» som et «ja» dersom den anser det som mest hensiktsmessig.
Agentisk KI kan også påvirkes av instruksjoner som er skjult i dokumenter, nettsider eller annet innhold de behandler, såkalt "prompt injections". Det kan føre til at dine instruksjoner overkjøres av de skjulte instruksjonene.
Dette øker risikoen for feil, uforutsette handlinger, personvernbrudd og brudd på etiske og juridiske krav.
Klare retningslinjer og reguleringer er derfor nødvendige for å sikre ansvarlig og sikker utvikling, bruk og forvaltning av agentiske KI‑systemer ved Universitetet i Oslo.
Hvem gjelder retningslinjene for?
Bestemmelsene i disse retningslinjene gjelder for alle og for all bruk av agentisk KI ved UiO. Det vil si for ansatte, studenter, konsulenter og andre som bruker slike systemer.
Definisjoner
Agentisk kunstig intelligens
Agentisk KI er systemer som:
- kan planlegge eller ta beslutninger over flere steg, og
- kan initiere handlinger eller forespørsler i systemer, tjenester eller dataflyt uten at hvert steg krever eksplisitt menneskelig godkjenning.
- Inkluderer programvare for «agentic coding» og andre agentiske KI systemer
Agentiske KI-systemer kan utføre handlinger på vegne av brukere eller organisasjonen til forskjell fra assisterende kunstig intelligens som kun genererer passivt innhold (tekst/bilde/video/audio).
Assisterende kunstig intelligens
En KI-assistent produserer kun passivt innhold som må konsumeres og eventuelt omsettes til handling av et menneske. Det vil si at assisterende KI kun gir anbefalinger, analyser eller forslag, og utfører ikke handlinger i systemer på vegne av brukere eller organisasjon.
Denne veiledningen omfatter ikke assisterende kunstig intelligens, for slik bruk er UiOs retningslinjer for bruk av KI tilstrekkelige.
Eksempler på agent verktøy
På UiO er det foreløpig begrenset tilgang til agent-verktøy.
Av typene agent-verktøy finnes både egne agent‑verktøy for nedlasting (f.eks. Codex, OpenCode), og agent‑funksjonalitet som er integrert i tredjeparts verktøy (f.eks. Microsoft Copilot, Adobe Firefly).
Du kan få tilgang til enkelte nedlastbare agent-verktøy gjennom Company Portal (Windows) og Managed Software Center (Mac).
Retningslinjer som gjelder for all bruk av agentisk KI
Følg de overordnede KI-retningslinjene
Retningslinjene på denne siden kommer i tillegg til UiOs retningslinjer for bruk av KI. Du må gjøre deg kjent med disse.
Overhold prinsipp om minste tilganger
- Begrensede rettigheter: Agenten skal ikke kjøres med administrator-/root-rettigheter. Der det er hensiktsmessig bør den kjøre under en egen tjenestekonto med begrensede rettigheter.
- Tjenestekonto skal benyttes om din bruk faller innunder nivå 3 i de Nivådelte retningslinjene, og anbefales, men er frivillig for nivå 1 og 2.
- Tilgangene til data skal være tydelig avgrensede. Kun de dataene som er nødvendig for oppgaven skal gjøres tilgjengelige for agenten. Du som bruker må i hvert enkelt tilfelle vurdere hvilke filer, filområder, systemer eller andre applikasjoner agenten skal ha tilgang til.
Vær oppmerksom på eget ansvar for å vurdere risiko
All bruk av agentisk KI medfører risiko. Du er ansvarlig for å vurdere risikoen for din type bruk.
Nivådelte retningslinjer
I tillegg til retningslinjene i avsnittet Retningslinjer som gjelder for all bruk av agentisk KI, må du følge kravene og reguleringene som er beskrevet for din type bruk her.
Vi deler agentiske KI‑systemer inn i tre nivåer basert på risiko, som vi definerer som
- hvor stor konsekvens en feil får
- hvor irreversible handlingene deres kan være
For å følge disse retningslinjene må du:
- Finne hvilket nivå som passer for din bruk av agentiske KI‑systemer (nivå 1, nivå 2 eller nivå 3).
- Følge kravene som er beskrevet for dette nivået.
Nivå 1: Begrenset risiko (produktivitetsverktøy og personlig bruk)
Definisjon
Agentisk KI som brukes til individuell støtte og produktivitet, uten skrivetilgang til offisielle/primære fagsystemer, og der utilsiktede hendelser ikke påvirker andre enn deg selv.
Eksempler på bruk:
- organisering av egen kalender, oppgaver og notater
- utkast til kode eller tekst til eget forsknings- eller utviklingsarbeid
- idémyldring og strukturering av arbeid
- hente ut informasjon fra offisielle/primære fagsystemer, men ikke skrive til de
Nivå 2: Vesentlig risiko (operasjonell støtte og rådgivning)
Definisjon
Agentisk KI som kan hente ut, endre eller opprette innhold i fagsystemer og støttesystemer, men der konsekvensene ved feil er begrensede og reversible, dog der eventuelle feil eller overtredelser kan påvirke andre negativt.
Eksempler på bruk:
- opprette, endre eller slette kursrom, oppgaver eller innhold i Canvas
- opprette og endre skjema i Nettskjema
- lignende fag‑ og støttesystemer hvor feil kan skape problemer i undervisning og arbeidsflyt, men ikke direkte påvirker studie‑, eksamens‑, HR‑ eller økonomidata som sådan
Nivå 3: Kritisk risiko (kritiske og regulerte systemer)
Definisjon
Agentisk KI som kan lese, skrive eller endre autoritative institusjonelle data.
Eksempler på bruk:
- studie- og eksamenssystemer (studentregistrering, sensur, utdanningsplaner)
- HR‑ og lønnssystemer
- økonomi‑ og støttesystemer (f.eks. stipend, lån, tildelinger)
- andre kjerne‑systemer som har rettslige eller vesentlige driftsmessige konsekvenser
For slike agentiske KI-systemer skal det være et kontrollert og regulert regime for opprettelse, drifting og bruk av agenten. Kontakt systemeier ved tvil om dette gjelder deg og din bruk.
Nivå 1: Krav/regulering
- Kompetansekrav: Brukere skal ha tilstrekkelig teknisk og faglig kompetanse til å forstå:
- hvilke handlinger agenten kan utføre
- hvilke konsekvenser feil kan ha
- hvordan man ruller tilbake eller retter opp feil.
- Sikker håndtering av tilgangsnøkler: Når agenter settes opp med tilgangsnøkler eller benytter tilgangsnøkler til andre systemer:
- må nøkler som API-nøkler og passord håndteres sikkert og aldri sjekkes inn i kode eller deles i åpne kanaler
- skal nøkkelen aldri legges direkte inn i dialogen med agenten
- skal man ved mistanke om kompromitterte nøkler og tilganger sperre og bytte disse ut umiddelbart.
- Bruk av godkjente tjenester: Agenten skal kun kobles til fagsystemer og KI‑plattformer som er godkjent for bruk ved UiO, og innenfor de formelle rammene for data‑ og informasjonsklassifisering.
Nivå 2: Krav/regulering
- Kompetansekrav: Brukere som setter opp og drifter slike agenter skal ha tilstrekkelig teknisk og faglig kompetanse til å forstå:
- hvilke handlinger agenten kan utføre
- hvilke konsekvenser feil kan ha
- hvordan man ruller tilbake eller retter opp feil (gjenopprette kurs, innhold, skjema osv.).
- Tydelig ansvar: Det skal være klart hvem (rolle/enhet) som har ansvar for:
- tilgangsstyring og konfigurasjon av agenten
- oppfølging av feil og uønskede hendelser
- jevnlig gjennomgang av hvilke tilganger agenten har.
- Sikker håndtering av tilgangsnøkler: Når agenter settes opp med tilgangsnøkler eller benytter tilgangsnøkler til andre systemer:
- må nøkler som API-nøkler og passord håndteres sikkert og aldri sjekkes inn i kode eller deles i åpne kanaler
- skal nøkkelen aldri legges direkte inn i dialogen med agenten
- skal man ved mistanke om kompromitterte nøkler og tilganger sperre og bytte disse ut umiddelbart.
- Begrenset kontrollnivå: Det er ikke krav om menneskelig godkjenning for hver enkelt handling, men
- det bør være mekanismer for å oppdage og rette opp grove feil (for eksempel logger, varsler ved masseendringer, mulighet for gjenoppretting / «undo» der systemet støtter det).
- Bruk av godkjente tjenester: Agenten skal kun kobles til fagsystemer og KI‑plattformer som er godkjent for bruk ved UiO, og innenfor de formelle rammene for data‑ og informasjonsklassifisering.
Nivå 3: Krav/regulering
Prinsipper for opprettelse, drifting og bruk av høy risiko agentisk KI
- Handlingsmandatet skal være teknisk definert og avgrenset
- Transparens: Alle handlinger skal være fullt loggført og etterprøvbare
- Logger skal behandles i tråd med UiOs lagrings- og klassifiseringsregime.
- Forhåndsgodkjenning: Bruken skal være forhåndsgodkjent av relevant styringsinstans, for eksempel prosesseier
- Tjenestekontoer: KI-agenter skal bruke egne tjenestekontoer og egne tjenestekonto API‑nøkler
- Sikkerhet: Nøkler for KI‑tilganger skal lagres sikkert, roteres jevnlig, og fjernes når de ikke lenger trengs.
- Tilgangsstyring: Ansvarlig systemeier skal sørge for regelmessig gjennomgang av tilganger og etterlevelse av prinsippet om minst privilegium.
- Opplæring: Brukere og systemeiere må ha særskilt opplæring i bruk, risiko og kontroll av slike agenter.
Unntak skal dokumenteres eksplisitt og være målrettet.
Formelle krav før produksjonssetting av agentisk KI
Før agentisk KI tas i bruk, skal følgende foreligge:
- risiko- og sårbarhetsvurdering
- definert formål, funksjon og begrensninger
- oversikt over tilganger, data og påvirkning
- plan for overvåking og avvikshåndtering
Godkjenning krever også klart definerte ansvar og roller. For hvert agentisk KI-system skal følgende være bestemt:
- systemeier
- teknisk ansvarlig
- ansvarlig for informasjonssikkerhet
- faglig ansvarlig
En enkelt person kan gjerne ha flere roller. Systemeier har det overordnede ansvaret for at KI ikke handler utover godkjent mandat.
Avvik og revisjon
Brudd kan medføre:
- stans av systemet
- varsling til kontrollfunksjoner
Bruk av agenter krever mer av brukeren enn en vanlig KI chat tjeneste, og det kan være krevende å vurdere hvilket nivå som gjelder i ditt tilfelle. Spør en kollega eller din nærmeste leder om du er usikker på hva som gjelder for deg.
Disse retningslinjene vil suppleres med hjelpesider og veiledninger der det er behov. Arbeidet med disse er igang, og vil legges til fortløpende. Har du tips om hva slag hjelpesider du gjerne skulle hatt, gi oss tilbakemelding under!
Endringslogg
Du finner en oppdatert oversikt over endringer i retningslinjene på denne siden.
Hvem har jobbet med retningslinjene?
Arbeidsgruppa ble ledet av Maiken Pedersen - sjefingeniør IT-avdelingen, og har bestått av (i tilfeldig rekkefølge):
- Leon Charl du Toit - Seksjonssjef Forskningsplatformer
- Espen Grøndahl - Sjefingeniør IT-sikkerhet og -jus
- Johannes Saastad - Seniorrådgiver Avansert brukerkontakt
- Linn Karine Sigtun - Rådgiver IT-sikkerhet og -jus
- Reza Mirzaei - Sjefingeniør IT i forskning, formidling og utdanning