KI i forskningen: Hva skjer?

Kjære kolleger,

Utviklingen innen kunstig intelligens (KI) går så raskt at denne artikkelen sannsynligvis er utdatert om kort tid. Likevel er det nettopp nå vi trenger en viss oversikt: Hva skjer ved UiO i høst, hvilke muligheter åpner seg og hvilke rammer må være på plass for at bruken av KI i forskning skal være ansvarlig?

Når en ny teknologi fases inn og gir helt nye kapasiteter på mange områder, oppstår behovet for å sikre forsvarlig bruk. For KI‑verktøy brukt fra UiOs datamaskiner er det særlig tre hovedutfordringer:

1. Systemintegritet: Kan KI‑verktøyet på noen måte gripe inn i eller påvirke UiOs IT‑systemer på en uakseptabel måte?
2. Innkjøp og økonomi: Hva skjer når mange forskere samtidig kjøper tilgang eller «brukstid» på ulike KI‑tjenester? Hvordan unngå at dette skjer fragmentert og i verste fall i strid med regelverket for offentlige anskaffelser?
3. Fare for datalekkasjer: Hvilke risikoer oppstår dersom et KI‑verktøy ikke kjører innenfor en «mur» som hindrer at data utilsiktet kan lekke ut?

Åtte KI‑verktøy ved UiO, men ikke alle passer til alle data

Per i dag tilbyr UiO åtte ulike KI‑verktøy for ansatte. Selv om disse ivaretar flere hensyn, er ikke alle verktøy nødvendigvis egnet for alle typer data. Hvert verktøy er knyttet til en eller flere datakategorier det kan brukes til. Selv om et verktøy er «autorisert» ved UiO, betyr det ikke at enhver forsker fritt kan legge inn særlig beskyttelsesverdige data (røde data) der. 

Når en språkmodell på gptuio.no er tillatt brukt for røde data betyr det at data aldri forlater UiO eller NTNU sine maskinrom, men samtidig må man alltid tenke på om den datakategorien man benytter seg av tåler dagens lys om noe skulle gå galt («VG-testen» - står du for det du har gjort om dataene kommer i VG). Les mer om klassifisering av data og informasjon her. Det avgjørende er alltid: Hvilke data bruker du, og hvilket sikkerhetsnivå krever de?

Kommer det flere KI-verktøy ved UiO?

Claude-porteføljen er sterkt etterspurt, og IT-avdelingen vil i løpet av kort tid lansere en måte å gi tilgang til en UiO-godkjent Claude-portefølje. Tilgangen vil bli betalingsbasert.

For særskilt beskyttelsesverdige data har IT-avdelingen nå lansert mulighet for KI as a Service i TSD. Dette betyr at man kan benytte røde og svarte data i TSD eller fra utsiden av TSD (så lenge enheten som er utenfor TSD er klarert, f.eks en sykehusmaskin) i kombinasjon med de nyeste språkmodellene.

UiOs retningslinjer for KI i forskning er under utprøving

UiO har utformet et sett med overordnede retningslinjer for bruk av KI i forskning. Disse er nå under utprøving og vil justeres etter hvert som man får erfaringer. Grunnpilaren er enkel: KI‑verktøy er IT‑baserte og derved underlagt de samme rammene som all annen IT‑basert virksomhet ved UiO. Det gjelder informasjonssikkerhet, personvern, og øvrige juridiske og regulatoriske krav. 

UiO sentralt har nå tatt initiativ til å hente inn synspunkter fra fagmiljøene på hvordan reglene bør videreutvikles. UiO har også gitt innspill til NFR om Forskningsrådets arbeid med retningslinjer for bruk av KI i forskningssøknader og søknadsevalueringer.

Ved Det medisinske fakultet har Institutt for medisinske basalfag, Avdeling for molekylærmedisin, nylig arrangert et større seminar om KI i forskning. Se LinkedIn‑innlegg om seminaret og problemstillingene her. Slike lokale arenaer er viktige for å få fram eksempler på behov, praksis og dilemmaer som kan informere UiOs videre arbeid.

NESH-veileder: Ansvarlig bruk av generativ KI i forskning

Parallelt pågår det nå en nasjonal høring om «Ansvarlig bruk av generativ kunstig intelligens i forskning: en forskningsetisk veileder»(.pdf), utarbeidet av Den nasjonale forskningsetiske komité for samfunnsvitenskap og humaniora (NESH). Formålet med veilederen er å fremme god vitenskapelig praksis, bidra til kritisk refleksjon over forskningsetiske spørsmål og dilemmaer og gi konkrete råd om ansvarlig bruk av generativ KI. 

Veilederen er primært utviklet for forskning i samfunnsvitenskap og humaniora, men er også relevant for andre fagområder og for høyere utdanning generelt. Høringen er åpen, og fagmiljøer ved UiO oppfordres til å gi tilbakemeldinger. Dette er en viktig mulighet til å påvirke de nasjonale forskningsetiske rammene og til å sikre at retningslinjene blir relevante, realistiske og faglig godt forankret.

Vi må forvente at KI-verktøyene blir stadig mer integrerte, kraftigere og mer «usynlige» i arbeidsflyten. Nettopp derfor blir rammene for ansvarlig bruk stadig viktigere. Med de hurtige endringene som nå pågår er det derfor viktig å minne om grunnleggende prinsipper for forskningsintegritet. Disse vil gjelde uansett hvilket teknologilandskap vi opererer innenfor. Kravene til ærlighet, åpenhet, etterprøvbarhet og respekt for data og dataopphav er den viktigste rettesnoren. KI er et kraftig verktøy, men vi som forskere må ha kontrollen og bære ansvaret for kvaliteten av resultatene som kommer ut av forskningen.

Hilsen Jan