Slik skaper KI ekstremister

Ingen blir politisk ekstremist over natten. Som regel trengs en gradvis radikaliseringsprosess for at noen skal bli villig til å bruke vold for å fremme ideologier som bryter med demokratiske prinsipper. 

Nå advarer forskere om at KI brukes til å effektivisere og delvis automatisere denne prosessen. 

– KI fjerner barrierene som hindrer radikalisering, sier KI-forsker Jonas Kunst, som jobber både som professor i psykologi ved Universitetet i Oslo og professor i kommunikasjon ved Handelshøyskolen BI.

Tidligere måtte det altså betydelig menneskelig innsats til for å produsere og spre ekstremistisk innhold, identifisere mulige rekrutter, skape engasjement på sosiale medier og holde liv i et digitalt, ekstremistisk fellesskap. 

Nå frykter Kunst konsekvensene av at KI kan ta over mye av den jobben. Sammen med medievitere og dataforskere har han nylig publisert en tverrfaglig studie som viser hvordan KI-verktøy legger til rette for å spre ekstremistisk tankegods i et enormt tempo. 

– Vi ser at sårbare mennesker kan bli identifisert, samlet og mobilisert i et tempo som tidligere har vært umulig, sier han. 

Mer ekstremisme i feeden

Kunst viser først til radikaliseringspotensialet som ligger i generativ kunstig intelligens. Generativ KI er systemer som kan lage nye tekster, bilder og videoer på egen hånd, basert på store mengder treningsdata. 

Når slike systemer tas i bruk for å skrive blogginnlegg, lage «memes» eller redigere videoer, kan én aktør plutselig fylle nettet med store mengder innhold med ekstremt, politisk budskap.

Dermed øker sannsynligheten for at flere mennesker ser slikt innhold.

– La oss se for oss en person som melder seg inn på X for første gang. I begynnelsen vil hen få et relativt mangfoldig og ganske nøytralt innhold. Men sannsynligheten er høy for at hen etter hvert også får se noe problematisk innhold, for eksempel antisemittisme eller deep-state-konspirasjoner, forklarer Kunst.

Spiller på psykologiske sårbarheter

De fleste blir ikke ekstremister av at det dukker opp en konspirasjonsteori i feeden i ny og ne.

Allikevel er det menneskelige mekanismer som gjør at slikt innhold kan få oss til å stoppe opp. En av dem er vår innebygde negativitetsbias – en godt dokumentert, universell tendens til å være ekstra oppmerksom på trusler, spesielt fra andre grupper. Det betyr at vi automatisk vier oppmerksomhet og husker negative ting lettere enn positive.

Mens generativ KI øker sannsynligheten for at flere ser ekstremistisk innhold, gjør nysgjerrigheten pirret av slikt innhold. Og med økt eksponering følger ofte økt engasjement, forklarer Kunst.

– Algoritmene får med seg at dette interesserer deg. De er ekstremt presise og måler på mikrosekundet hva du retter oppmerksomheten mot.

Her har vi en annen type kunstig intelligens som forsterker effekten: KI-drevne anbefalingsalgoritmer som bestemmer hva du får i feeden din, basert på hva du ser og klikker på. Denne teknologien har blitt så presis at det altså bare holder å stoppe scrollingen ved noe negativt eller konspiratorisk for at systemet skal lese det som et signal om at du vil ha mer av det samme.

– KI-drevne anbefalingssystemer ser ut til å være spesielt effektive til å øke eksponeringen for ekstremistisk innhold, fordi de bevisst eller ubevisst spiller på grunnleggende, sterke psykologiske skjevheter og sårbarheter hos mennesker, forklarer Kunst.

Algoritmedrevet presisjonspåvirkning

Kombinasjonen av masseprodusert ekstremistisk innhold og hyperpresise algoritmer på den ene siden, og menneskets innebygde negativitetsbias på den andre, viser hvordan KI øker sannsynligheten for at ekstremt innhold fester seg hos flere mennesker.

– Resultatet er at flere blir eksponert for, og gradvis tiltrekkes av, ganske ekstremt innhold som de tidligere ikke ville sett, forklarer Kunst.

Det er særlig problematisk når slikt innhold treffer mentalt sårbare mennesker.

– Et menneske som scorer litt høyt på konspirasjonsmentalitet for eksempel, altså generelt er mottakelig for å tro at det finnes grupper «der ute» som styrer i kulissene. Dette er et helt vanlig trekk som er normalfordelt i samfunnet, vi har det alle i større og mindre grad, sier han, og utdyper:

– Dersom vedkommende blir vist gradvis mer innhold som argumenterer for at jøder er overrepresentert i finansverden, politikk, eller mediene, øker jo sannsynligheten for at denne personen biter på og utvikler antisemittiske holdninger hen kanskje ikke hadde fra før.

Filterbobler fjerner moderate stemmer

I radikaliseringsprosessen kaller Kunst dette for eksponeringsstadiet. Neste fase er forsterkning. Her har KI-drevne algoritmer fått med seg at de kan fange oppmerksomheten med sterkt ladet, negativt innhold – for eksempel ved å fremme konspirasjonsteorier eller tegne opp et fiendebilde av en minoritet eller samfunnsgruppe.

Da vil algoritmer anbefale mer lignende innhold, og også dulte deg i retning av nye kontoer som fremmer dette tankegodset. Slik skapes en filterboble der mer og mer ekstremt innhold slipper til, mens mer moderate stemmer filtreres vekk.

De fleste har en eller annen type sårbarhet eller predisposisjon som KI-verktøyene kan utnytte.

I en slik filterboble øker sannsynligheten for at brukeren blir overbevist om at det ekstreme virkelighetsbildet faktisk er sant. Også her jobber KI på lag med velkjente psykologiske svakheter for å spre ekstreme holdninger, sier Kunst.

– Repetisjonsbias betyr at repetisjon av innhold øker sannsynligheten for at vi tror det er sant. I tillegg kommer bekreftelsesbias: når vi først begynner å bli overbevist om en ting, oppsøker og klikker vi primært på informasjon som støtter vårt eget standpunkt. Dette bidrar til å forsterke den digitale filterboblen.

Ditt eget personlige ekkokammer

Så langt har vi sett hvordan KI-innhold og KI-drevne anbefalingsalgoritmer kan skape filterbobler og ekkokamre som bekrefter og forsterker ekstreme holdninger. I tillegg peker forskerne på en mer intim variant av det samme problemet: når KI ikke bare styrer feeden din, men også opptrer som din personlige samtalepartner og rådgiver.

Dette er en problemstilling Henrik Skaug Sætra, førsteamanuensis ved Institutt for informatikk ved UiO og forfatter av boken «Hvordan redde demokratiet fra kunstig intelligens», forsker på.

– Chatboter er gjennomgående sykofantiske, altså de har en tendens til å støtte og bekrefte det brukeren, altså deg, skriver. Chatboter veldig gode til å gi deg mye skryt, sier han.

I praksis kan det bety at en bruker som uttrykker sinne mot en bestemt politiker eller folkegruppe, kan få bekreftende svar, i stedet for å bli møtt med spørsmål om hvor informasjonen kommer fra eller henvisning til andre perspektiver. 

Allerede viser eksperimenter viser at samtaler med sykofantiske chatboter gjør brukere både mer selvsikre og mer ekstreme.

Et demokrati er mer enn valg hvert fjerde år. Demokrati betyr også at mennesker møtes, forstår og kommer i dialog med hverandre.

Dette er teknologiselskapene klar over. Sætra har for eksempel jobbet med teknologiselskaper for å avdekke og forstå problematisk adferd blant språkmodellene.

– Chatboter kan programmeres for å gi en mindre sykofantisk, bekreftende tone, og i stedet utfordre personers virkelighetsoppfatning der det trengs. Men da forsvinner gjerne også brukerne. Folk liker rett og slett bedre å snakke med chatboter som støtter deg i det du sier, slår Sætra fast.

Fra individ til gruppeidentitet

Når en person har fått et stadig mer ekstremt verdensbilde bekreftet og forsterket, er gruppeintegrering neste steg på veien til politisk ekstremisme. Det betyr å tre inn i et ekstremistisk fellesskap – digitalt eller fysisk – der medlemmene motiveres og mobiliseres til politisk handling.

– Når brukeren føler seg som en del av et slikt fellesskap kan den oppleve det som på fagspråket heter «identity fusion»: altså at man blander sin egen identitet og gruppens. Gruppetilhørigheten blir en sentral del av ens egen selvoppfattelse. Forskningen viser at høy identity fusion er en kjent risikofaktor for voldelig ekstremisme, sier Jonas Kunst.

Han advarer om at KI kan brukes til å lage en falsk gruppeidentitet, ved hjelp av autonome «svermer» av KI-kontoer som deler, liker og kommenterer ekstremistisk innhold på kryss og tvers og bygger vennskap med brukeren.

I motsetning til tradisjonelle botnettverk, der en masse av falske kontoer gjentar det samme innholdet og meldingene, består slike KI-svermer av selvstendige, KI-drevne kontoer med egne personligheter som utvikler, tilpasser og koordinerer poster i sanntid.

– KI-svermene lar ekstreme aktører skape en overbevisende illusjon av grasrotbevegelse. I et slikt miljø kan brukeren for eksempel få inntrykk av at det er normalt å være antisemitt, at man er en del av den stille majoriteten, forklarer Kunst.

Ingen automatikk, men alle er sårbare

På dette nivået har radikaliseringsprosessen kommet så langt at personen kan bli overbevist om å yte vold for å fremme sin ideologi. Også her, på det siste steget fra holdning til handling, kan KI være en faktor. 

I 2023 ble det for eksempel kjent at en britisk statsborger hadde fått oppfordringer og planleggingshjelp av en chatbot til å forsøke et attentat på dronning Elizabeth. Og senest i april 2026 hadde ChatGPT angivelig gitt råd og veiledning til skytteren som drepte to og såret seks ved Florida State University. 

Men Kunst understreker at selv om KI øker sannsynligheten for at ekstremistiske holdninger spres, er det fortsatt svært få som faktisk vurderer å utøve vold.

Allikevel: selv om de aller færreste blir voldelige ekstremismer, tar demokratiet stor skade av at KI dytter flere inn en digital virkelighet med mer ekstremt innhold og filtrerer ut fakta.

– På hvert steg av denne prosessen har man oppnådd det vi kaller affektiv polarisering, der de andre ikke lenger er meningsmotstandere, men fiender eller farlige mennesker som må stoppes. I tillegg utvides vinduet for hva som er akseptabelt å snakke om, som for eksempel vold som politisk virkemiddel.

Og selv om KI-drevne radikaliseringsprosesser ikke alltid lykkes, understreker Kunst at ingen er helt immune for å bli påvirket.

– De fleste har en eller annen type sårbarhet eller predisposisjon som KI-verktøyene kan utnytte, sier Kunst.

KI fjerner nødvendig interaksjon

Henrik Skaug Sætra er bekymret for hvordan KI-drevet radikalisering og polarisering rokker ved noe helt sentralt ved et fungerende demokrati.

– Et demokrati er mer enn valg hvert fjerde år. Demokrati betyr også at mennesker møtes, forstår hverandre og kommer i dialog med hverandre. Det er det vi kaller deliberativt demokrati, forklarer han.

Ettersom mer og mer av sosiale interaksjoner og meningsutvekslinger finner sted på KI-dominerte sosiale medier og med chatboter, forsvinner mye av denne demokratiske deliberasjonen – og dermed også viktige mekanismer for å moderere ekstreme holdninger.

– Du fjerner dragningen mot midten som man får når man tvinger mennesker til å forholde seg til hverandre. Når du ikke interagerer jevnlig med folk som er annerledes enn deg selv, er det lettere å leve et liv der man oppfatter ekstreme meninger som dagligdagse, sier Sætra, og legger til:

–KI kan gi deg et verdensbilde fullstendig frikoblet fra virkeligheten.

Samtidig påpeker han at KI også har potensiale til å bremse og snu polariserings- og radikaliseringsprosesser. For eksempel har Google utviklet et konsensusverktøy de kaller “Habermas-maskinen": en KI-modell som hjelper personer med helt ulike politiske syn å formulere felles synspunkter.

Algoritmene som styrer feeden kan også enkelt justeres slik at de automatisk identifiserer radikaliseringsprosesser og responderer med å fremme mer moderat og nøytralt innhold.

Problemet, påpeker Sætra, er at polariserende innhold gir flest klikk – og dermed mest inntekter.

– Jeg kan vanskelig se for meg — med dagens reguleringer — en god forretningsmodell bygget på å bringe mennesker nærmere hverandre. Så jeg tror ikke teknologiselskapene kommer til å ta det ansvaret, konkluderer han.

Referanser

Kunst, J. R., Obaidi, M., Gollwitzer, A., et al. (2026) Intelligent Systems, Vulnerable Minds: A Framework for Radicalization to Violence in the Age of AI. Personality and Social Psychology Review, https://doi.org/10.1177/10888683261430089. 

Rathje S., Ye M., Globig L. K., et al. (2025) Sycophantic AI increases attitude extremity and overconfidence, preprint.

Sætra, H. S. (2025). Hvordan redde demokratiet fra kunstig intelligens. Cappelen Damm.

Tessler, M. H., Bakker, M. A., Jarrett, D., et al. (2024) AI can help humans find common ground in democratic deliberation. Science, 386(6719), https://doi.org/10.1126/science.adq2852.

BBC News: OpenAI faces criminal probe over role of ChatGPT in shooting. https://www.bbc.com/news/articles/c62j4ldp2jqo.

BBC: How a chatbot encouraged a man who wanted to kill the Queen. https://www.bbc.com/news/technology-67012224.

Nyhetsbrev fra Forskningsnytt

Få tips om nye funn og innsikt fra Universitetet i Oslo.

Gå til påmelding (via Make)