– Nå får brukerne mer kontroll over hvordan persondata brukes og hvordan innhold vises til dem, sier professor Petter Bae Brandtzæg på Institutt for medier og kommunikasjon ved Universitetet i Oslo.
Årsaken er en ny lovgivning fra EU – Digital Services Act (DSA) – med tilhørende kontrollfunksjoner i EU- og EØS-land.
– Enkelte av disse plattformene har en helt enorm makt. Det er på høy tid at de blir regulert, mener Brandtzæg.
Første steg var åpningen av et eget algoritmesenter i den spanske byen Sevilla, før sommeren.
For globale plattformer som Facebook og TikTok vil lovgivningen håndheves fra i høst, for mindre plattformer er startdatoen satt til februar neste år.
– De største teknologiselskapene må levere rapporter om hvordan de håndterer risiko for spredning av ulovlig innhold, uønsket valgpåvirkning og påvirkning av barns psykiske helse. Dette er helt nytt.
Hvis selskapene ikke følger reglene, kan de få bøter på opptil seks prosent av den årlige omsetningen.
– I ytterste konsekvens kan de miste retten til å operere i EU.
Elon Musks herjing med Twitter
Eierskapet til sosiale medier gir enkeltpersoner og selskaper stor mulighet til å påvirke det offentlige ordskiftet.
– Vi har havnet i en lite heldig situasjon der noen av de rikeste firmaene i verden styrer offentligheten til hundrevis av millioner av mennesker. Algoritmene til de store plattformselskapene omtales ofte som en «svart boks». Dette betyr at vi i liten grad har innsikt i hvordan de fungerer, forteller Brandtzæg.
Målet med DSA er å sikre større åpenhet rundt hvordan innhold blir moderert og tilpasset den enkelte bruker.
Brandtzæg mener Tesla-eier Elon Musks kjøp av Twitter (nå kalt X) er et godt eksempel på hvordan ytringsfriheten blir utfordret av enkeltpersoner.
– Musk kan gjennom små justeringer endre betingelsene for hvordan Twitter fungerer, både hvem som kan delta og hva brukerne til enhver tid faktisk ser og ikke ser på plattformen.
Kan ha bidratt til folkemord
Alvorligere er det at algoritmene ved flere tilfeller har bygd opp under ekstremisme og sosial uro. I Myanmar skal Facebooks algoritmer ha bidratt til å nøre opp hat mot rohingya-minoriteten.
– Det er en skandale. Facebook hadde knapt noen som kjente til Myanmars kultur og språk. De skjønte ikke hva som foregikk, sier Brandtzæg.
I fjor ble Facebook saksøkt av ofre for folkemordet der det anslås at over 25 000 mennesker ble drept og tre kvart million drevet på flukt.
– Denne saken viser de enorme utfordringene knyttet til globale plattformer som skal ta seg av en global offentlighet.
«Demokratiet er tilbake»
«Demokratiet er tilbake», sa den danske EU-kommissæren for konkurransepolitikk Margrethe Vestager da DSA-lovgivningen ble vedtatt i EU-parlamentet.
– Dette er en lovpakke som også skal inn i norsk lov. Blant annet blir det heretter forbudt å bruke sensitive persondata i algoritmedrevet og målrettet markedsføring – enten det handler om en persons seksuelle orientering, politisk tilhørighet, etnisitet eller helseutfordringer, forteller Brandtzæg.
Denne saken viser de enorme utfordringene knyttet til globale plattformer som skal ta seg av en global offentlighet.
Algoritmesenteret i Sevilla blir styrt av EU-kommisjonens forskningssenter Joint Research Centre (JRC). Senteret vil ifølge EU «utvikle verktøy for å vurdere og revidere åpenheten og ansvarligheten til algoritmer som brukes av teknologiselskaper.»
– Dette skal bidra til å sikre at algoritmer som brukes av teknologiselskaper ikke er partiske eller diskriminerende, og at de brukes på en måte som gagner samfunnet som helhet.
Noen dype fallgruver.
Forskeren mener det i utgangspunktet er svært positivt at demokratiske organer som EU ønsker mer innsyn og kontroll med disse selskapene.
– Men det fins fallgruver. Når bøtene for overtramp blir så høye som den nye loven legger opp til, kan selskapene bli fristet til å sensurere mer enn de egentlig er nødt til, for å være på den sikre siden. Det er uheldig.
Brandtzæg viser til den fine balanse mellom regulering og frihet.
– For mye regulering kan gå ut over ytringsfriheten. Den nye loven krever at selskapene tar vekk ulovlig innhold fort. Hva da med innhold som ser ut som desinformasjon, men som ikke er det, spør Brandtzæg, som er bekymret for at plattformer kan bli tvunget til å slette innhold for å overholde reglene.
Han peker på en fare.
– Dette kan føre til at en modererer for mye.
Inn i norsk lov
Den nye loven når oss her hjemme gjennom EØS-avtalen. Man trenger ikke støtte et politisk parti med forbokstav S, for å være skeptisk til hvordan den nye EU-lovgivningen kan påvirke det norske samfunnet.
Heldigvis er det ikke først og fremst i Brussel eller ved algoritmesenteret i Sevilla det skal tas beslutninger som påvirker Norge.
– Det er ulike terskler for hvilke ytringer som blir akseptert fra land til land. Det er også ulike måter å organisere medier på, og forskjellige politiske kulturer, sier professor Bente Kalsnes ved Høyskolen Kristiania.
Heldigvis er det ikke først og fremst i Brussel eller ved algoritmesenteret i Sevilla det skal tas beslutninger som påvirker Norge.
– Det følger av DSA at det skal etableres nasjonale koordinatorer som skal håndheve det nye regelverket. En slik vil vi også få i Norge.
Regjeringen arbeider nå med hvilken norsk tilsynsmyndighet som skal bli koordinator, med det er ikke helt klart hvordan det kan bli løst.
I tillegg skal det etableres systemer for å klage hvis plattformene fjerner innhold. Det vil også lages systemer for hvordan plattformene skal varsles om ulovlig innhold etter nasjonal lov. Dette kan gjøres av enkeltpersoner, eller sertifiserte organisasjoner
– Det blir antagelig en form for «trusted flaggers», som kan varsle om ulovlig innhold.
«Trusted flaggers» er organisasjoner som har kompetanse innen et område, og som vil få en sertifisering til å varsle plattformene om ulovlig innhold nasjonalt.
– I dag blir flaggerne ofte engasjert av sosiale medieplattformer og andre online tjenesteleverandører for å identifisere og rapportere innhold som bryter med retningslinjer eller lover. Hvis Facebook fjerner et innlegg, har en bruker rett til å få en begrunnelse og klage på beslutningen direkte til Facebook, men også til et uavhengig klageorgan i Norge.