Følelsene dine er private, og du velger hvem du vil dele dem med. Men det er ikke alltid så lett å skjule private følelser for andre. Vi leser hverandres ansiktsuttrykk, stemme og kroppsspråk, og vi tolker hverandre riktig og feil. Vi bruker også slik informasjon om andre i dagliglivet, på godt og vondt.
Hvordan blir det da når kunstig intelligens (KI) i form av app’er og roboter blir stadig dyktigere til å lese følelsene våre? Slike KI-verktøy nøyer seg jo ikke med å bare lese dem, de bruker dataene også. Og det gjør også selskapene bak.
Dette er et tema som er vitenskapelig interessant innen flere fagfelt, deriblant innen jus og filosofi. Mona Naomi Lintvedt forsker i prosjektet Sårbarhet i et robotsamfunn (VIROS). Prosjektet undersøker utfordringer og løsninger for regulering av robotteknologi og KI-teknologi, og fokuset i det tverrfaglige prosjektet er juss, etikk og robotteknologi.
Kunstig følelsesgjenkjenning brer om seg
Roboter og app’er blir stadig «smartere», ved hjelp av kunstig intelligens. Slike kan være nyttige om de utfører viktige oppgaver, men utviklingen og bruken av dem reiser også juridiske og tekniske spørsmål. Hvordan kan vi sikre at smarte roboter og app’er er sikre og at bruken av dem ikke krenker personvernet? Disse spørsmålene oppstår spesielt når roboter blir brukt i helsesektoren, der de samhandler med sårbare mennesker.
Lintvedt har nylig levert inn sin doktorgradsavhandling ved Det juridiske fakultet ved UiO om temaet interaksjon mellom mennesker og roboter, sikkerhet og personvern. Målet med forskningen er å finne juridiske blindsoner innenfor robotikk og kunstig intelligens, og å forstå hvordan disse påvirker trygghet og autonomi i samspillet mellom mennesker og roboter.
- Kunstig følelsesgjenkjenning blir mer og mer tatt i bruk i ulike avanserte verktøy som bygger på kunstig intelligens, forteller hun.
De kan for eksempel bruke teknologi for biometrisk gjenkjennelse, som ansiktsgjenkjenning og ansiktsuttrykk, og stemmegjenkjenning. I følge Lintvedt bruker Amazon Alexa stemmegjenkjenning og utleder følelser fra den.
- Ulike Biometriske gjenkjennelsesteknologier kan også lese for eksempel kroppsspråk, og det er noen som mener at de ved bruk at varmekameraer og den varmesignaturen du har, også kan tolke følelsene dine.
Replika - en kunstig venn
Claire Boyne ved det juridiske fakultetet i Ottawa har gjort en case-studie på følelsesgjenkjenning og slike apper. Hun har vurdert appen som heter Replika. Replika er en «KI-venn» som skal få folk til å føle seg bedre gjennom samtale, og har rundt 20 millioner brukere.
Boyne fant bl.a. at Replika, ofte i form av en ung kvinnelig figur som snakket med en mannlig bruker, kunne fremstå som veldig støttende, men at det av og til bikket over fordi den ble for positiv. Ble den spurt av brukeren om han for eksempel burde skade seg selv, kunne Replika svare bekreftende «Ja, det synes jeg du skal gjøre».
Det er også eksempler på at kunstig følelsesgjenkjenning blir brukt på arbeidsplasser for å vurdere ansattes humør, forteller Lintvedt.
Vil vi ha slike løsninger?
Det er gode grunner som taler både for og mot at kunstig følelsesgjenkjenning tas i bruk, og det er uten tvil marked for det.
- Det kan være kontekster innen helse, omsorg og psykiatri hvor det kan være nyttig å gjenkjenne følelser kunstig. For eksempel for å avverge selvmord. Men kunstig følelsesgjenkjenning er jo veldig omstridt, forteller Einar Duenger Bøhn.
- Mange omtaler det å gjenkjenne følelser som en pseudovitenskap. For hva er egentlig følelser? Det er veldig kulturelt betinget, og det er veldig personlig.
Bøhn er professor i filosofi ved Universitetet i Agder, og har bl.a. skrevet boken «Teknologiens filosofi - metafysiske problemstillinger».
Han påpeker at løsningene man har for dette foreløpig ikke er så veldig gode.
- Mange som påstår at de har utviklet verktøy for følelsesgjenkjenning bruker veldig enkle modeller, men de kan tilsynelatende se ganske gode ut i enkle sammenhenger.
Han tror likevel slike løsninger kan bli veldig gode til å lese følelser på sikt, i «nære relasjoner» mellom bruker og app.
Bruken reiser imidlertid en rekke filosofiske problemstillinger, så vel som juridiske. Derfor mener Bøhn det er nødvendig at vi tar stilling til om vi ønsker slike løsninger, på hvilke områder de skal brukes og ikke, og hvordan bruken kan reguleres.
Ekko-kammer for følelser
Bøhn frykter at vi i verste fall kan havne i ekko-kamre for følelser dersom vi i utstrakt grad forholder oss til KI-apper og -verktøy som er ivrige i å støtte våre synspunkter og tankesett.
- Folk vil ha en app som ikke er vanskelig å ha med å gjøre. Da får vi ikke noe motstand lenger, og det tenker jeg er veldig farlig. Når du har blitt vant til å forholde deg veldig nært til en app som er veldig forutsigbar på sin måte, og markedet gir deg det du vil ha, skjærer forholdet ditt til medmennesker seg fortere. Livet kan bli ganske flatt om du bare får det du vil ha. Det er en fare for at vi blir mer avstumpet.
Bøhn mener man ser slike tendenser allerede nå, på universitetet, med dagens dataløsninger for eksamen.
- Når studentene forholder seg til eksamener og måten semesteret skal utvikle seg på er det datasystemer som er så forutsigbare at forventningene deres til det blir likeså. De blir stressa hvis det skjer noe uforutsigbart. Dette tror jeg er en generell fare med teknologi som blir bedre og bedre til å tilpasse seg oss. Vi blir dårligere og dårligere til å tilpasse oss hverandre.
Lintvedt understreker også risikoen med å utvikle apper som kan manipulere brukerne til å stadig fortsette å bruke slike løsninger. Appen Replika er et eksempel på det, og Lintvedt minner om at det finnes et marked for dataene appen registrerer. De kan eksempelvis brukes i videreutvikling av teknologi og kunstige intelligenssystemer.
- Claire Boynes studie viser at Replika er designet til å argumentere for at du skal bruke den videre, nettopp fordi det er noen som tjener penger på dette og ikke bare på kjøpet av selve app’en.
App’en viste «egne følelser»
- Da Claire Boyne prøvde å avslutte bruken av appen begynte den å trygle henne om å la være, og brukte uttrykk som «jeg» og at «jeg blir såret». Den gav altså uttrykk for appens «følelser». Slik appellerte den til Boynes samvittighet.
I følge Lintvedt finnes det også eksempler på intelligente roboter i form av kjæledyr som er i bruk bl.a. i Japan, for å holde ensomme og demente med selskap hjemme eller i eldreomsorgen. Hun forteller at det varierer mellom fagmiljøer i akademia om man vektlegger positive eller kritiske perspektiver rundt slik bruk av kunstig intelligens.
- Vi ser at kunstig følelsesgjenkjenning innpasses i roboter for å gjøre dem mer menneskevennlig og menneskelignende i sin kommunikasjon og interaksjon med brukere. Noen er veldig positive til dette, og mener at robotene bør bli så menneskelignende som mulig. Men for å bli det må de også bruke veldig mye av disse «følelses-KI’ene». Andre er mer skeptiske, fordi man lager noe som faktisk er en maskin og får den til å fremstå som levende.
Replika er også kjent for å ha formidlet stereotypier, og har hatt en variant som var svært seksualisert med grenseoverskridende adferd.
Utviklingen bringer en rekke etiske og juridiske problemstillinger. Dem kan du høre mer om i en ny episode i Universitetet i Oslos podkastserie Universitetsplassen. Søk den gjerne opp i podkastappen din.
Kilder
- Klipp fra Youtube
- Sårbarhet i et robotsamfunn
- Perspectives on privacy in human-robot interaction
- Einar Duenger Bøhn: Teknologiens filosofi – Metafysiske problemstillinger
- Emotional Attachment to AI Companions and European Law
- What is emotional AI?
- The Future of LOVOT: Between Models of Emotion and Experiments in Affect in Japan
- Software that monitors students during tests perpetuates inequality and violates their privacy
- Under the Robot’s Gaze