Har vi rett til å få vite hva robotene tenker?

Da Hermon Melles (26) begynte å planlegge masteroppgaven sin, fant han en problemstilling i skjæringspunktet mellom hans store interesser: jus og teknologi. Med skriveplass hos Wikborg Rein får han jevnlig sparre med noen av landets mest digitale advokathoder.

Da jeg bestemte meg for å søke skriveplass hos Wikborg Rein var det først og fremst kompetanse som styrte. Jeg ønsket å skrive om automatisering og kunstig intelligens i en GDPR-kontekst, og Wikborg Rein pekte seg raskt ut med flere dyktige advokater på laget, forteller Melles.

Utslagsgivende for Hermon var blant annet at Wikborg Rein, i samarbeid med AVO Consulting, nylig lanserte et fag på NHH innenfor nettopp dette temaet i vår.

Systemer som skaper sin egen praksis

Hermon har gitt oppgaven tittelen «Har vi rett til å få vite hva robotene tenker?», og oppgaven omhandler behandlingsansvarliges plikt til å gi informasjon ved automatiserte avgjørelser etter GDPR. Dette er systemer som operer selvstendig uten menneskelig involvering, og tar avgjørelser basert på underliggende algoritmer og eventuelt kunstig intelligens.

- Problemstillingen jeg jobber med er hvorvidt det eksisterer en rett til forklaring ved automatiserte avgjørelser etter GDPR og hvor lang denne retten strekker seg, forklarer Hermon.

Spørsmålet er aktuelt hvis for eksempel en bank benytter et system som behandler personopplysninger til å treffe en automatisert avgjørelse om lån over internett.

Jeg ønsket å skrive om automatisering og kunstig intelligens i en GDPR-kontekst

- Dersom tante Turid får avslag på en lånesøknad, kan hun ha rett på en forklaring av avslaget etter GDPR. Ut fra mine funn må en slik forklaring bli gitt samtidig med avslaget, noe som innebærer at en slik funksjon må integreres i systemet.

Med maskinlæring blir systemets underliggende algoritme fortløpende matet med data, som for eksempel tidligere avgjørelser. Ifølge Hermon blir utfordringen med å forklare avgjørelser større ved mer avansert bruk av kunstig intelligens og maskinlæring.

- Maskinen vil kunne trekke ut beslutningsregler basert på tidligere praksis. I slike tilfeller kan avgjørelsen bli svært vanskelig å forklare fordi den behandlingsansvarlige selv ikke nødvendigvis kan forstå hvordan systemet treffer avgjørelser, forteller Hermon.  

Ukjent farvann 

Da Hermon begynte å jobbe med problemstillingen sin ønsket han å velge et tema som var relevant på tvers av bransjer, og ville øke i aktualitet i tiden fremover. I tillegg ønsket han å fordype seg i et tema som det fantes lite eksisterende forskning på.

- Med disse kriteriene i bakhodet, var det et naturlig valg at oppgavens tema ble automatiserte avgjørelser, forklarer masterstudenten.

Industri 4.0 blir brukt for å karakterisere en ny teknologisk tidsalder. De fleste selskaper utforsker eller implementerer allerede automatiserte avgjørelser i ulike ledd av virksomheten. Hermon mener det er viktig å ta GDPR på alvor i dette arbeidet.

- Når det tas beslutninger av automatiserte systemer ved hjelp av maskinlæring om hvem som får lån i banken, forsikring av bolig eller en jobb, må vi ha en åpenhet rundt det som foregår og kunne kontrollere det. Dersom det eksisterer en rett til forklaring, innebærer det at virksomheter som benytter automatiserte systemer må kunne forklare avgjørelsen og teknologien. Det var derfor jeg ville undersøke eksistensen og omfanget av en slik rett i GDPR, avslutter Hermon.