Digitalisering, som handler om hvordan samfunnet restruktureres basert på digitale teknologier og infrastrukturer, har gjennomgripende konsekvenser på mange nivåer. Som forbrukere har vi mulighet til å velge mellom et uendelig antall digitale produkter og plattformer. Samtidig er det en utfordring å vurdere kvaliteten og påliteligheten til disse produktene. Som innbyggere kan vi dra nytte av tilgang til digitale offentlige tjenester når og hvor som helst. Samtidig kan dette medføre at vi mister muligheten til å samhandle med saksbehandlere ansikt til ansikt når vi trenger det. For selskaper gir digitalisering nye muligheter til å nå nye kundegrupper i nye markeder, og å utvikle nye produkter og tjenester. Samtidig står selskaper overfor en markedssituasjon som endres raskt, med økt konkurranse, krav om å overholde lover som ikke alltid er tilpasset en digital tidsalder, og behov for å rekruttere ansatte med digital kompetanse. På samfunnsnivå skaper digitalisering nye jobber, samtidig som eksisterende yrker blir overflødige. Det er også store negative miljøkonsekvenser som en følge av produksjon av og avfall fra digitale produkter som har kort levetid.
De vidtrekkende og ofte uklare konsekvensene av å innføre digitale teknologier fører til et økt behov for å utdype på hva vi mener med ansvarlig digitalisering. Ansvarlighet handler om å digitalisere på en måte som oppleves rettferdig og inkluderende, og som sikrer et åpent, demokratisk og bærekraftig samfunn. Det handler om rettigheter, forpliktelser og plikter som vedrører design, utvikling, implementering, bruk og innvirkning av digitale teknologier.
Dagens debatt er i stor grad knyttet til hvordan kunstig intelligens kan bidra til å løse komplekse problemer som klimaendringer, medisinske utfordringer og automatisering av arbeidsoppgaver. Det er mange bekymringer knyttet til personvern, demokrati og samfunnstillit. Vi ser også en økende vektlegging av bedriftenes ansvar (for eksempel knyttet til begrepet Corporate Digital Responsibility, CDR) for å redusere negative konsekvenser av digitalisering, utvikle bærekraftige digitale løsninger som bidrar positivt til samfunnsutviklingen, og utvikle og forplikte seg til gode rapporteringsrutiner.
Vi ønsker denne debatten velkommen, men savner at offentlig sektor, som en helt sentral samfunnsaktør, tar en ledende rolle for å definere hva som menes med ansvarlig digitalisering. Vi etterspør en debatt som tar utgangspunkt i samfunnets behov, fremfor en debatt hvor teknologiske utfordringer står i sentrum for en diskusjon som i stor grad handler om hvilke muligheter og behov for begrensninger dagens teknologi bidrar til. De er behov for en mer generell og overordnet forståelse av ansvarlig digitalisering som ikke er begrenset til spesifikke teknologier. Det er behov for å diskutere hva dette innebærer for offentlig sektor, og hvilke roller offentlig sektor bør ha. Vårt perspektiv er i hovedsak basert på de erfaringer vi har etter å ha studert ulike digitaliseringsprosjekter i Nav.
Offentlig sektor har et særskilt samfunnsansvar med en spesiell plikt til å digitalisere på en ansvarlig måte. I denne sammenheng vil vi peke på tre ulike roller offentlig sektor må oppfylle.
For det første må offentlig sektor selv anvende digitale teknologier på en ansvarlig måte. All innføring av ny teknologi bør ideelt sett oppleves som rettferdig og inkluderende og med en innsikt som sikrer demokratisk kontroll. Dette utfordrer innføring av for eksempel algoritmebaserte beslutningssystemer, som ofte har en kompleksitet som gjør at de færreste av oss har mulighet til å forstå hva som foregår. Det er også vesentlig å sikre at personvern og sikkerhet ivaretas på ansvarlig måte i henhold til gjeldende lover og regler. Hver enkelt offentlig etat eller enhet vil ha et selvstendig ansvar for å sikre ansvarlig innføring og anvendelse. Denne rollen setter søkelys på bruk av teknologi, og offentlig sektor må opptre som en rollemodell for å anvende teknologi på en ansvarlig måte.
For det andre må offentlig sektor sikre at deres samfunnsansvar ikke blir hindret, men ideelt sett støttet av digitale teknologier. En hovedutfordring er å digitalisere på en måte som sikrer alle grupper lik tilgang til tjenester, og som bidrar til å inkludere fremfor å ekskludere sårbare grupper. I vår egen forskning undersøker vi hvordan brukere av Navs tjenester opplever de digitale løsningene. Her møter vi mange som av ulike grunner ikke får tilgang til de tjenestene de har rett på, gjennom digitale løsninger. Det kan stilles spørsmål ved om vi av og til digitaliserer på en måte som gjør at samfunnsoppdraget blir ofret til fordel for en tilsynelatende mer effektiv administrasjon. Dette handler om å fokusere på offentlig sektors primæroppgaver. Det er viktig at innføringen av ny teknologi styrker fremfor å svekke oppfyllelsen av de oppgavene den er ment å tilby, slik som å yte økonomisk støtte eller sikre relevant kompetanseheving og skoletilbud.
For det tredje må offentlig sektor påse at alle aktørene i samfunnet bruker digitale teknologier på en ansvarlig måte. En vesentlig utfordring er å utvikle lover og regler som er såkalt digitaliseringsvennlige og teknologiuavhengige. Med teknologi som endres i stadig økende tempo, er det utfordrende å lage regler som gjør det mulig å oppnå det vi ønsker å oppnå, samtidig som det setter grenser for å unngå uønskede konsekvenser. Ansvarlighet innen dette feltet innebærer at lover og regler er førende for hva teknologien skal gjøre, og ikke motsatt; at jussen halter etter teknologiendringene uten å bidra til å sette dagsorden for hva vi ønsker å oppnå. En annen side ved dette er håndtering av personlige data og de store aktørenes eierskap til våre personlige data. Det haster med å regulere dette området på en måte som sikrer demokratisk kontroll over data som må anses som samfunnskritisk infrastruktur. Lovgivende aktører vil være ansvarlige for å oppdatere lover og regler, mens aktører slik som Nav må sikre at anvendelse av teknologien og håndtering av personlige data er i samsvar med lover og regler.
Å balansere disse rollene er ingen enkel oppgave for offentlig sektor. I mange tilfeller vil de stå i motsetning til hverandre og utfordre hvilke oppgaver offentlig sektor skal ha. Under peker vi på noen dilemmaer som offentlig sektor bør diskutere.
Hvordan skal vi sikre innsyn og demokratisk kontroll samtidig som vi utnytter de mulighetene teknologien gir? KI og algoritmestyrte systemer gir fantastiske muligheter for å effektivisere offentlig sektor. Riktig innføring vil kunne bidra til at flere får de tjenestene de har krav på, samtidig som dette gir mange muligheter for forenkling. Skal vi møte alle disse mulighetene med et krav om å forstå alle de beslutninger som ligger bak? Eller skal vi velge å innføre de algoritmene som gir best resultat, men som kanskje er så kompliserte at de i praksis gjør det vanskelig å forstå hva som ligger til grunn for beslutningene? Å finne riktig balanse mellom effektivitet og krav til innsikt og kontroll er viktig og vanskelig.
Hvordan skal vi utvikle digitaliseringsvennlig regelverk uten å undergrave vårt tillitsbaserte samfunn? Vårt norske regelverk åpner for mer fortolkning enn i de fleste andre land, noe som er basert på høy tillit i samfunnet generelt og en kompetent arbeidsstyrke. Dette gir rom for skjønnsmessig behandling, med de muligheter og utfordringer det gir, men skaper også grunnlaget for en tradisjon hvor utøvelsen av regelverket og endringer i praksis er basert på aggregerte erfaringer. Et regelverk som er mer digitaliseringsvennlig, vil gjerne medføre mindre rom for skjønn. Ønsker vi det? Og hvordan utvikler vi dette på en måte som sikrer en utvikling av regelverk og en bruk basert på erfaringer med utøvelsen av disse reglene?
Hvordan skal vi digitalisere på en måte som tar utgangspunkt i menneskers liv, ikke maskinenes behov for kategoriseringer? I vår forskning treffer vi mange med vonde opplevelser av utenforskap i møte med offentlige digitale tjenester. De tjenestene som passer bra for de aller fleste, er ofte utfordrende å benytte for dem som står i de mest kompliserte situasjonene. Det kan være snakk om utfordringer på tvers av økonomi, utdanning, jobb og helse. Digitalisering innebærer ofte kategoriseringer og «bokser» som ikke passer til deres liv, samtidig som mange ikke har kompetanse til å forstå hvordan disse systemene virker. Ansvarlig digitalisering innebærer at vi stiller spørsmål ved hva som passer for digitale kanaler, og hva som krever møter med mennesker. Samtidig må vi diskutere konsekvensene av å kategorisere den enkelte før vi faktisk snakker med dem.
Hva er en riktig balanse mellom personvern og brukervennlighet? Er vi for opptatt av å følge GDPR og diskutere personvern uten å vurdere hvilke negative konsekvenser dette kan ha for kvaliteten på de tjenestene offentlig sektor leverer? Igjen kan vi hente eksempler fra egen forskning. Ringer du Navs kontaktsenter, vil det ofte være slik at den du snakker med, ikke har innsikt i din sak, som en konsekvens av vurderinger knyttet til fortolkningen av GDPR og personvern. Dette bidrar ofte til dårligere tjenester for den enkelte som ikke får svar, og merarbeid for de ansatte som gjerne må sitte i telefonkø til andre Nav-kontorer for å få svar. I tillegg kan dette faktisk bidra til en dårligere håndtering av personvern ved at den enkelte rådgiver noterer ned samtalene i notater som ikke deles med andre, og som brukere ikke lett får innsikt i. Skal alltid GDPR og personvern trumfe brukervennlighet og integrasjon?
Er det på tide med mer standardiserte digitale tjenester på alle nivåer i offentlig sektor? En tradisjonell fortolkning av demokratisk kontroll og påvirkning har bidratt til at hver enkelt kommune og de fleste offentlige aktører har stor frihet til å ta egne valg. Dermed har vi mange ulike systemer som snakker dårlig sammen, og vi bruker mye energi på å utvikle løsninger som kanskje allerede finnes. Er det på tide å spørre seg hva som er viktigst; kommunenes og offentlige instansers mulighet til å velge og å utvikle løsninger de selv mener er best, eller innbyggernes behov for mer effektive og integrerte tjenester som svarer på deres behov? Det er selvsagt en forenkling å hevde at mer standardiserte tjenester i seg selv vil føre til mer effektive løsninger for den enkelte. Samtidig er det kanskje på tide å diskutere om ikke økende kompleksitet medfører økende krav til standardisering.
Hva er riktig sted og tid for å tilby digitale kanaler mot innbyggere? For mange som sliter med å bruke digitale løsninger, vil det være nyttig å først møte en saksbehandler ansikt til ansikt. I slike møter kan innbyggere få hjelp til å identifisere hva de faktisk har bruk for, og hvilken dokumentasjon som trengs. Samtidig kunne slike møter bidra til å ufarliggjøre senere bruk av digitale løsninger. Her kan man også kartlegge hvilke brukere som kan ta en digital vei videre, og hvilke som av ulike årsaker bør følges opp av en saksbehandler. Mange brukere vil ha manglende digital kompetanse, utfordringer knyttet til språk og prosessforståelse, og kompliserte livssituasjoner som digitale løsninger ikke klarer å adressere på en god måte. Disse bruker gjerne lang tid på å forsøke å få løst sine utfordringer ved å benytte digitale løsninger før det blir klart at de trenger mer hjelp. Det kan føre til avmakt og en opplevelse av å være mislykket i møte med systemer de ikke har forutsetninger til å benytte, samtidig som det tar lang tid før de får den hjelpen de trenger. Hva med å tilby alle som ønsker det, et møte ansikt til ansikt for å finne ut hva de trenger?
Hvordan kan vi bli bedre på å ta ut enkle og rimelige gevinster fra eksisterende system? Diskusjon om ansvarlig digitalisering skal og må ta tak i store spørsmål knyttet til personvern, lovverk, ny teknologi og transformasjon av prosesser. Samtidig er det store gevinster å hente i små og enkle tilpasninger i systemene vi allerede benytter. Det kan for eksempel være snakk om å sikre at brukerne får løpende informasjon om ventetider og status i egen sak, eller å sikre at språkbruken er av en slik art at den ikke skaper unødvendige hindre og uttrykker manglende tillit til dem som benytter tjenestene.
Offentlig sektor bør innta en mer aktiv rolle i den offentlige debatten om ansvarlig digitalisering. Det kan de gjøre ved å diskutere spørsmålene vi her har stilt. Mislykkes offentlig sektor med dette, vil andre aktører og teknologigigantene legge føringer for hvordan samfunnet utvikler seg, og da risikerer offentlig sektor å innta en altfor passiv rolle. Som en sentral samfunnsaktør må offentlig sektor leve opp til sine forventninger. Dette innebærer at ansvarlig digitalisering må være kjernen i enhver digitaliseringsbeslutning tatt av offentlig sektor, og dette ansvaret må være strategisk forankret.