Offentlig sektor bør automatisere mer. Men data må komme før KI

Kunstig intelligens kan automatisere store deler av rutinearbeidet i offentlig sektor, og det skal vi ønske velkommen. Gevinstene er reelle: raskere saksbehandling, mindre manuelt arbeid og mer tid til vurderingene som faktisk krever fagkompetanse. Mulighetene og viljen er der. Det egentlige spørsmålet er om vi kan stå inne for det KI gjør.

I Sikri har vi forvaltet offentlige data i flere tiår. Det gir oss et utgangspunkt de færreste KI-leverandører har, nemlig en forståelse av hva som faktisk er formålstjenlig KI i denne konteksten. Og den forståelsen starter med en enkel rekkefølge: data først, så KI. Vi ser nå tendenser til det motsatte, der KI settes først og dataene og regelverket kommer som en ettertanke. Det mener vi er et risikabelt spor.

Den riktige ambisjonen skal være høy

Det fristende feilsporet blir da å ikke automatisere for mye. Det er å være for forsiktig. Når KI kan lese gjennom store dokumentmengder, foreslå titler, metadata og klassifisering, og peke på sensitiv informasjon på sekunder, er det sløsing å la fagfolk gjøre det manuelt. Ambisjonen bør være å automatisere alt som trygt kan automatiseres. Spørsmålet er hva som skal til for at "trygt" faktisk holder.

Forklarbarhet utvider rommet for automatisering

Det er når ingen kan se hva som skjer at man må holde igjen. En svart boks tvinger frem forsiktighet, fordi verken saksbehandler, leder eller innbygger kan forstå eller etterprøve resultatet. En forklarbar prosess gjør det motsatte. Når det er sporbart hva KI foreslo, på hvilket grunnlag, og hva som ble besluttet, blir det forsvarlig å la KI gjøre mer. Forklarbarhet er ikke bremsen på automatisering. Det er akseleratoren.

Data først, så KI

KI er aldri bedre enn dataene og konteksten den bygger på. I offentlig sektor betyr det journalføring, arkiv, Noark og et regelverk som har utviklet seg over flere tiår for å sikre innsyn, sporbarhet og etterprøvbarhet. Aktører som kommer utenfra med KI som utgangspunkt, og som håndterer data og regelverk i etterkant, undervurderer hvor mye denne konteksten betyr. En løsning kan være imponerende i en demo og likevel være lite formålstjenlig i en reell forvaltningssak.

EUs kommende KI-regelverk og Noark trekker i samme retning: transparens, risikohåndtering og menneskelig kontroll. Dette er krav som er krevende å oppfylle for den som ikke kjenner domenet fra innsiden. For oss er de ikke en hindring, men en bekreftelse på det vi alltid har bygget for.

Mennesket flyttes opp, ikke ut

Poenget er ikke å holde et menneske i hvert eneste ledd. Det er å flytte mennesket dit skjønnet faktisk trengs. La KI ta det rutinemessige, og reserver fagpersonen til vurderingene som krever en faglig avgjørelse. Det gir mer automatisering og sterkere menneskelig kontroll der den betyr noe, samtidig.

Bygget på reelle brukerbehov

Da vi utviklet Lobby, vår KI-løsning for dokumentfangst, gjennomførte vi flere hundre brukerintervjuer. Ikke først og fremst for å finne ut hva som var teknisk mulig, men for å forstå hva saksbehandlere og arkivarer faktisk trenger, og hvordan de behovene møter de regulatoriske føringene de jobber under. Det er nettopp den kombinasjonen, reelle brukerbehov og regelverket de lever i, som avgjør om KI blir et verktøy folk stoler på og bruker, eller en funksjon som forblir ubrukt.

Effekten av KI brukt på denne måten er mer enn tempo. Vurderingene blir mer konsistente, rutinefeilene færre, og nye medarbeidere kommer raskere inn. Og fordi prosessen er forklarbar, holder gevinsten seg. Dette er prinsipper og erfaringer vi drar med oss inn i alle pågående KI-produktløp i Sikri.

Ambisjon og ansvar samtidig

KI er kommet for å bli i offentlig sektor. Spørsmålet er ikke om vi tør å automatisere, men hvor godt vi forstår dataene og reglene vi automatiserer på toppen av. Jo bedre vi forstår det, desto mer kan vi trygt overlate til KI. Den som bygger forklarbarhet inn nå, kan fortsette å automatisere med trygghet når kravene skjerpes. Det er slik offentlig sektor kan automatisere ambisiøst, og samtidig ivareta kvalitet, tillit og ansvar.