Gode rutiner hindrer at KI blir en usynlig trussel

Kunstig intelligens har utviklet seg fra passive verktøy til selvgående aktører. For å ivareta personvernet og sikkerheten, må virksomheter arbeide proaktivt med hvordan disse styres.

Mange virksomheter har allerede tatt i bruk samtaleroboter for å oppsummere tekster eller skrive utkast. Utviklingen går imidlertid raskt videre. Gjennom agentisk KI har språkmodellene nå mulighet til å utføre handlinger. De kan hente informasjon, oppdatere fagsystemer og utføre rutineoppgaver på egen hånd.

Se foredraget til Eirik Gulbrandsen og Sara Rossebø om "digitale spøkelser":

På områder der KI i hovedsak har vært et verktøy, kan de nå også opptre mer som en digital medarbeider. Når KI-agenter får direkte tilgang til e-post, filområder og saksbehandlingssystemer, krever det at virksomheten i forkant har etablert et bevisst forhold til datakvalitet, sikkerhet og tilgangsstyring. Konseptet «orden i eget hus» (Digdir.no) er en viktig grunnmur for å sikre bedre utnyttelse av egne data og mer kontroll, kvalitet og effektivitet i egen virksomhet.

Fremveksten av skygge-KI

En utfordring som kan oppstå er at en ansatt bygger en automatisert arbeidsflyt ved hjelp av agentisk KI opp mot et fagsystem, og deretter bytter rolle eller slutter i virksomheten. Automatiseringen kan fortsette å kjøre i bakgrunnen, gjøre oppslag i fagsystemet og behandle personopplysninger.

Autonome prosesser som kan omtales som digitale spøkelser. Det etableres en situasjon der det er uklart hvem som eier prosessen, hvilke data som behandles, og hvordan den administreres. Siden KI i økende grad bakes inn i vanlig programvare, kan slik skygge-KI også etablere seg på innsiden av applikasjoner som allerede er godkjent og tatt i bruk.

Hukommelse og agentsvermer

Over tid kan KI-agenter lære av og samle inn store mengder kontekst, alt fra kundeinformasjon til interne møtereferater. Informasjonshåndteringen krever ekstra oppmerksomhet når flere agenter begynner å samhandle i såkalte agentsvermer.

I slike systemer kan én agent hente inn informasjon, mens en annen analyserer den, og en tredje fatter en beslutning. Dette skaper et nytt økosystem for databehandling internt i virksomheten, som forutsetter klare retningslinjer.

Slik kan du etablere ansvarlig bruk

Målet er ikke å forby bruken av kunstig intelligens, men å legge til rette for at den skjer på en trygg og gjennomtenkt måte. Bevissthet hos de ansatte er et viktig første skritt, men dette må også understøttes av solide tekniske kontroller og rutiner.

For å ligge i forkant av utviklingen, anbefaler vi at norske virksomheter skaffer seg en systematisk oversikt. Det innebærer å kartlegge:

1. Hva som finnes: Få oversikt over hvilke KI-verktøy, assistenter og automatiseringer som er i bruk.
2. Hva de kan gjøre: Definer hvilke systemer de skal ha tilgang til, og hvilke handlinger de har tillatelse til å utføre.
3. Hvem som har ansvaret: Klargjør hvem som overvåker agentene, eier prosessene og har myndighet til å deaktivere dem ved behov.

En KI-aktør trenger en definert identitet, tydelige rammer for tilgang og et klart ansvarsforhold. Se hele foredraget øverst i saken for mer veiledning om hvordan din virksomhet kan møte denne utviklingen proaktivt.