Merk: Kammeradvokaten er et privat advokatfirma som fungerer som den danske statens faste juridiske rådgiver. De bistår departementer og offentlige myndigheter med alt fra juridisk rådgivning til rettssaker og større offentlige kontrakter. Selv om vurderingen er utarbeidet for danske myndigheter, er den også svært relevant i en norsk kontekst. Norge og Danmark er begge underlagt EUs personvernregelverk (GDPR), og offentlige virksomheter står overfor mange av de samme juridiske og praktiske utfordringene når generativ AI skal tas i bruk.
Kammeradvokaten har utarbeidet en omfattende DPIA for Microsoft Copilot på vegne av Statens IT, den danske statens sentrale IT-leverandør, for å avklare om, og hvordan, løsningen kan brukes lovlig i offentlige virksomheter.
Når AI tas i bruk i stor skala, særlig i offentlig sektor, oppstår det risikoer som ikke kan håndteres gjennom standardprosedyrer alene. Det krever en systematisk vurdering av hvordan data behandles, hvilke konsekvenser dette kan få for de registrerte, og hvilke sikkerhetstiltak som må være på plass.
DPIA-en for Copilot gjennomgår hvordan teknologien brukes i praksis, hvilke risikoer som er knyttet til bruken, og hvordan disse kan håndteres innenfor rammene av GDPR. Resultatet er et rammeverk som både offentlige og private organisasjoner kan bruke som utgangspunkt når de skal vurdere egen bruk av AI.
Hva er en DPIA, og hvorfor er den relevant her?
En DPIA (Data Protection Impact Assessment) er en vurdering av personvernkonsekvenser som brukes til å analysere hvordan behandling av personopplysninger påvirker de registrertes rettigheter og friheter.Etter GDPR er en DPIA påkrevd når en behandling sannsynligvis innebærer høy risiko. Dette gjelder typisk ved bruk av ny teknologi, behandling av sensitive opplysninger eller situasjoner der personopplysninger behandles i stor skala.
Copilot bygger på generativ AI og kan brukes bredt på tvers av organisasjonen, blant annet i arbeidsprosesser som involverer personopplysninger. Derfor er det nødvendig å vurdere hvordan data behandles, og hvilke risikoer som følger med. I denne sammenhengen er DPIA-en et verktøy for å skape oversikt, dokumentere vurderinger og sikre at teknologien brukes i samsvar med GDPR.
Det er viktig å understreke at en DPIA ikke endrer kravene til behandlingsgrunnlag. Organisasjonen må fortsatt kunne vise til et gyldig behandlingsgrunnlag etter GDPR, for eksempel myndighetsutøvelse eller berettiget interesse, og bruken av Copilot må ligge innenfor det opprinnelige formålet. Dersom AI brukes på en måte som går utover dette, oppstår det et eget compliance-problem.
Tre bruksområder for Copilot
I DPIA-en er bruken av Copilot delt inn i tre overordnede bruksområder. Formålet er å avgrense hvordan løsningen brukes i praksis, og hvordan risikonivået varierer avhengig av konteksten.
1. Generell saksbehandling
Det første bruksområdet omfatter ordinær saksbehandling, der Copilot brukes til å utarbeide dokumenter, oppsummere innhold eller strukturere tekst.
Her behandles det normalt alminnelige personopplysninger, og risikonivået vurderes som lavt. Copilot fungerer først og fremst som et produktivitetsverktøy, og bruken ligger tett opp mot eksisterende arbeidsprosesser.
I praksis kan en medarbeider bruke Copilot til å oppsummere en omfattende sak, utarbeide et utkast til et notat eller forbedre språket i en eksisterende tekst. Copilot støtter arbeidet, men tar ikke beslutninger eller endrer sakens innhold. Samtidig er det viktig å være oppmerksom på at Copilot kan påvirke beslutningsgrunnlaget, noe som stiller krav til kritisk vurdering av output.
2. Administrativ støtte
Det andre bruksområdet omfatter administrative funksjoner som HR, IT og økonomi, der Copilot brukes til å besvare spørsmål, utarbeide utkast eller støtte interne prosesser.
Også her kan personopplysninger behandles, men bruken er som hovedregel intern og mindre kompleks. Risikonivået vurderes derfor som lavt til moderat, avhengig av hvilke data som inngår.
I praksis kan dette være en HR-medarbeider som bruker Copilot til å formulere et svar i en personalsak eller en økonomimedarbeider som får hjelp til å forklare en prosedyre. Copilot fungerer som en støtte, ikke som beslutningstaker.
3. Innbyggerrettet saksbehandling
Det tredje bruksområdet skiller seg vesentlig fra de to øvrige. Her brukes Copilot i innbyggerrettet saksbehandling, der sensitive opplysninger, for eksempel helseopplysninger etter artikkel 9, og andre fortrolige opplysninger kan inngå. Dette øker både kompleksiteten og konsekvensene ved feil, og risikonivået vurderes derfor som høyt.
I praksis kan Copilot brukes til å oppsummere en innbyggers sak eller gi innspill til en avgjørelse. Fordi behandlingen omfatter sensitive opplysninger, og fordi output kan påvirke beslutninger, stilles det langt strengere krav til kontroll, kvalitetssikring og menneskelig vurdering.
På tvers av de tre bruksområdene er hovedpoenget at risikoen avhenger av hvordan Copilot brukes. Det avgjørende er hvilke datatyper som behandles, hvor tett løsningen er knyttet til beslutninger, og hvilken vekt som legges på output. Jo nærmere bruken er oppgaver som omfatter personopplysninger og avgjørelser, desto høyere blir kravene til kontrolltiltak, dokumentasjon og governance.
De viktigste riskoene ved bruk av Copilot
En sentral del av DPIA-en er å identifisere risikoene som oppstår ved bruk av Copilot i forbindelse med behandling av personopplysninger.
Et gjennomgående poeng er at utfordringene ikke bare er tekniske. De oppstår i samspillet mellom teknologi, data og menneskelig bruk. Derfor legger DPIA-en stor vekt på governance og riktig bruk.
Bias og diskriminering
Copilot genererer svar basert på mønstre i data som kan være skjeve eller ufullstendige. Dette kan føre til bias i output, særlig dersom verktøyet brukes som støtte ved vurderinger eller beslutninger. I offentlig sektor kan dette få konsekvenser for likebehandling.
Hallusinasjoner og feilaktig innhold
Generativ AI kan produsere svar som virker overbevisende, men som ikke er korrekte. Dersom output brukes ukritisk, kan det føre til feil i saksbehandling eller kommunikasjon. Risikoen øker i takt med hvor stor tillit brukeren har til systemets svar.
Forkert eller ukritisk brug af systemet
En vesentlig risiko knytter seg til hvordan medarbeidere bruker Copilot i praksis. Dersom verktøyet brukes uten forståelse for begrensningene, kan det føre til at det deles for mange opplysninger, eller at output tillegges for stor vekt.
Uautorisert tilgang til data
Avhengig av konfigurasjon og tilgangsstyring kan Copilot gi tilgang til informasjon brukeren ikke burde ha innsyn i. Dette stiller krav til god styring av tilganger og datatilgjengelighet.
Uklare ansvarsforhold
Når AI inngår i arbeidsprosesser, kan det bli uklart hvem som har ansvaret for det endelige resultatet. Dette ansvaret kan omfatte å sikre nødvendige tiltak som testing av AI-løsninger, opplæring av ansatte, regelmessig revurdering av AI-systemer og lignende. Dette løses vanligvis ved å utpeke en AI-ansvarlig (også kalt en AI Compliance Officer). Dette er særlig viktig for å sikre at ansvaret for governance ikke faller mellom to stoler.
Slik vurderes og reduseres risiko
I DPIA-en blir risiko ikke bare identifisert, men også systematisk vurdert og håndtert. Dette skjer ved å vurdere både sannsynligheten for at en risiko oppstår og konsekvensene dersom den gjør det.
Hver risiko vurderes ut fra:
-
Hva kan gå galt?
-
Hvor sannsynlig er det?
-
Hvilke konsekvenser vil det få for de registrerte?
På bakgrunn av dette fastsettes et risikonivå som deretter reduseres gjennom konkrete sikkerhetstiltak. Målet er ikke å eliminere all risiko, men å redusere den til et nivå som anses akseptabelt.
Flere sentrale sikkerhetstiltak går igjen på tvers av de tre bruksområdene.
Tilgangsstyring: Begrenser hvilke data Copilot har tilgang til, og hvem som kan bruke løsningen. Dette reduserer risikoen for at sensitive opplysninger blir tilgjengelige for uvedkommende.
Opplæring av ansatte: Bruken av Copilot avhenger i stor grad av den enkelte medarbeider. Derfor er det avgjørende at brukerne forstår både mulighetene og begrensningene, inkludert hvilke opplysninger som kan deles med systemet.
Menneskelig kontroll: Output fra Copilot skal ikke brukes uten menneskelig vurdering. Dette gjelder særlig i saker som har betydning for enkeltpersoner. Menneskelig kontroll er en sentral mekanisme for å redusere risiko knyttet til feil og bias.
Dataminimering: Det bør kun brukes opplysninger som er nødvendige for den aktuelle oppgaven. Dette gjelder både hvilke data Copilot har tilgang til, og hvilke opplysninger brukeren aktivt legger inn.
Logging og dokumentasjon: For å oppfylle GDPRs krav til ansvarlighet må organisasjonen kunne dokumentere bruken av Copilot. Dette innebærer blant annet logging av prompts og output, mulighet for revisjon og dokumentasjon av hvordan AI-basert input inngår i beslutningsgrunnlaget.
Roller og ansvar: Hvem har ansvar for hva?
Ved bruk av Copilot er organisasjonen som hovedregel behandlingsansvarlig, mens Microsoft normalt fungerer som databehandler. Dette forutsetter at det er inngått en gyldig databehandleravtale, og at løsningen er riktig konfigurert.
Det avgjørende er at behandlingsansvaret ikke kan outsources. Organisasjonen har ansvaret for:
-
hvilke personopplysninger som behandles
-
hvilke formål Copilot brukes til
-
hvordan output inngår i arbeidsprosesser og beslutninger
Microsofts rolle er begrenset til å levere infrastrukturen og behandle data etter instruks. Det betyr at feil, uhensiktsmessig bruk eller for vid tilgang til data ikke kan tilskrives leverandøren, men ligger hos organisasjonen selv.
I praksis gjør dette konfigurasjon og governance til sentrale spørsmål innen compliance. Dersom Copilot får tilgang til for mye data, eller brukes uten tydelige rammer, er dette ikke et teknisk problem, men et brudd på organisasjonens ansvar som behandlingsansvarlig.
Hva sier DPIA-en om lovligheten av Copilot?
En sentral konklusjon i DPIA-en er at Copilot kan brukes lovlig innenfor de definerte bruksområdene, forutsatt at en rekke vilkår er oppfylt. Først og fremst må løsningen være korrekt konfigurert slik at tilgangen til data er begrenset, og bruken må skje innenfor tydelige rammer. I tillegg er det avgjørende at organisasjonen har et gyldig behandlingsgrunnlag, og at medarbeiderne bruker systemet på en forsvarlig måte.
Copilot vurderes ikke i seg selv som et høyrisikosystem etter EUs AI Act. Det betyr imidlertid ikke at alle bruksområder faller utenfor kategorien høy risiko. Klassifiseringen avhenger av den konkrete bruken. Dette stiller krav til ansvarlig bruk og til at medarbeiderne har nødvendig kompetanse til å bruke teknologien riktig.
Den viktigste lærdommen fra Kammeradvokatens DPIA
Kammeradvokatens DPIA for Copilot er interessant fordi den viser hvordan man kan arbeide strukturert med en teknologi som i utgangspunktet er kompleks og vanskelig å kontrollere.
Den viktigste lærdommen er at AI ikke er plug-and-play. Lovligheten avhenger ikke av verktøyet alene, men av hvordan det implementeres, hvilke data som brukes, og hvordan medarbeiderne anvender det i praksis. Dette stiller krav til governance og løpende vurderinger.
For offentlige virksomheter fungerer DPIA-en som et felles utgangspunkt, mens private organisasjoner kan bruke den som referanse for å forstå:
-
hvilke risikoer som må adresseres
-
hvilke sikkerhetstiltak som forventes
-
hvordan en DPIA kan struktureres i praksis
Som organisasjon bør dere som et minimum:
-
etablere tydelige retningslinjer for bruk av Copilot
-
vurdere om bruken av Copilot krever en DPIA
-
implementere tekniske og organisatoriske sikkerhetstiltak
-
forankre ansvar og governance tydelig i organisasjonen
Det er viktig å forstå at Kammeradvokatens DPIA for Copilot ikke er en fasit. Den kan ikke gjenbrukes direkte, men må oversettes, tilpasses og forankres i den enkelte organisasjonen.
