Kammeradvokatens DPIA av Copilot: Vad innehåller den och varför är den viktig?

När AI tas i bruk i stor skala, särskilt i en offentlig kontext, uppstår risker som inte kan hanteras med standardprocedurer ensamma. Det kräver en systematisk bedömning av hur data behandlas, vilka konsekvenser det kan ha för de registrerade och vilka åtgärder som behöver finnas på plats.

DPIA:n för Copilot går igenom hur teknologin används i praktiken, vilka risker som är förknippade med det och hur de kan hanteras inom ramen för GDPR. Resultatet är ett ramverk som myndigheter och privata organisationer – även i Sverige – kan utgå från när de själva ska bedöma användningen av AI.

Vad är en DPIA – och varför är den relevant här?

En DPIA (Data Protection Impact Assessment) är en konsekvensbedömning som används för att utvärdera hur en behandling av personuppgifter påverkar de registrerades rättigheter och friheter.

Enligt GDPR är en DPIA ett krav när en behandling sannolikt medför hög risk. Det gäller typiskt vid användning av ny teknik, behandling av känsliga uppgifter eller situationer där data behandlas i stor skala. Copilot bygger på generativ AI och kan användas brett inom organisationen, bland annat i arbetsflöden där personuppgifter ingår. Det gör det nödvändigt att bedöma hur data behandlas och vilka risker som följer med. DPIA:n är i det sammanhanget ett verktyg för att skapa överblick, dokumentera bedömningar och säkerställa att användningen av teknologin sker inom ramen för GDPR.

Det är viktigt att understryka att en DPIA inte förändrar kraven på behandlingsgrund. Organisationen måste fortfarande kunna peka på en giltig grund enligt GDPR (till exempel myndighetsutövning eller legitimt intresse), och användningen av Copilot måste hålla sig inom det ursprungliga syftet. Om AI används på ett sätt som går utöver detta uppstår ett självständigt complianceproblem.

Tre cases för Copilot

I DPIA:n delas användningen av Copilot in i tre övergripande cases. Syftet är att skapa en tydlig avgränsning av hur lösningen används i praktiken och hur risknivån varierar beroende på kontexten.

1. Allmän ärendehandläggning

Det första caset täcker vanlig ärendehandläggning, där Copilot används som stöd för att exempelvis utarbeta dokument, sammanfatta innehåll eller strukturera text.

Här handlar det typiskt om behandling av vanliga personuppgifter och risknivån bedöms som låg. Copilot fungerar primärt som ett produktivitetsverktyg och användningen ligger nära befintliga arbetsprocesser.

I praktiken innebär det att en medarbetare till exempel kan använda Copilot för att sammanfatta ett längre ärende, formulera ett utkast till en PM eller förbättra språket i en befintlig text. Copilot stödjer arbetet men fattar inte själv beslut och ändrar inte ärendets innehåll. Det är dock viktigt att vara uppmärksam på att Copilot i praktiken kan påverka beslutsunderlaget, vilket ställer krav på kritisk bedömning av resultatet.

2. Administrativt stöd

Det andra caset omfattar administrativa funktioner som HR, IT och ekonomi, där Copilot används för att besvara frågor, generera utkast eller stödja interna processer.

Det kan fortfarande handla om personuppgifter, men användningen är i utgångspunkten intern och mindre komplex. Risknivån bedöms därför som låg till måttlig, beroende på vilka data som ingår.

I praktiken kan det till exempel vara en HR-medarbetare som använder Copilot för att formulera ett svar i ett personalärende, eller en ekonomimedarbetare som får hjälp med att förklara en procedur. Uppgifterna är interna och Copilot används som bollplank – inte som beslutsfattare.

3. Medborgarinriktad ärendehandläggning

Det tredje caset skiljer sig väsentligt från de två övriga. Här används Copilot i samband med medborgarinriktad ärendehandläggning, där känsliga uppgifter kan ingå (exempelvis hälsodata enligt art. 9) och andra konfidentiella uppgifter. Det ökar både komplexiteten och konsekvensen av fel, och risknivån bedöms därför som hög.

I praktiken kan det innebära att Copilot används för att sammanfatta en medborgares ärende eller ge input till ett beslut. Men eftersom känsliga uppgifter ingår, och eftersom resultatet kan påverka beslut, ställer det betydligt högre krav på kontroll, kvalitetssäkring och mänsklig bedömning.

Gemensamt för de tre casen är att risken beror på hur Copilot används. Det avgörande är framför allt vilka datatyper som behandlas, hur nära användningen är kopplad till beslut och hur stor vikt som läggs vid resultatet. Ju närmare användningen är uppgifter med medborgardata och beslut, desto högre blir kraven på kontroll, dokumentation och governance.

De väsentligaste riskerna vid användning av Copilot

En central del av DPIA:n är att identifiera de risker som uppstår vid användningen av Copilot i relation till behandling av personuppgifter.

Utmaningarna är inte bara är tekniska. De uppstår i samspelet mellan teknik, data och mänsklig användning, och det är därför DPIA:n lägger stort fokus på governance och korrekt användning.

Bias och diskriminering

Copilot genererar svar som bygger på mönster i data som kan vara snedvridna eller ofullständiga. Det kan leda till bias i resultatet – särskilt om verktyget används som stöd i bedömningar eller beslut. I en offentlig kontext kan det få konsekvenser för medborgares likabehandling.

Hallucineringar och felaktigt innehåll

Generativ AI kan producera svar som framstår som övertygande men som inte är korrekta. Om resultatet används okritiskt kan det leda till fel i ärendehandläggning eller kommunikation. Risken ökar i takt med hur mycket man lutar sig mot systemets svar.

Felaktig eller okritisk användning av systemet

En väsentlig risk är hur medarbetare använder Copilot i praktiken. Om verktyget används utan förståelse för dess begränsningar kan det leda till att för mycket information delas eller att resultatet tillmäts för stor vikt.

Obehörig åtkomst till data

Beroende på konfiguration och behörighetsstyrning kan det finnas en risk att Copilot ger åtkomst till information som användaren inte borde ha insyn i. Det ställer krav på styrning av behörigheter och datatillgänglighet.

Oklar ansvarsfördelning

När AI ingår i arbetsprocesser kan det bli oklart vem som bär ansvaret för det slutliga resultatet. Det är särskilt kritiskt i ärendehandläggning, där beslut måste kunna förklaras och dokumenteras.

Så här bedöms och reduceras risker

I DPIA:n identifieras inte bara risker – de bedöms och hanteras också systematiskt. Det sker genom att man tittar på både sannolikheten för att en risk uppstår och konsekvensen om den faktiskt gör det.

Konkret bedöms varje risk utifrån:

• Vad kan gå fel?

• Hur sannolikt är det?

• Vilken påverkan kommer det att ha för de registrerade?

Utifrån detta fastställs en risknivå som därefter reduceras genom konkreta åtgärder. Det är viktigt att vara medveten om att målet inte ska vara att eliminera all risk. Det handlar om att reducera den till en nivå som bedöms som acceptabel i förhållande till behandlingen.

Flera centrala åtgärder återkommer tvärs över de tre casen:

Behörighetsstyrning: Begränsar vilka data Copilot har åtkomst till och vem som kan använda lösningen. Det reducerar risken för att känsliga uppgifter exponeras för fel personer.

Medarbetarutbildning: Användningen av Copilot beror i hög grad på den enskilda medarbetaren. Därför är det A och O att användarna förstår både möjligheter och begränsningar, inklusive vad de får och inte får dela med systemet.

Mänsklig granskning: Resultat från Copilot får inte stå ensamt. Det måste alltid finnas en mänsklig bedömning, särskilt i ärenden av betydelse för medborgare. Det är en central kontrollmekanism i förhållande till fel och bias.

Dataminimering: Endast de uppgifter som är nödvändiga för uppgiften bör användas. Det gäller både vilka data som är tillgängliga för Copilot och vad användaren aktivt matar in.

Loggning och dokumentation: För att kunna leva upp till GDPR:s krav på ansvarsskyldighet är det nödvändigt att kunna dokumentera användningen av Copilot. Det innefattar bland annat loggning av promptar och resultat, möjlighet till revision och dokumentation av hur AI-baserat underlag ingår i beslutsgrundlaget.

Roller och ansvar: Vem ansvarar för vad?

Vid användning av Copilot är organisationen i grund och botten personuppgiftsansvarig, medan Microsoft typiskt fungerar som personuppgiftsbiträde. Det förutsätter att ett giltigt personuppgiftsbiträdesavtal har ingåtts och att lösningen är korrekt konfigurerad.

Det avgörande är dock att personuppgiftsansvaret inte kan outsourcas. Organisationen ansvarar för:

• vilka personuppgifter som behandlas

• vilka syften Copilot används för

• hur resultatet ingår i arbetsflöden och beslut

Microsofts roll är däremot begränsad till att tillhandahålla infrastrukturen och behandla data enligt instruktion. Det innebär att fel, olämplig användning eller alltför bred åtkomst till data inte kan läggas på leverantören, utan ligger hos organisationen själv.

I praktiken gör det konfiguration och governance till en central compliancefråga. Om Copilot får åtkomst till för mycket data eller används utan tydliga ramar är det inte ett tekniskt problem utan ett brott mot organisationens ansvar som personuppgiftsansvarig.

Vad säger DPIA:n om laglig användning av Copilot?

En central slutsats i DPIA:n är att Copilot kan användas lagligt inom de definierade casen, förutsatt att ett antal villkor är uppfyllda. Först och främst att lösningen är korrekt konfigurerad så att åtkomsten till data är begränsad, och att användningen sker inom tydliga ramar. Därutöver är det avgörande att organisationen har en giltig behandlingsgrund och att medarbetare använder systemet korrekt i praktiken.

Copilot bedöms inte i sig självt som ett högrisksystem i förhållande till EU:s AI-förordning. Det betyder dock inte att alla användningsområden faller utanför högriskkategorierna – klassificeringen beror på den konkreta användningen. Det ställer krav på ansvarsfull användning, inklusive att medarbetare har de nödvändiga kompetenserna för att använda teknologin korrekt.

Den viktigaste lärdomen från Kammeradvokatens DPIA

Danska Kammeradvokatens DPIA av Copilot är intressant eftersom den visar hur man arbetar strukturerat med en teknik som i utgångspunkten är komplex och svår att kontrollera.

Den viktigaste lärdomen är att AI inte är plug and play. Lagligheten beror inte på själva verktyget, utan på hur det implementeras, vilka data som används och hur medarbetare använder det i praktiken. Det ställer krav på governance och löpande bedömningar.

För offentliga myndigheter fungerar DPIA:n som en gemensam utgångspunkt, men privata organisationer kan använda den som referens för att förstå:

• vilka risker som behöver adresseras

• vilka åtgärder som förväntas

• hur en DPIA kan struktureras i praktiken

Som organisation bör ni som minimum:

• säkerställa tydliga riktlinjer för användningen av Copilot

• bedöma om användningen av Copilot kräver en DPIA

• implementera tekniska och organisatoriska åtgärder

• förankra ansvar och governance tydligt i organisationen

Det är viktigt att förstå att Kammeradvokatens DPIA av Copilot inte är en facitlista. Den kan inte återanvändas direkt, utan måste översättas, anpassas och förankras i den enskilda organisationen.