Konsekvensanalyse for AI-løsninger

Velkommen! Denne formular guider jer gennem en konsekvensanalyse (DPIA) for AI-løsninger. Udfyld felterne grundigt. Du kan gemme dine fremskridt som en fil på din computer ("Gem som fil") og indlæse den igen senere ("Indlæs fra fil") for at fortsætte, hvor du slap.

Resume og Afgrænsning

Kort resume af konsekvensanalysen
Skriv et kort resume til ledelsen, der opsummerer jeres vurderinger, de vigtigste risici og hvordan I vil håndtere dem.
Afgrænsning af analysen (Scope)
Her skal du beskrive den samlede arbejdsproces, som denne analyse dækker – fra start til slut. Selvom en ny AI-løsning kun udfører en enkelt opgave, skal vi vurdere risici for hele den arbejdsgang, den bliver en del af. Det er derfor vigtigt, at du beskriver alle trin i processen, også de manuelle skridt, der kommer før og efter AI'en.

Del 1: Systematisk beskrivelse af behandlingsaktiviteten

1.1 Hvad er formålet med AI-løsningen?
Beskriv, hvad AI-løsningen skal bruges til, hvilke arbejdsgange den påvirker, og hvad I håber at opnå.
1.2 Hvorfor kan denne løsning medføre en høj risiko for borgeres og medarbejderes rettigheder?
Forklar kort, hvorfor I vurderer, at det er nødvendigt at lave denne analyse. Typisk er det fordi nye teknologier som AI kan have stor betydning for de personer, hvis data behandles.

Scope og karakter

1.3 Hvorfor har I valgt netop denne AI-løsning?
Beskriv baggrunden for valget af løsningen. Angiv gerne (i) hvilken type løsning det er, (ii) hvilken model der bruges (hvis I ved det), og (iii) de vigtigste designvalg.
1.4 Hvordan flyder data i systemet? (Datastrømme)
Beskriv rejsen for de personoplysninger, som AI-løsningen skal bruge. Hvilke typer data er det, hvor kommer de fra, hvad bruges de til, og hvor længe gemmes de i AI-systemet?
1.5 Hvad er målet med at bruge data i AI'en?
Beskriv de fordele og den forventede effekt, I ser ved at bruge AI'en – både for borgerne, for jeres organisation og for samfundet som helhed.
1.6 Hvem bliver berørt af løsningen?
Beskriv de grupper af personer, hvis data vil blive behandlet. Vær opmærksom på, om det omfatter sårbare grupper. Angiv et skøn over antallet.
1.7 Skal data deles med andre?
Beskriv, om data skal deles med eksterne parter (f.eks. leverandøren af AI-løsningen). Hvis ja, hvem er de, og har de eventuelt underleverandører?

Kontekst

1.8 I hvilken sammenhæng skal AI-løsningen bruges?
Beskriv brugssituationen. Hvordan vil det påvirke borgerne? Hvad er deres forventninger til, hvordan vi håndterer deres data? Er der bekymringer i offentligheden, vi skal tage højde for?

Aktiver

1.9 Hvilken teknik og IT-udstyr er involveret?
Beskriv den tekniske opsætning: Er det software, vi installerer selv? Er det en cloud-løsning? Kræver det nyt udstyr?

Del 2: Vurdering af lovlighed

Her skal vi sikre os, at vi har "lov" til at gøre det, vi planlægger. Det handler om at have et gyldigt grundlag (en "behandlingshjemmel") for at bruge borgernes data på denne måde og om at overholde de grundlæggende databeskyttelsesprincipper.

Afgrænsning og use case

2.1 Har vi et gyldigt grundlag for at behandle dataene? (Lovlighed)
Alt brug af persondata kræver et juridisk grundlag – en såkaldt 'behandlingshjemmel'. Beskriv her, hvad der giver os ret til at behandle dataene, både når løsningen udvikles/testes, og når den er i daglig drift. Det er vigtigt at henvise til de konkrete lovbestemmelser (f.eks. paragraffer i love eller bekendtgørelser), der giver kommunen hjemmel til at udføre opgaven. Hvis du er i tvivl, kan du finde information i jeres afdelings fortegnelse over behandlingsaktiviteter eller kontakte SOS for hjælp til denne del.
2.2 Må vi behandle følsomme oplysninger? (Særlige kategorier)
2.3 Må vi behandle oplysninger om strafbare forhold?
2.4 Må vi behandle CPR-numre?
2.5 Er behandlingen fair og rimelig? (Rimelighed)
Vi skal sikre, at vores brug af AI ikke fører til urimelige eller uretfærdige resultater for de personer, det berører.
2.6 Kan vi forklare, hvordan AI'en virker? (Gennemsigtighed)
Vi skal i et vist omfang kunne forklare, hvordan AI-løsningen kommer frem til sine resultater, især hvis de påvirker borgerne.
2.7 Bruger vi kun data til det aftalte formål? (Formålsbegrænsning)
Vi skal sikre, at data kun bruges til det specifikke og saglige formål, vi har defineret, og ikke til andre, urelaterede ting.
2.8 Bruger vi ikke flere data end højst nødvendigt? (Dataminimering & Proportionalitet)
Vi skal sikre, at vi kun indsamler og behandler de data, der er absolut nødvendige for at opnå formålet. Fordelene ved at bruge AI'en skal stå i et rimeligt forhold til ulemperne for borgerne.
2.9 Er dataene korrekte, og er AI'ens svar pålidelige? (Rigtighed)
Vi skal vurdere, om AI-løsningen er tilstrækkeligt præcis og pålidelig til at blive brugt i denne sammenhæng.
2.10 Hvor længe gemmer vi data? (Opbevaringsbegrænsning)
Vi må ikke gemme data længere end nødvendigt. Beskriv, hvor længe data opbevares i de forskellige faser (træning, test, drift) og hvordan de slettes.

Udvikling og test

Spørgsmålene her handler om, hvordan vi sikrer os, at AI-løsningen bliver bygget og testet på en ordentlig og fair måde, *før* den tages i brug.

2.11 Er trænings- og testdata lovlige og uden unødige personoplysninger?
Vi skal være sikre på, at de data, vi bruger til at træne og teste AI'en, kommer fra en lovlig kilde. Det er afgørende, at disse data som udgangspunkt ikke indeholder personoplysninger. Hvis der undtagelsesvist behandles personoplysninger i trænings- eller testdata, skal der være et klart lovgrundlag herfor, og de skal være skaffet på en juridisk forsvarlig måde.
2.12 Hvordan undgår vi, at AI'en bliver "racistisk" eller fordomsfuld? (Bias)
Hvis de data, vi træner AI'en med, er skæve, bliver AI'en også skæv. Beskriv, hvordan I sikrer, at jeres træningsdata er fair og repræsentative, så AI'en ikke kommer til at forskelsbehandle.
2.13 Har vi valgt en løsning, vi kan forklare?
Beskriv, hvordan jeres valg af model og design gør det muligt at forklæde, hvorfor AI'en kommer med et bestemt resultat.
2.14 Bruger vi kun de nødvendige data til at bygge AI'en?
Beskriv, hvordan I sikrer, at I kun bruger de absolut nødvendige data til at træne og teste AI'en.
2.15 Er vores test-data korrekte?
Hvordan sikrer vi, at de data, vi træner og tester med, er korrekte og afspejler virkeligheden?

Drift

Spørgsmålene her handler om, hvordan vi sikrer, at AI-løsningen fortsat opfører sig ordentligt og fair, når den er i daglig brug.

2.16 Hvordan opdager vi, hvis AI'en begynder at opføre sig mærkeligt?
Hvordan holder vi løbende øje med, at AI'en ikke giver urimelige eller skæve resultater i den daglige drift? Hvordan opdager og håndterer vi eventuel ny bias?
2.17 Kan vi forklare en afgørelse til en borger?
Hvordan sikrer vi, at vi kan forklare et resultat over for en borger, hvis resultatet er baseret på AI'ens input?
2.18 Bruger vi kun nødvendige data i den daglige drift?
Hvordan sikrer vi, at vi kun sender de absolut nødvendige data ind i AI'en, hver gang den bruges?
2.19 Hvordan sikrer vi, at AI'en ikke bliver "forældet"?
Verden ændrer sig, og en AI-model kan blive mindre præcis med tiden. Hvordan holder vi øje med, at den stadig giver korrekte og relevante resultater?

Hele livscyklus - Sikkerhed og Rettigheder

2.20 Hvordan sikrer vi dataene? (Behandlingssikkerhed)
Beskriv de overordnede sikkerhedsforanstaltninger, der beskytter dataene gennem hele løsningens levetid.
2.21 Hvordan håndterer vi databrud?
Hvad gør vi, hvis der sker et brud på persondatasikkerheden (f.eks. et hack)?
2.22 Hvordan informerer vi borgerne? (Oplysningspligt)
Hvordan oplyser vi de berørte personer om, at vi bruger deres data i en AI-løsning?
2.23 Hvordan giver vi indsigt i data? (Indsigtsret)
Hvordan sikrer vi, at en borger kan få at vide, hvilke oplysninger vi har om dem, og hvordan de er blevet behandlet af AI'en?
2.24 Hvordan kan data rettes? (Ret til berigtigelse)
Hvordan sikrer vi, at en borger kan få rettet forkerte oplysninger?
2.25 Hvordan kan data slettes? (Ret til sletning)
Hvordan håndterer vi en anmodning om at få slettet data?
2.26 Kan data flyttes? (Ret til dataportabilitet)
2.27 Kan man sige nej? (Ret til indsigelse)
Hvordan håndterer vi det, hvis en borger gør indsigelse mod, at deres data bruges i AI-løsningen?
2.28 Hvordan sikrer vi, at AI ikke træffer afgørelser på egen hånd?
Det er et lovkrav, at en AI-løsning aldrig alene må træffe afgørelser, der har stor betydning for en borger. Her skal du beskrive, hvordan I sikrer, at en medarbejder altid foretager den endelige vurdering og træffer den afgørende beslutning. Dette garanterer, at borgeren kan få en menneskelig gennemgang af afgørelsen og mulighed for at klage.
2.29 Hvem er vores leverandører? (Databehandlere)
Beskriv hvilke leverandører, der behandler data på vegne af os, hvad de gør, og hvilke garantier vi har for, at de overholder reglerne.
2.30 Sender vi data ud af EU? (Tredjelandsoverførsler)

Del 3: Identifikation af Risici og Foranstaltninger til at Mindske dem

Nedenfor er en række typiske risici. For hvert punkt skal I beskrive, hvordan det kan se ud for netop jeres løsning, og hvad I vil gøre for at forhindre det. Vurdér derefter risikoen, både før og efter jeres handlinger. Brug Ja/Nej-knapperne til at vise de sektioner, der er relevante for jer.

Del 4: Interessentinddragelse og Godkendelse

Her dokumenteres, hvem der har været involveret i processen, og hvem der har godkendt den.

Databeskyttelsesrådgiverens (DPO'ens) synspunkter
Angiv DPO'ens bemærkninger til denne analyse. Husk at DPO'en skal inddrages tidligt i processen.
Borgeres og medarbejderes synspunkter
Beskriv, hvordan I eventuelt har indhentet synspunkter fra de personer, der bliver berørt af løsningen. Hvis I har valgt ikke at gøre det, skal det begrundes.
Høring af Datatilsynet
Hvis analysen viser, at der er en høj risiko, som I ikke kan mindske tilstrækkeligt, skal Datatilsynet høres, *før* I går i gang. Angiv her, om det er sket.
Ledelsesgodkendelse
Angiv ledelsens synspunkter og godkendelse af denne analyse.
Ansvarlig for konsekvensanalysen
Angiv, hvem der er ansvarlig for at udarbejde og løbende opdatere denne analyse.

Del 5: Tjekliste til Kvalitetssikring

Gennemgå disse punkter til sidst for at sikre, at analysen er fyldestgørende. Sæt hak ved hvert punkt, når det er opfyldt.

Gennemgå Tjeklisten

Endelig Gemning & Print

Når du er helt færdig med at udfylde formularen, og du har gemt en .json fil med dine seneste data (via "Gem som fil" knappen øverst), kan du bruge "Eksporter til PDF" for at få en flot, printbar version af dine endelige svar.