Adgang, logning og hvad der ikke skal videre
En praktisk gennemgang af adgangsstyring, logning og de oplysninger, der ikke skal sendes videre til en AI-leverandør.
Et AI-system har præcis den adgang, I giver den konto, det kører under. Kobler I en assistent på jeres CRM med en bred konto, kan den læse hele CRM'et, også de sager, ingen medarbejder har ærinde i. Sikkerhedsarbejdet ligger derfor før modellen, ikke efter.
Tre spørgsmål bærer det meste: hvem og hvad har adgang, hvad bliver logget, og hvilke oplysninger forlader huset. Rækkefølgen betyder noget, for de to første kan I afklare i jeres egne systemer, inden I overhovedet vælger leverandør.
Giv systemet den smalleste adgang, der virker
Opret en separat konto til hver integration i stedet for at lade den køre på en medarbejders login. Så kan I lukke den enkeltvis, og logfilerne viser, hvem der handlede. Skal systemet kun læse, så giv det kun læseadgang.
Datatilsynet anbefaler periodisk kontrol af adgangsrettigheder og peger på fire ting: at rettigheder er dækket af gyldig dokumentation, at adgange efter fratrædelse eller orlov er lukket, at autorisationer stadig er arbejdsbetinget nødvendige, og at ubrugte konti bliver fundet og lukket.
Ifølge samme vejledning bør kontrollen holdes op mod en troværdig, opdateret kilde, typisk HR-systemet, og forestås af personer med forskellige roller. Datatilsynet skrev i september 2023, at misbrug af adgangsrettigheder ikke kan forhindres helt, men at omfanget kan begrænses.
Log læsning, ikke kun ændringer
Datatilsynet anbefaler at logge alle anvendelser af personoplysninger, herunder læsning, tilføjelse, søgning, ændring, udtræk og sletning. For et AI-system betyder det, at opslaget skal logges, også når svaret aldrig når frem til en skærm.
Loggen skal ligge beskyttet, og Datatilsynet foreslår en dedikeret logserver, hvor personer med privilegeret adgang til driftsystemerne ikke kan nå kopierne. Brugeradministratorens egne handlinger bør logges særskilt, netop fordi den rolle kan tildele adgange til sig selv.
Logning uden gennemsyn er kun det halve arbejde. Ved brede adgange til følsomme oplysninger vil stikprøvekontrol hvert halve år ofte være nødvendig, skriver Datatilsynet, og kontrollen virker bedst, når medarbejderne ved, at den finder sted.
Fire situationer, hvor private må bruge CPR
Ifølge Datatilsynet må private behandle CPR-numre i fire situationer: når lovgivningen kræver det, ved gyldigt samtykke, til videnskabelige eller statistiske formål, og som naturlig del af normal drift, hvor det har betydning for entydig identifikation. Personnummer må ikke offentliggøres uden samtykke.
Følsomme oplysninger er ifølge Datatilsynet blandt andet race, politisk og religiøs overbevisning, helbred og seksuel orientering. Går den slags gennem en prompt, skal grundlaget være på plads først. Adgangsnøgler og kodeord hører aldrig hjemme i en prompt, uanset leverandør.
Læs leverandørens vilkår, ikke forsiden
OpenAI skriver i sin dokumentation, at data sendt til API'et siden 1. marts 2023 ikke bruges til at træne modellerne, medmindre man aktivt tilvælger det. Logs til misbrugsovervågning gemmes ifølge samme side i op til 30 dage, hvis loven ikke kræver længere.
Samme dokumentation nævner, at kunder kan vælge, hvor indholdet lagres geografisk, herunder i Europa, og at zero data retention udelader kundeindhold fra misbrugslogs. Anthropic skriver, at input og output fra deres kommercielle produkter ikke bruges til træning uden tilladelse.
Der ligger detaljer i det. Anthropic oplyser, at bruger man knappen til at give feedback på et svar, kan hele samtalen gemmes i op til fem år. Sådan en indstilling er værd at finde, inden hundrede medarbejdersamtaler er sendt afsted.
En databehandleraftale er startpunktet, ikke slutpunktet. Datatilsynet udgav i oktober 2021 en vejledning med en pointskala, hvor større risiko giver flere point, og flere point stiller større krav til jeres eget tilsyn med leverandøren.
Begynd med at trække listen over, hvad der har adgang til den datakilde, AI-systemet skal læse fra, og hold den op mod HR-systemet. Den øvelse afslører som regel mere end selve valget af model.
Kilder
- Datatilsynet: Logning af brugernes anvendelser af personoplysninger
- Datatilsynet: Stikprøver i log over brugernes anvendelser af personoplysninger
- Datatilsynet: Logning af brugeradministrators handlinger
- Datatilsynet: Periodisk kontrol af adgangsrettigheders aktualitet og Katalog over foranstaltninger
- Datatilsynet, 18. september 2023: Hvordan kan misbrug af adgangsrettigheder forebygges?
- Datatilsynet: Hvornår må du behandle personoplysninger og FAQ i GDPR-univers for små virksomheder
- Datatilsynet, 29. oktober 2021: Sådan kan du føre tilsyn med dine databehandlere
- OpenAI: Your data
- Anthropic: Is my data used for model training?