Logning af adgang når AI læser jeres data

Et AI-system har præcis den adgang, I giver den konto, det kører under. Kobler I en assistent på jeres CRM med en bred konto, kan den læse hele CRM'et, også de sager, ingen medarbejder har ærinde i. Sikkerhedsarbejdet ligger derfor før modellen.

Bruger I AI, der er bygget ind i noget, I har i forvejen, som Copilot eller AI i CRM'et, handler det mest om adgange og om leverandørens log. Får I bygget en integration, skal I også selv beslutte, hvad der logges og sendes videre. Guiden er den tekniske side. Den juridiske vurdering hører hjemme hos en advokat, og rammerne står i AI og GDPR: det skal I have styr på først.

Hvilken adgang skal et AI-system have?

Den smalleste, der virker. Får I bygget en integration, så giv den sin egen konto i stedet for at lade den køre på en medarbejders login. Så kan den lukkes for sig, og loggen viser, hvad der var systemet, og hvad der var et menneske. Skal den kun læse, får den kun læseadgang, og kun til de mapper, felter eller kalendere, opgaven kræver.

Copilot i Microsoft 365 virker omvendt. Den kører på medarbejderens eget login og viser kun oplysninger, som medarbejderen i forvejen har mindst læseadgang til, skriver Microsoft. Det betyder også, at en gammel mappe, der er delt med hele firmaet, kan dukke op i et svar. Ryd derfor op i delinger og rettigheder i SharePoint, OneDrive og Teams, før Copilot slås til.

Vi gør det samme i de platforme, vi selv driver. Når Ringback, vores AI-receptionist, skal tage hensyn til en virksomheds kalender, henter den udelukkende, hvornår kalenderen er optaget. Aftalernes titler, deltagere, noter og adresser bliver hverken hentet eller gemt.

Adgangene skal også holdes ved lige. Datatilsynet anbefaler en periodisk kontrol af, om rettighederne er dokumenterede og stadig arbejdsbetinget nødvendige, om adgange efter fratrædelse og orlov er lukket, og om ubrugte konti er fundet og lukket. Kontrollen holdes op mod en opdateret kilde, typisk HR-systemet.

Hvad skal logges?

Datatilsynet anbefaler at logge alle anvendelser af personoplysninger, herunder læsning, tilføjelse, søgning, ændring, udtræk og sletning. Hvor langt I skal gå, afhænger af risikoen ved det, I behandler, jf. databeskyttelsesforordningens artikel 32. For et AI-system, der læser kundedata, betyder det, at opslaget skal kunne ses bagefter, også når svaret aldrig bliver vist.

Log handlingen, og lad indholdet ligge. En log, der gemmer hele forespørgslen til modellen, er endnu en kopi af kundens oplysninger. Skriv i stedet, hvilke felter der blev sendt, og hvilken sag de hørte til.

Bruger I Copilot i Microsoft 365, er en stor del af det her allerede slået til. Microsoft skriver, at hver interaktion med Copilot bliver registreret i auditloggen i Microsoft Purview med bruger, tidspunkt og de filer, mails og andre ressourcer, Copilot læste for at svare. Selve spørgsmålene og svarene ligger et andet sted, i brugerens Copilot-historik, hvor I kan sætte egne opbevaringsregler.

Hvor loggen skal ligge og hvem der må læse den

Loggen skal ligge beskyttet. Datatilsynet foreslår en dedikeret logserver, hvor personer med privilegeret adgang til driftsystemerne ikke kan nå kopierne. Brugeradministratorens egne handlinger bør logges særskilt, netop fordi den rolle kan tildele adgange til sig selv.

I en lille virksomhed er administratoren ofte kun en person, og så er en separat logserver urealistisk. Brug i stedet den log, leverandøren fører, fx Microsofts auditlog, frem for en log i et system, administratoren selv driver, og lad en anden end administratoren, fx ejeren eller revisor, se stikprøverne. Microsoft gemmer auditposterne i 180 dage med Audit (Standard) og op til et år med Audit (Premium). Skal de gemmes længere, skal de eksporteres.

Hvor længe loggen skal gemmes, er ifølge Datatilsynet en konkret vurdering, og den bør slettes automatisk, når tiden er gået. Tilsynet foreslår at koble opbevaringstiden til jeres kontrol af adgange: finder I en forkert rettighed, skal I kunne gå loggen igennem mindst tilbage til sidste kontrol. Kontrollerer I to gange om året, skal loggen altså mindst dække et halvt år. Vil I også kunne efterforske et cyberangreb, anbefaler Styrelsen for Samfundssikkerhed mindst 13 måneder.

Hvordan bruger I loggen i praksis?

Ved brede adgange til følsomme oplysninger vil stikprøvekontrol hvert halve år ofte være nødvendig, skriver Datatilsynet. Stikprøverne skal følge en fast procedure, men tidspunktet må ikke kunne forudsiges, og de virker bedst, når medarbejderne ved, at de finder sted. For almindelige kundeoplysninger nævner Datatilsynet ikke en frekvens. Vores vurdering er, at to gange om året er et rimeligt sted at begynde. Datatilsynet nævner også alarmer ved mistænkelig aktivitet som et supplement.

1. Træk listen over konti med adgang til de data, AI-systemet læser fra, og hold den op mod HR-systemet.
2. Luk konti, der ikke længere bruges, og adgange, der ikke længere er nødvendige.
3. Tag stikprøver i loggen blandt nylige opslag, og tjek, at de hørte til en sag.
4. Se særskilt på administratorernes handlinger.
5. Skriv ned, hvad I fandt, og hvad I rettede. Det er jeres dokumentation, hvis nogen spørger.

Hvad må ikke sendes videre til en AI-leverandør?

Private må kun behandle personnumre i de tilfælde, databeskyttelseslovens § 11 nævner, blandt andet når det følger af lovgivningen, når den registrerede har givet samtykke, og når behandlingen alene sker til videnskabelige eller statistiske formål. En AI-opgave som at sortere mails eller skrive et svarudkast kræver sjældent selve nummeret, så det enkleste er at fjerne det, før teksten sendes.

Følsomme oplysninger, fx helbred, religiøs overbevisning og fagforeningsmedlemskab, må kun behandles, når en af undtagelserne i databeskyttelsesforordningens artikel 9 gælder. De har sjældent en fast form og kan derfor ikke altid fanges automatisk.

Hvad der ellers sker med teksten, når den har forladt huset, og hvordan en indgående mail kan forsøge at styre systemet, er gennemgået i Datasikkerhed når AI læser jeres kundehenvendelser.

Hvad skal I spørge leverandøren om?

Som lille kunde forhandler I ikke en stor leverandørs standardvilkår. Det, I kan, er at vælge en erhvervskonto frem for private konti, læse vilkårene for netop den og gemme en kopi med dato. Svarene herunder gælder erhvervsprodukterne. Fem spørgsmål dækker det meste:

1. Bruges vores data til at træne modeller? OpenAI skriver, at data sendt til API'et siden 1. marts 2023 ikke bruges til træning, medmindre man selv tilvælger det. Anthropic og Microsoft skriver det samme om deres erhvervsprodukter.
2. Hvor længe gemmes det, vi sender, og hvor? OpenAI gemmer som udgangspunkt logs til misbrugsovervågning i op til 30 dage. Microsoft holder Copilot for EU-kunder inden for EU's datagrænse, men modeller fra Anthropic i Copilot er i øjeblikket undtaget.
3. Hvad sker der, når en medarbejder giver feedback på et svar? Anthropic oplyser, at hele samtalen i så fald kan gemmes i op til fem år. I Team- og Enterprise-planer kan ejeren slå feedbackknappen fra.
4. Kan vi få en log over, hvad systemet har læst? Datatilsynet anbefaler, at I kan få logs udleveret fra databehandleren uden større besvær eller udgifter.
5. Hvilke underdatabehandlere er med, og i hvilke lande?

Databehandleraftalen er kun begyndelsen. Datatilsynet udgav i oktober 2021 en vejledning med en pointskala, hvor større risiko giver flere point, og flere point stiller større krav til jeres eget tilsyn med leverandøren. Rækkefølgen for et AI-indkøb står i Fra behov til underskrevet AI-aftale.

Tjekliste før I kobler AI på jeres data

1. Ryd op i delinger og rettigheder, så AI'en kun kan se det, den skal bruge.
2. Giv en specialbygget integration sin egen konto, og kun læseadgang, hvis den kun skal læse.
3. Log opslag, ændringer og afsendelser til leverandøren, men ikke hele indholdet.
4. Læg loggen uden for administratorens rækkevidde, eller brug leverandørens, og lad en anden se stikprøverne.
5. Bestem, hvor længe loggen gemmes, og sørg for, at den slettes bagefter.
6. Fang CPR-numre og adgangskoder, før teksten sendes, og skjul kontonumre, når opgaven ikke kræver dem.
7. Brug erhvervskonti, og gem leverandørens vilkår med dato.
8. Tjek, at loggen faktisk bliver skrevet og kan læses, og læg stikprøver og kontrol af adgange ind som en fast rutine uden faste datoer.

Er jeres data ikke samlet eller beskrevet endnu, begynder arbejdet der: Sådan forbereder I jeres data før et AI-projekt.

Bygger vi en integration for jer, bliver vi først enige om, hvilke systemer den må læse fra, hvilke trin der kører automatisk, og hvor en medarbejder godkender. Forløbet bliver testet med både normale sager og fejl, før det sættes i drift. Hvordan det foregår, står under integrationer, og hvad det koster, står på priser.

Ofte stillede spørgsmål