Hvis en organisation blot forbyder generativ AI, forsvinder brugen sjældent. Den bliver usynlig. Medarbejdere kopierer tekst ind i private konti, uploader dokumenter til tilfældige tjenester eller bruger browserudvidelser, ingen har vurderet.

Det kaldes shadow AI: AI-brug uden organisationens viden, styring eller godkendelse.

Hvorfor opstår det?

Shadow AI er ofte et symptom på et reelt behov. Medarbejderen har for lidt tid, møder for meget dokumentation eller har set, at en gratis tjeneste kan løse en opgave på få minutter. Hvis ledelsen kun tilbyder et forbud og ingen sikker vej, vinder den uformelle løsning.

De typiske risici er:

• personoplysninger i en privat tjeneste,
• forretningshemmeligheder i prompts eller filer,
• uklar brug af data til modeltræning,
• manglende sletning og retention,
• ukendte underdatabehandlere,
• output uden faglig kontrol,
• browserplugins med for brede rettigheder,
• manglende dokumentation ved klager eller hændelser.

Lav en grøn, gul og rød datamodel

Grøn: Offentlig information og ufarlige syntetiske eksempler. Kan bruges i godkendte værktøjer.

Gul: Interne dokumenter og almindelige personoplysninger. Kræver konkret godkendt platform, formål, adgang og kontrol.

Rød: Følsomme oplysninger, fortrolige personalesager, helbredsdata, børn og udsatte borgere, sikkerhedsoplysninger, adgangskoder og materiale om endnu ikke offentliggjorte beslutninger. Må ikke behandles i en generel AI-tjeneste uden en særskilt juridisk, sikkerhedsmæssig og teknisk vurdering.

Farverne er ikke et juridisk facit. De er et fælles hverdagssprog, der gør det lettere at stoppe op.

En firmakonto er ikke automatisk et sikkerhedsstempel

Business- og enterpriseprodukter tilbyder typisk bedre kontraktuelle og tekniske rammer end private forbrugerkonti. Men organisationen skal stadig vurdere den konkrete tjeneste og opsætning. Det gælder blandt andet:

• hvem der er dataansvarlig og databehandler,
• om input og output bruges til træning,
• hvor længe data opbevares,
• om data overføres uden for EU/EØS,
• hvilke forbindelser og tredjepartstjenester der er aktive,
• om brugere kan dele chats offentligt,
• hvilke administrator- og auditfunktioner der findes.

Sikkerhedskultur frem for skam

En medarbejder, der har delt noget forkert, skal turde sige det hurtigt. Sanktionerende kultur får hændelser til at blive skjult. En moden AI-politik beskriver derfor både »stop før upload« og »sig straks til efter en fejl«.

Ledelsen bør spørge: Hvilken arbejdsopgave prøvede medarbejderen at løse, og hvorfor fandtes der ikke en sikker vej?

Det fritager ikke den enkelte for ansvar. Det gør organisationen i stand til at lære.

Hvis ledelsen kun tilbyder et forbud og ingen sikker vej, vinder den uformelle løsning.