AI-forordningen: Er din organisation klar til at sikre AI-færdigheder?

HVAD HANDLER FORPLIGTELSEN TIL AT SIKRE AI-FÆRDIGHEDER OM?

Pligten til AI-færdigheder (på engelsk: ”AI-literacy”) fremgår af AI-forordningens artikel 4, der fastsætter følgende:

”Udbydere og idriftsættere af AI-systemer træffer foranstaltninger til i videst muligt omfang at sikre et tilstrækkeligt niveau af AI-færdigheder hos deres personale og andre personer, der er involveret i drift og anvendelse af AI-systemer på deres vegne, og tager herved hensyn til disse personers tekniske viden, erfaring og uddannelse og den kontekst, hvori AI-systemerne skal anvendes, og de personer eller grupper af personer, som AI-systemerne skal anvendes på.”

Som det fremgår, er det udbydere og idriftsættere, som er underlagt kravet om AI-færdigheder.

Læser du nyheden på mobil? Se figuren bedre her.

Det bemærkes, at artikel 4 er placeret i AI-forordningens kapitel I om Almindelige bestemmelser og efter sin ordlyd ikke er afgrænset til eksempelvis højrisiko-AI-systemer. Der er således tale om en generel og central forpligtelse, der vedrører udbydere og idriftsætteres drift og anvendelse af alle former for AI-systemer omfattet af AI-forordningen. Dog vil forpligtelserne være størst, når der er tale om højrisiko-AI-systemer, som er AI-forordningens primære fokus.

Efter ordlyden af artikel 4 er bestemmelsen begrænset til ”drift og anvendelse”. Bestemmelsen må dog antages tillige at omfatte en pligt til at sikre AI-færdigheder i forhold til hele AI-systemets livscyklus og hermed også udviklingen af AI-systemet, så det sikres, at det fungerer hensigtsmæssigt, når det bringes i omsætning eller ibrugtages. Dette synspunkt støttes for det første af, at forpligtelsen efter sin ordlyd gælder for udbydere, der netop har en væsentlig forpligtelse til at udvikle og designe højrisiko-AI-systemer i overensstemmelse med en række specifikke krav i forordningens afdeling 2. For det andet kan der henvises til præambelbetragtning 20, hvor det anføres, at AI-færdigheder kan omfatte ”forståelse af den korrekte anvendelse af tekniske elementer i AI-systemets udviklingsfase” samt at ”AI-færdigheder [bør] give alle relevante aktører i AI-værdikæden den indsigt, der er nødvendig for at sikre passende overholdelse og korrekt håndhævelse heraf”.

Læser du nyheden på mobil? Se figuren bedre her.

Forpligtelsen til AI-færdigheder skal endvidere ses i lyset af de øvrige centrale forpligtelser for udbydere og idriftsættere af højrisiko-AI-systemer m.v., der følger af AI-forordningen, idet formålet med AI-færdigheder må anses for at være at give alle relevante aktører i AI-værdikæden den indsigt, der er nødvendig for at sikre passende overholdelse og korrekt håndhævelse heraf.

Forpligtelsen gælder allerede fra den 2. februar 2025, jf. AI-forordningens artikel 113.

HVILKE PERSONER GÆLDER KRAVET OM AI-FÆRDIGHEDER FOR – HVEM SKAL UDDANNES?

Forpligtelsen gælder i forhold til alle medarbejdere hos udbydere og idriftsættere, der er involveret på et hvilket som helst stadie af AI-systemernes livscyklus, herunder udvikling, test, drift, overvågning. Det betyder også, at det ikke er alle ansatte, der skal have AI-færdigheder: således er personer, der ikke er involveret i drift og anvendelse af AI-systemerne, ikke omfattet af forpligtelsen.

Udbydere og idriftsættere skal også være opmærksom på, at forpligtelsen til AI-færdigheder ikke kun gælder i forhold til eget personale – dvs. ansatte personer under virksomhedens eller myndighedens instruktionsbeføjelse – men tillige i forhold til ”andre personer”. Udbydere og idriftsættere har derfor også pligt til at sikre tilstrækkelige AI-færdigheder hos tredjeparter – herunder databehandlere, indlånte medarbejdere, konsulenter m.v. – i det omfang, disse er involveret i drift og anvendelse af AI-systemerne.

Det er derfor vores anbefaling, at udbydere og idriftsættere stiller kontraktmæssige krav herom og efter omstændighederne foretager et passende tilsyn hermed.

HVILKE FÆRDIGHEDER SKAL MEDARBEJDERNE UDDANNES I?

AI-færdigheder omfatter færdigheder, viden og forståelse, der giver udbydere, idriftsættere og berørte personer mulighed for under hensyntagen til deres respektive rettigheder og forpligtelser i forbindelse med AI-forordningen at idriftsætte AI-systemer på et informeret grundlag samt at øge bevidstheden om muligheder og risici ved AI og den mulige skade, som den kan forvolde, jf. AI-forordningens artikel 3, nr. 56.

Uddannelse og træning omfatter både en teknisk forståelse af, hvordan AI-systemerne fungerer, AI-systemernes begrænsninger og hvordan AI-systemernes output skal fortolkes, forstås og anvendes. Uddannelse og træning kan derudover også omfatte den enkelte medarbejders evne til kritisk at vurdere risici forbundet med brugen af AI-systemerne samt evnen til at overvåge AI-systemerne, når de er i drift blandt andet med henblik på at kunne identificere fejl etc.

På den baggrund omfatter forpligtelsen til at sikre AI-færdigheder, at medarbejderne undervises/trænes i i hvert fald følgende forhold – der ikke udgør en udtømmende liste – idet det konkrete uddannelsesindhold bør fastlægges i lyset af de konkrete omstændigheder, herunder virksomhedens/myndighedens rolle som udbyder og/eller idriftsætter, de pågældende medarbejderes roller og brug af systemerne, systemernes karakter og forbundne risici m.v.:

Læser du nyheden på mobil? Se figuren bedre her.

Udbydere og idriftsættere bør være opmærksom på det forhold, at også øvrige retsgrundlag, der er relevante for udvikling og drift af AI-løsninger, kan indeholde forpligtelser til at uddanne medarbejdere. Det gælder navnlig databeskyttelsesforordningens artikel 24, der indebærer en pligt til at fastsætte passende foranstaltninger for at kunne mitigere risici, herunder undervisning. 

Udbydere og idriftsættere bør derfor overveje i praksis at sammentænke uddannelsesindsatser efter flere retsgrundlag, så de samlede uddannelsesaktiviteter afvikles på den mest hensigtsmæssige og effektive måde – og hvor opgaven er til at vedligeholde på en god måde.

PLIGTEN TIL AT FASTSÆTTE ET DIFFERENTIERET UDDANNELSESPROGRAM

AI-forordningen opstiller ikke klare betingelser for, hvornår udbydere og idriftsættere i praksis har efterlevet forpligtelsen i AI-forordningens artikel 4 om at sikre AI-færdigheder. Hvorvidt der er fastsat et passende niveau af AI-færdigheder i praksis, beror i stedet på en konkret vurdering, hvori indgår bl.a., om virksomheden/myndigheden handler som udbyder og/eller idriftsætter i forhold til det konkrete AI-system samt følgende forhold, jf. også ovenfor:

1. Personernes tekniske viden, erfaring og uddannelse;
2. konteksten, hvori systemet skal anvendes; dette må antages at omfatte, hvilken forretningsmæssig funktion systemet understøtter – er det f.eks. et AI-system til kundechat eller til screening af ansøgere etc. – samt de involverede risici forbundet med systemet; samt
3. personer eller grupper af personer, som AI-systemerne skal anvendes på.

Det forhold, at niveauet af AI-færdigheder skal tilpasses i lyset af disse konkrete omstændigheder, betyder, at virksomheder/myndigheder skal udarbejde et differentieret uddannelsesprogram, hvor der fastsættes forskellige uddannelsesmæssige krav og indsatser på tværs af de forskellige områder/kontekster, hvor AI-systemerne anvendes.  

Virksomheden/myndigheden skal i den sammenhæng tage hensyn til den enkelte medarbejders tekniske viden og den sammenhæng, hvori de konkrete AI-systemer er tiltænkt anvendt. Det indebærer blandt andet, at de medarbejdere, som kun periodisk/kortvarigt er i berøring med AI-systemerne, derfor ikke nødvendigvis behøver at have de samme AI-færdigheder, som eksempelvis de medarbejdere, der på daglig basis udvikler og/eller anvender AI-systemerne.

Et eksempel på et differentieret uddannelsesprogram kan illustreres på følgende måde: 

Læser du nyheden på mobil? Se figuren bedre her.

HVORDAN SKAL MEDARBEJDERNE UNDERVISES I AI-FÆRDIGHEDER OG HVOR OFTE?

AI-forordningen fastsætter ikke specifikke krav med hensyn til undervisningsform og -midler samt frekvensen for uddannelsesaktiviteterne. Disse forhold beror derfor på virksomhedens/myndighedens skøn for, hvordan virksomheden/myndigheden vil opnå den overordnede, generelle forpligtelse om at sikre et tilstrækkeligt niveau af AI-færdigheder. 

Virksomheder/myndigheder vil derfor kunne anvende almindelige didaktiske læremidler og undervisningsformer, herunder i form af (en kombination af) awarenesskampagner, tavleundervisning med fysisk tilstedeværelse, e-learning, gamification m.v. 

Klart er det dog, at pligten til AI-færdigheder gælder, inden de pågældende medarbejdere involveres i driften m.v. af AI-systemerne, og det skal derfor sikres, at nye medarbejdere uddannes fra start. 

Det er derfor vores anbefaling, at der fastsættes et årshjul for uddannelsesaktiviteter, så det også sikres, at medarbejderne holdes ajour med den nødvendige viden, herunder i takt med, at deres arbejdsopgaver eller AI-systemerne ændrer og udvikler sig.

Det må også anbefales, at virksomheder/myndigheder dokumenterer de gennemførte uddannelses- og awarenessforløb, således at man kan dokumentere, at man overholder forpligtelsen til at sikre AI-færdigheder.

VIL DU VIDE MERE?

Vi udbyder i samarbejde med DTU Compute uddannelsen Responsible AI Governance & Compliance, som giver deltagerne et solidt fundament af AI-færdigheder. Uddannelsen er relevant for alle, der arbejder med AI-løsninger og compliance i virksomheder eller hos offentlige myndigheder. 

På uddannelsen bliver du bl.a. undervist af professor Thomas Bolander og Allan Frank, it-sikkerhedsspecialist og cand.jur., fra Datatilsynet. Du kan læse mere om uddannelsen og tilmelde dig her.

Hos Poul Schmith/Kammeradvokaten er vi også vant til at tilrettelægge skræddersyede uddannelsesforløb og differentierede uddannelsesprogrammer for vores offentlige og private klienter.

Hvis du har lyst til at høre mere om mulighederne, er du velkommen til at kontakte os.

Har du i øvrigt har spørgsmål til, hvad AI-forordningen, herunder kravet om at sikre AI-færdigheder, kan komme til at betyde for din virksomhed eller organisation, eller ønsker du anden rådgivning om eksempelvis databeskyttelse og/eller AI, er du velkommen til at kontakte en af vores specialister.