Nyt krav om mærkning af AI-genereret indhold – er din virksomheds brug af AI gennemsigtig?

Hvad indebærer de nye gennemsigtighedsforpligtelser?

De nye gennemsigtighedsforpligtelser følger af AI-forordningens artikel 50.

Det er bl.a. et krav, at idriftsættere af et AI-system, der genererer eller manipulerer billed-, lyd- eller videoindhold, der udgør en deepfake, oplyser, at indholdet er AI-genereret eller -manipuleret.

”Deepfake” defineres i forordningen som et AI-genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer, genstande, steder, enheder eller begivenheder, og som fejlagtigt vil fremstå ægte eller sandfærdigt. 

Kommissionen har vedtaget et sæt retningslinjer om implementeringen af gennemsigtighedsforpligtelserne. Retningslinjerne indeholder eksempler på, hvad der vil være omfattet af definitionen af deepfakes. 

I retningslinjerne peges på, at eksempelvis en video af en person, der ligner en bestemt politiker, som holder tale, vil blive anset for en deepfake. Modsat vil f.eks. et billede af en sfinks, der flyver over Eiffeltårnet, ikke blive anset for en deepfake. Indhold, der ligner noget virkeligt og fremstår ægte, vil således kunne være omfattet af kravet, mens urealistisk indhold ikke vil være omfattet.

Tilsvarende skal idriftsættere af et AI-system, der genererer eller manipulerer tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse, oplyse, at teksten er AI-genereret eller -manipuleret. Ifølge retningslinjerne vil kravet eksempelvis ikke omfatte AI-manipuleret tekst i markedsføring, medmindre der er tale om udsagn om f.eks. bæredygtighed eller sundhed. 

Kravet om mærkning af AI-genereret eller -manipuleret tekst gælder ikke, hvis indholdet har gennemgået en proces med menneskelig gennemgang eller redaktionel kontrol, og hvis en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen.

Er der tale om anvendelse af AI til uvæsentlige tekniske justeringer af eksisterende indhold – f.eks. farvekorrektion, støjreduktion eller andre begrænsede redigeringer – vil mærkningskravet som udgangspunkt ikke gælde.

Hvem er ”idriftsætter” af AI?

En ”idriftsætter” defineres i forordningen som en fysisk eller juridisk person, en offentlig myndighed eller et andet organ, der anvender et AI-system, medmindre AI-systemet anvendes som led i en personlig ikkeerhvervsmæssig aktivitet. Det vil f.eks. kunne omfatte virksomheder, der anvender AI-genererede deepfakes i markedsføring, influencers og freelancere, der anvender AI-genereret indhold i professionelle sammenhænge, samt nyhedsmedier.

Begrænset gennemsigtighedsforpligtelse ved oplagt kunstnerisk eller satirisk brug af deepfakes

Hvis indholdet er del af et oplagt kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende arbejde eller program, gælder en begrænset gennemsigtighedsforpligtelse. Her skal idriftsætteren i stedet oplyse om eksistensen af det genererede eller manipulerede indhold på en passende måde, der ikke er til gene for visningen eller nydelsen af værket.  

Ifølge retningslinjerne vil indhold, som udelukkende er informativt eller kommercielt, ikke være omfattet af den begrænsede gennemsigtighedsforpligtelse. Retningslinjerne peger på, at eksempelvis en video med deepfake-simulerede mennesker, som anvender et produkt, med det formål at reklamere for produktet, ikke vil være omfattet af begrænsningen. Derimod peger retningslinjerne på, at f.eks. deepfakes af yngre versioner af eksisterende skuespillere i film vil være omfattet af begrænsningen.

Hvordan skal AI-genereret indhold mærkes?

Oplysningerne skal gives på en klar og synlig måde senest på tidspunktet for den første interaktion eller eksponering. Oplysningerne gives ved visuel eller lydlig mærkning af indholdet, på en måde, så det bemærkes og er let at forstå for den person, der eksponeres for indholdet, f.eks. som en del af selve indholdet. Det er ikke tilstrækkeligt, hvis informationen f.eks. er skjult bag flere ”lag” på en hjemmeside eller alene fremgår af en manual eller af brugsvilkår.

Hvilke krav gælder for udbydere af AI-systemer?

AI-forordningens artikel 50 fastsætter også gennemsigtighedsforpligtelser for udbydere af AI-systemer. Bl.a. skal udbydere af AI-systemer, der genererer syntetisk lyd-, billed-, video- eller tekstindhold, som udgangspunkt sikre, at outputtet er mærket i et maskinlæsbart format og kan spores som AI-genereret eller -manipuleret.

Frivilligt adfærdskodeks om mærkning af AI-genereret indhold

EU-kommissionen har offentliggjort et frivilligt adfærdskodeks om gennemsigtighedsforpligtelserne, som udbydere og idriftsættere kan tilslutte sig og derved sikre overholdelse af mærkningskravene.

Der er også udviklet et sæt ikoner, som virksomheder og myndigheder kan anvende til at mærke deepfakes og AI-genereret eller -manipuleret tekst. 

Hvad er konsekvensen af manglende mærkning?

Manglende overholdelse af mærkningskravene kan medføre betydelige administrative bøder efter AI-forordningen. Derudover kan manglende mærkning af AI-genereret indhold eksponere virksomheder for krav med henvisning til vildledende markedsføring i strid med markedsføringsloven.

Har du brug for hjælp til de nye krav om mærkning af AI-genereret indhold?

De nye regler stiller krav til din virksomheds brug af AI-genereret indhold i f.eks. markedsføring og kundevendt kommunikation. Ønsker du rådgivning om brugen af AI-genereret indhold eller mærkningen af dit indhold, er du velkommen til at kontakte en af vores specialister

Læs mere om vores rådgivning inden for Immaterielle rettigheder (IPR).