Märkning och spårbarhet av AI-genererat material: Vad innebär de nya kraven?

I en intervju med Joakim Karlén diskuterar vi nya krav på AI-genererat material, främst olika typer av märkning. Diskussionen tar avstamp i de nya regler som nyligen har trätt i kraft som en följd av AI-förordningen.

Nya krav

EU:s AI-förordning och dess nya transparenskrav ställer högre krav på hur AI-genererat material ska hanteras och märkas. För många organisationer väcker de nya reglerna frågor kring vilket ansvar man egentligen har – både som utvecklare, arbetsgivare och enskild publicist.

Transparensreglerna i EU:s AI-förordning har nu trätt i kraft, två år efter lagstiftningens ursprungliga antagande. Det innebär att alla organisationer som utvecklar eller tillämpar AI-system behöver förhålla sig till tydliga krav på märkning och spårbarhet.

Typer av märkning

Märkning av AI-genererat innehåll kan i huvudsak delas upp i två kategorier:

• Öppen märkning: Information som är synlig för betraktaren, exempelvis ett vattenmärke på en bild med texten ”AI-genererad” eller klartext i ett dokuments metadata.
• Teknisk (osynlig) märkning: Matematisk eller statistisk förskjutning i materialet, exempelvis SynthID. Den syns inte för det mänskliga ögat vid en första anblick, men kan identifieras av digitala detekteringsverktyg.

Vem bär ansvaret?

Det är viktigt att skilja på var ansvaret ligger i kedjan. Skapare av AI-modeller (såsom OpenAI, Anthropic och Google) är skyldiga att bygga in spårbarhet och märkning direkt i tekniken. För företag som köper in eller driftsätter verktygen för sina anställda gäller inte samma generella krav på automatisk märkning – med viktiga undantag.

Vid publicering av manipulativt material, som deepfakes eller helt omodererade texter, inträder en skyldighet att informera mottagaren. Om text eller bild däremot har granskats, redigerats eller bearbetats av en människa före publicering krävs generellt sett inte en explicit varning.

I takt med att AI-verktyg blir en naturlig del av det dagliga arbetet – i likhet med tidigare teknologier som stavningskontroll – minskar behovet av större anpassningar. Nyckeln för företag är att sätta upp tydliga interna principer för kommunikation och transparens. Genom att proaktivt klargöra hur AI används i verksamheten undviks oklarheter och förtroendet hos kund och allmänhet upprätthålls.

Hela intervjun med Joakim finns här.