Aanbieders en zakelijke gebruikers van generatieve AI-systemen krijgen vanaf deze zomer in de EU te maken met nieuwe transparantieverplichtingen. Een Europese Code of Practice biedt daarvoor gestandaardiseerde iconen en markeringsrichtlijnen, maar de technieken om AI-content betrouwbaar te markeren en te herkennen hebben nog serieuze beperkingen.
De Europese AI Act verplicht organisaties vanaf 2 augustus om transparant te zijn over AI-gegenereerde content. De bijbehorende Code of Practice vertaalt die verplichting naar twee concrete rollen. Aanbieders van generatieve AI-systemen, denk aan de bedrijven achter tools als ChatGPT of Midjourney, moeten hun output (audio, beeld, video en tekst) onzichtbaar markeren zodat software die achteraf kan herkennen als AI-gegenereerd of gemanipuleerd.
Zakelijke gebruikers van die systemen (‘deployers’), krijgen een zichtbaardere taak: zij moeten deepfakes en AI-gegenereerde tekst over onderwerpen van publiek belang herkenbaar labelen. AI-systemen die alleen standaardredactie uitvoeren, zoals spelling- of grammaticacorrectie zonder de inhoud substantieel te wijzigen, vallen niet onder de markeringsplicht.
Gelaagde markering met beperkingen
De code schrijft aanbieders voor om AI-gegenereerde content op twee manieren tegelijk te markeren, zodat een markering die op de ene manier verloren gaat nog op de andere manier te vinden is. De eerste laag is digitaal ondertekende metadata: een soort digitale herkomstverklaring die in het bestand wordt meegeleverd en vastlegt dat de content door AI is gegenereerd of gewijzigd. Die verklaring is beveiligd tegen ongemerkte manipulatie.C2PA is een bekende open standaard voor zulke herkomstmetadata, maar de code schrijft geen specifieke standaard voor.
De tweede laag is een onzichtbaar watermerk dat in de content zelf is verweven, vergelijkbaar met een watermerk in een bankbiljet maar dan onzichtbaar voor het menselijk oog. Niet alle content leent zich voor beide lagen: vrije tekst, zoals de output van een chatbot, kan geen metadata meedragen. Daarvoor schrijft de code een watermerk voor zodra de tekst langer is dan 200 tokens, ruwweg 150 woorden. Logging of fingerprinting is een aanvullend, optioneel mechanisme dat niet als zelfstandige oplossing mag dienen.
In de praktijk zijn beide lagen kwetsbaar. Metadata raakt regelmatig verloren wanneer bestanden opnieuw worden gecodeerd of worden gedeeld via platforms die metagegevens strippen. Een foto die via een chatapp wordt verstuurd, verliest vaak alle bijgevoegde informatie. Watermerken zijn robuuster en overleven zulke bewerkingen vaker, maar hun prestaties verschillen per techniek, type content en bewerking. Gemeenschappelijke maatstaven om die prestaties te toetsen zijn er nog niet.
Forensische detectie, die niet naar een markering zoekt maar naar synthetische sporen in de content zelf, is in de code een optionele vangnetmaatregel voor gevallen waarin beide andere lagen zijn verdwenen. Die techniek is echter nog niet volwassen genoeg om zelfstandig op te vertrouwen. De AI Act vereist dat oplossingen effectief, betrouwbaar, robuust en interoperabel zijn. Volgens de drie technische studies die de AI Office liet uitvoeren, voldoet geen afzonderlijke techniek in alle gevallen tegelijk aan die combinatie.
Er is ook nog een praktisch probleem. De code verplicht ondertekenende aanbieders om een detectiemechanisme beschikbaar te stellen voor hun eigen markeringen, bijvoorbeeld als publieke specificatie, software of API. Maar een gedeelde standaard om zulke detectieverzoeken over aanbieders heen te routeren ontbreekt vooralsnog. Wie wil controleren of een beeld door AI is gemaakt, moet nu zelf uitzoeken bij welke aanbieder en via welk kanaal dat kan.
De code geeft ondertekenaars tot 2 februari 2027 om dat te verhelpen, bijvoorbeeld door hun detectiediensten via één gedeeld loket of standaard toegankelijk te maken.Aanbieders mogen daarbij diensten van derden inschakelen, maar blijven zelf verantwoordelijk voor de naleving. Dat heeft gevolgen voor organisaties die AI-tools van externe leveranciers inzetten: wie straks moet kunnen aantonen dat content correct is gemarkeerd, doet er goed aan om dat nu al contractueel vast te leggen met zijn leveranciers.
Naleving en iconen
De verplichtingen uit de AI Act zijn bindend: organisaties die generatieve AI-systemen aanbieden of inzetten moeten eraan voldoen. De code zelf is dat niet, het ondertekenen is vrijwillig, maar het verschil is in de praktijk groot. De Commissie en de AI Board hebben de code als adequaat instrument beoordeeld om naleving aan te tonen. Wie tekent, kan bij een controle terugvallen op een Europees erkend kader. Wie niet tekent, moet zelf aantonen dat de eigen aanpak aan de wet voldoet.
Markttoezichthouders beoordelen die aanpak en kunnen aanvullende informatie opvragen. De code garandeert geen vrijstelling van handhaving, maar maakt het gesprek met de toezichthouder een stuk voorspelbaarder. Niet-naleving van de transparantieverplichtingen kan leiden tot een boete van maximaal 15 miljoen euro of 3 procent van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. Voor het mkb geldt een lager maximum.
Voor de zichtbare kant van de labeling heeft de Commissie een set gestandaardiseerde EU-iconen ontwikkeld die organisaties gratis kunnen gebruiken. Er zijn drie varianten. De eerste geeft aan dat AI betrokken was bij het maken van de content. De tweede is bedoeld voor content die volledig door AI is gegenereerd, zonder menselijke tussenkomst behalve de prompt. De derde markeert bestaande content die gedeeltelijk met AI is gemanipuleerd, bijvoorbeeld een foto waarin het gezicht van een politicus is verwisseld, of een authentieke afbeelding van een leeg appartement dat met AI is ingericht.
Uit gebruikerstests bleek dat de iconen beter werden herkend wanneer ze vergezeld gingen van een kort tekstlabel. De code schrijft voor dat het icoon of een gelijkwaardig label zichtbaar moet zijn zodra iemand de content voor het eerst ziet, en moedigt partijen aan om het label ook te behouden wanneer content wordt gedeeld of gedownload. Dat laatste is in de praktijk makkelijker gezegd dan gedaan omdat metadata dus al snel verdwijnt bij het delen van content.
Wat wel en niet labelen
De labelingsverplichting geldt niet voor àlle AI-gegenereerde content. Het richt zich op twee specifieke categorieën. De eerste is deepfake en de tweede is AI-gegenereerde tekst die wordt gepubliceerd om het publiek te informeren over zaken van publiek belang.
Bij die tweede categorie zit een belangrijke grens. Zodra een mens de tekst inhoudelijk heeft beoordeeld of geredigeerd én een persoon of organisatie er redactionele verantwoordelijkheid voor draagt, vervalt de labelingsplicht. Een persbericht dat door AI is opgesteld maar door een communicatieafdeling is gecontroleerd en ondertekend, hoeft dus niet gelabeld te worden. Voor kunstzinnig, creatief, satirisch of fictief werk gelden beperkte regels die de beleving van het werk niet mogen hinderen.
Voor deployers gelden deze verplichtingen sinds 2 augustus zonder overgangsperiode. Aanbieders die hun systemen al vóór die datum op de markt hadden, krijgen op grond van het inmiddels aangenomen AI Omnibus-pakket tot 2 december 2026 de tijd om hun markerings- en detectietechniek op orde te brengen. Nieuwe systemen moeten direct voldoen. Content die vóór 2 augustus is gegenereerd en al beschikbaar was gemaakt, hoeft niet met terugwerkende kracht te worden gemarkeerd.
De precieze grenzen van de verplichtingen zijn nog niet overal helder. De Commissie heeft conceptrichtlijnen opgesteld die verduidelijken welke aanbieders en deployers er precies onder vallen, welke typen content, en hoe naleving in de praktijk moet worden aangetoond. De code zelf wordt minimaal elke twee jaar herzien. Ondertekenaars moeten voor 2 februari 2027 regelen dat hun detectietools ook over aanbieders heen werken, maar hoe goed die detectie eigenlijk moet presteren is nog nergens vastgelegd.
De afbeelding bij dit artikel is met AI gemaakt.