De Spaanse regering heeft dinsdag een wetsvoorstel goedgekeurd dat bedrijven torenhoge boetes oplegt als ze door kunstmatige intelligentie (AI) gegenereerde content niet correct labelen. Dit initiatief is bedoeld om het gebruik van zogenoemde ‘deepfakes’ aan banden te leggen.
Het wetsvoorstel sluit aan bij de richtlijnen van de baanbrekende AI-wet van de Europese Unie, die strikte transparantieverplichtingen oplegt aan AI-systemen die als hoogrisico worden beschouwd, aldus minister van Digitale Transformatie Oscar Lopez.
Desinformatie
“AI is een zeer krachtige tool die kan worden gebruikt om ons leven te verbeteren of om desinformatie te verspreiden en de democratie aan te vallen”, verklaarde Lopez. Spanje behoort tot de eerste EU-landen die de regels van de EU implementeren, die als uitgebreider worden beschouwd dan het systeem van de Verenigde Staten, dat grotendeels op vrijwillige naleving en een lappendeken van staatsreguleringen berust.
Boetes
Volgens Lopez is iedereen kwetsbaar voor ‘deepfake’-aanvallen, waarbij video’s, foto’s of audio-opnamen door AI-algoritmen zijn bewerkt of gegenereerd, maar als echt worden gepresenteerd.
Het Spaanse wetsvoorstel, dat nog moet worden goedgekeurd door het lagerhuis, classificeert het niet-labelen van AI-gegenereerde content als een ‘ernstige overtreding’. Dit kan leiden tot boetes tot 35 miljoen euro of zeven procent van de wereldwijde jaaromzet van een bedrijf.
Sinds de lancering van ChatGPT door OpenAI eind 2022, waarmee gebruikers op mensachtige wijze kunnen communiceren en diverse taken uitvoeren, is het voor regelgevers een prioriteit geworden om ervoor te zorgen dat AI-systemen de samenleving niet schaden.
Biometrische gegevens
Het wetsvoorstel verbiedt ook andere praktijken, zoals het gebruik van subliminale technieken om kwetsbare groepen te manipuleren. Voorbeelden hiervan zijn chatbots die verslavingsgevoelige mensen aanzetten tot gokken of speelgoed dat kinderen gevaarlijke uitdagingen laat uitvoeren.
Bovendien wordt het organisaties verboden om mensen via AI op basis van biometrische gegevens te classificeren en hen te beoordelen op gedrag of persoonlijke eigenschappen om hen toegang tot voordelen te verlenen of hun kans op crimineel gedrag te voorspellen.
Handhaving
Overheidsinstanties blijven echter bevoegd om realtime biometrische bewaking in openbare ruimten te gebruiken voor nationale veiligheidsdoeleinden. De handhaving van de nieuwe regels wordt toevertrouwd aan het recent opgerichte AI-toezichtsagentschap AESIA, behalve in specifieke gevallen zoals privacy, misdaad, verkiezingen, kredietwaardigheid, verzekeringen of kapitaalmarkten, die onder het toezicht van de respectieve regelgevende instanties vallen.