2min Ondernemen

Gemeenten nog lang niet compliant met AI Act

Gemeenten nog lang niet compliant met AI Act

Veel gemeenten moeten haastig aan de slag om alsnog compliant te worden met de AI Act. Dat betekent AI-systemen goed inregelen en zorgen voor AI-geletterdheid onder personeel.

Dat zegt de Vereniging Nederlandse Gemeenten (VNG) in een analyse van de vorderingen van de gemeenten op dat vlak. Deze uitvoeringsanalyse Digital Decade AI-verordening onderzoekt de impact van de nieuwe AI Act op gemeenten in ons land.

Nederlandse gemeenten zijn op zijn zachtst gezegd rijkelijk laat want op 2 februari gaan de algemene bepalingen, de verbodsbepalingen en verplichtingen rond AI-geletterdheid al in. Dat betekent dat organisaties die met AI werken moeten zorgen dat hun medewerkers AI-geletterd zijn. En dat is dus niet het geval. De bewustwording van de mogelijkheden en  risico’s van AI staan nog in de kinderschoenen, net als de kennis van de verplichtingen uit de AI-verordening.

Manipulatieve of misleidende AI-systemen vanaf 2 februari verboden

Naast een goed overzicht van de AI-systemen die in de organisatie gebruikt is een aantal systemen vanaf 2 februari verboden in de AI Act. Dat geldt vooral voor manipulatieve of misleidende AI-systemen. Daaronder vallen AI-systemen voor sociale kredietscore; emotieherkenning op het werk en biometrische categorisering.

Over pakweg anderhalf jaar, 2 augustus 2026, gaan de verplichtingen voor hoogrisico AI-systemen van start. Overheden moeten dan, als ze systemen gebruiken met een hoog risico, altijd een grondrechteneffectbeoordeling doen. Dat is een combinatie van risicobeheer en informeren van burgers en werknemers. Gemeenten en andere overheidsinstellingen moeten dan gebruik van dit soort systemen registreren in de Europese database voor AI-systemen. Dat gaat dan ook gelden voor AI-systemen met een beperkt risico.

Naast AI-geletterdheid en AI-systemen inventariseren moeten gemeenten ook de AI-compliance nog inregelen als ze willen blijven voldoen aan de Europese AI Act. De VNG adviseert gemeenten hiervoor een AI compliance officer (AICO) aan te stellen. Gemeenten moeten daarbij ook denken aan de impact op zaken als DPIA/GEB vanwege de AVG, risicobeheer en de BIO,

De belangrijkste maatregel zou meer geld moeten zijn, maar met het ‘ravijnjaar’ 2026 in zicht, het jaar waar gemeenten flink minder geld krijgen van de landelijke overheid om hun taken uit te voeren, is het nog de vraag of dat gaat gebeuren.

Tip:

  • Balans tussen snelle innovatie en betrouwbare AI-implementatie