Het College voor de Rechten van de Mens wordt ook grondrechtenautoriteit Artificiële Intelligentie (AI). Dat staat in een brief van de regering aan de Tweede Kamer. Het mensenrechtencollege zei er meteen bij dat ze de nieuwe functie ‘proactief’ gaan uitvoeren en dus bij bedrijven en overheden gaan aankloppen als hun AI burgerrechten in gevaar brengt.
De nieuwe functie is een gevolg van de nieuwe Europese wet op Artificiële Intelligentie, die op 1 juli dit jaar inging. Alle lidstaten van de EU moeten daarvoor onder andere toezichthouders aanstellen die moeten letten op de naleving van grondrechten bij het toepassen van AI.
Na een startperiode gaat het toezicht op hoogrisicosystemen vanaf augustus 2026 van start, na een periode van voorlichting en bewustwording. Het college vindt meteen al dat ze meer moeten doen dan alleen toezien. Behalve gelijke behandeling en gegevensbescherming gaan ze daarom meteen ook letten op bescherming van alle grondrechten en mensenrechten, dus ook rechtsbescherming, vrijheid van meningsuiting en sociale grondrechten.
“Gebruik van AI brengt ook risico’s met zich mee”
Het college zegt te willen voorlichten, risico’s signaleren onderzoeken en adviseren. “Het is niet voldoende te reageren op meldingen van mogelijke schendingen”, stelt het college in een toelichting.
Daarvoor is het wel nodig dat er extra capaciteit komt en een duidelijke taakverdeling komt, goede samenwerking en informatie- en kennisuitwisseling tussen alle partijen en voldoende bevoegdheden. Met dat laatste moeten ze ook de mogelijkheid krijgen om onderzoek te doen naar discriminatoir overheidshandelen.
Nico Schrijver, interim voorzitter van het mensenrechtencollege: “AI-toepassingen bieden veel voordelen en kansen. Maar zaken als de kinderopvangtoeslagaffaire tonen aan dat het gebruik van AI en algoritmen ook risico’s met zich mee kan brengen voor de mensenrechten. Om die risico’s zoveel mogelijk te beperken en te beheersen, is effectief grondrechtentoezicht noodzakelijk. Het College is goed in staat en graag bereid om die belangrijke taak op zich te nemen, mits aan een aantal voorwaarden wordt voldaan.”
Tip:
- Amnesty: discriminerend algoritme Frankrijk moet stoppen