Overheid gaat meer doen tegen problematische algoritmen

algoritmes foto met speldenpuntjes

De overheid gaat meer doen om problematische algoritmen aan te pakken, om te voorkomen dat burgers in de problemen komen. Dat schrijft staatssecretaris Van Huffelen (Digitalisering) in een aantal brieven aan de Tweede Kamer. Er komt bijvoorbeeld een algoritmetoezichthouder.

Naast de toezichthouder wil de overheid transparanter zijn over het gebruik van algoritmen. Verder gaan ze zorgen voor een betere implementatie van effectieve Europese regelgeving. Insteek is dat burgers zelf regie kunnen houden op hun digitale leven en de digitale wereld ook kunnen vertrouwen. Nieuwe algritmes moeten dan ook de rechten van mensen respecteren. Dat geldt voor algoritmes van bedrijven, maar ook voor toepassingen door de overheid. De overheid heeft wat dat betreft een voorbeeldfunctie.

Kansen verzilveren

De overheid heeft de plicht om grondrechten te beschermen en publieke waarden te borgen– in het bijzonder veiligheid, democratie, transparantie, zelfbeschikking, non-discriminatie, participatie, privacy en inclusiviteit. Dat is ook nodig om de kansen van de digitale transitie verantwoord te kunnen verzilveren.

Net als een innovatief en gelijk economisch speelveld met eerlijke concurrentie, consumentenbescherming en brede maatschappelijke samenwerking. Als het gaat om algoritmen gaan wetgeving en toezicht ervoor zorgen dat algoritmen en hun toepassingen eerlijk en transparant zijn, zodat burgers en bedrijven op een goede behandeling kunnen vertrouwen.

Op verzoek van Van Huffelen deed het Rathenau Instituut onderzoek naar bescherming van mensenrechten bij de inzet van algoritmen. Het brengt in kaart welke maatregelen uitvoeringsorganisaties nemen om bij de ontwikkeling en het gebruik van profilerende systemen mensenrechten te borgen en hoe zij deze borging kunnen versterken. De staatssecretaris concludeert dat de overheid zich moet baseren op heldere juridische eisen en ethische beginselen, die overal eenduidig en helder moeten zijn.

Er zijn nu bijvoorbeeld verschillende richtlijnen en methoden om algoritmen op risico te toetsen, maar hier is meer stroomlijning en prioritering nodig. Dat moet resulteren in een implementatiekader voor de inzet van algoritmen. Daarnaast is van groot belang om het gesprek over inzet van algoritmen binnen de overheid en tussen overheden op gang te brengen en kennis te delen voor een goede implementatie.

Van Huffelen: “Algoritmen moeten vooraf worden getoetst en gedurende het gebruik steeds weer onderzocht op datakwaliteit, proportionaliteit en mogelijke bias. Het is met name van belang om ons in elk geval te richten op algoritmen met een hoog risico op het schenden van fundamentele rechten. Op deze algoritmen moet helder toezicht zijn, vooraf, tijdens en na het gebruik. En de werking en inzet moeten transparant zijn, waarbij het duidelijk is waar burgers en bedrijven hun recht kunnen halen wanneer ze menen dat het algoritme onrechtmatig wordt ingezet.”

Europese wetgeving

Om te komen tot een verantwoorde inzet van algoritmen spelen Europees beleid en wetgeving (in wording) een belangrijke rol. Het kabinet zet zich in Europees verband sterk in voor betere bescherming van burgers (waaronder kinderen) en dat alleen algoritmische toepassingen op de markt komen die fundamentele rechten respecteren.

Nederland zet zich daarom in dat de AI-verordening (Artificial Intelligence) een risicoanalyse ten aanzien van fundamentele rechten expliciet verplicht, dat transparant moet worden waar overheden gebruik van AI maken en dat er rechtsingangen zijn voor burgers wiens recht geschonden is.

Waar nodig stellen we nationaal aanvullende eisen. Zo gaan we voor de Nederlandse overheid een stap verder en zetten we een algoritmeregister op en werken we met overheden aan eerder genoemde implementatiekader ‘inzet van algoritmen’. De uitwerking van het algoritmeregister en het implementatiekader vinden komend jaar plaats in nauwe samenwerking met overheden en experts. Naar verwachting publiceert de staatssecretaris in november van dit jaar de werkagenda Digitalisering, met daarin een uitwerking van de ambities van het kabinet rond dit thema.

Van Huffelen: “De nadruk moet bij inzet van algoritmen niet alleen liggen op bestraffen van mensen. Er zijn nu ook veel algoritmen die goede dingen doen. Juist nu mensen in financieel zwaar weer terecht komen wil ik dat de overheid algoritmen vooral inzet om mensen te helpen. Bijvoorbeeld bij het gebruik van regelingen zoals bij UWV en SVB. Dat er een algoritme komt dat mensen wijst op regelingen die ze mislopen waar ze wel recht op hebben. Ik laat nu uitzoeken hoe zoiets zou kunnen werken. Ik heb ook geld uitgetrokken om met oplossingen te komen om met data en algoritmen armoede en problematische schulden te bestrijden. Algoritmen moeten alleen gebruikt worden wanneer het echt nodig is om de overheid goed te laten werken.”

Lees ook:

Gerelateerde berichten...

X