De toeslagenaffaire is mensenrechtenschending vanwege de gebruikte algoritmes. Dat zegt Amnesty International in een rapport.
De mensenrechtenorganisatie waarschuwt ook dat deze affaire een groot risico loopt op herhaling. En dat geldt ook in andere landen.
Het rapport ‘Xenophobic machines – Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal’ is uniek omdat het de eerste keer is dat er een mensenrechtenanalyse ligt van de algoritmes van het toeslagenschandaal.
De conclusie van het onderzoek is dat de algoritmes die de Belastingdienst gebruikte voor controle van foutieve aanvragen met kinderopvangtoeslag en fraude tot etnisch profileren hebben geleid. Etnisch profileren is een vorm van discriminatie en daarom in strijd met de mensenrechten.
Daarnaast is er sprake van discriminatie op basis van sociale klasse. Vooral mensen uit lagere sociale klassen zijn namelijk extra hard geraakt. De conclusies van het onderzoek brengen een verdieping aan op eerdere onderzoeken, zoals dat van de Autoriteit Persoonsgegevens (AP).
Slachtoffers geven al jaren aan dat discriminatie bij het toeslagenschandaal breder is dan de overheid erkent.
Discriminatie op grond van etniciteit
Organisaties die zich bezighouden met sociale voorzieningen automatiseren hun werkprocessen hoe langer hoe meer, met onder andere als doel om fraude op te sporen. Nederland is wereldwijd een van de koplopers op dit gebied.
Bij het controleren van de aanvragen voor kinderopvangtoeslag op juistheid en fraude, maakte de Belastingdienst gebruik van een risicomodel. Dit model gebruikte meerdere risicofactoren, waaronder het niet hebben van de Nederlandse nationaliteit. Mensen zonder de Nederlandse nationaliteit hadden uiteindelijk een grotere kans om (onterecht) als fraudeur te worden bestempeld.
Amnesty stelt dat de aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, op bestaande vooroordelen wijst en ongelijke behandeling.
Herhaling op de loer
De Nederlandse overheid geeft aan maatregelen te nemen om herhaling van de toeslagenaffaire te voorkomen. Amnesty analyseerde ze en concludeert dat ze op alle fronten tekort schieten.
Zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen. Verder is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheimhouden.
Amnesty is niet tegen het gebruik van algoritmes. Maar de bescherming van mensenrechten bij gebruik ervan moet beter. Amnesty International roept regeringen daarom wereldwijd op om een kader te maken dat mensenrechtenschendingen voorkomt bij gebruik van algoritmische besluitvormingssystemen. Regeringen moeten ook monitoring- en toezichtmechanismen instellen.
Ook moeten de verantwoordelijken voor schendingen ter verantwoording worden geroepen en slachtoffers worden gecompenseerd. In Nederland betekent dat dat de slachtoffers van discriminatie met het risicomodel ook compensatie moeten krijgen.
Lees ook:
- Sectra onderzocht: de Return on Investment van AI in de radiologie
- Energiezuinige AI detecteert hartafwijkingen
