Beelden van slachtoffers van kindermisbruik zijn volgens het Amerikaanse online tijdschrift Slate gebruikt voor het testen van software voor gezichtsherkenning. Het Amerikaanse ministerie van Economische Zaken zou ze uitlenen.
Volgens het tijdschrift zijn ook gezichten emigranten, (overleden) verdachten, mensen die naar de VS willen immigreren en vliegtuigpassagiers voor dergelijke testen gebruikt.
Uitlenen
Het ministerie leent de afbeeldingen uit aan bedrijven die met deze technologie werken en het breed willen testen. Een woordvoerder bevestigde aan Slate dat Homeland Security de verzamelde gegevens inderdaad gebruikt om de werking van gezichtsherkenning rond kindermisbruik nader te testen.
Slate stelt dat het programma al sinds 2016 draait. De database zelf is gestart in 2010. Bijna de helft ervan bestaat uit foto’s van Afro-Amerikanen. Dit terwijl slecht een op de acht Amerikanen tot die groep behoort. Slate is daarom bang voor ingebakken vooroordelen.
Niet op zich
Deze kritiek staat niet op zich. Eind zomer vorig jaar waarschuwde een Nederlands onderzoeksrapport in opdracht van het ministerie van Binnenlandse Zaken dat overmatig gebruik van algoritmes en Big Data kan leiden tot schending van grondrechten van burgers.
Vooral beslissingen die worden genomen zonder menselijke tussenkomst vormen een groot risico. Het kan leiden tot onrechtvaardigheid, willekeur en zelfs rechtsongelijkheid. Verder tast het de pluriforme pers en dus ook het recht op informatie van burgers aan. De samenstellers roepen op tot actie.
