De overheid moet aanvullende maatregelen nemen om tot een verantwoorde inzet van algoritmes te komen. Dat stelt het Rathenau Instituut in een nieuw rapport.
Het rapport verschijnt daags voordat op 15 februari in de commissie Digitale Zaken de inzet van algoritmes en data-ethiek binnen de rijksoverheid aan de orde komt. Volgens het instituut zette het kabinet al veel in gang rond de verantwoorde inzet van algoritmes.
Maar dat kan meer en beter. En ook is het tijd om het gesprek te voeren over kwesties die niet met maatregelen alleen op te lossen zijn zoals non-discriminatie, privacy en veiligheid.
Drie handvatten
Het Rathenau Instituut geeft hiervoor drie handvatten, hoewel ze zelf stellen dat de risico’s van algoritmes zelden geheel te elimineren zijn.
1. Waarborg de informatievoorziening aan het parlement
2. Versterk de juridische waarborgen ten aanzien van non-discriminatie
3. Verhelder de juridische eisen ten aanzien van het motiveringsbeginsel
Nu al zijn er onder andere de Code Goed Digitaal Openbaar Bestuur, de Handreiking non-discriminatie by design en de Impact Assessment Mensenrechten en Algoritmes. Verder is een aantal publieke waarden en mensenrechten verankerd in de digitale strategie van de Rijksoverheid. Intussen toetsen tal van overheidsorganisaties hun data en algoritmes op bias, vooringenomenheid.
Algoritmeregister
Een van de aanbevelingen van het Rathenau-Instituut is een nationaal algoritmeregister. Verder werkt het kabinet aan het opstellen van een generiek implementatiekader ‘inzet van algoritmen’. Dit gebeurt op basis van de al ontwikkelde handreikingen, zodat voor overheidsorganisaties duidelijker wordt welke kaders zij moeten hanteren.
Het instituut vindt dat er extra juridische waarborgen moeten komen rond non-discriminatie en dat het motiveringsbeginsel
verder aangescherpt worden. Aanvullend moeten er gesprekken komen over kwesties die je niet zo snel met maatregelen kunt oplossen. Juist op het terrein van non-discriminatie, privacy en veiligheid stelt de inzet van algoritmes overheid en politiek voor lastige keuzes. Het zal zelden mogelijk zijn om alle kans op discriminatie te elimineren.
Verder zijn algoritmische systemen niet volledig bestand tegen hacks. En er is geen garantie dat de privacy van mensen nooit ingeperkt wordt. Afwegingen tussen waarden zijn noodzakelijk, en dat vraagt om bestuurlijk en parlementair debat met soms lastige keuzes. Daarom moet het parlement wel inzicht hebben in de manier waarop overheidsorganisaties concrete toepassingen wegen.
Overheidsorganisaties moeten daarom in staat zijn op gedetailleerde wijze aan het parlement rapporteren over de inzet van algoritmes. Want alleen als de informatievoorziening aan het parlement op orde is, kan een inhoudelijk debat plaatsvinden over de inzet van data en algoritmes.
Lees ook:
- Toegang financiële diensten slechter met beperkte digitale vaardigheden
- Waarom de cloud aantrekkelijk is voor cybercriminelen
