Rotterdam verbetert omgang met algoritmes

Rotterdam haven en skyline algoritmes

De gemeente Rotterdam verbeterde de afgelopen jaren de omgang met algoritmes. Dat stelt de Rekenkamer Rotterdam in een nieuw rapport. Er is nog wel ruimte voor verbetering. Het rapport komt later deze maand aan bod in de gemeenteraadsvergadering.

Het Rekenkamerrapport verschijnt drie jaar nadat de Rekenkamer de gemeente waarschuwde voor de risico’s van algoritmegebruik. Zo werden de ethische risico’s onderschat. Dat gebeurde onder andere bij een algoritme dat bepaalde welke uitkeringsgerechtigden een heronderzoek moesten krijgen. Dat leidde tot discriminatie en willekeur.

Intussen heeft de gemeente volgens de Rekenkamer het leven wel gebeterd. Er is meer aandacht voor de risico’s van gebruik van algoritmes. De gemeente heeft nu bijvoorbeeld instrumenten om discriminatie te voorkomen en heeft ambtenaren in dienst die speciaal moeten kijken naar het risico van een nieuwe algoritmes.

Ruimte voor verbetering

Toch stelt de Rotterdamse Rekenkamer dat er nog genoeg ruimte is voor verbetering. De governance is bijvoorbeeld vaak nog te onduidelijk en schiet op sommige punten gewoon tekort. De gemeente heeft in elk geval te weinig in beeld welke waarden en normen je moet hanteren als je een algoritme ontwerpt. Ook bij het latere gebruik ervan is dat het geval. Besluiten hierover komen nu bij ambtenaren terecht, terwijl de politiek juist moet beslissen over ethische kaders van algorimes en kunstmatige intelligentie.

Intussen heeft de gemeente een algoritmeregister, maar dat is nog niet klaar. Het register is nog niet helemaal gevuld en de kennis erover onder de medewerkers is nog te klein. Medewerkers weten soms niet eens dat ze met AI en/of een algoritme werken. Ze weten daardoor ook niet dat ze extra moeten letten op eventuele risico’s. Verder is de informatie in het Rotterdamse algoritmeregister te weinig toegankelijk en kan de informatie aan de inwoners beter en helderder.

Lees ook:

Gerelateerde berichten...