Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn momenteel de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, van de hand van de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP).
De Rapportage Algoritmerisico’s Nederland is een eerste totaaloverzicht van ontwikkelingen, risico’s en uitdagingen op dit gebied. De AP gaat vanaf nu elk half jaar een dergelijke rapportage publiceren, om daarmee een beeld te geven van recente ontwikkelingen, actuele risico’s en bijbehorende uitdagingen.
Voor meer grip op algoritmes en artificiële intelligentie (AI), moeten overheid en bedrijfsleven nog grote stappen maken. Twee uitdagingen komen op dit moment samen. Ten eerste de snelheid waarmee AI-innovaties de samenleving binnendringen, zoals slimme chatbots. Deze innovaties bieden nieuwe kansen, maar ook nieuwe risico’s.
Ten tweede staat Nederland voor de opgave om inzicht te krijgen in het gebruik van hoogrisico-algoritmes. Deze hebben grote impact op het leven van mensen. In afwachting op Europese wetgeving, zijn nu al concrete acties van de overheid en het bedrijfsleven wenselijk.
Hoogrisicosystemen
Om grip te krijgen op algoritmes en AI is overkoepelend zicht op gebruik ervan cruciaal. Dat geldt voor algoritmes van zowel de overheid als (publieke en private) maatschappelijke organisaties. De AP is daarom positief over het algoritmeregister voor overheidsorganisaties. Maar baken het af, en prioriteer hierbij de algoritmes met een hoog risico om het behapbaar te houden.
Het dringende advies van de privacywaakhond is ook om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisicosystemen onder aankomende Europese wetgeving. Het kabinet, ook het demissionaire, zou overheidsorganisaties één jaar moeten geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Er klinken in het rapport ook waarschuwingen voor de inzet van de meest recente AI-innovaties. Nieuwe toepassingen staan volop in de aandacht en het is verleidelijk om hiermee te experimenteren. Bijvoorbeeld bij de beoordeling van sollicitanten, opsporen van fraude, bij beoordelen van klanten als die iets willen kopen of een lening willen aangaan, of bij het beoordelen van patiënten.
Maar dat kan alleen op een veilige manier met adequate beheersing van de risico’s. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn. Breng voorafgaand aan de inzet, naast de voordelen, ook goed de risico’s in kaart.
Algoritmetoezicht
De AP is sinds begin 2023 de coördinerende autoriteit voor risicosignalering, advisering en samenwerking in het toezicht op algoritmes. Nederland loopt hiermee internationaal voorop. De komende jaren wordt wereldwijd verder gewerkt aan standaardisering en coördinatie van regelgeving en toezicht op algoritmes en AI, bijvoorbeeld op het niveau van de G7, OESO, Unesco, Raad van Europa en de Europese Unie. Periodieke rapportages over algoritmerisico’s zijn een belangrijk instrument voor deze toezichtaanpak.
Lees ook:
- Algoritme UWV verzamelde stiekem gegevens uitkeringsgerechtigden
- Hoe beheers je bedrijfs- en beroepsaansprakelijkheid in het digitale tijdperk?
