“Het gebruik van AI in de financiële sector brengt ook risico’s als discriminatie met zich mee.” Dat zegt Johan Traa, Partner Finance and Technology bij Boer & Croon. Traa reageert op het opiniestuk uit het NRC van zaterdag van oud-D66-europarlementariër Marietje Schaake.
Volgens Traa heeft kunstmatige intelligentie (AI) de manier waarop we werken snel getransformeerd, ook in de financiële sector. Processen veranderen, de efficiëntie verbetert en maken voorspellende analyses mogelijk. “Naarmate AI steeds alomtegenwoordiger wordt, brengt het ook bepaalde risico’s met zich mee die moeten worden aangepakt om eerlijke en ethische praktijken te waarborgen. In de financiële sector wordt het gebruik van AI bij kredietrisicoanalyse en fraudedetectie steeds gebruikelijker, maar de verborgen vooroordelen in de onderliggende gegevens kunnen discriminatie in de hand werken.”
Hoewel algoritmen expliciete discriminatie op basis van factoren zoals etniciteit moeten voorkomen, kan de complexiteit van AI-modellen leiden tot onbedoelde discriminatie. Historische vooroordelen kunnen ingebakken zitten in de gegevens voor het trainen van AI-algoritmen. Als gevolg hiervan kunnen deze vooroordelen kredietrisicoanalyse en andere financiële besluitvormingsprocessen beïnvloeden.
Johan Traa: “AI werkt op basis van geavanceerde algoritmen die continu leren en verbeteren. Deze complexiteit maakt het ingewikkeld om te begrijpen hoe AI-systemen beslissingen nemen. Aangezien AI-algoritmen enorme hoeveelheden gegevens verwerken, inclusief historische informatie die discriminerende patronen kan bevatten, wordt het ontrafelen van het besluitvormingsproces moeilijk. Dit gebrek aan transparantie geeft aanleiding tot bezorgdheid over de verantwoordingsplicht en vraagt om maatregelen om mogelijke vooroordelen te herkennen en recht te zetten.”
Momenteel ontbreekt het volgens de expert aan alomvattende wet- en regelgeving specifiek rond het monitoren en beperken van de risico’s die samenhangen met AI. Dit probleem wordt gelukkig wel erkend. De overheid werken nu aan wetgeving. En binnenkort vindt in het EU-parlement een stemming plaats over de AI-wet. Die moet AI in verschillende sectoren reguleren.
“Er kunnen maatregelen worden genomen om risico’s te minimaliseren en transparantie te bevorderen. Een eerste stap is het informeren van eindgebruikers wanneer zij in aanraking komen met AI-technologie. Deze transparantie helpt mensen te begrijpen dat bepaalde beslissingen, zoals beoordelingen van kredietrisico’s, worden genomen door AI-algoritmen. Overwogen kan worden om bedrijven met een omvang van meer dan 100 personen te verplichten om AI-Officers aan te stellen, vergelijkbaar met de gegevensbeschermingsfunctionarissen van de AVG. AI-Officers kunnen toezicht houden op het gebruik van AI binnen hun organisaties en zorgen voor naleving van toekomstige AI-regelgeving en andere maatregelen nemen, zoals het houden van workshops over ethische AI-praktijken en het uitvoeren van nalevingsaudits.”
“We zullen moeten leren leven met AI. Alle organisaties zullen het uiteindelijk integreren in hun dagelijkse bedrijfsvoering. Maar ze moeten zich wel bewust zijn van de risico’s en zich inzetten voor verantwoord AI-gebruik.”
Lees ook:
- AI meest beangstigende technologie voor IT’ers
- Congres Artificial Intelligence: Impact & Update
