Bij een kwart van de Nederlandse organisaties zijn tijdens interne audits fouten ontdekt die voortkwamen uit het gebruik van kunstmatige intelligentie. En die al waren doorgedrongen tot externe partijen of de bestuurskamer. Dat blijkt uit onderzoek van softwarebedrijf Workiva. Met 25 procent ligt Nederland vrijwel gelijk aan het wereldwijde gemiddelde van 26 procent.
Opvallend is dat het vertrouwen in AI desondanks groot blijft meldt Workiva. Van de Nederlandse professionals zegt 81 procent enig vertrouwen te hebben in de nauwkeurigheid van AI-resultaten zonder dat daar altijd menselijke controle aan te pas komt. Wereldwijd ligt dat aandeel met 84 procent een fractie hoger.
AI-fouten
Die cijfers leggen volgens Workiva een spanningsveld bloot. Organisaties willen AI snel inzetten, maar beschikken lang niet altijd over de datakwaliteit en controlesystemen die daarvoor nodig zijn. Slechts 14 procent van de Nederlandse professionals vindt de eigen data voldoende betrouwbaar voor grootschalig AI-gebruik.
Vooral in financiële en duurzaamheidsrapportages vormt dat een risico. Van de ondervraagden zegt 43 procent dat gebrekkige data het gebruik van AI in deze processen ten minste in enige mate belemmert. Daarnaast geeft 22 procent aan dat slechte data de inzet van AI in belangrijke bedrijfsprocessen aanzienlijk heeft vertraagd of bemoeilijkt.
Gevolgen
Dat kan gevolgen hebben voor het vertrouwen van beleggers, toezichthouders en andere stakeholders. Wanneer AI-uitkomsten zijn gebaseerd op onvolledige, inconsistente of moeilijk controleerbare gegevens, wordt het lastiger om beslissingen en rapportages achteraf te verantwoorden.
Volgens Barbara Larsen, financieel directeur van Workiva, is vertrouwen in AI zonder grip op de onderliggende data dan ook riskant. CFO’s hebben volgens haar systemen nodig waarin AI wordt gekoppeld aan betrouwbare en controleerbare gegevens, zodat uitkomsten kunnen worden geverifieerd en rapportages goed onderbouwd blijven.
Controlemechanismen en verantwoordelijkheid
Het onderzoek laat verder zien dat traditionele controlemechanismen voorlopig niet overbodig worden. Zo zegt 45 procent van de Nederlandse professionals systemen voor financiële registratie nodig te blijven hebben. Daarnaast noemt 47 procent software voor traceerbaarheid en controle als noodzakelijk. Voor 41 procent zijn platforms voor het beheren van AI-agents en geautomatiseerde processen belangrijk.
Dat belang neemt toe naarmate AI-systemen zelfstandiger taken uitvoeren. Juist dan moeten organisaties kunnen nagaan welke gegevens zijn gebruikt, welke beslissingen door een AI-agent zijn genomen en wie uiteindelijk verantwoordelijk is.
De boodschap uit het onderzoek is daarmee duidelijk: AI kan organisaties versnellen, maar zonder stevige datagrondslag en toezicht kan dezelfde technologie ook fouten sneller en verder verspreiden.