Nederlandse organisaties nemen steeds vaker risico’s met kunstmatige intelligentie, gedreven door concurrentiedruk en interne verwachtingen. Dat blijkt uit nieuw onderzoek van TrendAI onder 3.700 besluitvormers wereldwijd, waaronder 100 uit Nederland. De uitkomsten schetsen een beeld van organisaties die zich bewust zijn van de gevaren, maar onvoldoende in staat blijken om die effectief te beheersen.
Zo geeft 74 procent van de Nederlandse IT-leiders en 66 procent van de zakelijke leiders aan dat zij onder druk staan om AI-initiatieven snel goed te keuren, ondanks zorgen over veiligheid. Opvallend is dat bijna een vijfde van de respondenten deze bezwaren zelfs als extreem bestempelt. Toch worden ze regelmatig terzijde geschoven, vooral om niet achter te blijven op concurrenten.
Volgens Rachel Jin, Chief Platform en Business Officer bij TrendAI, ontbreekt het organisaties aan duidelijke kaders. “AI wordt te vaak geïmplementeerd zonder volwassen governance. Daardoor belanden systemen in kritieke processen zonder de juiste controlemechanismen”, zo stelt zij.
Verantwoordelijkheden
De problematiek wordt versterkt door onduidelijkheid over verantwoordelijkheden. Hoewel 43 procent van de respondenten de verantwoordelijkheid bij de CISO legt en 28 procent bij legal en compliance teams, wordt het bestuur minder vaak genoemd. Dit leidt tot versnipperd toezicht en een reactieve houding van beveiligingsteams, die vaak pas ingrijpen nadat beslissingen al zijn genomen. In dat vacuüm ontstaat ook het gebruik van zogenoemde schaduw AI, tools die buiten officiële goedkeuring om worden ingezet.
Ondertussen ontwikkelen cybercriminelen hun eigen AI toepassingen. Zij gebruiken technologie om phishingcampagnes te versnellen en aanvallen op grotere schaal uit te voeren. Daarmee groeit de urgentie om AI veilig te implementeren.
Governance
Toch blijkt de governance achter te blijven. Slechts 24 procent van de Nederlandse organisaties beschikt over een formeel AI beleid. Veel organisaties noemen onduidelijke regelgeving, gebrek aan intern beleid en onduidelijkheid over verantwoordelijkheden als belangrijke obstakels. Tegelijkertijd zegt slechts een kwart vertrouwen te hebben in hun kennis van wet en regelgeving rond AI.
Het vertrouwen in autonome systemen blijft bovendien beperkt. Slechts 35 procent verwacht dat deze technologie de cyberbeveiliging op korte termijn aanzienlijk zal verbeteren. Zorgen richten zich vooral op datalekken, een groter aanvalsoppervlak en misbruik van AI systemen. Meer dan een derde van de organisaties erkent zelfs geen volledig inzicht of controle te hebben.
AI noodknop
Een mogelijke oplossing, zoals een AI noodknop, kan op steun rekenen van een kwart van de organisaties, maar de meerderheid weet nog niet of zulke maatregelen effectief zijn. Daarmee blijft de kernvraag overeind: hoe houd je controle over technologie die sneller groeit dan de regels die haar moeten beteugelen.