Twee derde van de Nederlandse bedrijven maakt zich zorgen over de impact van AI op hun cybersecurity, zoals datavergiftiging en het lekken van gevoelige gegevens via de datasets om AI’s te trainen. Maar hoewel generatieve AI (GenAI) nieuwe risico’s met zich meebrengt, zien organisaties ook kansen om het te gebruiken ter versterking van hun digitale beveiliging.
Volgens een wereldwijd onderzoek van het Capgemini Research Institute verwacht meer dan de helft van de ondervraagde bedrijven dat AI en GenAI de detectie van bedreigingen versnellen en de nauwkeurigheid van hun security verhogen. AI helpt bedrijven om sneller bedreigingen te voorspellen en hierop te reageren, aldus het rapport New defenses, new threats: What AI and Gen AI bring to cybersecurity. Voor Nederlandse bedrijven krijgt AI een steeds belangrijkere rol in hun cybersecuritystrategie.
Geld verloren door deepfake-fraude
Maar hoewel AI kansen biedt, leidt de inzet ervan ook tot nieuwe kwetsbaarheden. Maar liefst 97 procent van de ondervraagde bedrijven wereldwijd rapporteerde afgelopen jaar beveiligingsproblemen die verband houden met GenAI. Drie belangrijke risico’s springen eruit: de eerste betreft geavanceerdere aanvallen door een grotere verscheidenheid aan kwaadwillenden. De technologie stelt namelijk ook criminelen die van zichzelf minder inventief zijn, in staat zeer overtuigende phishingmails, nepcontent of deepfakes te maken. Ruim 40 procent van de Nederlandse bedrijven zegt geld te hebben verloren aan deepfake-fraude.
AI maakt het ook mogelijk om cyberaanvallen sneller en gerichter uit te voeren door netwerksystemen binnen enkele seconden te scannen op zwakke punten. Bovendien kunnen AI-gestuurde bots samen gecoördineerde aanvallen uitvoeren, wat menselijke verdedigers kan overweldigen. De laatste dreiging betreft het trainen en onderhouden van GenAI-modellen zélf. Denk aan datavergiftiging en prompt-injection waardoor een model vervuilde of gemanipuleerde datasets te verwerken krijgt.
Twee derde van de Nederlandse bedrijven maakt zich daar zorgen over. Door dergelijke zaken kan een AI foutieve beslissingen nemen, zoals een securitysysteem dat een aanval niet herkent omdat de trainingsdata geen vergelijkbare patronen bevatten. Ook kan een slechte implementatie van AI-systemen toegang geven aan hackers om deze te manipuleren of over te nemen. Verder maken bedrijven zich zorgen over AI-hallucinaties en discriminerende, schadelijke of ongepaste contentgeneratie.
Naast dreigingen ook kansen
Ondanks al deze risico’s en dreigingen ziet een meerderheid van de Nederlandse organisaties AI als belangrijke tool voor het verbeteren van hun verdediging. Bijna 70 procent van de bedrijven meldt dat ze aanvallen dankzij AI sneller detecteren, terwijl 47 procent stelt dat de tijd die nodig is om dreigingen te neutraliseren met minstens 5 procent is afgenomen. Aangezien bij aanvallen elke seconde kan tellen, is iedere tijdswinst meegenomen.
AI en GenAI blijken vooral effectief in Security Operations Centers (SOC’s), van waaruit ze reageren op complexe bedreigingsactoren. Drie op de vijf Nederlandse bedrijven verwacht dat AI essentieel blijft voor proactieve beveiliging. Ook biedt de technologie analisten meer ruimte om zich te richten op strategische taken.
Capgemini heeft een infographic beschikbaar gesteld met de belangrijkste informatie uit het rapport. Deze is hier te downloaden.
Lees ook: Cybersecurity Woordenboek biedt inzicht in abracadabra van cybertaal