Een gecompromitteerd e-mailaccount van een willekeurige medewerker kan tegenwoordig binnen korte tijd leiden tot grootschalige CEO-fraude en het verduisteren van honderdenduizenden euro’s. Uit een gecontroleerde proof-of-concept-aanvalssimulatie van cybersecuritybedrijf Barracuda blijkt dat hackers AI-assistenten zoals Microsoft Copilot kunnen misbruiken om legitieme bedrijfsprocessen razendsnel tegen een organisatie te keren.
In een gesimuleerde aanval lieten de onderzoekers zien hoe een hacker via één gehackt account binnendrong, de controle over het account van de CEO overnam en uiteindelijk een fictieve betaling van 247.500 dollar, zo’n 225.000 euro, wist om te leiden naar een eigen bankrekening.
Van inbox-regel tot netwerkverkenning
Het grootste gevaar van een e-mailaccount met geïntegreerde AI is de snelheid en precisie waarmee aanvallers te werk gaan. Zodra hackers toegang hebben tot een account, kunnen ze de ingebouwde AI-assistent gebruiken om hun sporen af te schermen. In de proof-of-concept lieten de onderzoekers Copilot een regel aanmaken die inlogmeldingen en verdachte notificaties direct naar de map ‘Verwijderde items’ verplaatste.
Vervolgens werd kunstmatige intelligentie ingezet voor verkenning. In plaats van handmatig door maandenoude e-mails, bijlagen en agenda-afspraken te zoeken, bracht de AI-assistent binnen enkele seconden de organisatiestructuur in kaart en identificeerde waardevolle doelwitten.
AI-gegenereerde phishing
Gewapend met die context lieten de onderzoekers de AI een overtuigende phishing-mail opstellen gericht aan de CEO. De tekst werd geschreven in de exacte, natuurlijke schrijfstijl van de getroffen medewerker. Doordat het bericht afkomstig was van een intern, vertrouwd account en verwees naar echte lopende zaken, was de kans van slagen extreem groot.
Via een zogeheten adversary-in-the-middle-aanval werd in het scenario het sessietoken van de topman gestolen. Hierdoor omzeilden de gesimuleerde aanvallers de tweefactorauthenticatie en kregen ze volledige toegang tot de mailbox van de CEO.
Lees ook: AP ziet zorgelijke stijging account takeovers door AI-phishing
Factuur omgeleid en sporen gewist
Eenmaal binnen in de mailbox van de topman transformeerde de AI-assistent de inbox tot een doorzoekbare goudmijn. Op de vraag naar recente financiële transacties presenteerde Copilot direct een overzicht van actieve facturen. Daartussen zat een goedgekeurde betaling van 247.500 dollar die klaarstond voor verzending.
De onderzoekers lieten de AI een dringend verzoek opstellen aan de financiële afdeling om het bankrekeningnummer van de ontvanger te wijzigen. Omdat de mail afkomstig was uit de authentieke mailbox van de CEO, klopte met de communicatiestijl en verwees naar een bestaande transactie, zouden traditionele e-mailbeveiligingsfilters geen alarm slaan.
Om de fraude in de simulatie af te ronden, stelden de onderzoekers forwarding-regels in die bevestigingsmails van de financiële afdeling automatisch omleidden naar een extern adres. Vervolgens lieten ze de AI-assistent al het bewijsmateriaal en de sporen van de cyberaanval opsporen en wissen.
Niet meer bevoegdheden, wel veel sneller
“De e-mailgeschiedenis van een gebruiker staat vol gevoelige informatie en context die door aanvallers kan worden misbruikt,” licht Daniel Avulov, Senior Cybersecurity Researcher bij Barracuda, toe. “De gecontroleerde aanval laat zien hoe AI-assistenten onbewust schadelijke insiders kunnen worden en zowel de effectiviteit als de snelheid van een aanval drastisch verhogen.”
De proof-of-concept toont aan dat de AI-assistent hackers geen nieuwe rechten geeft, maar hen in staat stelt om bestaande rechten met ongekende snelheid en schaal uit te buiten. Cybersecurity-experts benadrukken dat organisaties accounts met AI-functionaliteit moeten gaan behandelen als bedrijfsmiddelen met een zeer hoog risicoprofiel. Naast het stoppen van de initiële phishing-mails, wordt het continu monitoren van gecompromitteerd accountgedrag en het beveiligen van AI-toegang tot bedrijfsinformatie cruciaal.