De opmars van AI-tools leidt ertoe, dat digitale platforms inmiddels betere phishing-mails kunnen schrijven dan mensen. Onderzoek van SoSafe toont aan dat deze dreiging inmiddels de realiteit is. Uit de resultaten blijkt dat 78 procent van de mensen deze AI-gegenereerde mails opent. En dat 21 procent op schadelijke links in de mails klikt.
Daarnaast werd zelfs 65 procent van de ontvangers van AI-gegenereerde mails verleid tot het invoeren van persoonlijke gegevens op invulvelden van de gelinkte websites. Door mensen opgestelde malware worden door eenzelfde percentage geopend. En hoewel de clickrate bij handmatige teksten iets hoger ligt (27 procent), is er bij deze mails minder interactie (60 procent) in de vorm van het geven van aanvullende (persoonlijke) gegevens. Deze cijfers laten zien dat mensen door AI-gegenereerde phishing-mails niet kunnen onderscheiden van handmatige phishingaanvallen.
Schaalgrootte
Dr. Niklas Hellemann, CEO en mede-oprichter van SoSafe: “De resultaten zijn opvallend omdat we de mails hebben opgesteld met het ChatGPT-3.5 model, met algemene thema’s en onderwerpen. Zelfs met deze basis AI-gegenereerde phishing-sjablonen blijkt uit onze gegevens dat mensen moeite hebben met het herkennen van AI-gegenereerde phishing-aanvallen. Naarmate de technologie vordert met geavanceerdere modellen zoals Chat GPT-4 en geschaalde personalisatie, verwachten we dat aanvallen nog gevaarlijker worden. Want het grootste gevaar schuilt in de potentiële schaalgrootte.”
Versnelling phishing-aanvallen
Uit het onderzoek van het SoSafe-social engineering-team blijkt dat hackersgroepen phishing-mails minstens 40 procent sneller kunnen samenstellen met generatieve AI-tools. Dit houdt in dat cybercriminelen zelfs met eenvoudige tools hun succespercentage aanzienlijk kunnen verhogen.
Tegelijkertijd wordt het door generatieve AI makkelijker om op grote schaal spear phishing-aanvallen uit te voeren. Door AI-tools te voeden met persoonlijke informatie wordt het mogelijk spear phishing aanvallen van hoge kwaliteit uit te voeren. Dit zelfs in grote aantallen. Bovendien helpen generatieve AI-tools cybercriminelen bij het bedenken van nieuwe ideeën. Hackers versturen hierdoor veel sneller dan voorheen grote hoeveelheden hoogwaardige phishing e-mails in meerdere talen. Dit maakt grootschalige phishingaanvallen efficiënter en effectiever.
“De opkomst van AI-aangedreven ‘large language-modellen’ en potentiële schaalgroottes die daarbij komen kijken, intensiveert het landschap van cyberdreigingen”, aldus Hellemann. “De eerste studies laten zien dat AI nu al betere lok-mails schrijft dan mensen. Onze data illustreren de gevolgen daarvan met 1 op de 5 mensen die nu al vallen voor AI-gegenereerde phishing-aanvallen.”
