De race om ChatGPT voor cybercriminaliteit te gebruiken leidde tot een verzevenvoudiging van hackers die bespreken hoe ze de chatbot online kunnen manipuleren. Dit blijkt uit onderzoek van cybersecuritybedrijf NordVPN.
Het aantal nieuwe berichten op dark web-fora over de AI-tool steeg van 120 in januari naar 870 in februari. Dit komt neer op een stijging van 625%. Forumthreads over ChatGPT stegen met 145%. Namelijk van 37 naar 91 in een maand. Dit, omdat het exploiteren van de bot snel het populairste onderwerp op het dark web werd. Veel threads in januari waren gericht op hoe kwaadwillenden ChatGPT konden manipuleren om basismalware te produceren, een kwetsbaarheid die haar maker OpenAI sindsdien heeft aangepakt.
Een maand later is het de trend onder hackers om meer agressieve actie te ondernemen. Dit blijkt uit berichten waarin ze plannen uiteenzetten om de controle over de chatbot over te nemen. En te gebruiken om schade aan te richten. Onderwerpen op het dark web-forum omvatten How to break ChatGPT, ChatGPT jailbreak 2.0, ChatGPT – progression of malware and ChatGPT as a phishing tool.
AI gebruiken voor fraude met ChatGPT
Met ChatGPT aan hun zijde, kunnen criminelen haar kunstmatige intelligentie gebruiken. Dit, om op industriële schaal fraude te plegen. Denk daarbij datingfraude, en zich op meerdere slachtoffers tegelijk te richten.
Zodra een hacker de chatbot heeft overgenomen, kan hij de veiligheidsbeperkingen opheffen. En de omgeving gebruiken om malware en phishingmails te maken, haatzaaiende taal te promoten of propaganda te verspreiden.
Tweeledige impact
Chatbots zoals ChatGPT kunnen ons leven op vele manieren gemakkelijker maken, bijvoorbeeld bij het uitvoeren van alledaagse schriftelijke taken, het samenvatten van complexe onderwerpen of het voorstellen van een vakantieplanning, stellen de onderzoekers. Voor cybercriminelen kan de revolutionaire AI echter het ontbrekende stukje van de puzzel zijn om hun scams te perfectioneren.
Social engineering, waarbij een doelwit via e-mails, sms-berichten of online chats wordt aangemoedigd om op een schadelijk bestand te klikken of een kwaadaardig programma te downloaden, is tijdrovend voor hackers. Maar met een bot onder hun controle kunnen ze deze taken volledig uitbesteden, waardoor ze op grote schaal fraude kunnen plegen.
