Schadelijke tools ChatGPT ontdekt

ai

De eerste gevallen van cybercriminelen die ChatGPT gebruiken voor kwaadaardige tools zijn een feit. Op hackforums creëren bedreigingsactoren infostealers, coderingstools en faciliteren ze fraudeactiviteiten.

Dat zegt Check Point Research (CPR). De toename hangt samen met de grote groei van de AI-app. Een aantal recente voorbeelden geeft het probleem weer.

Voorbeeld 1: Infostealer maken

Op 29 december 2022 verscheen een thread met de naam “ChatGPT – Benefits of Malware” op een populair hackforum. De oprichter van de thread onthulde dat hij aan het experimenteren was met ChatGPT om malwarefamilies en -technieken na te bootsen uit onderzoekspublicaties en artikelen over veelvoorkomende malware.

De berichten leken gericht op minder technisch bekwame cybercriminelen. Doel was hen te laten zien hoe ze ChatGPT voor kwaadaardige doeleinden kunnen gebruiken. De berichten bevatten echte voorbeelden die je onmiddellijk kunt inzetten.

Voorbeeld 2: een meerlagige coderingstool maken

Op 21 december 2022 plaatste een bedreigingsactor met de naam USDoD een Python-script voor een meerlaagse versleutelingstool. Hij benadrukte dat het het ‘eerste script was dat hij ooit heeft gemaakt’. Toen een andere cybercrimineel opmerkte dat de stijl van de code lijkt op OpenAI-code, bevestigde USDoD dat de OpenAI hem een “leuke [helpende] hand gaf om het script met een mooie strekking af te ronden”.

Dit zou kunnen betekenen dat potentiële cybercriminelen die weinig tot geen ontwikkelingsvaardigheden hebben, ChatGPT kunnen gebruiken om kwaadaardige tools te ontwikkelen en een volwaardige cybercrimineel met technische capaciteiten te kunnen worden.

Alle bovengenoemde code kun je natuurlijk op een goedaardige manier gebruiken. CPR geeft aan dat dit script echter ook eenvoudig kan worden aangepast om iemands machine volledig te versleutelen zonder enige tussenkomst van de gebruiker. Het kan de code bijvoorbeeld in ransomware veranderen als de script- en syntaxisproblemen zijn opgelost.

Voorbeeld 3: ChatGPT faciliteert fraude-activiteiten

In een derde voorbeeld dat CPR deelt, laat een cybercrimineel zien hoe er met ChatGPT scripts voor een dark web-marktplaats kunnen worden gemaakt. De belangrijkste rol van de marktplaats in de illegale economie is het bieden van een platform voor de geautomatiseerde handel in illegale of gestolen goederen, zoals gestolen accounts of betaalkaarten, malware of zelfs drugs en munitie, waarbij alle betalingen in cryptocurrencies plaatsvinden.

“Cybercriminelen vinden ChatGPT aantrekkelijk. De afgelopen weken zien we aanwijzingen dat hackers het beginnen te gebruiken om kwaadaardige code te schrijven. ChatGPT heeft de potentie om het proces voor hackers te versnellen door ze een goed startpunt te geven. Net zoals ChatGPT goed kan worden gebruikt om ontwikkelaars te helpen bij het schrijven van code, kan het ook worden gebruikt voor kwaadaardige doeleinden”, zegt Zahier Madhar, security engineer expert bij Check Point. “Hoewel de tools die we nu zien vrij eenvoudig zijn, is het slechts een kwestie van tijd voordat meer geavanceerde bedreigingsactoren de manier verbeteren waarop ze op AI-gebaseerde tools gebruiken. CPR zal de komende weken ChatGPT-gerelateerde cybercriminaliteit blijven onderzoeken.”

Lees ook:
  • AI zorgt voor discussie onder docenten
  • Qualys: ‘Groeiende complexiteit rondom security heeft compleet inzicht nodig’

 

Gerelateerde berichten...

X