OpenAI ha recentemente annunciato di aver bloccato una serie di account ChatGPT riconducibili a gruppi di hacker russi, cinesi e iraniani. Questi account erano utilizzati per scopi malevoli, tra cui lo sviluppo di malware, l’automazione di attività sui social media e la ricerca tecnologica su comunicazioni satellitari statunitensi. In particolare, gli attori russi sfruttavano ChatGPT per affinare malware per Windows, eseguire il debug di codice in diversi linguaggi e configurare infrastrutture di comando e controllo, mostrando una profonda conoscenza delle dinamiche di sicurezza operativa.

La campagna ScopeCreep e le tecniche di anonimato

La campagna di malware, denominata ScopeCreep, non risulta aver avuto una diffusione massiccia. Gli hacker creavano account temporanei su ChatGPT, ognuno utilizzato per una singola conversazione utile a migliorare incrementamente il software malevolo, per poi abbandonare l’account e passare al successivo. Questo metodo a rotazione testimonia un’attenzione particolare all’anonimato e all’operational security (OPSEC). Il malware veniva poi distribuito tramite repository pubblici mascherati da strumenti legittimi per videogiocatori, come Crosshair X. Gli utenti che scaricavano queste versioni contraffatte si ritrovavano infettati da un loader in grado di scaricare payload aggiuntivi e avviare una catena di attacco per l’esfiltrazione dei dati.

Caratteristiche tecniche e obiettivi del malware

Il malware è stato progettato per ottenere privilegi elevati, eludere la rilevazione tramite esclusioni su Windows Defender e utilizzare tecniche di offuscamento come l’encoding Base64, il DLL side-loading e proxy SOCKS5 per nascondere l’origine del traffico. La finalità principale era il furto di credenziali, token e cookie dai browser, con notifiche automatiche su canali Telegram gestiti dagli aggressori.

Altri gruppi coinvolti e finalità

Oltre al gruppo russo, sono stati disabilitati account collegati a gruppi cinesi noti come APT5 e APT15. Questi hanno utilizzato l’intelligenza artificiale sia per la ricerca open source sia per sviluppare strumenti di amministrazione Linux, script di brute force su FTP, automazione di test di penetrazione e per programmare bot in grado di interagire su piattaforme social come Facebook, Instagram, TikTok e X. Sono stati identificati anche comportamenti malevoli di altri gruppi legati a campagne di influenza, spam, manipolazione politica e reclutamento fraudolento tramite social network, spesso con la generazione di contenuti automatizzati in più lingue e per diversi scopi di disinformazione.

Preoccupazioni e raccomandazioni di OpenAI

OpenAI sottolinea come diversi attori stiano sfruttando i modelli AI per raffinare le proprie tecniche di attacco e automazione, confermando la necessità di vigilanza e controllo sull’uso delle piattaforme di intelligenza artificiale per prevenire abusi a livello globale.