OpenAI ha recentemente annunciato la sospensione di alcuni account che utilizzavano ChatGPT per sviluppare strumenti di sorveglianza basati sull'intelligenza artificiale. Questa operazione è stata condotta in risposta alla scoperta che alcuni utenti, presumibilmente provenienti dalla Cina, stavano sfruttando i modelli dell'azienda per generare descrizioni dettagliate e analizzare documenti. L'obiettivo era sviluppare un sistema capace di raccogliere dati in tempo reale su proteste anti-cinesi in Occidente, condividendo poi queste informazioni con le autorità cinesi.

Gli account coinvolti avevano accesso a modelli come i Llama di Meta e usavano ChatGPT per modificare il codice sorgente del software di monitoraggio, noto come "Qianyue Overseas Public Opinion AI Assistant". Questo strumento è progettato per analizzare post e commenti su piattaforme come Facebook, YouTube, Instagram, Telegram e Reddit.

Oltre a ciò, OpenAI ha identificato altri gruppi che abusavano di ChatGPT per diverse attività dannose. Tra questi, un gruppo nordcoreano legato a uno schema fraudolento utilizzava l'intelligenza artificiale per creare documentazione personale fittizia per candidati a lavori inesistenti. Un altro gruppo, probabilmente di origine cinese, creava contenuti critici verso gli Stati Uniti, pubblicandoli su siti di notizie in America Latina.

Un'altra operazione includeva una rete che traduceva e generava commenti in diverse lingue per truffe romantiche e d'investimento, sospettate di avere origine in Cambogia. Inoltre, un gruppo legato all'Iran generava contenuti pro-Palestina e anti-Israele, condividendoli su siti associati a operazioni di influenza iraniane.

Infine, OpenAI ha identificato l'attività di gruppi nordcoreani intenti a raccogliere informazioni sugli strumenti di intrusione informatica e gli attacchi a forza bruta tramite Remote Desktop Protocol. Un'altra rete creava articoli per influenzare le elezioni presidenziali in Ghana.

L'importanza di queste azioni risiede nella crescente minaccia rappresentata dall'uso di strumenti AI in campagne di disinformazione e operazioni dannose. OpenAI sottolinea il valore delle intuizioni derivanti dal monitoraggio di tali attività, che possono essere condivise con fornitori di servizi, sviluppatori di software e piattaforme social per migliorare la rilevazione e l'applicazione delle norme.