Google avverte dell'aumento degli attacchi informatici basati sull'intelligenza artificiale

17:30

Google lancia un allarme riguardo a un'accelerazione degli attacchi informatici basati sull'intelligenza artificiale, dopo aver rilevato un tentativo di sfruttare una vulnerabilità di sicurezza precedentemente sconosciuta, che potrebbe essere stata sviluppata utilizzando tecnologie di intelligenza artificiale avanzate.

Secondo l'azienda americana, alcuni malintenzionati hanno tentato di sfruttare una vulnerabilità in grado di aggirare i sistemi di autenticazione a due fattori in uno strumento ampiamente utilizzato per la gestione dei servizi online. Tuttavia, la vulnerabilità è stata rapidamente identificata e corretta grazie alla collaborazione tra Google e il fornitore interessato, prevenendo così una potenziale campagna di attacchi informatici su larga scala.

Questo avvertimento si basa su un rapporto pubblicato dal Google Threat Intelligence Group, che osserva un crescente utilizzo dell'intelligenza artificiale generativa da parte di criminali informatici e gruppi sponsorizzati da stati. Gli strumenti di intelligenza artificiale vengono ora utilizzati in diverse aree sensibili, tra cui lo sviluppo di malware, l'identificazione di vulnerabilità di sicurezza, le campagne di phishing automatizzate e gli attacchi informatici sofisticati.

Il rapporto sottolinea che la vulnerabilità individuata non derivava da un tipico errore di programmazione, bensì da un "difetto di logica semantica" intrinseco alla progettazione del sistema. Questo tipo di vulnerabilità è particolarmente difficile da rilevare con i metodi tradizionali. Google ritiene che i moderni modelli di intelligenza artificiale stiano diventando in grado di identificare queste complesse vulnerabilità grazie alla loro comprensione contestuale del funzionamento del software.

I ricercatori del GTIG indicano inoltre di aver trovato diversi indicatori che suggeriscono che il codice di exploit potrebbe essere stato generato utilizzando un sistema di intelligenza artificiale. Tra questi, una documentazione insolita, anomalie nella valutazione del rischio per la sicurezza e una struttura del codice altamente organizzata che ricorda i dataset utilizzati per addestrare modelli di machine learning.

Secondo il rapporto, gli aggressori avevano pianificato di sfruttare questa vulnerabilità in un'operazione più ampia per aggirare l'autenticazione forte e ottenere l'accesso non autorizzato a diversi account utente dopo aver rubato le credenziali di accesso.

Il documento menziona anche l'emergere di malware più autonomi in grado di interagire direttamente con i dispositivi digitali. Un programma chiamato PROMPTSPY, identificato su Android, sarebbe in grado di utilizzare interfacce di intelligenza artificiale per analizzare lo schermo di uno smartphone ed eseguire automaticamente azioni come lo scorrimento, il clic o l'inserimento di codici di autenticazione.

Di fronte a questo panorama delle minacce in continua evoluzione, Google afferma di star accelerando lo sviluppo di strumenti di difesa basati sull'intelligenza artificiale. L'azienda sta lavorando su sistemi come Big Sleep e CodeMender, progettati per rilevare automaticamente le vulnerabilità di sicurezza e offrire patch prima che possano essere sfruttate da malintenzionati.

Questo ultimo avviso illustra la rapida trasformazione del panorama globale della sicurezza informatica, dove l'intelligenza artificiale sta diventando uno strumento strategico sia per i difensori che per i criminali informatici.