L'intelligenza artificiale rivela nuove vulnerabilità di sicurezza informatica

10:45

Con l'accelerazione dell'integrazione dell'intelligenza artificiale nelle operazioni aziendali, le sfide in materia di sicurezza informatica si fanno sempre più complesse. Persino i giganti della tecnologia riconoscono ormai che la protezione dei sistemi di IA è ancora in fase di sviluppo.

Durante un evento a Los Angeles, Francis deSouza, Chief Operating Officer di Google Cloud, ha ammesso che l'intero settore è ancora in una fase di apprendimento per quanto riguarda la sicurezza dell'intelligenza artificiale. Secondo lui, la protezione dei dati e delle infrastrutture non può più essere considerata un aspetto secondario, ma deve essere integrata fin dalle prime fasi della progettazione della strategia di IA.

Ha in particolare messo in guardia contro il fenomeno della "shadow IA", ovvero l'utilizzo da parte dei dipendenti di strumenti di intelligenza artificiale di livello consumer senza la supervisione aziendale. Questa pratica aumenta significativamente il rischio di fughe di dati e accessi incontrollati.

Francis deSouza ha inoltre sottolineato che nessuna strategia di intelligenza artificiale può funzionare senza una strategia parallela dedicata alla sicurezza dei dati e alla sicurezza informatica. Secondo lui, queste tre dimensioni devono evolversi di pari passo.

Il panorama delle minacce si è profondamente trasformato negli ultimi anni. Gli esperti parlano ormai di attacchi in grado di svilupparsi in pochi secondi. Le minacce non prendono più di mira solo le reti tradizionali, ma anche i modelli di intelligenza artificiale stessi, le pipeline di addestramento dei dati, gli agenti autonomi e persino le query di testo utilizzate per controllare questi sistemi.

Tra i principali pericoli individuati c'è la capacità degli agenti di IA di esplorare automaticamente le infrastrutture digitali delle aziende. Questi sistemi possono rilevare server obsoleti, database dimenticati o punti di accesso non protetti rimasti invisibili per anni.

Di fronte a questa nuova realtà, gli specialisti ritengono che le aziende dovranno adottare meccanismi di difesa automatizzati basati sull'intelligenza artificiale, capaci di reagire alla velocità della macchina pur rimanendo supervisionati da team umani.

Ma le sfide non si limitano ai cyberattacchi. Il settore si trova anche ad affrontare una significativa carenza di competenze specializzate in grado di monitorare e proteggere questi nuovi ambienti tecnologici.

Allo stesso tempo, Google stessa è oggetto di critiche a seguito di diversi incidenti legati ai suoi servizi di IA. Gli sviluppatori che utilizzano l'API Gemini hanno segnalato addebiti inaspettati, a volte pari a diverse migliaia di dollari, dopo che le chiavi API compromesse sono state hackerate.

Secondo diverse indagini riportate da media specializzati, alcune chiavi inizialmente progettate per servizi come Google Maps hanno ottenuto un accesso esteso a Gemini in seguito a modifiche interne delle autorizzazioni, senza una comunicazione sufficientemente chiara agli sviluppatori.

Altre ricerche sulla sicurezza informatica hanno inoltre rivelato che alcune chiavi API compromesse hanno continuato a funzionare per diversi minuti dopo essere state eliminate, a causa del tempo necessario affinché le modifiche si propaghino nell'infrastruttura cloud.

Questi diversi episodi evidenziano una realtà sempre più evidente: nonostante i progressi tecnologici, le principali aziende digitali sono ancora alla ricerca del giusto equilibrio tra rapida innovazione e sicurezza robusta nell'era dell'intelligenza artificiale.