Una vulnerabilità di sicurezza solleva preoccupazioni sul Muse AI di Meta

Wednesday 23 - 09:32

Il nuovo assistente AI di Meta, Muse, è sotto scrutinio a causa di una grave vulnerabilità di sicurezza che potrebbe consentire agli attaccanti di prendere il controllo di un account sfruttando i permessi già concessi all'agente.

Il problema è emerso poco dopo che Muse ha guadagnato rapida popolarità negli Stati Uniti, raggiungendo la cima delle classifiche gratuite dell'App Store di Apple. A differenza dei chatbot convenzionali, Muse è progettato per svolgere compiti per conto degli utenti, inclusa la prenotazione di appuntamenti, la compilazione di moduli, la gestione delle richieste di assistenza clienti, la navigazione su siti web e gli acquisti.

Il ricercatore di sicurezza Patrick Wardle ha scoperto una vulnerabilità zero-day che colpisce la versione macOS di Muse. Secondo la sua analisi, le applicazioni in esecuzione localmente o i comandi del terminale potrebbero modificare impostazioni non documentate all'interno dell'assistente, inclusa la destinazione utilizzata per elaborare le trascrizioni vocali.

Reindirizzando i dati di trascrizione a un server controllato dall'attaccante, la vulnerabilità potrebbe esporre il token di autenticazione associato a un account Muse. Quel token potrebbe quindi dare a un attaccante un ampio controllo sull'account e consentirgli di sfruttare i permessi che l'utente aveva precedentemente concesso all'assistente AI.

Wardle ha dimostrato attacchi di prova di concetto che mostrano come i privilegi esistenti di Muse potrebbero potenzialmente essere utilizzati per eseguire azioni come scrivere file su un computer o accedere alla fotocamera. Ha anche descritto una variazione della sempre più comune tecnica di ingegneria sociale ClickFix che potrebbe aiutare a innescare la vulnerabilità convincendo gli utenti a eseguire comandi dannosi.

La scoperta evidenzia una sfida di sicurezza più ampia associata all'AI agentica. Dare a un sistema AI la capacità di interagire con email, calendari, servizi di messaggistica, browser e altre applicazioni può renderlo notevolmente più utile, ma significa anche che un compromesso riuscito potrebbe avere conseguenze oltre quelle normalmente associate a un chatbot tradizionale.

Meta ha promosso Muse come un assistente progettato con controlli di sicurezza e privacy, inclusi salvaguardie destinate a prevenire azioni non autorizzate e meccanismi che richiedono l'approvazione dell'utente per operazioni sensibili. Ars Technica ha riportato che Meta ha rilasciato una correzione rapida per il zero-day dopo che la vulnerabilità è diventata pubblica.

Le preoccupazioni di sicurezza sono emerse insieme a una disputa separata che coinvolge Amazon. La compagnia di e-commerce ha bloccato Muse dall'acquistare su Amazon.com, sostenendo che l'agente accedeva al sito senza identificarsi come agente AI e senza l'accordo di Amazon. Amazon ha affermato che le applicazioni di terze parti che effettuano acquisti per conto dei clienti dovrebbero operare in modo trasparente e rispettare le decisioni dei fornitori di servizi.

Meta, da parte sua, ha dichiarato che Muse non ha visibilità sulle password o sulle informazioni di pagamento degli utenti e che le credenziali fornite dagli utenti sono archiviate in modo sicuro. La descrizione di Muse da parte dell'azienda afferma che l'assistente può interagire con i siti web attraverso il proprio browser quando non è disponibile un'interfaccia di programmazione delle applicazioni pubblica.

I due sviluppi sono separati, ma insieme illustrano alcune delle difficoltà che le aziende devono affrontare nello sviluppo di agenti AI in grado di agire autonomamente online. Man mano che questi sistemi guadagnano accesso a più account, dispositivi e servizi, i ricercatori di sicurezza e le aziende tecnologiche affrontano una crescente pressione per garantire che la comodità non venga a scapito del controllo dell'utente e della protezione dei dati.

La popolarità precoce di Muse suggerisce che i consumatori sono sempre più disposti a delegare compiti complessi online ai sistemi AI. Tuttavia, la vulnerabilità dimostra perché l'architettura di sicurezza che circonda tali agenti sta diventando importante quanto le capacità stesse. Un chatbot compromesso può produrre informazioni errate, ma un agente compromesso con accesso a veri account può potenzialmente compiere azioni con conseguenze dirette per il suo utente.