OpenAI interrompe due operazioni di influenza legate a Russia e Iran

13:33

OpenAI afferma di aver identificato e interrotto due operazioni di influenza che avrebbero utilizzato ChatGPT per produrre e distribuire contenuti fuorvianti sui conflitti geopolitici. Le campagne, conosciute come “Dark Clark” e “Bogus Bylines,” erano collegate rispettivamente a operatori russi e iraniani, secondo l'ultimo rapporto dell'azienda sull'abuso dell'intelligenza artificiale.

I risultati evidenziano crescenti preoccupazioni su come gli strumenti di intelligenza artificiale generativa possano essere incorporati in campagne di informazione coordinate. Sebbene tali sistemi possano assistere nella scrittura, traduzione e ricerca, possono anche essere utilizzati in modo improprio per preparare narrazioni ingannevoli, fabbricare identità e adattare contenuti per diversi pubblici.

Secondo OpenAI, l'operazione Dark Clark ha preso di mira pubblici in diversi paesi dell'America Latina con contenuti destinati a minare l'Ucraina e criticare alcuni leader politici regionali. Tra le attività identificate c'era la circolazione su TikTok di una presunta registrazione audio fabbricata attribuita al console ucraino in Ecuador. Gli operatori avrebbero anche utilizzato un'email falsa per incoraggiare le scuole in Perù a organizzare eventi legati all'Ucraina.

OpenAI ha dichiarato di aver valutato la campagna come livello cinque su sei nella sua scala per misurare l'impatto delle operazioni di influenza. L'azienda ha comunque avvertito che alcune affermazioni fatte dagli individui coinvolti non potevano essere verificate in modo indipendente, sottolineando la difficoltà di determinare la portata e l'efficacia complessiva dell'attività online clandestina.

La seconda operazione, denominata Bogus Bylines, avrebbe invece concentrato la sua attenzione sulla produzione di articoli fuorvianti riguardanti il conflitto tra Stati Uniti e Iran. OpenAI ha dichiarato che ChatGPT è stato utilizzato per affinare le bozze, adattare gli articoli ai requisiti editoriali delle pubblicazioni online e preparare email di invio destinate a garantire la pubblicazione.

La campagna si sarebbe basata su sette autori fittizi che si presentavano come giornalisti occidentali. OpenAI ha affermato di aver identificato quasi 100 articoli pubblicati su più di una dozzina di testate da luglio 2025. L'attività riportata illustra come identità fabbricate e scrittura assistita dall'IA possano essere combinate nel tentativo di far apparire credibili materiali fuorvianti.

L'uso di piattaforme mediatiche consolidate può dare contenuti ingannevoli accesso a pubblici oltre a quelli raggiunti tramite nuovi account sui social media. Gli articoli pubblicati su siti web riconosciuti possono anche essere condivisi altrove, citati da altri utenti o incorporati in discussioni online più ampie, rendendo potenzialmente più difficile identificare la fonte originale e lo scopo del contenuto.

Tuttavia, la pubblicazione di un articolo non stabilisce di per sé quante persone lo abbiano incontrato, se i lettori abbiano creduto alle sue affermazioni o se abbia cambiato l'opinione pubblica. Valutare l'effettivo impatto di tali campagne richiede prove sulla distribuzione, l'engagement del pubblico e l'ambiente informativo più ampio.

I casi sollevano anche interrogativi sul ruolo delle aziende di intelligenza artificiale nell'identificare e limitare gli abusi coordinati. OpenAI afferma di monitorare attività sospette e di prendere provvedimenti contro gli account che violano le sue politiche. Tali misure fanno parte di uno sforzo più ampio nel settore tecnologico per rilevare la manipolazione automatizzata, l' impersonificazione e la diffusione deliberata di informazioni false.

Allo stesso tempo, la crescente disponibilità di strumenti di scrittura AI complica gli sforzi per distinguere il commento politico legittimo dalla frode organizzata. Gli investigatori e le piattaforme devono considerare non solo il contenuto stesso, ma anche i modelli di comportamento, la coordinazione tra gli account, le identità fabbricate e i tentativi di nascondere chi c'è dietro un messaggio.

I risultati di OpenAI indicano una forma in evoluzione di propaganda digitale in cui l'IA può supportare la produzione e l'adattamento di materiali fuorvianti, mentre le reti sociali esistenti e le pubblicazioni online forniscono potenziali canali per la distribuzione. Il rapporto sottolinea l'importanza di fonti trasparenti, verifica indipendente e una cooperazione più forte tra aziende tecnologiche, organizzazioni mediatiche e ricercatori che indagano sulle campagne di influenza.