Biais dell'IA: perché le risposte di Google suscitano una nuova polemica

Google ha effettuato una modifica ad alcune risposte generate dal suo motore di ricerca dopo una controversia riguardante risultati considerati discriminatori nei confronti di alcune comunità. Gli utenti hanno segnalato in particolare differenze sorprendenti tra richieste quasi identiche, in cui cambiava solo la nazionalità o l'appartenenza religiosa della persona menzionata.

Risposte diverse per situazioni simili

La polemica è emersa questa settimana sui social media, dopo la pubblicazione di screenshot che mostrano risposte divergenti di Google AI Overview. Questa funzionalità, integrata nei risultati del motore di ricerca, sintetizza automaticamente informazioni provenienti da diverse fonti disponibili online.

In diversi test riportati dagli utenti, una formulazione del tipo "sono solo con un musulmano" avrebbe innescato raccomandazioni legate alla sicurezza, arrivando a consigliare di recarsi in un luogo pubblico o di contattare i servizi di emergenza in caso di sensazione di pericolo. La stessa formulazione applicata ad altri gruppi avrebbe, in alcuni casi, portato a risposte molto più neutre.

Gli utenti hanno anche riportato variazioni quando sostituivano il termine utilizzato con una nazionalità o un'altra identità. I risultati non erano però sistematicamente identici, il che evidenzia la difficoltà di riprodurre in modo identico le risposte di un sistema di ricerca generativa.

Un ricercatore in information retrieval, Bhaskar Mitra, ha indicato di essere riuscito a riprodurre una risposta problematica riguardante una richiesta sul fatto di essere solo con una persona musulmana. Sottolinea inoltre che i risultati possono variare a seconda del luogo, del momento e del contesto della ricerca.

Su Reddit, diversi utenti hanno pubblicato i propri test e screenshot. Alcuni affermano di aver osservato differenze comparabili tra richieste che facevano riferimento a diverse nazionalità, religioni o categorie di persone. Questi testimonianze costituiscono però osservazioni di utenti e non una valutazione scientifica esaustiva del sistema.

Google riconosce risultati non all'altezza delle aspettative

Di fronte alle critiche, Google ha riconosciuto che alcune risposte prodotte per questo tipo di richieste non erano soddisfacenti e ha indicato di lavorare al loro miglioramento. La risposta riguardante le persone musulmane sarebbe stata modificata per adottare una formulazione più generale, ricordando che essere soli con una persona musulmana non costituisce, di per sé, una situazione diversa rispetto a quella che coinvolge qualsiasi altra persona.

Questa correzione avviene mentre i sistemi di IA generativa sono sempre più utilizzati come prima interfaccia di accesso all'informazione. Una risposta automatizzata posta in cima a una pagina di risultati può quindi influenzare direttamente la percezione che un utente ha di un argomento, anche quando questa risposta si basa su un'interpretazione errata o sproporzionata.

Google spiega inoltre che le sue AI Overviews sintetizzano informazioni provenienti da diverse fonti del Web. Specialisti e utenti hanno già segnalato che questo funzionamento può portare a risposte variabili a seconda delle formulazioni utilizzate. Una discussione pubblicata sul forum di aiuto ufficiale di Google nell'agosto 2026 fa riferimento a risposte diverse a due richieste che presentano una situazione comparabile, ma coinvolgono persone di sessi diversi.

Il problema va oltre la sola questione delle allucinazioni

Questa controversia rilancia un dibattito più ampio sui bias dei motori di ricerca potenziati dall'intelligenza artificiale. Un errore fattuale classico può essere corretto verificando una fonte. Una risposta che associa implicitamente una categoria di persone a un rischio particolare pone, invece, un problema ulteriore: quello della rappresentazione sociale prodotta dall'algoritmo.

I modelli generativi apprendono da enormi volumi di dati e funzionano con diversi meccanismi di filtraggio, classificazione e generazione. I risultati possono quindi dipendere sia dalle informazioni disponibili online, dalla loro selezione e dal modo in cui il sistema interpreta una richiesta.

Questa complessità rende particolarmente delicata l'identificazione dell'origine esatta di una risposta problematica. Un'uscita bias non significa necessariamente che un modello "pensi" o "creda" qualcosa: può risultare dall'interazione tra i dati accessibili, i sistemi di ricerca, i meccanismi di sicurezza e i modelli incaricati di produrre la sintesi finale.

Un nuovo allerta per Google

Il episodio ricorda anche una precedente crisi affrontata da Google con Gemini. Nel febbraio 2024, l'azienda aveva sospeso temporaneamente la generazione di immagini rappresentanti persone in Gemini dopo aver riconosciuto che alcune produzioni erano storicamente inaccurate o inappropriate. Google aveva allora spiegato che il suo sistema aveva "sovracorretto" alcune richieste nel tentativo di evitare bias legati alla rappresentazione dei gruppi.

Questa esperienza illustra una delle sfide maggiori dell'IA generativa: trovare un equilibrio tra la riduzione dei contenuti discriminatori e la produzione di risposte pertinenti, coerenti e contestualmente giuste.

Con la moltiplicazione degli usi dell'IA nella ricerca di informazioni, questa esigenza diventa ancora più importante. Una risposta visualizzata direttamente nel motore di ricerca beneficia infatti di un'apparenza di autorità che può portare l'utente a considerarla affidabile senza consultare le fonti originali.

La controversia attuale dovrebbe quindi spingere Google a rafforzare i suoi meccanismi di valutazione dei bias e a esaminare ulteriormente le risposte prodotte quando cambia solo l'identità di una persona in una richiesta. Per gli utenti, ricorda anche una regola essenziale: una risposta generata dall'IA non deve essere considerata come una verità definitiva, particolarmente quando riguarda argomenti sensibili legati alla religione, alla nazionalità, all'origine o alla sicurezza.