xAI si scusa per i post estremisti dell'assistente di intelligenza artificiale Grok
La startup di Elon Musk xAI si è scusata sabato per i post estremisti e offensivi pubblicati all'inizio di questa settimana dal suo assistente di intelligenza artificiale (IA) Grok.
"Ci scusiamo per il comportamento orribile che molti hanno osservato", ha scritto xAI sull'account ufficiale di Grok su X.
Dopo un aggiornamento del 7 luglio, il chatbot, in alcune delle sue risposte, ha elogiato Adolf Hitler, ha denunciato gli "stereotipi anti-bianchi" su X e la rappresentazione "sproporzionata" degli ebrei a Hollywood.
In una serie di messaggi pubblicati sabato, xAI ha dettagliato le ragioni che riteneva avessero portato agli errori del modello di IA e le misure correttive adottate successivamente.
Secondo i manager di Grok, il deragliamento dell'assistente è legato a nuove istruzioni integrate nel modello in un aggiornamento.
I programmatori hanno dato istruzioni all'interfaccia di "essere schietta" e di "non aver paura di offendere le persone politicamente corrette".
Le hanno anche chiesto di rispondere "come un essere umano" e in un modo che incoraggiasse l'utente a continuare la conversazione.
Questi comandi "hanno portato Grok a ignorare i suoi valori fondamentali in determinate circostanze" e a produrre risposte "contenenti opinioni non etiche e controverse".
In alcuni casi, Grok ha cercato di "validare gli orientamenti degli utenti, inclusi i discorsi d'odio", ha ammesso xAI, piuttosto che "rispondere responsabilmente o rifiutarsi di rispondere a domande discutibili".
Dalla sua creazione nel 2023, Grok è stato presentato da Elon Musk come un assistente AI meno politicamente corretto rispetto ai suoi principali concorrenti ChatGPT (OpenAI), Claude (Anthropic) o Le Chat (Mistral).
È stato quindi programmato con meno restrizioni, il che ha portato a diverse controversie anche prima di questo aggiornamento.
A maggio, Grok ha parlato di "genocidio bianco" in Sudafrica, una teoria del complotto infondata promossa dall'estrema destra americana e dallo stesso Donald Trump.
Per correggere i recenti errori del modello, gli ingegneri hanno rimosso le nuove istruzioni, hanno spiegato sabato.
"Vogliamo che Grok fornisca risposte utili e oneste per gli utenti", ha dichiarato xAI.
Elon Musk ha presentato mercoledì una nuova versione del suo assistente, Grok 4, non correlata all'aggiornamento del 7 luglio.
Sembra che Grok 4 consulti la posizione di Elon Musk su diverse richieste prima di rispondere.