L'intelligenza artificiale in ambito sanitario criticata per la sua inaffidabilità
L'intelligenza artificiale in ambito sanitario criticata per la sua inaffidabilità
Secondo i ricercatori, l'intelligenza artificiale presenta gravi carenze in termini di accuratezza nel settore sanitario. Un recente studio ha rivelato che quasi il 50% delle risposte fornite sono false, pur apparendo credibili. Questo fenomeno preoccupa sempre più gli operatori sanitari.
E se l'intelligenza artificiale non avesse tutte le risposte? Questa è la domanda che si sono posti questi ricercatori anglofoni in uno studio sull'utilizzo dei chatbot. In altre parole: agenti conversazionali basati sull'intelligenza artificiale. Specialisti americani, canadesi e britannici hanno cercato di stabilire se questi chatbot fossero affidabili nel rispondere a domande relative alla salute. E, con grande sorpresa di tutti, la maggior parte delle risposte fornite si è rivelata potenzialmente, o addirittura completamente, falsa.
Per condurre questo esperimento, gli scienziati hanno testato le piattaforme ChatGPT, Gemini, Meta AI, Grok e DeepSeek. Hanno posto ai chatbot dieci domande relative a cinque categorie di salute per valutarne l'accuratezza e la credibilità, come spiegato nello studio pubblicato su BMJ Open.
Durante la loro ricerca, gli specialisti hanno scoperto che più della metà dei consigli medici forniti da un chatbot è stata giudicata "problematica". Di questo 50% di risposte errate, il 20% è stato addirittura considerato "altamente problematico". "Questi sistemi possono generare risposte che sembrano credibili ma sono potenzialmente errate", hanno affermato nel loro studio.
I ricercatori hanno tuttavia notato che le domande a risposta chiusa sono state gestite meglio dai chatbot e che le loro risposte erano "meno problematiche". Le domande sul cancro e sui vaccini, in particolare, sono gli ambiti in cui l'intelligenza artificiale sembra essere più affidabile del solito. Per quanto riguarda la nutrizione e le cellule staminali, le piattaforme hanno mostrato risultati decisamente meno incoraggianti.
Di fronte a questi risultati preoccupanti, i ricercatori esortano gli utenti a esercitare la massima cautela. Sottolineano inoltre la mancanza di veridicità di questi strumenti, che possono "amplificare la disinformazione" se non vengono rapidamente tenuti sotto controllo.
Ricordiamo che oltre 200 milioni di persone pongono domande sulla salute all'intelligenza artificiale ogni settimana. Questo numero continua a crescere ed è sempre più preoccupante per gli operatori sanitari, soprattutto quando gli utenti affermano di fidarsi di una di queste piattaforme più che di un vero medico.
-
23:15
-
23:00
-
22:59
-
22:42
-
22:22
-
22:15
-
22:00
-
21:51
-
21:30
-
20:50
-
20:32
-
20:15
-
20:15
-
20:00
-
19:45
-
19:30
-
19:00
-
18:35
-
18:15
-
18:00
-
17:45
-
17:30
-
17:15
-
16:45
-
16:32
-
16:15
-
16:00
-
15:45
-
15:43
-
14:45
-
14:33
-
14:15
-
14:00
-
13:30
-
13:13
-
12:50
-
12:30
-
12:15
-
12:12
-
11:50
-
11:32
-
11:26
-
11:15
-
11:10
-
11:00
-
10:42
-
10:25
-
10:23
-
10:15
-
10:10
-
09:47
-
09:32
-
09:30
-
09:15
-
08:47
-
08:45
-
08:41
-
08:32
-
08:15
-
07:15
