Un modello di Intelligenza artificiale (IA), chiamato GPT-3, diffonde disinformazione in modo più credibile degli esseri umani. A dimostrarlo è uno studio di Giovani Spitale dell’Università di Zurigo, pubblicato sulla rivista Science Advances
Un modello di Intelligenza Artificiale (IA), chiamato GPT-3, diffonde disinformazione in modo più credibile degli esseri umani. A dimostrarlo è un innovativo ed approfondito studio dell’Università di Zurigo, pubblicato sulla rivista Science Advances firmato da Giovanni Spitale, Nikola Biller-Andorno e Federico Germani. Che l’IA stia cambiando il modo in cui creiamo e valutiamo le informazioni sembra ormai evidente e, alla luce di quanto sperimentato durante la pandemia da Covid-19, si teme per le possibili ricadute su disordine informativo e infodemia su temi riguardanti la salute globale. Nel nuovo studio gli scienziati hanno analizzato se gli individui fossero in grado di distinguere le fake news dalle informazioni accurate, strutturate sotto forma di tweet, e di determinare se un tweet fosse organico o sintetico, cioè, scritto da un utente di Twitter o da GPT-3.
I risultati dimostrano che GPT-3 è un’arma a doppio taglio che, rispetto agli esseri umani, può produrre informazioni precise e più facili da comprendere, ma può anche produrre disinformazione più convincente. La ricerca ha, inoltre, dimostrato che gli uomini non sono in grado di distinguere i tweet generati da GPT-3 da quelli scritti da utenti umani. «I risultati suggeriscono che il modello di Intelligenza Artificiale GPT-3 e altri modelli linguistici di grandi dimensioni possono sia informare che disinformare gli utenti dei social media, in modo più efficace rispetto agli esseri umani», spiega Giovanni Spitale, ricercatore dell’Università di Zurigo.
Dal suo lancio nel novembre 2022, l’uso di ChatGPT, ha sollevato timori per la diffusione della disinformazione e dell’informazione on line, in particolare sulle piattaforme social. I critici avvertono che i modelli linguistici di grandi dimensioni come Generative Pre-trained Transformer 3 (GPT-3) di ChatGPT potrebbero essere utilizzati per generare disinformazione convincente per i social media. Poiché i modelli linguistici di grandi dimensioni sono relativamente nuovi, pochi studi hanno esaminato la loro efficacia rispetto a questo scopo. Spitale e il suo team di ricerca hanno reclutato 697 partecipanti di lingua inglese provenienti da Stati Uniti, Regno Unito, Canada, Australia e Irlanda, principalmente di età compresa tra i 26 e i 76 anni, per valutare i tweet generati da umani e da GPT-3, contenenti informazioni accurate e imprecise su una serie di argomenti, tra cui i vaccini e l’autismo, la tecnologia 5G, Covid-19, il cambiamento climatico e l’evoluzione, tutti argomenti spesso fraintesi da parte del pubblico.
Per ogni argomento, i ricercatori hanno raccolto tweet generati dall’uomo da Twitter e hanno istruito il modello GPT-3 a generare nuovi tweet contenenti informazioni accurate e non. Poi hanno chiesto ai partecipanti di giudicare se i tweet fossero veri o falsi e se fossero stati creati da un essere umano o da GPT-3. Gran parte di coloro che hanno preso parte allo studio sono stati più propensi a identificare la disinformazione generata da un essere umano; tuttavia, era anche più probabile che indovinassero che le informazioni generate da GPT-3 fossero accurate. «I nostri risultati sollevano importanti interrogativi sui potenziali usi e abusi del GPT-3 e di altri generatori di testo basati su sistemi avanzati di IA e sulle implicazioni per la diffusione delle informazioni nell’era digitale», hanno sottolineato gli autori dello studio. «Partendo dai nostri risultati, vogliamo riflettere sui pericoli dell’Intelligenza Artificiale per la disinformazione e su come migliorare le campagne di informazione a beneficio della salute globale», concludono.
Iscriviti alla Newsletter di Sanità Informazione per rimanere sempre aggiornato
Articoli correlati
