Nuovo studio: l'AI svela pregiudizi nascosti nel linguaggio attraverso culture e storia

RomeI pregiudizi sono radicati nel linguaggio e nella cultura ovunque. Una ricerca pubblicata su Social Psychological and Personality Science ha esaminato il legame tra atteggiamenti e linguaggio, analizzando diversi testi e le opinioni riportate delle persone.

I ricercatori hanno esaminato quattro principali fonti testuali:

• Testi e scritti in inglese attuali
• Libri inglesi degli ultimi 200 anni
• Testi in 53 lingue diverse (non inglesi)

Hanno esaminato le opinioni della gente su 55 argomenti diversi, come ricchi contro poveri, cani contro gatti, e amore contro denaro. Per comprendere queste emozioni, hanno raccolto dati da oltre 100.000 americani. Hanno utilizzato due tipi di dati: le risposte dirette alle domande e i tempi di reazione per misurare indirettamente gli atteggiamenti.

Lo studio ha rilevato che grandi modelli di linguaggio AI come ChatGPT sono più abili nel rilevare misure indirette di atteggiamenti, noti anche come atteggiamenti impliciti. Ciò suggerisce che l'intelligenza artificiale può meglio individuare pregiudizi nascosti rispetto a quelli evidenti.

La dott.ssa Tessa Charlesworth della Northwestern University sostiene che questa scoperta sia estremamente rilevante. Con la crescente diffusione dell'intelligenza artificiale, è fondamentale capire cosa ci dicono questi modelli sulla nostra società. Rivelano solo preferenze evidenti o svelano anche pregiudizi profondi e nascosti?

Leggi anche:

21 novembre 2024 · 15:27

Gli Stati Uniti dominano l'innovazione AI, la Cina insegue nel ranking di Stanford

Per correggere questi sottili pregiudizi nell'IA, servono nuovi approcci. I ricercatori dovrebbero concentrarsi sui dati di addestramento invece di verificare solo la presenza di pregiudizi evidenti alla fine. Includere esempi diversi nei dati può essere d'aiuto.

Il Dott. Charlesworth afferma che i nostri atteggiamenti nascosti emergono spesso nel modo in cui parliamo e vengono rafforzati dal linguaggio. Poiché la lingua svolge un ruolo importante nella diffusione della cultura, potremmo aver bisogno di cambiamenti più ampi per affrontare i pregiudizi latenti nella società. Questi cambiamenti potrebbero concentrarsi su aggiustamenti culturali o di portata più ampia.

I dati hanno mostrato che la correlazione varia tra le diverse lingue. È fondamentale comprendere i fattori sociali e culturali che causano questa variazione. Lo studio suggerisce di esplorare ulteriormente come questi fattori influenzino il bias e la trasmissione linguistica.

Questa ricerca ci aiuta a comprendere come gli atteggiamenti si manifestano nel linguaggio e nella comunicazione. Questi schemi sono presenti da molto tempo, non solo oggi. I risultati suggeriscono che servono sforzi maggiori per affrontare e ridurre i pregiudizi nascosti nella società.

Lo studio offre una comprensione di come gli atteggiamenti vengano incorporati nel linguaggio e dimostra che questo fenomeno avviene in tutto il mondo e in diverse culture. Inoltre, evidenzia come l'intelligenza artificiale possa svelare questi pregiudizi nascosti. Questa ricerca rappresenta un passo importante per affrontare i pregiudizi latenti nella società.