Ny studie: språket innehåller dolda fördomar som speglar olika tiders och kulturers attityder.

StockholmForskare har upptäckt att fördomar är en del av språket och kulturen överallt. En studie i tidskriften Social Psychological and Personality Science undersökte hur attityder är kopplade till språket. Studien analyserade olika texter och de attityder som människor rapporterat.

Forskarna granskade fyra huvudsakliga textkällor:

• Nuvarande engelska skrifter och texter
• Engelska böcker från de senaste 200 åren
• Texter på 53 olika icke-engelska språk

De undersökte hur människor känner kring 55 olika ämnen, som till exempel rik vs. fattig, hundar vs. katter och kärlek vs. pengar. För att förstå dessa känslor samlade de in data från över 100 000 amerikaner. De använde två typer av data: människors direkta svar på frågor och deras reaktionstider för att indirekt mäta attityder.

Studien visade att stora AI-språkmodeller som ChatGPT är bättre på att identifiera indirekta mått på attityder, även kallade implicita attityder. Detta tyder på att AI kan fånga upp dolda fördomar mer effektivt än de uppenbara.

Dr. Tessa Charlesworth vid Northwestern University påpekar att denna upptäckt är mycket betydelsefull. I takt med att AI blir mer utbredd är det viktigt att förstå vad dessa modeller säger om vårt samhälle. Visar de bara tydliga preferenser, eller avslöjar de även djupare, dold partiskhet?

Läs också:

Idag · 09:56

En ny era för organacceptans genom nanoteknik

För att åtgärda dessa subtila fördomar i AI behöver vi nya metoder. Forskare bör fokusera på träningsdata istället för att bara undersöka tydliga fördomar i slutet. Att inkludera varierande exempel i datan kan vara till hjälp.

Dr. Charlesworth menar att våra dolda attityder ofta avslöjas i vårt sätt att tala och förstärks av språkets påverkan. Eftersom språk har en stor inverkan på spridning av kultur, kan det krävas bredare förändringar för att hantera dolda fördomar i samhället. Dessa förändringar kan riktas mot kulturella eller storskaliga anpassningar.

Data visade att korrelationen varierade mellan olika språk. Det är viktigt att förstå de sociala och kulturella faktorerna som orsakar denna variation. Studien föreslår ytterligare utforskning av hur dessa faktorer påverkar partiskhet och språköverföring.

Denna forskning bidrar till vår förståelse av hur attityder kommer till uttryck i språk och kommunikation. Dessa mönster har funnits under en lång tid, inte bara idag. Resultaten indikerar att vi behöver större ansträngningar för att hantera och minska dolda fördomar i samhället.

Studien hjälper oss att förstå hur attityder byggs in i språket och visar att detta sker överallt i världen och i olika kulturer. Den visar också hur AI kan avslöja dessa dolda fördomar. Denna forskning är ett viktigt steg mot att hantera dolda fördomar i samhället.