Nieuwe studie onthult: AI detecteert verborgen vooroordelen in taal wereldwijd door de geschiedenis heen

AmsterdamOnderzoekers ontdekten dat vooroordelen overal deel uitmaken van taal en cultuur. Een studie in het tijdschrift Social Psychological and Personality Science onderzocht hoe houdingen verband houden met taal. De studie analyseerde verschillende teksten en de gerapporteerde houdingen van mensen.

De onderzoekers hebben vier hoofdzakelijke tekstbronnen onderzocht:

• Huidige Engelse geschriften en teksten
• Engelse boeken van de afgelopen 200 jaar
• Teksten in 53 verschillende niet-Engelse talen

Ze onderzochten hoe mensen denken over 55 verschillende onderwerpen, zoals rijk versus arm, honden versus katten, en liefde versus geld. Om deze gevoelens te begrijpen, verzamelden ze gegevens van meer dan 100.000 Amerikanen. Ze gebruikten twee soorten gegevens: directe antwoorden van mensen op vragen en hun reactietijden om attitudes indirect te meten.

Uit het onderzoek bleek dat grote AI-taalmodellen zoals ChatGPT beter in staat zijn om indirecte maatstaven van houdingen, ook wel impliciete houdingen genoemd, te herkennen. Dit suggereert dat AI verborgen vooroordelen beter kan vastleggen dan voor de hand liggende.

Dr. Tessa Charlesworth van de Northwestern Universiteit benadrukt het belang van deze bevinding. Naarmate AI steeds gebruikelijker wordt, moeten we begrijpen wat deze modellen ons vertellen over onze samenleving. Laten ze alleen duidelijke voorkeuren zien, of onthullen ze ook onderliggende, verborgen vooroordelen?

Lees ook:

21 november 2024 · 08:55

Nvidia imponeert, maar Aziatische beurs reageert aarzelend op concurrentie.

Om subtiele vooringenomenheid in AI te corrigeren, hebben we nieuwe benaderingen nodig. Onderzoekers zouden zich moeten richten op de trainingsdata in plaats van alleen aan het einde op duidelijke vooringenomenheid te controleren. Het aanbieden van verschillende voorbeelden in de data kan hierbij helpen.

Volgens Dr. Charlesworth komen onze verborgen houdingen vaak tot uiting in onze manier van spreken en worden ze versterkt door taal. Aangezien taal een grote rol speelt in de verspreiding van cultuur, hebben we mogelijk bredere veranderingen nodig om verborgen vooroordelen in de samenleving aan te pakken. Deze veranderingen zouden zich kunnen richten op culturele of grootschalige aanpassingen.

De gegevens toonden aan dat de correlatie tussen verschillende talen varieerde. Het is essentieel om de sociale en culturele factoren te begrijpen die deze variatie veroorzaken. Het onderzoek suggereert verdere verkenning van hoe deze factoren invloed hebben op vooringenomenheid en taaloverdracht.

Dit onderzoek geeft ons inzicht in hoe houdingen worden uitgedrukt in taal en communicatie. Deze patronen bestaan al lange tijd, niet alleen vandaag de dag. De bevindingen tonen aan dat we grotere inspanningen moeten leveren om verborgen vooroordelen in de samenleving aan te pakken en te verminderen.

Het onderzoek verduidelijkt hoe attitudes in taal worden ingebouwd en laat zien dat dit wereldwijd en in verschillende culturen plaatsvindt. Verder benadrukt het hoe AI deze verborgen vooroordelen kan blootleggen. Dit onderzoek is een belangrijke stap in het aanpakken van verborgen vooroordelen in de maatschappij.