Ny studie presenterar FairDeDup: ny AI-träningsteknik för att minska sociala fördomar.

StockholmForskare från Oregon State University och Adobe har utvecklat en ny metod som heter FairDeDup för att träna AI-system. Denna teknik hjälper till att minska sociala fördomar i AI genom att ta bort dubbla data under träningsprocessen.

Den nya tekniken förbättrar en tidigare metod som kallas SemDeDup genom att införliva rättvisemått. Vid träning av AI-modeller används ofta dataset som innehåller sociala biaser. När dessa biaser integreras i AI-modellerna kan de resultera i orättvisa handlingar och beslut.

FairDeDup minskar datamängden genom att välja ut de viktigaste delarna. Denna process innebär att delar av datan behålls medan resterande tas bort, samtidigt som den kvarvarande datan fortfarande ska representera originalet väl. Forskare beslutar vilken data som ska behållas baserat på innehållet och ser till att den väsentliga informationen finns kvar.

Här är några detaljer om hur FairDeDup fungerar:

• Överflödig data tas bort
• Mänskligt definierade mångfaldsdimensioner integreras
• Födomar relaterade till yrke, ras, kön, ålder, geografi och kultur hanteras

Eric Slyman, doktorand vid OSU:s tekniska högskola, ledde forskningen. Han samarbetade med Stefan Lee från OSU samt Scott Cohen och Kushal Kafle från Adobe.

Datasets från internet innehåller ofta fördomar som speglar samhällets egna fördomar. Dessa kan visa sig i AI-resultat, exempelvis genom att endast visa bilder av vita män vid sökningar efter VD:ar eller läkare. Slymans team undersökte hur borttagning av duplicerad data påverkar dessa skevheter. De upptäckte att användningen av FairDeDup kan minska negativa utfall.

Läs också:

Idag · 20:28

Ny forskning: AI-modeller stärker samhället med inkludering

FairDeDup strävar efter att minska datorkostnader och göra AI-system mer rättvisa. Slyman förklarar att denna metod inte tvingar AI att följa en strikt rättvisemodell. Istället hjälper den AI att vara rättvis i olika situationer och för olika användare. Detta möjliggör för människor att själva avgöra vad som är rättvist utifrån sina egna behov, utan att förlita sig på stora, partiska dataset från internet.

Forskarna presenterade algoritmen FairDeDup på IEEE/CVF-konferensen för datorseende och mönsterigenkänning i Seattle. De betonade att denna nya metod är både kostnadseffektiv, exakt och rättvis.

Slyman påpekade att deras metod gör det möjligt för AI att lära sig på ett sätt som är kostnadseffektivt, precist och rättvist. Genom att ta bort partiskheter i datan upptäckte teamet att AI-systemen blir mer rättvisa.

Denna metod hjälper AI att fatta mer rättvisa beslut genom att ta hänsyn till olika mänskliga förhållanden och olikheter. Den tvingar inte AI att följa en enda uppfattning om rättvisa, utan låter olika användningar av AI definiera vad rättvisa betyder för dem.

Detta framsteg är ett betydelsefullt steg mot att minska fördomar i AI-system. Forskare tror att FairDeDup kommer bidra till att göra AI mer rättvist och mindre partiskt mot marginaliserade grupper. Samarbetet mellan OSU och Adobe syftar till att förbättra rättvisan och effektiviteten hos AI.