Förbättrad rättvisa i AI-resursfördelning genom smart slumpmässighet när resurser är begränsade

StockholmAllt fler organisationer använder maskininlärningsmodeller för att besluta om hur begränsade resurser eller möjligheter ska användas. Dessa modeller kan hjälpa företag att välja jobbkandidater från CV:n eller hjälpa sjukhus att bestämma ordningen för njurtransplantationer. För att göra dessa beslut rättvisa justerar användarna funktioner eller poäng för att minska partiskhet.

Forskare från MIT och Northeastern University hävdar att nuvarande metoder för rättvisa inte är tillräckligt effektiva. De har kommit fram till att genom att göra modellens beslut slumpmässiga kan rättvisan öka. Att slumpmässiggöra besluten kan säkerställa att en värdig person inte alltid nekas en begränsad resurs. Detta är särskilt viktigt när det finns osäkerheter eller när samma grupp ofta får negativa beslut.

Forskare har utvecklat ett nytt system som använder ett viktat lotteri. Detta system inför en kontrollerad nivå av slumpmässighet.

• Förhindrar systematisk uteslutning
• Hanterar osäkerhet i modeller
• Förbättrar allmän rättvisa utan att försämra effektivitet

Maskininlärningsmodeller, även de mest avancerade, har områden där osäkerhet råder. Till exempel, att förutsäga hur länge någon kommer att leva för njurtransplantation är mycket osäkert. När besluten är mer osäkra, är det bättre att inkludera viss slumpmässighet. En noggrann användning av slumpmässighet kan göra resultaten rättvisare utan att påverka modellens effektivitet betydligt.

Shomik Jain, doktorand vid Institutet för Data, System och Samhälle (IDSS), leder denna studie. Han samarbetar med Kathleen Creel från Northeastern University och Ashia Wilson, en huvudforskare vid MIT:s Laboratorium för Informations- och Beslutssystem (LIDS). De kommer att presentera sin forskning på den internationella konferensen för maskininlärning.

Läs också:

21 november 2024 · 15:27

USA dominerar AI-innovation, lämnar Kina bakom i Stanford-rankning

Arbetet bygger på tidigare resultat som visar att fasta tilldelningar kan öka ojämlikheter. Machine learning-modeller kan göra misstag, och fasta modeller kan upprepa dessa misstag. Genom att använda slumpmässigt urval kan man bättre respektera individuella anspråk på begränsade resurser. Denna metod stämmer överens med filosofen John Broomes idéer om att använda lotterier för rättvis resursfördelning.

Slumpmässig tilldelning kan vara användbar, men är inte alltid det bästa valet. Forskarna avråder från att använda det i situationer där det kan vara skadligt, som inom straffrätt. De anser dock att det kan vara till nytta inom områden som t.ex. antagning till högskolor.

De vill undersöka hur randomisering påverkar konkurrens, priser och modellernas tillförlitlighet. Teamet föreslår att intressenter kan använda randomisering för att avgöra när den ska användas. De kommer också att undersöka vilken nivå av randomisering som är mest effektiv i olika situationer.

Strukturerad randomisering i AI-beslut bidrar till att fördela begränsade resurser mer rättvist. Det beaktar osäkerheter och respekterar individuella behov. Denna metod motverkar uteslutning och ökar rättvisan utan att förlora effektivitet.