Eerlijke AI-toewijzing door slimme randomisatie: een doorbraak in modellen van MIT en Northeastern

AmsterdamSteeds meer organisaties maken gebruik van machine learning-modellen om te bepalen hoe ze beperkte middelen of kansen moeten inzetten. Deze modellen kunnen bedrijven helpen bij het selecteren van sollicitanten uit cv's of ziekenhuizen ondersteunen bij het bepalen van de volgorde van niertransplantaties. Om deze beslissingen eerlijker te maken, passen gebruikers kenmerken of scores aan om vooringenomenheid te verminderen.

Onderzoekers van MIT en de Northeastern University stellen dat de huidige methoden voor eerlijkheid onvoldoende zijn. Ze ontdekken dat het randomiseren van de beslissingen van een model de eerlijkheid kan verbeteren. Door beslissingen willekeurig te maken, kan men ervoor zorgen dat iemand die het verdient niet steeds misgrijpt bij een beperkte hulpbron. Dit is cruciaal in situaties van onzekerheid of waar dezelfde groep herhaaldelijk negatieve beslissingen krijgt.

Onderzoekers hebben een nieuw systeem ontworpen dat gebruikmaakt van een gewogen loterij. Dit systeem voegt een beheersbare mate van willekeur toe.

• Voorkomen van systematische uitsluiting
• Aanpakken van gemodelleerde onzekerheid
• Verbeteren van algemene eerlijkheid zonder efficiëntie te benadelen

Zelfs de meest geavanceerde machine-learningmodellen hebben te maken met onzekerheden. Bijvoorbeeld, het is erg onzeker om te voorspellen hoe lang iemand zal leven voor nierallocatie. Wanneer beslissingen onzekerder zijn, is het beter om enige willekeur toe te passen. Zorgvuldig gebruik van willekeur kan de resultaten eerlijker maken zonder de effectiviteit van het model significant te beïnvloeden.

Shomik Jain, een afgestudeerde student aan het Instituut voor Data, Systemen en Samenleving (IDSS), leidt dit onderzoek. Hij werkt samen met Kathleen Creel van Northeastern University en Ashia Wilson, een hoofdonderzoeker bij MIT's Laboratorium voor Informatiesystemen en Beslissingswetenschappen (LIDS). Ze zullen hun onderzoek presenteren op de Internationale Conferentie over Machinaal Leren.

Het onderzoek bouwt voort op eerdere bevindingen dat vaste toewijzing ongelijkheden kan vergroten. Machine learning-modellen kunnen fouten maken, en vaste modellen kunnen deze fouten herhalen. Het gebruik van willekeurige selectie kan helpen om de aanspraken van individuen op beperkte middelen te respecteren. Deze methode sluit aan bij de ideeën van filosoof John Broome over het gebruik van loterijen voor eerlijke verdeling van middelen.

Randomisatie kan nuttig zijn, maar het is niet altijd de beste keuze. Onderzoekers raden af om het te gebruiken in situaties waar het schadelijk kan zijn, zoals in het strafrecht. Volgens hen kan het echter wel waardevol zijn in bijvoorbeeld toelatingen tot universiteiten.

Ze willen onderzoeken hoe randomisatie invloed heeft op concurrentie, prijzen en de betrouwbaarheid van modellen. Het team stelt voor dat belanghebbenden randomisatie kunnen gebruiken om te bepalen wanneer het te gebruiken. Daarnaast zullen ze onderzoeken hoeveel randomisatie in verschillende situaties het beste is.

Gestructureerde randomisatie in AI-beslissingen helpt schaarse middelen eerlijker te verdelen. Het houdt rekening met onzekerheden en respecteert individuele behoeften. Deze methode voorkomt uitsluiting en verhoogt gelijkheid zonder efficiëntie te verliezen.