Nieuw onderzoek: baanbrekende methode maakt AI-beslissingen eerlijker en analyseert werkelijke impact op individuen

AmsterdamOnderzoekers van de Carnegie Mellon University en het Stevens Institute of Technology hebben een innovatieve methode ontwikkeld om AI-beslissingen rechtvaardiger te maken. In een recent gepubliceerde studie leggen ze uit hoe het optimaliseren van maatschappelijk welzijn kan leiden tot rechtvaardigere AI-beslissingen. Deze benadering richt zich op het totale voordeel en nadeel voor individuen in plaats van alleen op goedkeuringspercentages voor verschillende groepen.

AI-gelijkheid onderzoekt vaak hoe verschillende groepen worden behandeld op basis van factoren zoals inkomen, ras en geslacht. Maar deze methoden kunnen soms over het hoofd zien hoe ingrijpend deze beslissingen het leven van mensen beïnvloeden. Als iemand bijvoorbeeld een hypotheek wordt geweigerd, kan dit veel meer impact hebben op iemand uit een achtergestelde groep dan op iemand uit een meer bevoorrechte groep.

De nieuwe methode, optimalisatie van het sociale welzijn, verandert onze benadering van rechtvaardigheid in AI.

• Het overweegt de totale voordelen en nadelen voor individuen.
• Het richt zich op de werkelijke uitkomsten van beslissingen.
• Het verbindt AI-gerechtigheid aan bredere normen die in de economie en techniek worden gebruikt.

John Hooker, professor aan de Carnegie Mellon Universiteit, hielp bij het opstellen van een onderzoek. Op 29 mei presenteerde hij dit onderzoek tijdens de CPAIOR-conferentie in Uppsala, Zweden. Het artikel werd bekroond met de Best Paper Award op de conferentie.

Het artikel bespreekt “alfa-gelijkheid,” een methode om zowel eerlijkheid als efficiëntie te waarborgen. Alfa-gelijkheid kan worden aangepast aan verschillende behoeften. Dit helpt AI-systemen beslissingen te nemen die de uitkomsten voor iedereen verbeteren, vooral voor degenen die minder bevoordeeld zijn.

Lees ook:

21 november 2024 · 08:55

Nvidia imponeert, maar Aziatische beurs reageert aarzelend op concurrentie.

Derek Leben, een professor in bedrijfsethiek aan de Tepper School, en Violet Chen, een professor aan het Stevens Institute of Technology, schreven samen de studie. Chen verklaarde dat typische criteria voor groepsgelijkheid in AI zich richten op het vergelijken van statistieken tussen verschillende groepen en vaak de echte gevolgen van de beslissingen over het hoofd zien. Ze stellen een nieuwe methode voor die groepsgelijkheid direct meet door het verbeteren van het algehele sociale welzijn.

Het onderzoek belicht verschillende belangrijke punten.

• Traditionele AI-methoden voor rechtvaardigheid houden mogelijk geen rekening met de daadwerkelijke impact van beslissingen in de echte wereld.
• Optimalisatie van maatschappelijke welzijn kan betere uitkomsten opleveren voor iedereen, vooral voor achtergestelde groepen.
• Deze methode kan huidige AI-rechtvaardigheidstools evalueren en verbeteren.

Hooker liet weten dat hun bevindingen helpen bij het kiezen en verklaren van rechtvaardigheidsregels voor groepen. Leben gaf aan dat de studie uitlegt hoe je groepsrechtvaardigheid in AI kunt bereiken. Deze inzichten zijn waardevol voor AI-ontwikkelaars en beleidsmakers.

Ontwikkelaars kunnen AI-modellen eerlijker maken door breder naar eerlijkheid te kijken. Deze benadering benadrukt de tekortkomingen van huidige methoden voor eerlijkheid en onderstreept het belang van sociale rechtvaardigheid bij de ontwikkeling van AI. Zo wordt gewaarborgd dat technologie rechtvaardig is voor alle verschillende groepen in de samenleving.

Het artikel staat vermeld in de verslagen van de CPAIOR 2024 conferentie.