Studie presenterar ett bättre sätt att göra AI mer rättvis för alla grupper.

StockholmForskare från Carnegie Mellon University och Stevens Institute of Technology har föreslagit ett sätt att göra AI-beslut mer rättvisa. De rekommenderar en metod kallad social välfärdsoptimering, som granskar fördelar och nackdelar för individer för att säkerställa rättvisa resultat.

AI-rättvisa bedöms ofta genom att jämföra godkännandegrad för olika grupper, vilka kan variera beroende på ekonomisk nivå, ras, etnicitet eller kön. John Hooker, professor vid Carnegie Mellon, var medförfattare till en studie om detta ämne. Han presenterade studien vid CPAIOR-konferensen den 29 maj i Uppsala, Sverige, och artikeln vann priset för bästa paper.

AI fattar beslut om vem som får ett bolån eller en anställningsintervju. Traditionella metoder försöker ofta säkerställa att olika grupper godkänns med samma frekvens. Men förnekas ett bolån kan det påverka en missgynnad person mer än en gynnad. Social välfärdsoptimering syftar till att skapa bättre resultat för alla, särskilt för dem i missgynnade grupper.

Studien introducerar "alfarättvisa," ett sätt att balansera rättvisa och effektivitet. Det kan anpassas efter olika behov. Forskarna förklarar hur social välfärdsoptimering kan användas för att jämföra olika utvärderingar av AI-rättvisa.

Huvudpunkter:

• Fokusera på optimering av social välfärd för rättvisa AI-beslut.
• Alpha-rättvisa balanserar rättvisa och effektivitet.
• Metoden adresserar begränsningarna hos traditionella rättviseansatser.

AI-rättviseverktyg bedömer hur rättvisa de är mot olika grupper. Optimering av social välfärd kopplar dessa verktyg till bredare rättvise- och effektivitetsstandarder inom områden som ekonomi och teknik. Forskarna tror att denna nya metod kan hjälpa till att förklara hur man uppnår grupprättvisa i AI.

Läs också:

21 november 2024 · 15:27

USA dominerar AI-innovation, lämnar Kina bakom i Stanford-rankning

Denna studie är viktig för både AI-utvecklare och beslutsfattare. Utvecklare kan få insikt i de brister som finns i dagens metoder för rättvisa och överväga social rättvisa vid utveckling av AI. Detta bidrar till att säkerställa att tekniken är rättvis och gynnar alla grupper i samhället.

Forskarna anser att traditionella metoder kanske inte räcker till. Att godkänna samma procentandel personer från varje grupp kanske inte är helt rättvist. Till exempel kan konsekvenserna av att nekas ett bostadslån variera avsevärt mellan olika grupper. Optimering av social välfärd försöker ta hänsyn till dessa skillnader.

John Hooker och hans team tror att denna metod kan skapa mer rättvisa och användbara AI-modeller. Genom att beakta både de positiva och negativa effekterna kan AI-system gynna alla mer. Detta är särskilt viktigt för mindre gynnade grupper.

Studien visar att vi behöver ett nytt sätt att tänka på rättvisa. Nuvarande metoder strävar efter lika godkännandefrekvenser, men det kanske inte är riktigt rättvist. Ett alternativt tillvägagångssätt, som kallas social välfärdsoptimering, fokuserar på de övergripande effekterna av beslut för att uppnå bättre resultat.

Artikeln, presenterad vid CPAIOR, undersöker hur optimering av social välfärd kan användas för att göra bättre bedömningar av AI-rättvisa. Denna metod kan hjälpa utvecklare att skapa mer rättvisa AI-modeller som främjar social rättvisa.

Denna nya metod strävar efter att göra saker rättvisa och effektiva. Den hjälper oss att förstå hur vi kan göra AI rättvis för alla. Detta är viktigt för att teknologin ska kunna hjälpa alla människor, särskilt de som har det sämre ställt.