Wykorzystanie kontrolowanej losowości w AI jako sposób na sprawiedliwy przydział zasobów.

WarsawCoraz więcej organizacji sięga po modele uczenia maszynowego w celu optymalizacji wykorzystania ograniczonych zasobów lub możliwości. Modele te mogą wspierać firmy w wyborze kandydatów na podstawie CV czy też pomagać szpitalom w ustalaniu kolejności przeszczepów nerek. Aby zapewnić sprawiedliwość tych decyzji, użytkownicy modyfikują cechy lub wyniki w celu zredukowania stronniczości.

Badacze z MIT i Northeastern University twierdzą, że obecne metody zapewniania sprawiedliwości nie są wystarczające. Odkryli, że uczynienie decyzji modelu losowymi może poprawić sprawiedliwość. Losowe podejmowanie decyzji może gwarantować, że jedna zasługująca osoba nie zostanie zawsze pominięta przy przydzielaniu ograniczonych zasobów. Jest to kluczowe, zwłaszcza gdy występują niepewności lub gdy ta sama grupa często spotyka się z negatywnymi decyzjami.

Naukowcy opracowali nowy system wykorzystujący ważoną loterię. Ten system wprowadza kontrolowany poziom losowości.

• Zapobiega systematycznemu wykluczeniu
• Zajmuje się niepewnością modelową
• Poprawia ogólną sprawiedliwość bez szkody dla wydajności

Modele uczenia maszynowego, nawet te zaawansowane, mają obszary, w których niepewność jest duża. Na przykład, przewidywanie czasu życia osoby dla celów przydziału nerek jest bardzo niepewne. Gdy decyzje są bardziej niepewne, warto wprowadzić pewien element losowości. Umiejętne stosowanie losowości może sprawić, że wyniki będą bardziej sprawiedliwe, nie obniżając znacząco skuteczności modelu.

Shomik Jain, doktorant w Instytucie Danych, Systemów i Społeczeństwa (IDSS), kieruje tym badaniem. Współpracuje z Kathleen Creel z Northeastern University oraz Ashią Wilson, główną badaczką w Laboratorium Systemów Informacyjnych i Decyzyjnych (LIDS) na MIT. Swoje badania przedstawią na Międzynarodowej Konferencji Uczenia Maszynowego.

Zobacz również:

Dzisiaj · 12:41

Trudna transformacja OpenAI w spółkę nastawioną na zysk

Praca ta opiera się na wcześniejszych odkryciach, że stałe przypisanie może zwiększać nierówności. Modele uczące się maszynowo mogą popełniać błędy, a modele stałe mogą te błędy powtarzać. Zastosowanie losowego wyboru może pomóc w szanowaniu indywidualnych roszczeń do ograniczonych zasobów. Ta metoda jest zgodna z ideami filozofa Johna Broome'a dotyczącymi używania losowań w celu sprawiedliwego podziału zasobów.

Losowe działania mogą być przydatne, ale nie zawsze są odpowiednim rozwiązaniem. Badacze odradzają ich stosowanie w sytuacjach, gdzie mogą być szkodliwe, na przykład w systemie sprawiedliwości karnej. Uważają jednak, że mogą być użyteczne w takich obszarach jak przyjmowanie na studia.

Chcą zbadać, jak randomizacja wpływa na konkurencję, ceny i niezawodność modeli. Zespół sugeruje, że interesariusze mogą wykorzystać randomizację do podejmowania decyzji, kiedy ją stosować. Zamierzają również przyjrzeć się optymalnej ilości randomizacji potrzebnej w różnych sytuacjach.

Strukturalna randomizacja w decyzjach AI wspomaga sprawiedliwsze rozdzielanie ograniczonych zasobów. Uwzględnia niepewności i szanuje indywidualne potrzeby. Ta metoda zapobiega wykluczeniu i podnosi poziom sprawiedliwości bez utraty efektywności.