Fairere KI-Ressourcenzuteilung durch intelligente Randomisierung: ein neues System aus MIT und Northeastern

BerlinImmer mehr Unternehmen setzen auf Machine-Learning-Modelle, um begrenzte Ressourcen oder Chancen effektiv zu verteilen. Diese Modelle unterstützen beispielsweise dabei, geeignete Bewerber aus Lebensläufen auszuwählen oder Krankenhäuser bei der Priorisierung von Nierentransplantationen zu unterstützen. Um faire Entscheidungen zu gewährleisten, passen Nutzer die Merkmale oder Bewertungen an, um Verzerrungen zu minimieren.

Forscher von MIT und der Northeastern University argumentieren, dass derzeitige Methoden zur Gewährleistung von Fairness nicht ausreichend sind. Sie haben festgestellt, dass das Einbringen von Zufall in die Entscheidungsprozesse der Modelle eine gerechtere Verteilung ermöglichen kann. Durch das Zufallsprinzip wird sichergestellt, dass nicht immer derselbe berechtigte Personenkreis von knappen Ressourcen ausgeschlossen wird. Dies ist besonders relevant in Situationen mit Unsicherheiten oder wenn bestimmte Gruppen systematisch benachteiligt werden.

Forscher haben ein neues System entwickelt, das eine gewichtete Lotterie nutzt. Dieses System fügt eine kontrollierte Zufallskomponente hinzu.

• Vermeidet systematische Ausgrenzung
• Geht modellierter Unsicherheit entgegen
• Erhöht die Gesamtgerechtigkeit ohne Effizienzverlust

Maschinenlernmodelle, selbst die fortschrittlichsten, haben Unsicherheitsbereiche. Zum Beispiel ist die Vorhersage der Lebenserwartung für Nierentransplantationen äußerst ungewiss. Wenn Entscheidungen unsicherer sind, ist es besser, etwas Zufälligkeit einzubeziehen. Sorgfältiger Einsatz von Zufall kann die Ergebnisse gerechter machen, ohne die Effektivität des Modells stark zu beeinträchtigen.

Shomik Jain, ein Doktorand am Institute for Data, Systems, and Society (IDSS), leitet diese Studie. Er arbeitet mit Kathleen Creel von der Northeastern University und Ashia Wilson, einer leitenden Forscherin am MIT's Laboratory for Information and Decision Systems (LIDS), zusammen. Ihre Forschung werden sie auf der International Conference on Machine Learning vorstellen.

Die Arbeit baut auf früheren Erkenntnissen auf, dass feste Zuweisungen Ungleichheiten verstärken können. Maschinenlernmodelle können Fehler machen, und feste Modelle wiederholen diese oft. Durch den Einsatz von zufälliger Auswahl lassen sich individuelle Ansprüche auf begrenzte Ressourcen besser berücksichtigen. Diese Methode steht im Einklang mit den Überlegungen des Philosophen John Broome, der Lotterien als gerechte Verteilungsmethode für Ressourcen befürwortet.

Randomisierung kann nützlich sein, ist jedoch nicht immer die beste Wahl. Die Forscher raten davon ab, sie in Bereichen einzusetzen, in denen sie schaden könnte, wie zum Beispiel im Strafjustizsystem. Sie halten sie jedoch für sinnvoll in Bereichen wie der Hochschulzulassung.

Sie möchten untersuchen, wie Randomisierung sich auf Wettbewerb, Preise und die Zuverlässigkeit von Modellen auswirkt. Das Team schlägt vor, dass Interessengruppen Randomisierung nutzen können, um zu entscheiden, wann sie eingesetzt werden soll. Zudem werden sie analysieren, welches Maß an Randomisierung in verschiedenen Fällen am besten geeignet ist.

Strukturierte Randomisierung in KI-Entscheidungen fördert eine gerechtere Verteilung knapper Ressourcen. Sie berücksichtigt Unsicherheiten und respektiert individuelle Bedürfnisse. Dieses Vorgehen verhindert Ausgrenzung und steigert die Gerechtigkeit, ohne dabei an Effizienz zu verlieren.