Studie bietet besseren Ansatz zur faireren Gestaltung von KI-Entscheidungen für alle

BerlinForscher der Carnegie Mellon University und des Stevens Institute of Technology haben einen Ansatz vorgeschlagen, um Entscheidungen von KI gerechter zu gestalten. Sie empfehlen eine Methode namens Optimierung des sozialen Wohlergehens, die die Vorteile und Nachteile für Einzelpersonen berücksichtigt, um faire Ergebnisse zu gewährleisten.

Die Fairness von KI wird in der Regel durch den Vergleich von Zustimmungsraten für verschiedene Gruppen beurteilt, die sich nach wirtschaftlichem Status, Rasse, Ethnizität oder Geschlecht unterscheiden können. John Hooker, Professor an der Carnegie Mellon University, war Mitautor einer Studie zu diesem Thema. Er stellte die Studie auf der CPAIOR-Konferenz am 29. Mai in Uppsala, Schweden, vor, und das Papier gewann den Best Paper Award.

KI entscheidet, wer eine Hypothek oder ein Vorstellungsgespräch bekommt. Traditionelle Methoden stellen möglicherweise sicher, dass verschiedene Gruppen mit den gleichen Raten zugelassen werden. Doch eine Ablehnung einer Hypothek kann eine benachteiligte Person stärker treffen als eine privilegierte. Die Optimierung des sozialen Wohlergehens zielt darauf ab, bessere Ergebnisse für alle zu schaffen, insbesondere für benachteiligte Gruppen.

Die Studie stellt das Konzept der "Alpha-Fairness" vor, das eine Balance zwischen Fairness und Effizienz ermöglicht. Es kann an unterschiedliche Bedürfnisse angepasst werden. Die Forscher erklären, wie die Optimierung des sozialen Wohlergehens dabei hilft, verschiedene Bewertungen der Fairness von KI zu vergleichen.

Schwerpunkt auf die Optimierung des sozialen Wohlergehens für gerechte KI-Entscheidungen. Alpha Fairness balanciert Fairness und Effizienz. Die Methode behebt die Begrenzungen traditioneller Fairness-Ansätze.

Werkzeuge zur Bewertung der Fairness von KI analysieren, wie gerecht sie gegenüber verschiedenen Gruppen sind. Die Optimierung des sozialen Wohlergehens verknüpft diese Werkzeuge mit umfassenderen Fairness- und Effizienzstandards in Bereichen wie Wirtschaft und Ingenieurwesen. Die Forscher sind der Meinung, dass diese neue Methode helfen kann zu erklären, wie Gruppenfairness in der KI erreicht werden kann.

Lesen Sie auch:

Heute · 09:06

Neue Forschung: Können Orgeln sich auf natürliche Weise selbst stimmen?

Diese Studie ist sowohl für KI-Entwickler als auch für politische Entscheidungsträger von Bedeutung. Entwickler können die Schwächen der derzeitigen Fairness-Methoden erkennen und soziale Gerechtigkeit in ihre Überlegungen einbeziehen, wenn sie KI entwerfen. Dadurch wird sichergestellt, dass die Technologie gerecht ist und allen gesellschaftlichen Gruppen zugutekommt.

Die Forscher sind der Meinung, dass traditionelle Methoden möglicherweise nicht ausreichen. Dasselbe Prozentsatz von Personen aus jeder Gruppe zu genehmigen, ist möglicherweise nicht wirklich gerecht. Zum Beispiel können die Auswirkungen einer abgelehnten Hypothek in verschiedenen Gruppen stark variieren. Sozialwohlfahrtsoptimierung versucht, diese Unterschiede zu berücksichtigen.

John Hooker und sein Team glauben, dass diese Methode gerechtere und nützlichere KI-Modelle schaffen kann. Indem man die gesamten positiven und negativen Auswirkungen betrachtet, können KI-Systeme allen Menschen besser helfen. Dies ist besonders wichtig für benachteiligte Gruppen.

Die Studie zeigt, dass wir eine neue Denkweise in Bezug auf Fairness benötigen. Aktuelle Methoden zielen auf gleiche Zustimmungsraten ab, was jedoch nicht wirklich fair sein könnte. Ein anderer Ansatz, bekannt als Sozialwohlstandsoptimierung, betrachtet die Gesamteffekte von Entscheidungen, um bessere Ergebnisse zu erzielen.

Das bei der CPAIOR-Konferenz vorgestellte Papier untersucht die Anwendung der Optimierung des sozialen Wohls, um bessere Bewertungen der Fairness von KI durchzuführen. Diese Methode kann Entwicklern helfen, gerechtere KI-Modelle zu erstellen, die soziale Gerechtigkeit fördern.

Diese neue Methode strebt danach, Fairness und Effizienz zu gewährleisten. Sie hilft uns zu verstehen, wie man KI für alle gerecht gestalten kann. Dies ist wichtig, damit Technologie allen Menschen zugutekommt, insbesondere den weniger privilegierten.