Studio innovativo: nuova strategia per decisioni di IA più eque e socialmente consapevoli

RomeRicercatori della Carnegie Mellon University e della Stevens Institute of Technology hanno ideato un nuovo metodo per rendere più eque le decisioni dell'IA. In un recente studio, spiegano come l'ottimizzazione del benessere sociale possa contribuire a decisioni più giuste da parte dell'IA. Questo approccio considera i benefici e i danni complessivi agli individui anziché solo i tassi di approvazione per diversi gruppi.

L'equità nell'Intelligenza Artificiale spesso esamina il trattamento di diversi gruppi basato su fattori come reddito, razza e genere. Tuttavia, questi metodi possono trascurare l'impatto concreto che tali decisioni hanno sulle vite delle persone. Ad esempio, se a qualcuno viene negato un mutuo, le conseguenze possono essere molto più gravi per una persona appartenente a un gruppo svantaggiato rispetto a una persona più privilegiata.

Il nuovo metodo, ottimizzazione del benessere sociale, rivoluziona il nostro approccio all'equità nell'intelligenza artificiale.

• Valuta i benefici complessivi e i danni per gli individui.
• Punta sui risultati concreti delle decisioni.
• Collega l'equità dell'IA a standard più ampi utilizzati in economia e ingegneria.

John Hooker, professore alla Carnegie Mellon University, ha contribuito alla stesura di uno studio che ha presentato alla conferenza CPAIOR a Uppsala, in Svezia, il 29 maggio. La sua ricerca ha ottenuto il premio come Miglior Articolo della conferenza.

Il documento esplora il concetto di "equità alfa," un approccio che garantisce sia giustizia che efficienza. L'equità alfa può essere adattata a diverse esigenze, permettendo ai sistemi di intelligenza artificiale di prendere decisioni che migliorano i risultati per tutti, specialmente per i meno avvantaggiati.

Leggi anche:

Oggi · 14:35

Chatbot AI: precisione medica ma richiede linguaggio chiaro

Derek Leben, professore di etica aziendale presso la Tepper School, e Violet Chen, docente al Stevens Institute of Technology, hanno co-autore di uno studio. Chen ha dichiarato che i criteri tipici di equità di gruppo nell'IA tendono a confrontare statistiche tra diversi gruppi, spesso trascurando le reali conseguenze delle decisioni. Suggeriscono un nuovo metodo che misura direttamente l'equità di gruppo migliorando il benessere sociale complessivo.

Lo studio mette in evidenza diversi punti fondamentali:

• Le tradizionali metodologie di equità nell'intelligenza artificiale potrebbero non considerare l'impatto reale delle decisioni.
• L'ottimizzazione del benessere sociale può portare a risultati migliori per tutti, specialmente per i gruppi svantaggiati.
• Questo approccio può valutare e migliorare gli strumenti attuali di equità nell'intelligenza artificiale.

Hooker ha affermato che i risultati aiutano a comprendere come scegliere e spiegare le regole di equità per i gruppi. Leben ha sottolineato che lo studio chiarisce come raggiungere l’equità di gruppo nell’IA. Questi risultati sono preziosi per gli sviluppatori di IA e i responsabili politici.

Gli sviluppatori possono rendere i modelli di IA più equi esaminando la questione della giustizia in modo più ampio. Questo approccio mette in luce le criticità dei metodi di equità attuali e la necessità di considerare la giustizia sociale nella creazione dell'IA. In tal modo, si assicura che la tecnologia sia equa per tutti i diversi gruppi sociali.

L'articolo è incluso negli atti della conferenza CPAIOR 2024.