Promuovere l'equità nell'allocazione delle risorse di IA: la forza della randomizzazione intelligente

RomeSempre più organizzazioni impiegano modelli di machine learning per decidere come allocare risorse limitate o opportunità. Questi modelli possono aiutare le aziende a selezionare candidati dai curricula o gli ospedali a stabilire l'ordine dei trapianti di rene. Per rendere queste decisioni più eque, gli utenti regolano caratteristiche o punteggi per ridurre i pregiudizi.

Ricercatori del MIT e della Northeastern University affermano che i metodi attuali per garantire l'equità non sono sufficienti. Hanno scoperto che rendere casuali le decisioni di un modello può migliorare la giustizia. La randomizzazione delle decisioni può assicurare che una persona meritevole non venga sempre esclusa da una risorsa limitata. Questo è fondamentale in situazioni di incertezza o quando lo stesso gruppo riceve spesso decisioni negative.

I ricercatori hanno sviluppato un nuovo sistema basato su una lotteria ponderata. Questo meccanismo introduce un livello controllato di casualità.

• Promuove l'inclusione globale
• Affronta l'incertezza dei modelli
• Migliora l'equità generale senza compromettere l'efficienza

Anche i modelli di machine learning più avanzati presentano zone di incertezza. Ad esempio, prevedere la durata di vita di una persona per l'allocazione di un rene è altamente incerto. Quando le decisioni sono più incerte, è meglio includere un po' di casualità. Un uso attento di questa casualità può rendere i risultati più equi senza compromettere troppo l'efficacia del modello.

Shomik Jain, uno studente laureato presso l'Istituto per Dati, Sistemi e Società (IDSS), sta guidando questo studio. Collabora con Kathleen Creel dell'Università del Northeastern e Ashia Wilson, ricercatrice principale al Laboratorio per Sistemi Informativi e di Decisione (LIDS) del MIT. Presenteranno la loro ricerca alla Conferenza Internazionale sull'Apprendimento Automatico.

Modelli di Allocazione e Giustizia: L'Approccio della Scelta Casuale per Equità

Questa ricerca si basa su precedenti scoperte che indicano come la distribuzione fissa possa aumentare le disuguaglianze. I modelli di apprendimento automatico possono commettere errori, e i modelli fissi rischiano di ripeterli. Utilizzare la selezione casuale può aiutare a rispettare le richieste individuali di risorse limitate. Questo metodo è in linea con le idee del filosofo John Broome sull'uso delle lotterie per una distribuzione equa delle risorse.

La randomizzazione può essere utile, ma non sempre è la scelta giusta. I ricercatori sconsigliano di utilizzarla in contesti dove potrebbe risultare dannosa, come nella giustizia penale. Credono invece che possa essere vantaggiosa in ambiti come le ammissioni universitarie.

Il team desidera esaminare come la randomizzazione influisca sulla competizione, sui prezzi e sull'affidabilità dei modelli. Suggeriscono che le parti interessate possano utilizzare la randomizzazione per decidere quando impiegarla. Inoltre, analizzeranno la quantità ottimale di randomizzazione necessaria in diversi scenari.

La randomizzazione strutturata nelle decisioni di intelligenza artificiale aiuta a distribuire le risorse limitate in modo più equo. Essa considera le incertezze e rispetta le esigenze individuali. Questo metodo previene l'esclusione e aumenta l'equità senza perdere in efficienza.