Mejorar la equidad en la asignación de recursos de IA con loterías ponderadas inteligentes

MadridCada vez más organizaciones están empleando modelos de aprendizaje automático para decidir cómo asignar recursos o oportunidades limitadas. Estos modelos pueden ayudar a las empresas a seleccionar candidatos de entre currículums o a los hospitales a determinar el orden de los trasplantes de riñón. Para hacer que estas decisiones sean justas, los usuarios ajustan características o puntajes para reducir el sesgo.

Investigadores de MIT y la Universidad de Northeastern afirman que los métodos actuales de equidad no son suficientes. Descubren que hacer que las decisiones de un modelo sean aleatorias puede hacerlas más justas. La aleatorización de decisiones puede garantizar que una persona merecedora no sea siempre negada un recurso limitado. Esto es crucial cuando hay incertidumbres o cuando el mismo grupo recibe con frecuencia decisiones negativas.

Investigadores han desarrollado un nuevo sistema basado en una lotería ponderada, el cual introduce un nivel controlado de aleatoriedad.

• Evita la exclusión sistémica
• Aborda la incertidumbre del modelo
• Mejora la equidad general sin comprometer la eficiencia

Los modelos de aprendizaje automático, incluso los más avanzados, tienen áreas de incertidumbre. Por ejemplo, predecir cuánto tiempo vivirá alguien para la asignación de riñones es altamente incierto. Cuando las decisiones son más inciertas, es mejor incluir cierta aleatoriedad. El uso cuidadoso de la aleatoriedad puede hacer que los resultados sean más justos sin afectar significativamente la efectividad del modelo.

Shomik Jain, un estudiante graduado en el Instituto de Datos, Sistemas y Sociedad (IDSS), lidera este estudio. Trabaja junto con Kathleen Creel de la Universidad de Northeastern y Ashia Wilson, una investigadora principal del Laboratorio de Sistemas de Información y Decisión (LIDS) del MIT. Presentarán su investigación en la Conferencia Internacional sobre Aprendizaje Automático.

El estudio se basa en hallazgos previos que sugieren que la asignación fija puede aumentar las desigualdades. Los modelos de aprendizaje automático pueden cometer errores, y los modelos fijos pueden repetir esos mismos errores. Utilizar la selección aleatoria puede ayudar a respetar las demandas individuales sobre los recursos limitados. Este enfoque está alineado con las ideas del filósofo John Broome sobre el uso de loterías para una distribución justa de recursos.

La aleatorización puede ser útil, pero no siempre es la opción más adecuada. Los investigadores recomiendan no utilizarla en situaciones donde podría ser perjudicial, como en el sistema de justicia penal. Consideran que podría ser beneficiosa en campos como las admisiones universitarias.

Quieren investigar cómo la aleatorización influye en la competencia, los precios y la fiabilidad de los modelos. El equipo sugiere que los interesados pueden utilizar la aleatorización para decidir cuándo aplicarla. También evaluarán la cantidad óptima de aleatorización necesaria en diferentes escenarios.

La aleatorización estructurada en las decisiones de inteligencia artificial ayuda a distribuir los recursos limitados de manera más equitativa. Considera las incertidumbres y respeta las necesidades individuales. Este enfoque evita la exclusión y promueve la justicia sin sacrificar la eficiencia.