Aumentando a justiça na alocação de recursos com randomização inteligente em IA

São PauloCada vez mais organizações estão utilizando modelos de aprendizado de máquina para tomar decisões sobre a melhor forma de alocar recursos ou oportunidades limitadas. Esses modelos podem ajudar empresas a selecionar candidatos a partir de currículos ou auxiliar hospitais a determinar a ordem de transplantes de rim. Para assegurar decisões justas, os usuários ajustam características ou pontuações para reduzir vieses.

Pesquisadores do MIT e da Universidade Northeastern afirmam que os métodos atuais de equidade são insuficientes. Eles descobriram que tornar decisões de um modelo aleatórias pode favorecer a justiça. Aleatorizar decisões pode garantir que uma pessoa merecedora não seja sempre negada um recurso limitado. Isso é fundamental em situações de incerteza ou quando o mesmo grupo frequentemente recebe decisões negativas.

Pesquisadores desenvolveram um novo sistema que utiliza uma loteria ponderada, introduzindo um nível controlado de aleatoriedade.

• Evita a exclusão sistêmica
• Lida com a incerteza dos modelos
• Promove a justiça geral sem comprometer a eficiência

Modelos de aprendizado de máquina, inclusive os mais avançados, possuem áreas de incerteza. Por exemplo, prever quanto tempo alguém viverá para a alocação de rins é altamente incerto. Quando as decisões são mais incertas, é melhor incluir um pouco de aleatoriedade. O uso cuidadoso da aleatoriedade pode tornar os resultados mais justos sem comprometer significativamente a eficácia do modelo.

Shomik Jain, estudante de pós-graduação no Instituto de Dados, Sistemas e Sociedade (IDSS), lidera este estudo. Ele colabora com Kathleen Creel, da Northeastern University, e Ashia Wilson, pesquisadora principal no Laboratório de Informação e Sistemas de Decisão (LIDS) do MIT. Eles irão apresentar sua pesquisa na Conferência Internacional de Aprendizado de Máquina.

O estudo se baseia em descobertas anteriores de que alocação fixa pode aumentar desigualdades. Modelos de aprendizado de máquina podem cometer erros, e modelos fixos podem repetir esses erros. Utilizar seleção aleatória pode ajudar a respeitar as reivindicações individuais a recursos limitados. Este método está alinhado com as ideias do filósofo John Broome sobre o uso de sorteios para uma distribuição justa de recursos.

A randomização pode ser útil, mas nem sempre é a melhor opção. Os pesquisadores desaconselham seu uso em situações onde poderia ser prejudicial, como na justiça criminal. Eles acreditam que pode ser benéfica em áreas como admissões universitárias.

O impacto da randomização na concorrência, preços e confiabilidade de modelos

Eles querem explorar como a randomização afeta a concorrência, os preços e a confiabilidade dos modelos. A equipe sugere que os participantes podem utilizar a randomização para decidir quando é apropriado aplicá-la. Eles também investigarão a quantidade ideal de randomização necessária em diferentes situações.

A randomização estruturada nas decisões de IA contribui para uma distribuição mais justa dos recursos limitados. Ela leva em consideração as incertezas e respeita as necessidades individuais. Este método evita a exclusão e aumenta a equidade sem comprometer a eficiência.