Estudo propõe método para tornar decisões de IA mais justas para todos

São PauloPesquisadores da Universidade Carnegie Mellon e do Instituto de Tecnologia Stevens propuseram uma forma de tornar as decisões de IA mais justas. Eles recomendam um método chamado otimização do bem-estar social, que avalia os benefícios e prejuízos para os indivíduos a fim de garantir resultados equitativos.

A justiça da IA geralmente é avaliada comparando as taxas de aprovação entre diferentes grupos, que podem variar de acordo com o nível econômico, raça, etnia ou gênero. John Hooker, professor da Carnegie Mellon, co-escreveu um estudo sobre esse tema. Ele apresentou o estudo na conferência CPAIOR em 29 de maio em Uppsala, Suécia, e o artigo recebeu o prêmio de Melhor Artigo.

A IA determina quem recebe um financiamento imobiliário ou uma entrevista de emprego. Métodos tradicionais podem garantir que diferentes grupos sejam aprovados nas mesmas taxas. No entanto, ser negado um financiamento imobiliário pode prejudicar mais uma pessoa desprivilegiada do que uma favorecida. A otimização do bem-estar social visa criar melhores resultados para todos, especialmente para aqueles em grupos desfavorecidos.

O estudo apresenta a "justiça alfa," uma abordagem para equilibrar justiça e eficiência, que pode ser ajustada conforme diferentes necessidades. Os pesquisadores explicam como a otimização do bem-estar social ajuda a comparar diversas avaliações de justiça em IA.

Pontos principais:

• Ênfase na otimização do bem-estar social para decisões justas em IA.
• A equidade alfa equilibra justiça e eficiência.
• O método aborda as limitações das abordagens tradicionais de justiça.

Ferramentas de justiça em IA avaliam como elas são justas para diferentes grupos. A otimização do bem-estar social liga essas ferramentas a padrões mais amplos de justiça e eficiência em campos como economia e engenharia. Os pesquisadores acreditam que esse novo método pode ajudar a explicar como alcançar a justiça de grupo na IA.

Leia também:

Hoje · 07:41

Desafios da transição da OpenAI para uma empresa lucrativa

Este estudo é relevante tanto para desenvolvedores de IA quanto para formuladores de políticas. Os desenvolvedores podem identificar as fragilidades dos métodos de equidade atuais e considerar a justiça social ao criar IA. Isso ajuda a garantir que a tecnologia seja justa e beneficie todos os grupos da sociedade.

Os pesquisadores acreditam que os métodos tradicionais podem não ser suficientes. Aprovar a mesma porcentagem de pessoas de cada grupo pode não ser realmente justo. Por exemplo, os impactos de ser negado um empréstimo podem variar significativamente entre diferentes grupos. A otimização do bem-estar social tenta levar essas diferenças em consideração.

John Hooker e sua equipe acreditam que esse método pode gerar modelos de IA mais justos e úteis. Ao considerar todos os efeitos positivos e negativos, os sistemas de IA podem beneficiar a todos de forma mais significativa. Isso é especialmente crucial para grupos menos favorecidos.

O estudo indica que precisamos repensar o conceito de justiça. As metodologias atuais buscam taxas de aprovação iguais, mas isso pode não ser realmente justo. Uma abordagem diferente, chamada otimização do bem-estar social, considera os efeitos gerais das decisões para alcançar resultados melhores.

O artigo, apresentado na CPAIOR, investiga o uso da otimização do bem-estar social para melhorar as avaliações de equidade em IA. Esse método pode ajudar os desenvolvedores a criar modelos de IA mais justos que promovam a justiça social.

Este novo método visa tornar as coisas justas e eficientes. Ele nos auxilia a compreender como tornar a IA mais equitativa para todos. Isso é crucial para que a tecnologia beneficie todas as pessoas, especialmente aquelas menos favorecidas.