Nuevo enfoque revolucionario para decisiones más justas en IA presentado en conferencia internacional

MadridInvestigadores de la Universidad Carnegie Mellon y del Instituto de Tecnología Stevens han creado un nuevo método para hacer las decisiones de la IA más justas. En un artículo reciente, analizan cómo la optimización del bienestar social puede lograr decisiones más equitativas en la IA. Este enfoque considera los beneficios y perjuicios generales para las personas en lugar de solo las tasas de aprobación para diferentes grupos.

La equidad en la inteligencia artificial a menudo se enfoca en cómo son tratados diferentes grupos según factores como los ingresos, la raza y el género. Sin embargo, estos métodos pueden no captar el impacto real de estas decisiones en la vida de las personas. Por ejemplo, si a alguien se le niega una hipoteca, esto puede afectar mucho más a una persona de un grupo desfavorecido que a alguien de un grupo más privilegiado.

El nuevo método, optimización del bienestar social, transforma nuestra manera de abordar la equidad en la inteligencia artificial.

• Evalúa los beneficios y perjuicios globales para las personas.
• Se centra en los resultados reales de las decisiones.
• Vincula la equidad de la IA con normas más amplias utilizadas en economía e ingeniería.

John Hooker, profesor de la Universidad Carnegie Mellon, colaboró en la redacción de un estudio que presentó en una conferencia llamada CPAIOR, celebrada en Uppsala, Suecia, el 29 de mayo. El trabajo recibió el premio al Mejor Artículo en dicho evento.

El artículo aborda la "justicia alpha," una metodología para garantizar tanto equidad como eficiencia. La justicia alpha puede ajustarse según diferentes necesidades, lo que ayuda a los sistemas de inteligencia artificial a tomar decisiones que mejoran los resultados para todos, especialmente para aquellos en desventaja.

Lea también:

Hoy · 7:41

La desafiante transición de OpenAI a entidad con fines de lucro

Derek Leben, profesor de ética empresarial en la Escuela Tepper, y Violet Chen, profesora en el Instituto de Tecnología Stevens, coescribieron el estudio. Chen comentó que los criterios típicos de equidad grupal en la IA se centran en comparar estadísticas entre diferentes grupos y a menudo pasan por alto los impactos reales de las decisiones. Ellos proponen un nuevo método que mide la equidad grupal mediante el incremento del bienestar social global.

El estudio resalta varios puntos clave:

• Los métodos tradicionales de equidad en la IA pueden no considerar el impacto real de las decisiones en el mundo.
• La optimización del bienestar social puede generar mejores resultados para todos, especialmente para los grupos desfavorecidos.
• Este enfoque puede evaluar y mejorar las herramientas actuales de equidad en la IA.

Hooker afirmó que sus hallazgos ayudan a entender cómo elegir y explicar las normas de equidad para los grupos. Leben señaló que el estudio detalla cómo lograr la equidad de grupo en la inteligencia artificial. Estos descubrimientos son útiles para los desarrolladores de IA y los responsables de la formulación de políticas.

Los desarrolladores pueden hacer que los modelos de IA sean más justos al considerar la equidad de manera más amplia. Este enfoque señala las deficiencias en los métodos actuales y resalta la necesidad de tener en cuenta la justicia social al crear inteligencia artificial. De esta manera, se asegura que la tecnología sea equitativa para todos los grupos en la sociedad.

El artículo se encuentra en los registros de la conferencia CPAIOR 2024.