Estudio advierte: la IA perpetúa y amplifica los sesgos humanos en la sociedad

MadridInvestigadores de UCL han descubierto que los sistemas de inteligencia artificial (IA) a menudo reflejan e intensifican los sesgos humanos. Esto es relevante porque el estudio demuestra que el uso de una IA sesgada puede aumentar el sesgo en las personas. Estos sesgos se amplifican a través de ciclos en los cuales pequeñas parcialidades en los datos originales se incrementan cuando las personas interactúan con la IA. La investigación, publicada en Nature Human Behaviour, resalta cómo la IA puede influir profundamente en el pensamiento de la sociedad.

Participantes en diversos experimentos mostraron un aumento de prejuicios después de utilizar inteligencia artificial. Los investigadores identificaron esta tendencia a través de sus estudios.

• Participantes tenían más probabilidades de interpretar rostros como tristes al ser entrenados con un sistema de IA que amplificaba este sesgo.
• Aumentaba la tendencia a sobrevalorar el rendimiento de los hombres tras exponerse a una IA con prejuicios de género.
• La exposición a imágenes generadas por IA incrementó la probabilidad de asociar a hombres blancos con empleos de alto estatus, especialmente en áreas como la gestión financiera.

Los datos sesgados generan IA sesgada, lo que puede influir en la forma de pensar de las personas y provocar aún más sesgos. Esto representa un problema en diversos ámbitos, como la selección de personal y las interacciones sociales cotidianas, donde las recomendaciones de la IA pueden influir injustamente en las decisiones de las personas.

Lea también:

Ayer · 15:37

La IA con rasgos humanos enfrenta más críticas por errores morales, según nuevo estudio

Las personas a menudo piensan que la inteligencia artificial es más precisa que los humanos, lo que las lleva a confiar en sus resultados sin cuestionarlos. Esta confianza equivocada puede propagar prejuicios de manera más profunda en la sociedad. Por ejemplo, cuando la IA muestra incorrectamente ciertas imágenes de trabajos a determinados grupos, puede influir en cómo se perciben estos empleos.

Las investigaciones indican que los sistemas de inteligencia artificial pueden mejorar la toma de decisiones humanas cuando son precisos y no presentan sesgos. Es fundamental que los desarrolladores diseñen algoritmos equilibrados. El desarrollo de estos sistemas debe centrarse en ser precisos y justos para satisfacer mejor las necesidades de la sociedad.

La IA jugará un papel cada vez más crucial en nuestras vidas. Es esencial que quienes desarrollan esta tecnología resuelvan problemas de inequidad para que la IA nos ayude a avanzar como sociedad, en lugar de frenarnos. A medida que la IA se vuelve más común, debemos observar cómo influye en nuestras opiniones y esforzarnos por disminuir cualquier impacto negativo. Tanto los creadores de estos sistemas como los usuarios tienen la responsabilidad de lograrlo.