Sesgos en el lenguaje: estudio revela prejuicios culturales e históricos detectados por IA

MadridInvestigadores descubrieron que los prejuicios forman parte del lenguaje y la cultura en todas partes. Un estudio publicado en la revista Social Psychological and Personality Science examinó cómo las actitudes están vinculadas al lenguaje. La investigación analizó diversos textos y las actitudes reportadas por las personas.

Los investigadores revisaron cuatro fuentes de texto principales:

• Escritura y textos en inglés actuales
• Libros en inglés de los últimos 200 años
• Textos en 53 idiomas diferentes que no son inglés

Estudiaron las opiniones de las personas sobre 55 temas diferentes, como ricos vs. pobres, perros vs. gatos y amor vs. dinero. Para comprender estos sentimientos, recopilaron datos de más de 100,000 estadounidenses. Usaron dos tipos de datos: las respuestas directas de las personas a las preguntas y sus tiempos de reacción para medir actitudes de manera indirecta.

El estudio reveló que los grandes modelos de lenguaje de IA como ChatGPT son más eficaces en la detección de medidas indirectas de actitudes, conocidas como actitudes implícitas. Esto sugiere que la IA puede captar mejor los sesgos ocultos que los evidentes.

La Dra. Tessa Charlesworth, de la Universidad Northwestern, afirma que este hallazgo es de gran relevancia. A medida que la IA se vuelve más común, necesitamos comprender lo que estos modelos nos dicen sobre nuestra sociedad. ¿Reflejan sólo preferencias evidentes o también revelan prejuicios más profundos y ocultos?

Para corregir estos sutiles sesgos en la inteligencia artificial, necesitamos nuevos enfoques. Los investigadores deberían analizar los datos de entrenamiento en lugar de solo buscar sesgos evidentes al final. Proporcionar ejemplos variados en los datos puede ser de gran ayuda.

El Dr. Charlesworth afirma que nuestras actitudes ocultas frecuentemente se reflejan en nuestra manera de hablar y se ven reforzadas por el lenguaje. Dado que el lenguaje desempeña un papel crucial en la difusión de la cultura, podríamos necesitar cambios más amplios para abordar los sesgos ocultos en la sociedad. Estos cambios podrían centrarse en ajustes culturales o a mayor escala.

Los datos mostraron que la correlación varía entre distintos idiomas. Es fundamental comprender los factores sociales y culturales que provocan esta variación. El estudio sugiere una exploración adicional de cómo estos factores impactan en el sesgo y la transmisión del lenguaje.

Esta investigación nos ayuda a comprender cómo se manifiestan las actitudes en el lenguaje y la comunicación. Estos patrones existen desde hace mucho tiempo, no solo en la actualidad. Los hallazgos sugieren que necesitamos mayores esfuerzos para abordar y reducir los prejuicios ocultos en la sociedad.

El estudio nos ayuda a comprender cómo se integran las actitudes en el lenguaje y demuestra que esto ocurre en todo el mundo y en diversas culturas. Además, destaca cómo la inteligencia artificial puede descubrir estos sesgos ocultos. Esta investigación es un paso crucial para abordar los prejuicios ocultos en la sociedad.