Preocupação com IA: desinformação eleitoral em espanhol preocupa ativistas

São PauloTendência Preocupante: Modelos de Linguagem de IA e Desinformação Eleitoral

Pesquisas recentes sobre modelos de linguagem de IA revelam uma tendência alarmante durante eleições: frequentemente, eles fornecem informações erradas ou enganosas sobre detalhes de votação em espanhol. Esse problema preocupa grupos de direitos eleitorais, que estão apreensivos com o impacto sobre os eleitores de língua espanhola, especialmente com as eleições de 5 de novembro se aproximando.

Dois grupos, o Proof News e o Factchequeado, colaboraram com o Laboratório de Ciência, Tecnologia e Valores Sociais para verificar como modelos populares de IA respondiam a perguntas. Eles descobriram que mais da metade do conteúdo gerado por IA sobre eleições em espanhol estava errado, enquanto em inglês, 43% das respostas estavam incorretas. Esses resultados são preocupantes.

Inteligência Artificial Falha em Respostas Chave Durante Testes

• A Llama 3 da Meta errou em quase dois terços das consultas em espanhol.
• O Claude da Anthropic induziu usuários ao erro, sugerindo que contatassem autoridades eleitorais de regiões não relacionadas.
• O Gemini do Google forneceu explicações sem sentido sobre o Colégio Eleitoral.

Erros de IA destacam a importância de os eleitores verificarem fatos sobre as eleições usando várias fontes confiáveis. Em estados como Arizona, Nevada, Flórida e Califórnia, onde há uma grande população hispânica, informações incorretas disseminadas por IA podem ter um impacto significativo. Por exemplo, na Califórnia, quase um terço dos eleitores elegíveis é latino, o que evidencia a magnitude deste problema.

Leia também:

30 de outubro de 2024 · 19:47

Aposta da Microsoft em IA gera debate após vendas subirem 16%

Modelos de IA aprendem a partir de dados encontrados na internet. Isso ajuda na compreensão de idiomas, mas também pode trazer informações tendenciosas, incorretas ou desatualizadas. Conteúdos em espanhol na web estão mais propensos a ter esses problemas devido aos menores esforços para garantir sua precisão em comparação com conteúdos em inglês.

O impacto vai além de simples informações incorretas; ele enfraquece a confiança nos sistemas automatizados que são uma parte significativa de nossas ferramentas e aplicativos diários. Enquanto empresas de tecnologia, como a Meta e a Anthropic, implementam mudanças em seus sistemas e começam a verificar a precisão do conteúdo em espanhol, os usuários também precisam utilizar a tecnologia com cautela. Isso significa entender que ferramentas de IA podem cometer erros e nem sempre são precisas.

Desenvolver inteligência artificial exige um equilíbrio entre o avanço tecnológico e a responsabilidade ética. As empresas devem se empenhar em criar modelos que compreendam diferentes idiomas e culturas. Esses modelos podem tornar as informações mais acessíveis, mas é essencial monitorá-los cuidadosamente para evitar a disseminação de desinformação que pode prejudicar os processos democráticos.

Usuários de IA e tecnologia devem estar atentos a esses problemas e buscar informações confiáveis de especialistas. Tanto os criadores de IA quanto os usuários têm um papel crucial na gestão de como as ferramentas digitais influenciam nossas vidas cotidianas.