AI로 인한 스페인어 선거 정보 오해, 지원자 우려

Seoul최근 연구에 따르면 AI 언어 모델이 선거 중에 투표 관련 정보를 스페인어로 제공할 때 잘못되거나 오해의 소지가 있는 정보를 제시하는 경향이 있는 것으로 나타났습니다. 이 문제로 인해 투표 권리 단체들은 심각한 우려를 표명하고 있으며, 특히 다가오는 11월 5일 선거에서 스페인어 사용자들에게 미칠 영향이 걱정되고 있습니다.

두 그룹인 Proof News와 Factchequeado는 과학, 기술 및 사회 가치 연구소와 협력하여 인기 있는 AI 모델이 질문에 어떻게 답하는지 확인했습니다. 조사 결과, 스페인어로 생성된 선거 관련 AI 콘텐츠의 절반 이상이 잘못된 것으로 나타났으며, 영어의 경우 43%의 오류율을 보였습니다. 이러한 결과는 심각한 우려를 일으켰습니다.

• 메타의 Llama 3는 스페인어 질의의 약 3분의 2에서 잘못된 답변을 제공했습니다.
• Anthropic의 Claude는 사용자들이 관련 없는 지역의 선거 당국에 연락하도록 잘못 안내했습니다.
• 구글의 Gemini는 선거인단에 대한 난해한 설명을 제시했습니다.

AI의 오류는 유권자들이 여러 신뢰할 수 있는 출처를 통해 선거 정보를 확인하는 것이 왜 중요한지를 보여줍니다. 애리조나, 네바다, 플로리다, 캘리포니아와 같이 히스패닉 주민이 많은 주에서는 AI가 퍼뜨리는 잘못된 정보가 큰 영향을 미칠 수 있습니다. 예를 들어, 캘리포니아에서는 유권자 자격을 갖춘 사람들의 거의 3분의 1이 라티노인으로, 이 문제가 얼마나 광범위할 수 있는지를 나타내고 있습니다.

AI 모델은 인터넷에서 수집한 데이터를 통해 학습합니다. 이로 인해 언어를 이해하는 데 도움이 되지만, 편향되거나 부정확하고 오래된 정보가 포함될 수 있습니다. 스페인어로 된 정보는 영어 콘텐츠에 비해 정확성을 보장하기 위한 노력이 부족해 이러한 문제가 더 많이 발생할 수 있습니다.

더 읽기:

2024년 10월 30일 · 오후 7:47

마이크로소프트, AI 투자로 매출 16% 급등 논란 발생

자동화 시스템에 대한 신뢰는 잘못된 정보로 인해 약화될 수 있습니다. 이는 우리의 일상 도구와 애플리케이션에 큰 역할을 하고 있습니다. Meta와 Anthropic 같은 기술 기업들이 시스템을 개선하고 스페인어 콘텐츠의 정확성을 검토하기 시작한 만큼, 사용자들도 이러한 기술을 신중하게 사용할 필요가 있습니다. 이는 AI 도구가 오류를 범할 수 있으며 항상 정확하지 않다는 것을 인지하는 것을 의미합니다.

AI 개발에는 기술 발전과 윤리적 책임 사이의 균형을 찾는 것이 필요합니다. 기업들은 다양한 언어와 문화를 이해하는 모델 개발에 더 많은 노력을 기울여야 합니다. 이러한 모델은 정보를 더 쉽게 접근할 수 있게 하지만, 민주적 절차에 해를 끼칠 수 있는 잘못된 정보의 확산을 막기 위해 신중히 감독되어야 합니다.

AI와 기술 사용자는 반드시 이러한 문제를 주의 깊게 살펴봐야 하며, 전문가로부터 신뢰할 수 있는 정보를 찾아야 합니다. AI 개발자와 사용자는 모두 디지털 도구가 우리의 일상에 미치는 영향을 관리하는 데 중요한 역할을 하고 있습니다.