AI 거짓말 탐지기, 잘못된 혐의로 이어질 수 있다는 연구 결과

Seoul새로운 연구가 iScience 학술지에 발표되어 AI 거짓말 탐지기의 사회적 영향에 대해 경고하고 있습니다. 6월 27일에 발표된 이 연구는 AI 시스템이 사람들이 다른 사람을 거짓말쟁이로 지목하는 방식을 변화시킬 수 있음을 발견했습니다. 연구에 따르면, AI는 사람들이 누군가를 부정직하다고 고발할 가능성을 더 높일 수 있습니다. 이는 개인적으로 책임을 지는 것보다 AI를 비난하는 것이 더 쉽기 때문에 발생할 수 있습니다.

대부분의 사람들은 다른 사람들이 진실을 말하고 있다고 믿기 때문에 거짓말을 잘 알아채지 못합니다. 연구에 따르면 사람들은 거짓말을 알아채는 능력이 무작위로 추측하는 것과 별반 다르지 않습니다. 새로운 연구는 AI가 이러한 습관과 행동에 변화를 가져오는지를 알아보고자 합니다.

연구는 다음과 같은 내용을 포함하고 있습니다:

• 986명의 참가자들이 주말 계획에 대한 진실과 거짓의 문장을 각각 작성했습니다.
• 이 데이터를 바탕으로 AI 모델이 훈련되었고, 진실과 거짓 문장을 식별하는 데 66%의 정확도를 달성했습니다.
• 추가로 2,000명의 참가자들이 이 문장을 읽고 진실 여부를 판단했습니다.
• 참가자들은 네 그룹으로 나뉘었습니다: 기본, 강제, 차단, 선택.

기본 그룹에서는 참가자들이 AI의 도움 없이 문장을 평가했습니다. 이 그룹은 문장의 진위를 46%의 정확도로 판단했습니다. 이 그룹의 19%만이 문장이 거짓이라고 했는데, 이는 문장의 절반이 거짓임을 알고 있었음에도 불구하고 그런 결과가 나왔습니다. 이는 그들이 타인을 거짓말쟁이라고 부르기 매우 주저했음을 보여줍니다.

강제 그룹에서는 참가자들이 자신의 결정을 내리기 전에 항상 AI 예측을 보았습니다. 이 그룹에서는 참가자 중 3분의 1 이상이 일부 문장을 거짓이라고 말했습니다. AI가 문장이 참이라고 했을 때, 오직 13%의 참가자만이 반대했습니다. 그러나 AI가 문장이 거짓이라고 했을 때는 40% 이상의 참가자가 AI에 동의했습니다.

더 읽기:

2024년 11월 21일 · 오전 10:27

미국, AI 혁신 선도하며 중국 앞질러 - 스탠퍼드 보고서

사람들이 AI 예측 사용 여부를 선택할 수 있었던 그룹에서는 오직 3분의 1만이 AI의 도움을 요청했습니다. AI를 이용한 사람들 중 84%가 AI가 진술을 거짓으로 분류할 때 이를 그대로 따랐습니다. 이는 AI가 일단 사용되기 시작하면 강한 신뢰가 형성된다는 것을 보여줍니다.

많은 사람들이 AI가 인간보다 거짓말을 더 잘 감지할 수 있다는 말을 들었음에도 불구하고 사용하기를 꺼렸습니다. 연구팀은 이러한 반응에 놀라움을 표했습니다. 사람들은 자신이 거짓말을 알아채는 능력을 너무 과신하는 것일 수도 있다고 연구팀은 생각하고 있습니다.

연구자들은 인공지능(AI)이 자주 실수를 저지르고 편견을 증가시킬 수 있다고 지적합니다. 독일 뒤스부르크-에센 대학교의 행동 과학자인 닐스 쾨비스는 국경에서의 망명과 같은 중요한 결정에 AI를 지나치게 의존하지 말 것을 조언합니다. 정책 결정자는 민감한 분야에서 이러한 기술을 사용할 때 신중해야 합니다.

코비스는 AI에 대한 많은 관심이 쏟아지고 있다고 강조합니다. 많은 사람들은 이 알고리즘들이 매우 정밀하고 공정하다고 믿습니다. 그러나 AI에 과도하게 의존하는 것은 큰 위험을 초래할 수 있습니다. 왜냐하면 AI에도 결점이 있기 때문입니다. 이 연구는 AI가 우리의 행동에 변화를 가져올 수 있음을 보여주며, 우리는 이러한 변화에 대해 신중히 생각해야 합니다.

인간 사회에서는 다른 사람을 거짓말쟁이라고 비난하는 것을 강하게 경계합니다. AI는 이러한 비난을 더 쉽게 할 수 있게 하여, 사람들은 AI의 판단에 의존함으로써 더욱 무분별한 비난을 할 수 있습니다. 정책 결정자들은 AI를 거짓말 탐지에 사용하는 것에 대해 이러한 영향을 고려해야 합니다.