AI嘘検出器は誤った非難を招く可能性があると研究が示唆

TokyoiScience誌に掲載された新しい研究は、AIによる嘘発見器が社会に与える影響について警鐘を鳴らしています。この研究は6月27日に発表され、AIシステムが人々の嘘の告発の仕方を変える可能性があることを示しています。具体的には、AIがあることで人々はより他人を不正直だと責めやすくなるかもしれません。これは、個人が責任を負うよりもAIに責任を転嫁する方が簡単だからだとされています。

多くの人は他人が真実を話していると考えているため、嘘を見抜くのが得意ではありません。研究によると、人々が嘘を見破る能力は、ほぼ偶然当てるのと同じ程度だと示されています。この新しい研究では、AIが存在することでこうした習慣や行動がどう変わるかを探求しています。

研究の内容は次の通りです。

• 986人の参加者が週末の予定に関する1つの真実と1つの嘘の文を書きました。
• このデータを用いてAIモデルが訓練され、真偽を識別する正確性が66%でした。
• さらに2,000人の参加者がこれらの文を読んで、それが真実か嘘かを判断しました。
• 参加者はベースライン、強制、ブロック、選択の4つのグループに分けられました。

ベースライングループでは、参加者はAIの支援なしで声明を判断しました。このグループは、正しいと間違っている声明を46%の確率で正しく識別しました。しかし、彼らのうち19%だけが声明を偽と判定しました。声明の半分が偽であることを知っていたにもかかわらず、これは人を嘘つきと呼ぶことに非常に慎重であったことを示しています。

強制グループでは、参加者は常に自分の判断を下す前にAIの予測を見ていました。このグループでは、3分の1以上の参加者がいくつかの発言を誤りと認識しました。AIが「真実」と判断した場合、意見が異なったのはわずか13%の参加者だけでした。しかし、AIが「誤り」と判断した場合、40%以上の参加者がAIの意見に同意しました。

関連記事:

2024年11月21日 · 10:27

米国がAI革新で中国を凌駕、スタンフォード報告書が示す

AIの予測を選択できるグループでは、AIの助けを求めたのはわずか3分の1に過ぎませんでした。そのうち、AIを利用した人の84%は、AIがその発言を偽だと判断した場合、一緒に偽とラベル付けしたことが分かりました。これは、AIを使用し始めた後にはAIへの信頼が非常に高いことを示しています。

多くの人々は、このAIが「人間よりも優れた嘘の検出能力」を持っていると説明されても、使用を躊躇しました。研究チームはこの反応に驚いており、その理由の一つとして、人々が自分自身の嘘を見抜く力に対して過信しているのではないかと考えています。

研究者たちは、AIがしばしば誤りを犯し、偏見を増加させる可能性があると指摘しています。デュースブルク＝エッセン大学の行動科学者ニルス・ケーベス氏は、国境での亡命のような重要な決定にAIを過度に依存することを控えるよう助言しています。政策立案者は、このような技術を敏感な分野で使用する際には注意が必要です。

コービスは、AIに関する話題がたくさんあることを指摘しています。多くの人々は、これらのアルゴリズムが非常に正確で公平であると考えています。しかし、AIに過度に依存することには大きなリスクがあります。研究によると、AIは私たちの行動を変える可能性があり、これらの変化について慎重に考える必要があります。

人間社会では、他人を嘘つきだと非難することはあまり奨励されていません。AIは、人々を非難することを容易にするかもしれず、その結果、人々がAIの判断に依存することで、より軽率な非難が増える可能性があります。AIによる嘘の検知に関する政策を検討する際には、これらの影響を考慮する必要があります。