新研究：AIの意思決定を社会福祉に注目してより公平にする革新的アプローチ

Tokyoカーネギーメロン大学とスティーブンス工科大学の研究者たちは、AIの意思決定をより公平にする新しい方法を開発しました。最近の論文では、社会福祉の最適化がAIの判断をより公正にする方法を議論しています。この方法は、異なるグループへの承認率だけでなく、個々の利益と害を全体的に考慮します。

AIの公平性は、しばしば所得、人種、性別などの要因に基づいて異なるグループがどのように扱われるかに注目します。しかし、これらの方法では、これらの決定が実際に人々の生活にどれほど影響を与えるかを見落とすことがあります。例えば、誰かが住宅ローンを拒否されると、不利な立場にあるグループの人々にとって、より特権的なグループの人々よりもはるかに大きな影響を及ぼす可能性があります。

新しい手法である社会福利の最適化は、AIにおける公正性のアプローチを変革します。

• 個人に与える全体的な利益と害を考慮する。
• 意思決定の実際の結果に焦点を当てている。
• 経済学や工学で用いられるより広い基準にAIの公平性を結びつける。

カーネギーメロン大学の教授であるジョン・フッカー氏が共同執筆した研究が、スウェーデンのウプサラで開催されたCPAIOR会議で5月29日に発表されました。その論文は会議において最優秀論文賞を受賞しました。

この論文では「αフェアネス」という概念について述べています。これは、公平性と効率性の両方を保証する手法であり、さまざまなニーズに応じて調整することが可能です。これにより、AIシステムは特に不利な立場にいる人々に利益をもたらしつつ、全体の結果を向上させる意思決定を行うことができます。

関連記事:

今日 · 9:35

AI、腰痛アドバイスで医師に匹敵する正確さを示す

テッパースクールのビジネス倫理教授デレク・レベンと、スティーブンス工科大学の教授バイオレット・チェンが共同で研究を発表しました。チェンはAIにおける一般的なグループの公平性基準が、異なるグループ間の統計を比較することに焦点を当て、決定が実際に与える影響を見逃してしまうことが多いと指摘しています。彼らは、全体的な社会福祉を向上させることによって、グループの公平性を直接的に測定する新しい方法を提案しています。

この研究は、いくつかの重要な点を強調しています。

• 従来のAI公平性の手法は、意思決定が現実世界に与える影響を十分に考慮していない可能性があります。
• 社会的福祉の最適化は、特に不利な立場にあるグループにとっても、全員にとってより良い結果をもたらします。
• この手法は、現在のAIの公平性ツールを評価し、それらを改善することができます。

フッカー氏によれば、これらの発見はグループの公平性ルールを選択し説明する際に役立つと言います。レーベン氏は、この研究がAIにおける<強調>グループの公平性</強調>を実現する方法を説明すると述べています。これらの発見は、AI開発者や政策決定者にとって有用です。

開発者は、AIモデルの公平性をより広い視点で考えることで、より公平なモデルを作ることができます。この方法は、現在の公平性に関する手法の問題点を浮き彫りにし、AIを創る際に社会正義を考慮する必要性を指摘しています。これにより、技術が社会のさまざまなグループに対して公平であることを保証するのに役立ちます。

論文はCPAIOR 2024会議の記録に含まれています。