AIの資源配分における公平性向上：計画的ランダム化による意識的アプローチ

Tokyoますます多くの組織が限られた資源や機会の配分を決定するために機械学習モデルを活用しています。これらのモデルは、企業が履歴書から求職者を選んだり、病院が腎臓移植の順番を決めたりするのを助けます。これらの決定を公平にするために、利用者はバイアスを軽減するために特徴やスコアを調整しています。

MITとノースイースタン大学の研究者たちは、現在の公平性を確保する方法が十分ではないと述べています。彼らは、モデルの判断をランダムにすることで、公平性を向上させることができると考えています。ランダム化することで、限られた資源に対して常に拒否されることのないようにすることが可能です。特に不確実性がある場合や、一部のグループがしばしば不利な判断を受ける場合にはこのアプローチが重要です。

研究者たちは、新しいシステムを開発しました。このシステムでは、重み付き抽選が使われており、制御されたランダム性が加わっています。

• システマチックな排除を防ぐ
• 予測の不確実性に対処する
• 効率を損なうことなく、公平性を向上させる

機械学習モデル、特に進化したものでも、未解明の領域があります。例えば、腎臓の割り当てのために誰かがどれくらい生きるかを予測することは非常に不確実です。決定がより不確実な場合には、ある程度のランダム性を含める方が良いです。ランダム性を注意深く取り入れることで、モデルの効果を大幅に損なうことなく、結果をより公平にすることができます。

この研究を主導しているのは、データ・システム・社会研究所（IDSS）に所属する大学院生のショミク・ジャインです。彼は、ノースイースタン大学のキャスリーン・クリール、およびMITの情報・意思決定システム研究所（LIDS）の主任研究員であるアシア・ウィルソンと協力しています。彼らはこの研究を「国際機械学習会議」で発表する予定です。

関連記事:

今日 · 9:35

AI、腰痛アドバイスで医師に匹敵する正確さを示す

この研究は、固定された資源配分が不平等を増大させる可能性があるというこれまでの調査結果を基にしています。機械学習モデルは誤りを起こすことがあり、その誤りを固定されたモデルが繰り返す恐れがあります。無作為選択を用いることで、限られた資源に対する個々の主張を尊重しやすくなります。この方法は、資源を公正に分配するためにくじを使用するという哲学者ジョン・ブルームの考え方と一致しています。

ランダム化は役立つことがありますが、常に正しい選択ではありません。研究者たちは、刑事司法のように有害となる可能性がある状況では、ランダム化を使用しないように勧めています。彼らは、ランダム化が大学入試の分野で役に立つ可能性があると考えています。

競争、価格、そしてモデルの信頼性に対してランダム化がどのような影響を与えるかを研究したいと考えています。チームは、利害関係者がどのようにランダム化を活用するかを決定するためにこれを用いることができると提案しています。また、さまざまなケースにおいてどの程度のランダム化が最適かについても検討します。

AIにおける構造化されたランダム化は、限られたリソースをより公正に配分する手助けをします。この方法は不確実性を考慮し、個々のニーズを尊重します。これにより、排除を防ぎ、効率を損なうことなく公平性を高めることができます。