스마트 랜덤화를 통한 인공지능 자원 배분의 공정성 향상 방안 연구

Seoul점점 더 많은 조직이 제한된 자원이나 기회를 활용하는 방법을 결정하기 위해 기계 학습 모델을 사용하고 있습니다. 이러한 모델은 기업이 이력서에서 지원자를 선발하거나 병원이 신장 이식 순서를 정하는 데 도움을 줄 수 있습니다. 이러한 결정을 공정하게 만들기 위해, 사용자들은 편견을 줄이기 위해 특징이나 점수를 조정합니다.

MIT와 노스이스턴 대학교의 연구자들은 현재의 공정성 방법이 충분하지 않다고 말합니다. 그들은 모델의 결정을 무작위화함으로써 상황이 더 공정해질 수 있음을 발견했습니다. 무작위 결정화는 자원이 제한된 상황에서 항상 기회를 잃는 사람을 방지할 수 있습니다. 특히 불확실성이 존재하거나 특정 집단이 자주 부정적인 결정을 받는 경우에 이는 중요합니다.

연구자들은 새로운 시스템을 개발했으며, 이 시스템은 가중치 로또 방식을 사용합니다. 이를 통해 무작위성을 적절히 제어할 수 있습니다.

• 시스템적인 배제를 방지합니다
• 모델링된 불확실성을 해결합니다
• 효율성을 해치지 않고 전체적인 공정성을 향상시킵니다

기계학습 모델, 심지어 고급 모델조차도 불확실한 영역이 있습니다. 예를 들어, 신장이식을 위한 예측에서 누군가의 생존 기간을 추정하는 것은 매우 불확실합니다. 결정이 불확실할수록 일부 무작위성을 포함하는 것이 더 좋습니다. 신중한 무작위성의 사용은 모델의 성능에 큰 영향을 미치지 않으면서도 결과를 더 공정하게 만들 수 있습니다.

이 연구는 데이터 시스템 및 사회 연구소(IDSS)의 대학원생인 쇼믹 자인이 주도하고 있습니다. 그는 노스이스턴 대학교의 캐슬린 크릴과 MIT 정보 및 의사 결정 시스템 연구소(LIDS)의 주요 연구원인 아시아 윌슨과 함께 협력하고 있습니다. 이들은 자신들의 연구를 국제 머신러닝 학회에서 발표할 예정입니다.

더 읽기:

오늘 · 오전 11:32

뇌 구조와 정치 신념의 미묘한 연관성 탐색

이 연구는 고정 할당이 불평등을 증가시킬 수 있다는 이전의 발견들을 기반으로 하고 있다. 머신러닝 모델은 오류를 일으킬 수 있으며, 고정된 모델은 이러한 오류를 반복할 수 있다. 무작위 선택을 사용하면 제한된 자원에 대한 개인의 요구를 존중하는 데 도움이 될 수 있다. 이 방법은 자원의 공정한 분배를 위해 복권을 사용하는 철학자 존 브룸의 아이디어와 일치한다.

무작위 배정은 유용할 수 있지만, 항상 옳은 선택은 아닙니다. 연구자들은 형사 사법과 같이 해로울 수 있는 상황에서 이를 사용하는 것을 권장하지 않습니다. 그들은 이것이 대학 입학과 같은 분야에서 유용할 수 있다고 생각합니다.

그들은 무작위화가 경쟁, 가격, 그리고 모델의 신뢰성에 미치는 영향을 연구하려고 합니다. 팀은 이해관계자들이 언제 무작위화를 사용할지 결정할 때 이를 활용할 수 있다고 제안합니다. 또한 다양한 경우에 필요한 최적의 무작위화 정도도 분석할 것입니다.

AI 의사 결정에서 구조적 무작위화는 제한된 자원을 보다 공정하게 배분하는 데 도움을 줍니다. 이는 불확실성을 고려하고 개인의 요구를 존중합니다. 이러한 방법은 배제를 방지하고 효율성을 잃지 않으면서 공정성을 높입니다.