새로운 연구: AI 결정을 더 공정하게 만드는 혁신적 접근 방식 연구

Seoul카네기 멜론 대학교와 스티븐스 공과대학의 연구진은 인공지능 결정의 공정성을 높이는 새로운 방법을 개발했습니다. 최근 논문에서 이들은 인공지능 결정을 더욱 공정하게 만들기 위해 사회적 복지를 최적화하는 방법을 논의했습니다. 이 방법은 단순히 그룹별 승인율이 아닌, 개인에게 주는 전체적인 이익과 피해를 고려합니다.

AI 공정성은 종종 소득, 인종, 성별과 같은 요소에 따라 다양한 집단이 어떻게 대우받는지를 살펴봅니다. 그러나 이러한 방법은 이러한 결정이 실제로 사람들의 삶에 얼마나 영향을 미치는지를 간과할 수 있습니다. 예를 들어, 누군가가 주택 대출을 거부당한다면, 불리한 집단에 속한 사람에게는 더 큰 영향을 미칠 수 있지만, 특권층에 속한 사람에게는 그 영향이 덜할 수 있습니다.

새로운 방법인 사회적 복지 최적화는 AI에서 공정성을 접근하는 방식을 변화시킵니다.

• 개인의 전체적인 이점과 해로움을 고려합니다.
• 결정의 실제 결과에 초점을 맞춥니다.
• AI의 공정성을 경제학과 공학 분야에서 사용되는 넓은 기준에 연결합니다.

카네기 멜론 대학교의 교수인 존 후커는 연구 논문 작성에 참여했습니다. 그는 5월 29일 스웨덴의 웁살라에서 열린 CPAIOR 학회에서 이 연구를 발표했습니다. 이 논문은 학회에서 최우수 논문상을 수상했습니다.

이 논문에서는 "알파 공정성"에 대해 다루고 있습니다. 이는 공정성과 효율성을 동시에 보장하는 방법입니다. 알파 공정성은 다양한 요구에 맞춰 조정할 수 있어, 특히 불리한 위치에 있는 사람들을 위해 AI 시스템이 모두에게 더 나은 결과를 제공하도록 돕습니다.

더 읽기:

오늘 · 오전 7:41

OpenAI의 수익기업 전환에 따른 도전 과제

데렉 레벤, 테퍼 스쿨의 비즈니스 윤리 교수와 스티븐스 공과대학의 바이올렛 첸 교수가 공동으로 이 연구를 저술했습니다. 첸 교수는 일반적인 AI의 그룹 공정성 기준이 서로 다른 그룹 간의 통계 비교에 초점을 맞추며, 종종 결정의 실제 영향을 간과한다고 언급했습니다. 그들은 사회 전체의 복지를 증진시키는 새로운 방법을 통해 그룹 공정성을 직접 측정할 것을 제안합니다.

이 연구는 여러 중요한 점들을 강조하고 있습니다.

• 전통적인 AI 공정성 방법은 결정의 실제 세계에 대한 영향을 충분히 고려하지 않을 수 있습니다.
• 사회 복지 최적화는 특히 소외 계층을 포함하여 모두에게 더 나은 결과를 가져올 수 있습니다.
• 이 방법은 현재의 AI 공정성 도구를 평가하고 개선할 수 있습니다.

후커는 그들의 연구 결과가 그룹을 위한 공정성 규칙을 선택하고 설명하는 데 도움이 된다고 말했다. 레벤은 이 연구가 AI에서의 그룹 공정성을 달성하는 방법을 설명한다고 언급했다. 이러한 발견은 AI 개발자와 정책 입안자에게 유용하다.

개발자들이 인공지능 모델을 보다 공정하게 만들기 위해서는 공정성을 넓은 시각에서 바라볼 필요가 있습니다. 이러한 접근 방식은 현행 공정성 방법의 문제점을 부각시키며, 인공지능을 개발할 때 사회적 정의를 고려해야 함을 강조합니다. 이를 통해 기술이 사회의 다양한 그룹에 공정하게 적용될 수 있도록 돕습니다.

이 논문은 CPAIOR 2024 학회 자료에 포함되어 있습니다.