[논문 리뷰] Towards Fairness-Aware Multi-Objective Optimization

Guo Yu, Lianbo Ma외 3명|arXiv (Cornell University)|2022. 07. 22.

Health Systems, Economic Evaluations, Quality of Life인용 수 4

한 줄 요약

이 논문은 기계 학습에서 공정성과 유틸리티의 균형을 이루기 위해 사용자 선호도를 다중목표 최적화에 통합함으로써 공정성 인지 다중목표 최적화(FMO)를 제안한다. 공정성은 성능 지표와 함께 제약 조건으로 모델링되는 프레임워크를 제안하며, 사례 연구를 통해 주요 목표인 수익 또는 정확도의 심각한 손실 없이도 공정성을 달성할 수 있음을 입증한다.

ABSTRACT

Recent years have seen the rapid development of fairness-aware machine learning in mitigating unfairness or discrimination in decision-making in a wide range of applications. However, much less attention has been paid to the fairness-aware multi-objective optimization, which is indeed commonly seen in real life, such as fair resource allocation problems and data driven multi-objective optimization problems. This paper aims to illuminate and broaden our understanding of multi-objective optimization from the perspective of fairness. To this end, we start with a discussion of user preferences in multi-objective optimization and then explore its relationship to fairness in machine learning and multi-objective optimization. Following the above discussions, representative cases of fairness-aware multiobjective optimization are presented, further elaborating the importance of fairness in traditional multi-objective optimization, data-driven optimization and federated optimization. Finally, challenges and opportunities in fairness-aware multi-objective optimization are addressed. We hope that this article makes a small step forward towards understanding fairness in the context of optimization and promote research interest in fairness-aware multi-objective optimization.

연구 동기 및 목표

• 자원 배분 및 데이터 기반 최적화와 같은 실생활 응용 분야에서 다중목표 설정 내에서 공정성 인지 최적화의 격차를 해소하기 위해.
• 사용자 중심의 의사결정에서 공통 원칙을 식별함으로써 공정성 인지 기계 학습(FML)과 선호도 기반 다중목표 최적화(PMO)를 연결하기 위해.
• 공정성이 주요 목표인 수익 또는 정확도의 심각한 훼손 없이 다중목표 최적화에 통합될 수 있음을 입증하기 위해.
• 기존의, 데이터 기반의, 그리고 피어 투 피어 최적화 설정에서 공정성 인지 다중목표 최적화의 과제와 기회를 부각하기 위해.
• 파레토 최적 해의 탐색을 이끄는 데 이해관계자의 선호도를 통합하는 인간 중심의 접근을 주장하기 위해.

제안 방법

• 공정성 지표와 유틸리티(예: 정확도, 수익)를 경쟁 목표로 간주함으로써 공정성 인지 다중목표 최적화 문제로 공정성을 공식화한다.
• 결정자들이 공정성과 유틸리티 사이의 상대적 우선순위를 반영하기 위해 기준 벡터 또는 가중치 벡터를 사용하는 선호도 기반 다중목표 최적화(PMO) 기법을 적응한다.
• FML(예: 개인 및 그룹 공정성)에서의 공정성 개념을 최적화 목표로 매핑하는 프레임워크를 도입함으로써 트레이드오프 분석을 가능하게 한다.
• 진화적 및 스칼라화 기반 최적화 방법을 활용하여 파레토 최적 해의 곡선을 탐색하고 사용자 선호도를 충족하는 해를 식별한다.
• 공정성 분포와 수익 극대화 사이의 균형을 유지하면서도 전기 자동차 충전 가격 동적 설정과 같은 실생활 시나리오에 프레임워크를 적용한다.
• 사례 연구를 통해 공정성 향상이 주요 목표의 성능을 심각하게 떨어뜨리지 않음을 검증함으로써 공동 최적화의 가능성을 뒷받침한다.

실험 결과

연구 질문

• RQ1 공정성 인지 기계 학습에서의 공정성 개념은 어떻게 다중목표 최적화 프레임워크에 공식적으로 통합될 수 있는가?
• RQ2 정확도 또는 수익과 같은 주요 목표의 심각한 훼손 없이 다중목표 최적화에서 공정성은 어느 정도 달성될 수 있는가?
• RQ3 사용자 선호도는 다중목표 최적화에서 공정하고 효과적인 해를 탐색하는 데 어떤 역할을 하는가?
• RQ4 서로 충돌하는 공정성 측정 기준(예: 개인 공정성 대 그룹 공정성)은 다중목표 최적화 설정에서 어떻게 상호작용하는가?
• RQ5 데이터 기반 및 피어 투 피어 최적화 시나리오로 공정성 인지 최적화를 확장할 때의 주요 과제와 기회는 무엇인가?

주요 결과

• 동적 전기 자동차 충전 가격 설정 사례에서 수익 예측을 흔들지 않으면서도 공정성을 향상시킬 수 있음을 입증함으로써, 공정성 인지 다중목표 최적화가 실현 가능하고 효과적임을 보여준다.
• 가중치 벡터를 통한 사용자 선호도 통합은 파레토 최적 해에서 공정성과 유틸리티 사이의 최적 트레이드오프를 향해 타겟팅된 탐색을 가능하게 한다.
• 사례 연구는 공정성 제약 조건을 최적화에 통합해도 주요 성능 지표에 상당한 손실가 발생하지 않음을 보여주며, FMO의 실용적 타당성을 뒷받침한다.
• 공정성 인지 기계 학습과 선호도 기반 다중목표 최적화 사이에는 강력한 개념적 및 방법론적 공통점이 있으며, 이는 공통의 설계 원칙을 시사한다.
• 논문은 공정성 인지 다중목표 최적화가 아직 다루지 않은 분야임을 밝히며, 특히 피어 투 피어 및 데이터 기반 설정에서 상당한 연구 격차가 있음을 강조한다.
• 프레임워크는 반복적이고 이해관계자 기반 최적화를 지원하며, 실세계 피드백과 선호도에 기반해 공정성-유틸리티 트레이드오프를 동적으로 조정할 수 있다.