[논문 리뷰] Balancing Competing Objectives with Noisy Data: Score-Based Classifiers for Welfare-Aware Machine Learning

Esther Rolf, Max Simchowitz외 5명|arXiv (Cornell University)|2020. 03. 14.

Advanced Bandit Algorithms Research인용 수 7

한 줄 요약

이 논문은 잡음이 많거나 데이터가 제한된 환경에서 기계학습에서 이면적 목적—예를 들어 수익과 사회적 복지—을 균형 잡는 스코어 기반 분류기를 제안한다. 예측 스코어를 사용해 경험적 파레토 경계를 추적함으로써 추정 오차로 인한 부분 최적화를 제한하고, 정당성 제약 정책과의 등가성을 입증하며, 콘텐츠 추천 및 어업 관리 분야에서의 실증적 검증을 통해 효율 손실이 최소화된 상당한 복지 향상을 보여준다.

ABSTRACT

While real-world decisions involve many competing objectives, algorithmic decisions are often evaluated with a single objective function. In this paper, we study algorithmic policies which explicitly trade off between a private objective (such as profit) and a public objective (such as social welfare). We analyze a natural class of policies which trace an empirical Pareto frontier based on learned scores, and focus on how such decisions can be made in noisy or data-limited regimes. Our theoretical results characterize the optimal strategies in this class, bound the Pareto errors due to inaccuracies in the scores, and show an equivalence between optimal strategies and a rich class of fairness-constrained profit-maximizing policies. We then present empirical results in two different contexts -- online content recommendation and sustainable abalone fisheries -- to underscore the applicability of our approach to a wide range of practical decisions. Taken together, these results shed light on inherent trade-offs in using machine learning for decisions that impact social welfare.

연구 동기 및 목표

• 실제 기계학습 의사결정에서 수익과 사회적 복지와 같은 다수의 목적을 균형 잡는 데 도전하는 데 초점한다.
• 목적 측정이 잡음이 많거나 불완전할 경우 사적 목적과 공적 목적 간의 명시적 트레이드오프를 제공하는 프레임워크를 개발한다.
• 추정 오차 하에서 스코어 기반 정책의 클래스 내 최적 전략을 특성화한다.
• 최적의 스코어 기반 정책과 정당성 제약 분류기 간의 이론적 등가성을 입증한다.
• 온라인 콘텐츠 추천 및 지속 가능한 어업과 같은 다양한 분야에서 접근 방식을 실증적으로 검증한다.

제안 방법

• 각 개인의 다수의 목적(예: 복지 및 수익)에 대한 예측 스코어를 사용해 선별 정책을 정의한다.
• 경험적 파레토 경계를 추적하는 스코어 기반 정책을 구성하며, 목적 간 트레이드오프에서 유도된 임계값에 따라 개인을 선별한다.
• 이론적 분석을 통해 파레토 오차가 예측 스코어의 추정 오차의 함수로 제한됨을 입증한다.
• 오목한 유틸리티 함수 하에서 이 접근 방식이 민족적 평등 제약 분류기 및 그 ε-정의된 변형과 동일시됨을 보여준다.
• 오목 최적화를 활용해 그룹 간 선별 비율을 균형 잡고 공동 유틸리티를 최대화하는 최적의 임계값을 유도한다.
• 실증적 검증은 유튜브 영상 인기도 및 아바론 어업 데이터를 활용해, 데이터 잡음과 측정 제한 조건 하에서 성능을 테스트한다.

실험 결과

연구 질문

• RQ1 목적 측정이 잡음이 많거나 불완전할 경우, 기계학습 정책이 어떻게 수익과 복지와 같은 경쟁적 목적을 최적화할 수 있는가?
• RQ2 예측 스코어의 정확성 부족으로 인한 스코어 기반 정책의 이론적 부분 최적화는 무엇인가?
• RQ3 스코어 기반 정책은 민족적 평등 및 ε-정의된 정의와 관련하여 정당성 제약 분류기와 어떻게 관련이 있는가?
• RQ4 다목적 접근이 어떤 설정에서 효율 손실이 최소화된 상당한 복지 향상을 가져오는가?
• RQ5 진정한 스코어 간 상관관계가 스코어 기반 다목적 정책의 성능에 어떻게 영향을 미치는가?

주요 결과

• 이 방법은 추정 오차의 함수로 다목적 유틸리티의 부분 최적화를 제한하며, 성능 저하에 대한 이론적 보장을 제공한다.
• 오목한 유틸리티 함수 하에서 스코어 기반 정책은 민족적 평등 제약 분류기 및 그 ε-정의된 변형과 이론적으로 동일시된다.
• 유튜브 영상 추천 사례에서, 다목적 최적화는 사용자 참여도에 거의 영향을 주지 않으면서도 평균 영상 품질을 상당히 향상시켰다.
• 아바론 어업 설정에서는 핵심 목적을 측정하기 어려운 상황을 시뮬레이션하기 위해 스코어 열악화를 적용했고, 이로 인해 핵심 목적 측정이 어려운 상황에서도 메서드가 강력한 성능 유지를 보였다.
• 최적 정책 임계값은 정당성 제약이 완화될수록 최대 활용 임계값 쪽으로 수렴하며, 선택 비율은 ε에 따라 단조롭게 조정됨을 입증했다.
• 이론적 분석을 통해 선택 비율의 절대 편차가 최대 활용 수준에서 감소함을 확인했으며, 이는 정당성 향상의 비용으로 효율성이 감소함을 시사한다.