[논문 리뷰] Fair Personalization

L. Elisa Celis|arXiv (Cornell University)|2017. 07. 07.

Advanced Bandit Algorithms Research참고 문헌 21인용 수 5

한 줄 요약

이 논문은 개인화된 콘텐츠 선택에서 유틸리티와 공정성을 균형 있게 유지하기 위해 연속적 밴디트 최적화에서 온라인 그룹 공정성 제약을 사용하는 공정한 개인화 프레임워크를 제안한다. 사용자 유형 간 콘텐츠 그룹 노출에 대한 범위를 부여함으로써, 다항로그적 오차를 달성하며, 이는 공정성을 구현함에 있어 유틸리티와 관련성의 손실가 최소화됨을 보여준다.

ABSTRACT

Personalization is pervasive in the online space as, when combined with learning, it leads to higher efficiency and revenue by allowing the most relevant content to be served to each user. However, recent studies suggest that such personalization can propagate societal or systemic biases, which has led to calls for regulatory mechanisms and algorithms to combat inequality. Here we propose a rigorous algorithmic framework that allows for the possibility to control biased or discriminatory personalization with respect to sensitive attributes of users without losing all of the benefits of personalization.

연구 동기 및 목표

• 알고리즘적 개인화에서 발생할 수 있는 체계적 편향을 해결하기 위해.
• 민감한 사용자 속성에 대해 편향된 개인화를 제어할 수 있는 공식적이고 알고리즘적인 프레임워크를 개발하기 위해.
• 공정성을 확보하면서도 유틸리티와 관련성을 유지하는 개인화를 위해.
• 온라인 학습 환경에서 공정성 제약과 유틸리티 손실 간의 트레이드오프를 탐색하기 위해.
• 뉴스 피드, 광고, 추천 시스템에 적용 가능한 공정한 개인화에 대한 이론적 기반을 제공하기 위해.

제안 방법

• 저자들은 사용자 유형 간 콘텐츠 그룹에 대한 노출 균형을 보장함으로써, 콘텐츠 그룹에 대한 확률 분포에 대한 온라인 그룹 공정성으로 정의한다.
• 피드백(예: 클릭)에 기반해 확률 분포를 업데이트하는 방식으로, 공정성 제약이 있는 연속적 밴디트로 콘텐츠 선택 문제를 모델링한다.
• 밴디트 볼록 최적화를 활용하여 예상 피드백(예: 클릭)을 최대화하면서도 매 시간 단계에서 공정성 제약을 만족시킨다.
• 각 사용자 유형이 그룹 i의 콘텐츠 비율에 대해 하한 ℓᵢ 및 상한 uᵢ로 정의된 제약 조건을 통해 어떤 그룹도 체계적으로 배제되지 않도록 보장한다.
• 콘텐츠 그룹 내에서의 개인화는 허용하지만, 그룹 간 편향을 방지함으로써 콘텐츠 노출의 다양성을 유지한다.
• 이론적 분석을 통해 적절한 제약 구조를 갖추면, 공정성 제약 하에서도 오차 경계가 거의 최적(다항로그적)을 유지함을 보여준다.

실험 결과

연구 질문

• RQ1 유틸리티를 희생시키지 않고도 개인화된 콘텐츠 선택에서 공정성을 공식적으로 정의하고 이행할 수 있는가?
• RQ2 공정성 제약을 연속적 학습 프레임워크인 연속적 밴디트에 통합할 수 있는가?
• RQ3 개인화된 추천 시스템에서 공정성과 유틸리티 간의 트레이드오프는 무엇인가?
• RQ4 다양한 사용자 유형 간에 여전히 관련성이 높은 개인화를 허용하면서도 공정성을 유지할 수 있는가?
• RQ5 공정성 제약은 온라인 학습 알고리즘의 수렴성과 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 프레임워크는 스토하스틱 밴디트 환경에서 다항로그적 오차를 달성하여, 공정성 제약이 학습 효율성에 상당한 손실을 초래하지 않음을 시사한다.
• 이론적 결과는 공정성 제약을 활용해 거의 최적의 오차를 유지할 수 있음을 보여주며, 이는 공정한 개인화가 상당한 유틸리티 손실 없이 실현 가능함을 시사한다.
• 프레임워크는 어떤 사용자 유형도 특정 콘텐츠 그룹에 대한 노출에서 체계적으로 배제당하지 않도록 보장하여, 체계적 편향을 완화한다.
• 콘텐츠 그룹에 대한 확률 분포를 제약함으로써, 필터 버블이나 에코 챔버를 유도하는 극단적 개인화를 방지한다.
• 그룹 내 개인화는 허용하면서도 그룹 간 편향을 방지함으로써, 관련성을 유지하면서도 공정성을 강화한다.
• 이 방법은 편향된 콘텐츠 노출가 실제로 관찰된 바 있는 뉴스 추천 및 온라인 광고와 같은 실제 시스템에 적용 가능하다.