[논문 리뷰] Asymmetric Tri-training for Debiasing Missing-Not-At-Random Explicit Feedback

Yuta Saito|arXiv (Cornell University)|2019. 09. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 43인용 수 4

한 줄 요약

이 논문은 누락되지 않은 랜덤(MNAR) 데이터를 가진 추천 시스템에서 명시적 피드백의 편향을 제거하기 위해 비대칭 삼중 학습 방법을 제안한다. 두 개의 예측기로 신뢰할 수 있는 가짜 평점을 생성하고, 세 번째 예측기로 최종 예측을 수행함으로써, 성향 점수에 의존하지 않고도 강건한 성능을 달성하며, 실제 데이터셋에서 편향과 분산을 줄이는 데 기존 방법들을 능가한다.

ABSTRACT

In most real-world recommender systems, the observed rating data are subject to selection bias, and the data are thus missing-not-at-random. Developing a method to facilitate the learning of a recommender with biased feedback is one of the most challenging problems, as it is widely known that naive approaches under selection bias often lead to suboptimal results. A well-established solution for the problem is using propensity scoring techniques. The propensity score is the probability of each data being observed, and unbiased performance estimation is possible by weighting each data by the inverse of its propensity. However, the performance of the propensity-based unbiased estimation approach is often affected by choice of the propensity estimation model or the high variance problem. To overcome these limitations, we propose a model-agnostic meta-learning method inspired by the asymmetric tri-training framework for unsupervised domain adaptation. The proposed method utilizes two predictors to generate data with reliable pseudo-ratings and another predictor to make the final predictions. In a theoretical analysis, a propensity-independent upper bound of the true performance metric is derived, and it is demonstrated that the proposed method can minimize this bound. We conduct comprehensive experiments using public real-world datasets. The results suggest that the previous propensity-based methods are largely affected by the choice of propensity models and the variance problem caused by the inverse propensity weighting. Moreover, we show that the proposed meta-learning method is robust to these issues and can facilitate in developing effective recommendations from biased explicit feedback.

연구 동기 및 목표

• 관측된 평점이 누락되지 않은 랜덤(MNAR)인 추천 시스템에서의 선택 편향을 해결하기 위해, 일반적인 MCAR 가정을 위반한다.
• 성향 기반 방법의 한계를 극복하기 위해, 성향 모델 선택에 민감하고 역가중치에 의한 높은 분산을 유발하는 문제를 해결한다.
• MNAR 피드백 하에서 추천 정확도를 향상시키기 위한 모델 무관, 메타학습 기반 접근법을 개발한다.
• 진정한 성능에 대한 성향에 의존하지 않는 상한선을 유도하고, 이를 학습을 통해 최소화한다.
• 기존 탈편향 기법들과 비교하여 다양한 실제 데이터셋에서 강건성과 효과성을 입증한다.

제안 방법

• 비대칭 삼중 학습 프레임워크를 채택하여, 무 supervision 도메인 적응에서 영감을 얻었으며, 두 예측기를 사용해 가짜 평점을 생성하고, 하나의 예측기를 통해 최종 예측을 수행한다.
• 메타학습 전략을 활용하여, 최종 예측기는 두 보조 예측기에서 생성한 가짜 레이블 데이터를 기반으로 학습되며, 일반화 능력이 향상된다.
• 이론적 분석을 통해, 이 방법이 진정한 성능 지표에 대한 성향에 의존하지 않는 상한선을 최소화함을 보여준다.
• 이중 단계 학습 과정을 사용한다: 첫 번째로, 두 예측기는 관측된 데이터를 기반으로 학습된다; 두 번째로, 이들이 미관측 쌍에 대해 가짜 평점을 생성하여 최종 예측기를 학습한다.
• 모델에 관계없이 적용 가능한 방법으로, 행렬 분해와 같은 다양한 추천 모델과 통합 가능하도록 설계되었다.
• 신뢰도 임계값을 활용하여 신뢰할 수 있는 가짜 평점을 필터링하여 노이즈를 줄이고 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 성향 점수에 의존하지 않고 메타학습 접근법이 추천 시스템의 편향을 줄일 수 있는가?
• RQ2 제안된 비대칭 삼중 학습 방법은 성향 기반 방법과 비교해 모델 선택에 대한 강건성과 분산 측면에서 어떻게 성능을 내는가?
• RQ3 진정한 성능에 대한 이론적 상한선을 최소화함으로써, 이 방법이 MNAR 명시적 피드백에서 더 나은 성능을 달성하는가?
• RQ4 이 방법은 선택 편향 수준이 다양한 다양한 실제 데이터셋에 대해 얼마나 일반화되는가?
• RQ5 보조 예측기가 생성한 가짜 평점은 진정한 레이블이 없는 상황에서 최종 예측 정확도를 향상시키는가?

주요 결과

• 제안된 방법은 다양한 공개 데이터셋에서 기존의 성향 기반 방법보다 추천 정확도 측면에서 뚜렷이 뛰어나다.
• 기존 접근법의 주요한 한계인 성향 추정 모델 선택에 대한 민감도를 줄이며, 강건성을 입증한다.
• 특히 항목 인기도가 높거나 사용자 활동성의 다양성이 큰 환경에서 성능 추정의 분산을 감소시킨다.
• 실증 결과로, 도출된 성향에 의존하지 않는 상한선을 최소화함으로써 이론적 분석의 타당성을 입증한다.
• 신뢰할 수 있는 두 예측기에서 생성한 가짜 평점의 활용은 편향된 관측 데이터에 직접 학습하는 것보다 더 정확한 최종 예측을 가능하게 한다.
• 포괄적인 실험을 통해, 진짜 성향 점수가 알려지지 않았거나 잘못 지정된 경우에도 이 방법이 효과적임을 확인한다.