[논문 리뷰] StableDR: Stabilized Doubly Robust Learning for Recommendation on Data Missing Not at Random

Haoxuan Li, Chunyuan Zheng외 1명|arXiv (Cornell University)|2022. 05. 10.

Machine Learning and ELM인용 수 12

한 줄 요약

이 논문은 데이터가 랜덤하지 않게 누락된(MNAR) 상황에서 추천 시스템에 적합한 안정화된 이중적으로 강건한 학습 방법인 StableDR를 제안한다. 이 방법은 외삽에 대한 의존도를 줄이고, 임의로 작은 경향 점수에서도 경향성, 분산, 일반화 오차가 유한하게 유지됨을 보장한다. 이 방법은 보정, 경향성, 예측 모델 간 순환 최적화를 수행하며, 실제 데이터셋에서 기존의 DR 기반 방법보다 수렴성과 정확도 면에서 뛰어난 성능을 발휘한다.

ABSTRACT

In recommender systems, users always choose the favorite items to rate, which leads to data missing not at random and poses a great challenge for unbiased evaluation and learning of prediction models. Currently, the doubly robust (DR) methods have been widely studied and demonstrate superior performance. However, in this paper, we show that DR methods are unstable and have unbounded bias, variance, and generalization bounds to extremely small propensities. Moreover, the fact that DR relies more on extrapolation will lead to suboptimal performance. To address the above limitations while retaining double robustness, we propose a stabilized doubly robust (StableDR) learning approach with a weaker reliance on extrapolation. Theoretical analysis shows that StableDR has bounded bias, variance, and generalization error bound simultaneously under inaccurate imputed errors and arbitrarily small propensities. In addition, we propose a novel learning approach for StableDR that updates the imputation, propensity, and prediction models cyclically, achieving more stable and accurate predictions. Extensive experiments show that our approaches significantly outperform the existing methods.

연구 동기 및 목표

• 누락이 랜덤하지 않은(MNAR) 데이터 하에서 기존의 이중적으로 강건한(DR) 방법의 불안정성을 해결하기 위해.
• 사용자가 선호하는 항목들만 평가하는 경우 성능이 저하되는 외삽에 대한 의존도를 줄이기 위해.
• 임의로 작은 경향 점수와 정확하지 않은 보정 오차 하에서도 경향성, 분산, 일반화 오차가 유한하게 유지되도록 보장하기 위해.
• 보정, 경향성, 예측 모델을 순환적으로 업데이트하는 새로운 학습 전략을 개발하여 안정성과 정확도를 향상시키기 위해.
• StableDR가 실세계 추천 데이터셋에서 평점 예측 과업에서 최첨단의 편향 제거 방법보다 뛰어난 성능을 보임을 경험적으로 검증하기 위해.

제안 방법

• MNAR 환경에서 외삽에 대한 의존도를 줄이며 이중적으로 강건성을 유지하는 안정화된 이중적으로 강건한(StableDR) 추정기를 제안한다.
• 임의로 작은 경향 점수와 정확하지 않은 보정 하에서도 StableDR가 경향성, 분산, 일반화 오차가 유한하다는 이론적 프레임워크를 제시한다.
• 보정, 경향성, 예측 모델을 순환적으로 업데이트하여 안정성과 수렴성을 향상시키는 순환 학습 알고리즘을 설계한다.
• 경향성 모델 학습 중에 안정화 제약 조건을 적용하여 작은 경향성에 대한 민감도를 줄이고 강건성을 향상시킨다.
• 경향성 모델의 안정성을 높이기 위해 정규화 항이 포함된 교차 엔트로피 손실을 사용하여 추정의 분산을 감소시킨다.
• 각 모델이 다른 모델의 현재 상태에 기반하여 함께 최적화되는 공동 최적화 전략을 활용하여 전체 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 외삽에 대한 의존도가 높은 상황에서, 이중적으로 강건한 추정기는 임의로 작은 경향 점수와 정확하지 않은 보정 오차 하에서도 경향성과 분산이 유한하게 유지될 수 있는가?
• RQ2 외삽에 대한 의존도를 줄이면 MNAR 데이터 하에서 추천 모델의 안정성과 정확도가 어떻게 향상되는가?
• RQ3 보정, 경향성, 예측 모델 간 순환 최적화는 두 단계 또는 번갈아가며 학습하는 방법보다 더 나은 수렴성과 성능을 보이는가?
• RQ4 안정화 제약 조건의 강도가 MNAR 환경에서 모델 성능과 강건성에 어떤 영향을 미치는가?
• RQ5 StableDR는 실세계 추천 데이터셋에서 편향 없는 평가와 예측 정확도 면에서 기존의 DR 기반 방법보다 뛰어나게 성능을 발휘할 수 있는가?

주요 결과

• StableDR는 Coat와 Yahoo! R3 데이터셋에서 MSE, AUC, NDCG@5, NDCG@10의 네 가지 지표 전부에서 최고 성능을 기록하며, 모든 기준선을 압도한다.
• 제안된 순환 학습 전략은 두 단계 및 번갈아가며 학습하는 방법과 비교해 수렴성과 예측 정확도 면에서 뚜렷한 향상을 이룬다.
• 최적의 안정화 제약 조건 강도를 적용할 경우, DR-JL과 MRDR-JL에 비해 안정적이고 뚜렷한 성능 향상을 보이며, 특히 작은 경향성 상황에서 두드러진다.
• 표준 DR 방법이 경향성 오차가 무한해지는 반면, StableDR는 임의로 작은 경향 점수 하에서도 경향성과 일반화 오차가 유한하게 유지됨을 입증한다.
• Naive Bayes(Laplace 스무딩 적용)와 로지스틱 회귀 등 다양한 경향성 모델에 대해 안정성을 입증함으로써 일반화 능력을 확인한다.
• 제거 실험 결과, 안정화 제약 조건이 필수적임을 입증한다. 이 조건이 없을 경우 성능이 근사 기준선 수준으로 악화되며, 이는 안정성 확보에 있어 핵심적인 역할을 함을 시사한다.