[논문 리뷰] TDR-CL: Targeted Doubly Robust Collaborative Learning for Debiased Recommendations

Haoxuan Li, Yan Lyu외 2명|arXiv (Cornell University)|2022. 03. 19.

Domain Adaptation and Few-Shot Learning인용 수 14

한 줄 요약

이 논문은 편향 제거 추천을 위한 타겟팅 이중 강건(collective learning) 방법인 TDR-CL을 제안한다. 이 방법은 보정된 오차를 비모수적 및 모수적 구성요소로 분해함으로써 이중 강건(DR) 추정기의 편향과 분산을 줄이고, 공동 보완을 가능하게 한다. 다양한 벤치마크에서 평점 예측 및 클릭스루율 추정 작업에서 최신 기술 수준의 성능을 달성하며, 다양한 편향 조건 하에서 AUC, NDCG, MSE 등에서 뚜렷한 향상을 보였다.

ABSTRACT

Bias is a common problem inherent in recommender systems, which is entangled with users' preferences and poses a great challenge to unbiased learning. For debiasing tasks, the doubly robust (DR) method and its variants show superior performance due to the double robustness property, that is, DR is unbiased when either imputed errors or learned propensities are accurate. However, our theoretical analysis reveals that DR usually has a large variance. Meanwhile, DR would suffer unexpectedly large bias and poor generalization caused by inaccurate imputed errors and learned propensities, which usually occur in practice. In this paper, we propose a principled approach that can effectively reduce bias and variance simultaneously for existing DR approaches when the error imputation model is misspecified. In addition, we further propose a novel semi-parametric collaborative learning approach that decomposes imputed errors into parametric and nonparametric parts and updates them collaboratively, resulting in more accurate predictions. Both theoretical analysis and experiments demonstrate the superiority of the proposed methods compared with existing debiasing methods.

연구 동기 및 목표

• 추천 시스템을 위한 기존 이중 강건(DR) 방법에서 높은 분산과 모형 잘못 설정에 대한 민감성 문제를 해결하기 위해.
• 실제 상황에서 오차 보정 모형이 정확하지 않을 경우 DR 추정기의 편향과 분산을 줄이기 위해.
• 모형에 종속되지 않는 프레임워크를 개발하여, 오차 보정 개선을 통한 타겟팅 학습을 통해 어떤 DR 방법이라도 향상시키기 위해.
• 균일 데이터가 없는 통합적 공동 학습 접근법을 제안하여, 모수적 및 비모수적 오차 구성요소를 동시에 최적화함으로써 강건한 예측을 달성하기 위해.
• 노출 편향 수준이 다양한 실세계 및 반-합성 추천 데이터셋에서 더 나은 일반화 및 강건성 확보를 위해.

제안 방법

• 오차 보정이 잘못 설정되어도 편향과 분산을 줄일 수 있도록 타겟팅 학습을 활용한 타겟팅 이중 강건(TDR) 추정기를 도입한다.
• 효율적 영향 함수 조건을 만족시키기 위해 $1/\hat{p}_{u,i} - 1$ 을 핵심 구성요소로 사용하는 타겟팅 단계를 적용하여 渐近 효율성 확보.
• 오차 보정을 모수적 모형과 비모수적 잔차 보정 항으로 분해하는 새로운 반모수적 공동 학습 프레임워크인 TDR-CL을 제안.
• 편향을 적응적으로 보정하기 위해 공동 학습 메커니즘을 통해 모수적 및 비모수적 오차 구성요소를 동시에 업데이트.
• 추가적인 균일 데이터가 필요 없이도 강건성을 유지하는 균일 데이터 없는 설계를 적용하여, 작은 성향 확률에 대해서도 강건성을 확보.
• 제곱 손실과 AUC/NDCG를 평가 지표로 사용하여, 평점 예측 및 클릭 후 전환율 예측 작업에 적용.

실험 결과

연구 질문

• RQ1 타겟팅 학습이 편향 제거 추천에 효과적으로 적용되어, DR 추정기의 편향과 분산을 동시에 줄일 수 있는가?
• RQ2 모형 잘못 설정 조건 하에서 TDR-CL은 표준 DR 및 MRDR 방법보다 더 강건한가?
• RQ3 오차 보정 모형의 정확도가 DR 기반 추천 시스템의 성능에 어떤 영향을 미치는가?
• RQ4 모수적 및 비모수적 오차 구성요소를 동시에 최적화하는 공동 학습 프레임워크가 표준 DR 방법보다 뛰어난 성능을 낼 수 있는가?
• RQ5 성향 절단 수준이 다양한 경우 성능이 어떻게 변화하는가? 이는 작은 성향 확률에 대한 강건성 여부를 시사한다.

주요 결과

• TDR-CL은 합성 및 실세계 데이터셋에서 MSE, AUC, NDCG@5, NDCG@10 등 모든 지표에서 최고의 성능을 기록하며, DR-CL 및 MRDR-CL을 압도적으로 앞선다.
• 성향 절단 임계값 0.15에서 최적 성능을 달성하여, 정보 활용도와 강건성 사이의 강력한 트레이드오프를 시사한다.
• 특히 모형 잘못 설정 조건 하에서 표준 DR 및 MRDR 방법에 비해 편향과 분산이 크게 감소한다.
• 제거 분석 결과, 타겟팅 단계와 공동 학습이 필수적임을 확인하였으며, 타겟팅이 없는 DR-CL 및 MRDR-CL은 TDR-CL에 비해 성능이 열등하다.
• 작은 성향 확률에 대해서도 강건성을 유지하며, 오차 보정이 정확하지 않을 경우에도 낮은 분산을 유지한다.
• 이론적 분석을 통해 TDR가 이중 강건성, 유계성, 낮은 분산, 작은 성향 확률에 대한 강건성을 보장함을 확인하였다.