[논문 리뷰] MetaSelector: Meta-Learning for Recommendation with User-Level Adaptive Model Selection

Mi Luo, Fei Chen외 5명|arXiv (Cornell University)|2020. 01. 22.

Recommender Systems and Techniques참고 문헌 37인용 수 4

한 줄 요약

MetaSelector는 사용자 수준의 적응형 모델 선택을 위한 메타학습 프레임워크를 제안한다. 메타학습자는 사용자의 역사를 바탕으로 각 사용자에게 최적의 추천 모델을 선택한다. 이는 단일 모델 기반 베이스라인과 샘플 수준의 선택기보다도 AUC와 LogLoss에서 뚜렷한 성능 향상을 이룬다. 특히 이질적인 사용자 집단에서 뛰어난 성능을 보인다.

ABSTRACT

Recommender systems often face heterogeneous datasets containing highly personalized historical data of users, where no single model could give the best recommendation for every user. We observe this ubiquitous phenomenon on both public and private datasets and address the model selection problem in pursuit of optimizing the quality of recommendation for each user. We propose a meta-learning framework to facilitate user-level adaptive model selection in recommender systems. In this framework, a collection of recommenders is trained with data from all users, on top of which a model selector is trained via meta-learning to select the best single model for each user with the user-specific historical data. We conduct extensive experiments on two public datasets and a real-world production dataset, demonstrating that our proposed framework achieves improvements over single model baselines and sample-level model selector in terms of AUC and LogLoss. In particular, the improvements may lead to huge profit gain when deployed in online recommender systems.

연구 동기 및 목표

• 모든 사용자에게 최고의 성능을 내는 단일 모델이 존재하지 않는 추천 시스템에서의 모델 이질성 문제를 해결하기 위해.
• 글로벌 또는 샘플 수준의 선택이 아닌 사용자 수준의 적응형 모델 선택을 통해 개인화된 추천 품질을 향상시키기 위해.
• 모델 선택 문제를 메타학습 과제로 재정의하여 사용자 특화 데이터 패턴에 신속하게 적응할 수 있도록 하기 위해.
• 메타학습된 모델 선택의 효과성을 실제 및 공개 데이터셋에서 입증하여 AUC와 LogLoss에서 일관된 성능 향상을 보여주기 위해.
• 메타학습을 통한 사용자 수준의 적응이 사용자 간 성능 분포를 더 안정적이고 공정하게 만들 수 있는지 검증하기 위해.

제안 방법

• MetaSelector는 최적화 기반 메타학습 접근법을 사용하며, 특히 모델 선택에 MAML 프레임워크를 적응시킨다.
• 각 사용자의 데이터는 작업으로 간주되며, 에피소드 기반 훈련에서 지원 세트와 쿼리 세트를 사용해 사용자 특화 적응을 시뮬레이션한다.
• 모델 선택기는 200-200-200 MLP로 구성되며, 각 사용자에 대해 기본 추천 모델들 사이의 확률 분포를 출력한다.
• 메타학습 중 선택기는 쿼리 세트에서 적응된 모델의 손실을 기반으로 경사 하강법을 통해 업데이트되어, 새로운 사용자에 대한 신속한 적응이 가능하다.
• 일반화 성능 향상을 위해 내부 학습률을 자동으로 학습하는 Meta-SGD를 사용한다.
• 추론 과정에서는 최종 예측이 선택된 모델들의 출력에 가중치를 적용한 가중 평균으로 구성되며, 가중치는 메타학습자가 결정한다.

실험 결과

연구 질문

• RQ1 RQ1: 메타학습을 통한 사용자 수준의 모델 선택이 AUC와 LogLoss 측면에서 단일 모델 기반 베이스라인 및 샘플 수준의 선택기보다 우수한가?
• RQ2 RQ2: MetaSelector는 사용자 간 예측 오차를 어떻게 분포시키며, 더 일관되고 공정한 성능 프로파일을 달성하는가?
• RQ3 RQ3: 작업 내 적응은 효과적인 사용자 특화 모델 선택에 필수적인가? 그리고 단순화된 변형과 비교해 볼 때 어떻게 다른가?
• RQ4 RQ4: MetaSelector의 성능 향상은 실사용 환경, 특히 생산 환경에서 실제 비즈니스에 어떤 영향을 미치는가?

주요 결과

• MetaSelector는 공개 데이터셋(Movielens, Amazon)과 실제 생산 환경 데이터셋 모두에서 단일 모델 기반 베이스라인 및 샘플 수준의 선택기보다 AUC와 LogLoss에서 뚜렷한 향상을 이룬다.
• MetaSelector는 사용자 간 LogLoss의 분산을 줄여, Movielens-1m에서 커널 밀도 추정을 통해 볼 수 있듯이 더 집중적이고 공정한 성능 분포를 만들어낸다.
• 실제로는 샘플 수준의 선택보다 사용자 수준의 모델 선택이 더 우수한 성능을 보였으며, 이는 샘플 수준의 완벽한 선택기라도 이론적 상한선이 더 높지만 사용자 수준의 특징이 더 구분력이 있다는 것을 시사한다.
• 작업 내 적응을 생략한 MetaSelector의 단순화된 버전은 약간의 성능 저하를 보였으며, 이는 메타학습 과정에서 사용자 수준의 적응이 중요하다는 것을 확인한다.
• RelaImpr 분석 결과, MetaSelector의 성능 향상은 온라인 추천 시스템에 도입되었을 때 상당한 수익 증대 효과를 낼 수 있음을 보여주며, 실사용 비즈니스 가치를 입증한다.