[논문 리뷰] Ranking Distillation: Learning Compact Ranking Models With High Performance for Recommender System

Jiaxi Tang, Ke Wang|arXiv (Cornell University)|2018. 09. 19.

Recommender Systems and Techniques참고 문헌 41인용 수 20

한 줄 요약

이 논문은 추천 시스템과 같은 랭킹 작업에서 더 큰 티처 모델을 모방하도록 작고 효율적인 스터디언 모델을 훈련시키는 데지식 정제 기법인 랭킹 정제(Ranking Distillation, RD)를 소개한다. 지도 학습 레이블과 티처 모델의 상위-K 랭킹 지도를 함께 활용함으로써, 스터디언 모델은 모델 크기가 절반 이하임에도 불구하고 티처 모델에 근접한 성능을 달성하며, 성능을 훼손하지 않은 채 추론 효율성을 크게 향상시킨다.

ABSTRACT

We propose a novel way to train ranking models, such as recommender systems, that are both effective and efficient. Knowledge distillation (KD) was shown to be successful in image recognition to achieve both effectiveness and efficiency. We propose a KD technique for learning to rank problems, called \emph{ranking distillation (RD)}. Specifically, we train a smaller student model to learn to rank documents/items from both the training data and the supervision of a larger teacher model. The student model achieves a similar ranking performance to that of the large teacher model, but its smaller model size makes the online inference more efficient. RD is flexible because it is orthogonal to the choices of ranking models for the teacher and student. We address the challenges of RD for ranking problems. The experiments on public data sets and state-of-the-art recommendation models showed that RD achieves its design purposes: the student model learnt with RD has a model size less than half of the teacher model while achieving a ranking performance similar to the teacher model and much better than the student model learnt without RD.

연구 동기 및 목표

• 대규모 추천 시스템에서 성능과 추론 효율성 사이의 상충 관계를 해결하기 위해.
• 분류 작업에서 효과가 입증된 지식 정제 기법을 상대적 순서 정렬을 목표로 하는 랭킹 문제에 적응시키기 위해.
• 소형 스터디언 모델이 대규모 티처 모델의 성능을 재현할 수 있도록 하는 유연하고 모델에 종속되지 않는 정제 프레임워크를 설계하기 위해.
• 지상 진실 레이블과 티처 모델의 랭킹 출력에서 온 지도를 균형 있게 조절하여 강건한 일반화를 보장하기 위해.
• 최신 랭킹 모델을 사용한 실제 데이터셋에서 방법을 평가하여 모델 압축과 성능 유지의 가능성을 입증하기 위해.

제안 방법

• 이 방법은 더 작은 스터디언 모델이 두 가지 손실을 최소화하도록 훈련시킨다: 하나는 지상 진실 관련성 레이블에 기반한 손실이고, 다른 하나는 더 큰 티처 모델이 생성한 상대적 랭킹 순서에 기반한 손실이다.
• 티처 모델은 각 쿼리에 대해 아이템들에 대한 소프트 랭킹 출력을 생성하고, 스터디언 모델은 이 출력으로부터 상위-K 아이템의 상대적 순서를 재현하도록 학습한다.
• 티처 모델이 높은 순위를 매긴 아이템에 더 높은 중요도를 할당하는 하이브리드 가중치 기법을 제안하여 정제의 정밀도를 향상시킨다.
• 정제 손실은 스터디언 모델과 티처 모델의 랭킹 분포 간의 KL 발산을 조합하며, 특히 상위 랭킹 아이템의 상대적 순서를 유지하는 데 중점을 둔다.
• 이 방법은 모델 아키텍처와 수직이므로, 딥 네URAL 네트워크를 포함한 어떤 티처-스터디언 랭킹 모델 쌍에도 적용 가능하다.
• 지상 진실 레이블과 티처 지도 간 신뢰도를 동적으로 균형 조절하기 위해 손실의 가중 조합을 사용함으로써 일반화 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 지식 정제 기법이 분류가 아닌 상대적 순서 정렬을 목표로 하는 랭킹 문제에 효과적으로 적용될 수 있는가?
• RQ2 티처 모델의 랭킹 출력을 어떻게 의미 있게 활용하여 작은 스터디언 모델을 지도함으로써 랭킹 성능을 유지할 수 있는가?
• RQ3 랭킹 작업 정제에서 티처 모델의 상위-K 랭킹에 대해 어떤 가중치 기법이 최고의 성능을 내는가?
• RQ4 스터디언 모델가 훨씬 작고 빠른 추론을 위해 설계되었음에도 불구하고, 대규모 티처 모델과 유사한 성능을 얼마나 잘 달성할 수 있는가?
• RQ5 이러한 방법은 정제 없이 스터디언 모델을 표준 방식으로 훈련시킨 경우와 비교해 모델 크기와 랭킹 성능 측면에서 어떤가?

주요 결과

• 랭킹 정제를 통해 훈련된 스터디언 모델는 티처 모델의 크기의 절반 이하로 줄였음에도 불구하고, 티처 모델과 거의 동일한 랭킹 성능을 유지했다.
• Gowalla 데이터셋에서 최고 성능을 낸 RD 변종(Hybrid weighting)은 P@10 0.0878, nDCG@10 0.1283, MAP 0.0969를 기록했으며, 정제 없이 훈련된 스터디언 모델보다 뚜렷이 뛰어난 성능을 보였다.
• Foursquare 데이터셋에서는 하이브리드 가중치 기법이 P@10를 균일 가중치 기법의 0.0424에서 0.0444로 향상시켰고, nDCG@10와 MAP에서도 유사한 개선을 보였다.
• 위치 중요도 가중치 기법이 균일 가중치 및 개별 모델 가중치 기법보다 우수했으며, 이는 티처 모델이 상위에 랭킹한 아이템이 정제 과정에서 더 유용하다는 것을 보여준다.
• 위치 중요도와 랭킹 불일치를 조합한 하이브리드 가중치 전략이 두 데이터셋 모두에서 최고의 성능을 기록하여, 지도의 균형 조절 측면에서 효과적임을 확인했다.
• 이 방법은 다양한 랭킹 모델과 데이터셋에서 강력한 일반화 성능을 보였으며, 실제 추천 환경에서의 유연성과 강건성을 입증했다.