[논문 리뷰] A Simple but Hard-to-Beat Baseline for Session-based Recommendations.

Fajie Yuan, Alexandros Karatzoglou외 3명|arXiv (Cornell University)|2018. 08. 15.

Generative Adversarial Networks and Image Synthesis참고 문헌 20인용 수 9

한 줄 요약

이 논문은 희귀한 컨volution과 잔차 블록을 사용하여 짧고 긴 항목 시퀀스 간의 의존성을 효과적으로 포착하는 간단하지만 매우 효과적인 CNN 기반 모델을 제안한다. 이 모델은 훈련 시간을 단축하면서도 최신 기술 수준의 정확도를 달성하여 향후 연구를 위한 강력한 베이스라인을 수립한다.

ABSTRACT

Convolutional Neural Networks (CNNs) models have been recently introduced in the domain of top-$N$ session-based recommendations. An ordered collection of past items the user has interacted with in a session (or sequence) are embedded into a 2-dimensional latent matrix, and treated as an image. The convolution and pooling operations are then applied to the mapped item embeddings. In this paper, we first examine the typical session-based CNN recommender and show that both the generative model and network architecture are suboptimal when modeling long-range dependencies in the item sequence. To address the issues, we propose a simple, but very effective generative model that is capable of learning high-level representation from both short- and long-range dependencies. The network architecture of the proposed model is formed of a stack of holed convolutional layers, which can efficiently increase the receptive fields without relying on the pooling operation. Another contribution is the effective use of residual block structure in recommender systems, which can ease the optimization for much deeper networks. The proposed generative model attains state-of-the-art accuracy with less training time in the session-based recommendation task. It accordingly can be used as a powerful session-based recommendation baseline to beat in future, especially when there are long sequences of user feedback.

연구 동기 및 목표

• 기존의 CNN 기반 세션 추천 모델이 사용자 상호작용 시퀀스에서 장거리 의존성을 모델링하는 데에 한계를 보이고 있는 문제를 해결하기 위해.
• 순차적인 사용자 행동에서 더 나은 표현 학습을 위해 생성 모델과 네트워크 아키텍처를 개선하기 위해.
• 훈련 시간을 단축하면서도 추천 정확도를 유지하거나 향상시키기 위해.
• 긴 세션 시퀀스에서 기존 방법들을 능가하는 강력하고 쉽게 구현할 수 있는 베이스라인을 개발하기 위해.

제안 방법

• 모델은 항목 시퀀스를 2차원 잠재 행렬 표현으로 다루며, 이를 컨볼루션 처리를 위해 이미지로 간주한다.
• 희귀(아트로스) 컨볼루션 레이어를 사용하여 다운샘플링 없이 수신 영역을 확장함으로써 더 나은 장거리 의존성 모델링을 가능하게 한다.
• 깊은 네트워크의 훈련을 촉진하고 최적화를 향상시키기 위해 네트워크 아키텍처에 잔차 블록을 통합한다.
• 생성 모델은 과거 상호작용 시퀀스를 기반으로 세션에서 다음 항목을 예측하도록 훈련된다.
• 최대 풀링 연산을 피하고, 공간 해상도를 유지하며 순차적 패턴을 포착하기 위해 희귀 컨볼루션에 의존한다.
• 항목 임베딩은 훈련 가능한 임베딩 레이어를 통해 학습되며, 2차원 컨볼루션 스택의 입력으로 사용된다.

실험 결과

연구 질문

• RQ1 희귀 컨볼루션을 사용하는 더 단순한 CNN 아키텍처가 세션 기반 추천 과제에서 기존 모델을 능가할 수 있는가?
• RQ2 표준 컨볼루션과 풀링 레이어에 비해 희귀 컨볼루션은 사용자 세션 시퀀스에서 장거리 의존성을 얼마나 효과적으로 모델링할 수 있는가?
• RQ3 잔차 블록은 깊은 세션 추천 네트워크에서 훈련 안정성과 성능을 얼마나 향상시키는가?
• RQ4 제안된 모델은 이전 방법들에 비해 훈련 시간을 단축하면서도 최신 기술 수준의 정확도를 달성하는가?

주요 결과

• 제안된 모델은 표준 세션 기반 추천 벤치마크에서 최신 기술 수준의 정확도를 달성한다.
• 성능을 유지하거나 향상시키면서도 이전의 CNN 기반 모델들에 비해 훈련 시간을 크게 단축시킨다.
• 희귀 컨볼루션의 사용은 풀링 연산에 의존하지 않고도 장거리 의존성을 효과적으로 모델링할 수 있게 한다.
• 잔차 블록의 통합은 최적화와 성능 향상을 향상시키는 깊은 네트워크 아키텍처를 가능하게 한다.
• 이 모델은 간단하고 강력한 베이스라인을 수립하여 특히 긴 사용자 세션 시퀀스에서 기존 방법들을 능가하기 어렵다.