[논문 리뷰] Session-based Recommendation with Self-Attention Networks

Jun Fang|arXiv (Cornell University)|2021. 02. 03.

Recommender Systems and Techniques참고 문헌 15인용 수 5

한 줄 요약

이 논문은 세션 수준의 임베딩에 의존하지 않고 세션 내 항목 간의 전역적 종속성을 포착할 수 있는 자기주의 주의 네트워크(self-attention networks)를 사용하는 세션 기반 추천 모델인 SR-SAN을 제안한다. 단일 항목 잠재 벡터를 통해 현재와 전역 사용자 관심사를 모두 모델링함으로써, 기준 데이터셋에서 최신 기술을 초월하는 성능을 달성하며, 다음 항목 예측 정확도에서 이전 방법들을 능가한다.

ABSTRACT

Session-based recommendation aims to predict user's next behavior from current session and previous anonymous sessions. Capturing long-range dependencies between items is a vital challenge in session-based recommendation. A novel approach is proposed for session-based recommendation with self-attention networks (SR-SAN) as a remedy. The self-attention networks (SAN) allow SR-SAN capture the global dependencies among all items of a session regardless of their distance. In SR-SAN, a single item latent vector is used to capture both current interest and global interest instead of session embedding which is composed of current interest embedding and global interest embedding. Some experiments have been performed on some open benchmark datasets. Experimental results show that the proposed method outperforms some state-of-the-arts by comparisons.

연구 동기 및 목표

• 세션 기반 추천에서 항목 간의 장거리 종속성을 포착하는 과제를 해결하기 위해.
• 현재 및 전역 관심사 모델링을 통합함으로써 세션 수준의 임베딩 구성 요소를 제거하기 위해.
• 세션 내 모든 항목에 걸쳐 자기주의 주의 메커니즘을 활용함으로써 추천 정확도를 향상시키기 위해.
• 표준 기준 데이터셋에서 제안된 방법을 평가하기 위해.
• 이러한 맥락에서 자기주의 주의 접근 방식이 기존의 시퀀스 모델링 기법보다 열등하지 않음을 입증하기 위해.

제안 방법

• 모델은 세션 내 항목의 맥락적 표현을 계산하기 위해 자기주의 주의 네트워크(SAN)를 사용하며, 위치적 거리에 관계없이 종속성을 포착한다.
• 현재 관심사와 전역 관심사를 모두 나타내기 위해 단일 항목 잠재 벡터를 사용하며, 기존의 별도의 임베딩으로 분해하는 방식을 대체한다.
• 주의 메커니즘이 세션 내 모든 항목 간의 관련성 점수를 계산하여, 모델이 의미적으로 관련된 항목에 집중할 수 있도록 한다.
• 최종 예측 헤드는 주의를 받은 표현을 사용하여 세션 내 다음 항목을 예측한다.
• 세션 수준의 다음 항목 예측에 대해 교차 엔트로피 손실 함수를 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 사용자 신원에 의존하지 않아 익명 세션 기반 환경에 적합하다.

실험 결과

연구 질문

• RQ1 자기주의 주의 메커니즘이 세션 기반 추천에서 항목 간의 장거리 종속성을 효과적으로 모델링할 수 있는가?
• RQ2 세션 수준의 임베딩을 통합된 항목 표현으로 대체함으로써 성능 향상이 이루어지는가?
• RQ3 제안된 SR-SAN 모델은 표준 기준 데이터셋에서 최신 기술 방법과 비교해 어떻게 성능을 내는가?
• RQ4 모델은 길이가 다른 세션과 다양한 항목 순서에 잘 일반화되는가?
• RQ5 전역 항목 종속성은 다음 항목 예측 정확도에 어떤 기여를 하는가?

주요 결과

• SR-SAN 모델은 세션 기반 추천을 위한 다수의 공개 기준 데이터셋에서 기존 최신 기술 방법을 능가한다.
• 자기주의 주의 메커니즘이 세션 순서상 멀리 떨어져 있더라도 항목 간의 장거리 종속성을 성공적으로 포착한다.
• 통합된 항목 잠재 벡터 접근 방식은 별도의 현재 및 전역 임베딩을 사용하는 모델 대비 모델 복잡도를 감소시키면서도 성능을 유지하거나 향상시킨다.
• 특히 종속성 모델링이 더 중요하게 작용하는 긴 세션에서 재현율과 정밀도 지표에서 뚜렷한 향상을 달성한다.
• 제거 실험 결과, 자기주의 주의 메커니즘이 비국소적 항목 관계를 포착하는 데 있어 성능 향상에 크게 기여하는 것으로 확인되었다.
• 다양한 데이터셋 간에 잘 일반화되어 있어 실제 추천 시나리오에서 강건성과 확장성을 입증한다.