[논문 리뷰] Disentangled Graph Neural Networks for Session-based Recommendation

Ansong Li, Zhiyong Cheng외 4명|arXiv (Cornell University)|2022. 01. 10.

Recommender Systems and Techniques인용 수 11

한 줄 요약

이 논문은 항목 임베딩을 분리 가능한 요소로 분해하고, 요소 기반 유사도 행렬을 사용하는 게이트형 GNN을 통해 요소별 표현을 학습하며, 거리 상관관계를 사용하여 요소 간 독립성을 강제하는 방식으로 세션 기반 추천을 위한 분리 가능한 그래프 신경망(Disen-GNN)을 제안한다. 이 방법은 사용자 의도를 요소 수준에서 모델링함으로써 기존 최고 성능(SOTA) 방법들을 능가하는 성능을 달성하며, 세 가지 벤치마크 데이터셋에서 뛰어난 성능을 보인다.

ABSTRACT

Session-based recommendation (SBR) has drawn increasingly research attention in recent years, due to its great practical value by only exploiting the limited user behavior history in the current session. Existing methods typically learn the session embedding at the item level, namely, aggregating the embeddings of items with or without the attention weights assigned to items. However, they ignore the fact that a user's intent on adopting an item is driven by certain factors of the item (e.g., the leading actors of an movie). In other words, they have not explored finer-granularity interests of users at the factor level to generate the session embedding, leading to sub-optimal performance. To address the problem, we propose a novel method called Disentangled Graph Neural Network (Disen-GNN) to capture the session purpose with the consideration of factor-level attention on each item. Specifically, we first employ the disentangled learning technique to cast item embeddings into the embedding of multiple factors, and then use the gated graph neural network (GGNN) to learn the embedding factor-wisely based on the item adjacent similarity matrix computed for each factor. Moreover, the distance correlation is adopted to enhance the independence between each pair of factors. After representing each item with independent factors, an attention mechanism is designed to learn user intent to different factors of each item in the session. The session embedding is then generated by aggregating the item embeddings with attention weights of each item's factors. To this end, our model takes user intents at the factor level into account to infer the user purpose in a session. Extensive experiments on three benchmark datasets demonstrate the superiority of our method over existing methods.

연구 동기 및 목표

• 기존 세션 기반 추천 방법들이 사용자 의도를 항목 수준에서만 모델링하여 항목 요소에 의해 이끌리는 더 세밀한 사용자 관심사를 忽略하는 한계를 해결하기 위해.
• 전체 항목 임베딩이 아닌, 연기자, 감독, 스타일과 같은 요소 수준에서 사용자 의도를 포착함으로써 세션 임베딩 표현을 향상시키기 위해.
• 거리 상관관계를 사용하여 요소 간 독립성을 강제함으로써 분리 가능한 표현 학습을 향상시키기 위해.
• 각 요소에서 유래한 유사도 행렬을 사용하여 요소 전용 항목 표현을 학습하는 그래프 신경망 아키텍처를 개발하기 위해.
• 요소 수준의 어텐션과 분리 가능한 표현이 세션 기반 추천 성능을 향상시키는지 확인하기 위해.

제안 방법

• 요소별 선형 투영을 통해 항목 임베딩을 다수의 분리 가능한 요소로 분해하여, 서로 다른 항목 속성을 별도로 모델링할 수 있도록 한다.
• 각 요소에 대해 요소 기반 항목 인접 유사도 행렬을 구성하여, 해당 특정 요소 기반으로 쌍별 항목 유사도를 표현한다.
• 각 요소 전용 유사도 행렬에 게이트형 그래프 신경망(GGNN)을 적용하여 메시지 전파를 통해 요소 인식 항목 표현을 학습한다.
• 거리 상관관계를 정규화 항으로 사용하여 서로 다른 요소 표현 간 통계적 독립성을 최대화함으로써 중복을 줄인다.
• 각 요소의 중요도를 세션 내 항목 간에 동적으로 가중치를 매기는 요소 수준의 어텐션 메커니즘을 통합한다.
• 학습된 요소 수준 어テン션 가중치를 사용하여 항목 표현을 통합하여, 다음 항목 예측을 위한 통합된 의도 인식 세션 임베딩을 생성한다.

실험 결과

연구 질문

• RQ1 연기자, 감독, 제품 특성과 같은 요소 수준에서 사용자 의도를 모델링하는 것이 항목 수준 모델링에 비해 세션 기반 추천 성능을 향상시키는가?
• RQ2 거리 상관관계를 통해 분리 가능한 요소 간 독립성을 강제할 경우, 학습된 표현의 품질과 추천 정확도에 어떤 영향을 미치는가?
• RQ3 다양한 데이터셋에 대해 최적의 분리 가능한 요소 수는 얼마이며, 성능에 어떤 영향을 미치는가?
• RQ4 요소 독립성 제어를 위한 정규화 계수는 모델 성능과 학습 안정성에 어떤 영향을 미치는가?
• RQ5 요소 기반 유사도 행렬을 사용하는 요소별 GNN 전파 방식은 세션 시퀀스에서 장거리 종속성 모델링을 얼마나 향상시키는가?

주요 결과

• Disen-GNN은 Diginetica, Nowplaying, YOOTAIL 세 가지 벤치마크 데이터셋에서 모두 최고 성능(SOTA)을 기록하며, P@20 및 MRR@20 지표에서 기존 SOTA 방법들을 일관되게 능가한다.
• 최적의 분리 가능한 요소 수(K)는 데이터셋에 따라 다르다: Diginetica에서는 K=5, Nowplaying에서는 K=6–12이며, 과적합 또는 요소 임베딩 용량 감소로 인해 성능이 절정에 이르러 후행으로 감소한다.
• 정규화 계수 λ를 중간 수준으로 설정할 경우 성능 향상이著명하다. λ=0(독립성 제약 없음)일 경우 결과가 열악하며, 너무 높은 λ는 예측 손실를 지배하여 성능을 떨어뜨린다.
• 절단 실험 결과, 분리 가능한 표현 학습과 요소 수준 어텐션 모두 필수적인 구성 요소임을 확인하였으며, 각각 최종 성능 향상에 기여한다.
• GGNN에 요소 기반 유사도 행렬을 사용함으로써 요소 전용 정보의 효과적 전파가 가능해져, 즉각적인 순차 전이를 초월한 장거리 종속성을 포착할 수 있었다.