[논문 리뷰] Modeling Dynamic Attributes for Next Basket Recommendation

Yongjun Chen, Jia Li외 5명|arXiv (Cornell University)|2021. 09. 23.

Recommender Systems and Techniques참고 문헌 29인용 수 9

한 줄 요약

이 논문은 다음 바구니 추천을 햖을 때 동적 속성(예: 변화하는 사용자 소득 또는 품목 가격)과 순차적 바구니 상호작용을 함께 모델링하는 새로운 주의형 네트워크인 AnDa를 제안한다. 시간에 민감한 주기적 인코더를 사용해 동적 속성을 처리하고, 바구니 내 항목 간 관계를 포착하기 위해 내부 바구니 주의 모듈을 도입함으로써, 세 개의 실세계 데이터셋에서 최신 기술(SOTA)을 크게 능가하며, Hit Rate는 최대 21.87% 향상되고 NDCG는 최대 43.76% 향상된다.

ABSTRACT

Traditional approaches to next item and next basket recommendation typically extract users' interests based on their past interactions and associated static contextual information (e.g. a user id or item category). However, extracted interests can be inaccurate and become obsolete. Dynamic attributes, such as user income changes, item price changes (etc.), change over time. Such dynamics can intrinsically reflect the evolution of users' interests. We argue that modeling such dynamic attributes can boost recommendation performance. However, properly integrating them into user interest models is challenging since attribute dynamics can be diverse such as time-interval aware, periodic patterns (etc.), and they represent users' behaviors from different perspectives, which can happen asynchronously with interactions. Besides dynamic attributes, items in each basket contain complex interdependencies which might be beneficial but nontrivial to effectively capture. To address these challenges, we propose a novel Attentive network to model Dynamic attributes (named AnDa). AnDa separately encodes dynamic attributes and basket item sequences. We design a periodic aware encoder to allow the model to capture various temporal patterns from dynamic attributes. To effectively learn useful item relationships, intra-basket attention module is proposed. Experimental results on three real-world datasets demonstrate that our method consistently outperforms the state-of-the-art.

연구 동기 및 목표

• 시간이 지남에 따라 변화하는 사용자 관심을 정적 사용자 및 품목 속성만으로는 포착할 수 없는 한계를 해결하기 위해.
• 소득 또는 멤버십 유형과 같은 동적 속성에서 시간 간격 효과 및 주기적 행동과 같은 다양한 시간 패턴을 모델링하기 위해.
• 간단한 동시출현 또는 전반적 주의 외부의 복잡한 항목 상호의존성을 효과적으로 학습하기 위해.
• 다음 바구니 추천을 위한 통합적이고 안정적이며 표현력 있는 프레임워크에서 동적 속성과 바구니 상호작용을 융합하기 위해.
• 동적 속성 모델링이 정적 속성 기반 베이스라인 대비 일관된 성능 향상을 이끌어내는지 입증하기 위해.

제안 방법

• AnDa는 동적 속성과 바구니 항목 시퀀스를 위한 이중 인코더 아키텍처를 사용하여 별도이지만 조율된 학습을 가능하게 한다.
• 시간에 민감한 패딩 및 주기적 인덱스 임베딩 모듈은 동적 속성을 인코딩하여 간격 기반 및 주기적 시간 패턴을 모두 포착한다.
• 각 바구니에 대해 내부 바구니 다중 헤드 자기주의 모듈을 적용하여 다양한 항목 조합 간의 항목 수준 관계를 모델링한다.
• 시간 수준에서의 다중 헤드 자기주의를 사용하여 이전 바구니들을 관련성과 최신성에 따라 동적으로 가중한다.
• 동적 속성 표현과 항목 시퀀스 표현을 교차주의 메커니즘을 통해 융합하여 맥락 인식 기반 사용자 관심 모델링을 가능하게 한다.
• 모델은 순서 예측 목표를 사용해 엔드 투 엔드로 훈련되며, 상위-k 추천 성능(HR, NDCG, MAP)을 최적화한다.

실험 결과

연구 질문

• RQ1 소득 또는 멤버십 유형과 같은 동적 속성을 모델링하는 것이 정적 속성 대비 다음 바구니 추천 성능 향상에 기여하는가?
• RQ2 동적 속성에서 시간 간격과 주기성과 같은 다양한 시간 패턴이 사용자 구매 행동 예측에 어떤 영향을 미치는가?
• RQ3 내부 바구니 주의 모듈이 향후 바구니 구성에 영향을 주는 복잡한 항목 관계(예: 동시 구매, 기능 그룹)를 어느 정도 효과적으로 포착할 수 있는가?
• RQ4 정적 속성 또는 전반적 항목 동시출현에 의존하는 모델 대비 동적 속성과 항목 수준 주의를 융합한 모델의 성능은 어떠한가?
• RQ5 각 구성 요소(주기적 인코더, 내부 바구니 모듈, 시간 수준 주의)가 전체 추천 성능에 기여하는 정도는 어떠한가?

주요 결과

• EPR 데이터셋에서 AnDa는 가장 강력한 베이스라인(FDSA+) 대비 Hit Rate@5에서 상대적 21.87% 향상되었으며, Ta-Feng에서는 15.06%, SPR에서는 24.53% 향상되었다.
• 모델은 기준선 대비 NDCG@5에서 최대 43.76% 향상되었으며, SPR 데이터셋에서 가장 높은 상승률(43.76% 향상, FDSA+ 대비)을 기록했다.
• SPR 데이터셋에서 MAP 점수는 24.53% 향상되었고, EPR에서는 21.87% 향상되어 평가 지표 전반에서 일관된 향상을 보였다.
• 제거 실험 결과, 주기적 인덱스 임베딩을 제거한 AnDa(P)는 평균 점수에서 1.42% 감소했으며, 이는 계절 패턴을 포착하는 데 그 가치가 있음을 확인한다.
• 내부 바구니 주의 모듈은 기여도가 높았으며, 이를 제거한 AnDa(B-)는 평균 점수에서 1.89% 감소하여 항목 간 관계를 효과적으로 모델링하고 있음을 시사한다.
• 주의 시각화 결과, 모델이 의미 있는 주의 패턴을 학습하고 있음을 확인할 수 있었다: 서로 다른 헤드들이 서로 다른 항목 쌍(예: 과일 대비 전자기기)에 주의를 기울이며, 깊은 레이어에서 시간 수준 주의는 최근 항목을 중심으로 집중하는 경향을 보였다.