[논문 리뷰] Causal Disentangled Recommendation Against User Preference Shifts

Wenjie Wang, Xinyu Lin외 4명|arXiv (Cornell University)|2023. 03. 28.

Recommender Systems and Techniques인용 수 6

한 줄 요약

이 논문은 시간적 변동 자동인코더와 학습 가능한 행렬을 통해 시계열 환경에서의 사용자 선호도 변화를 모델링하고, 희박한 카테고리 수준의 선호도 영향을 분리함으로써, 분포 외 환경에서의 일반화를 향상시키는 Causal Disentangled Recommendation (CDR) 프레임워크를 제안한다. CDR는 선호도 변화 역학과 희박성의 공동 고려를 통해 세 개의 데이터셋에서 최신 기준 모델을 능가하는 성능 향상을 이끌어내어 추천 정확도와 내성에 뛰어난 성능을 발휘한다.

ABSTRACT

Recommender systems easily face the issue of user preference shifts. User representations will become out-of-date and lead to inappropriate recommendations if user preference has shifted over time. To solve the issue, existing work focuses on learning robust representations or predicting the shifting pattern. There lacks a comprehensive view to discover the underlying reasons for user preference shifts. To understand the preference shift, we abstract a causal graph to describe the generation procedure of user interaction sequences. Assuming user preference is stable within a short period, we abstract the interaction sequence as a set of chronological environments. From the causal graph, we find that the changes of some unobserved factors (e.g., becoming pregnant) cause preference shifts between environments. Besides, the fine-grained user preference over categories sparsely affects the interactions with different items. Inspired by the causal graph, our key considerations to handle preference shifts lie in modeling the interaction generation procedure by: 1) capturing the preference shifts across environments for accurate preference prediction, and 2) disentangling the sparse influence from user preference to interactions for accurate effect estimation of preference. To this end, we propose a Causal Disentangled Recommendation (CDR) framework, which captures preference shifts via a temporal variational autoencoder and learns the sparse influence from multiple environments. Specifically, an encoder is adopted to infer the unobserved factors from user interactions while a decoder is to model the interaction generation process. Besides, we introduce two learnable matrices to disentangle the sparse influence from user preference to interactions. Lastly, we devise a multi-objective loss to optimize CDR. Extensive experiments on three datasets show the superiority of CDR.

연구 동기 및 목표

• 사용자 선호도 변화 문제를 다루어, 분포 외(OOD) 환경에서 모델 성능이 저하되는 문제를 해결하기 위해.
• 시간 순서대로 정렬된 상호작용 환경에서 잠재된 요인(예: 생명 이벤트)과 그 영향을 모델링하여 선호도 변화의 종합적인 인과적 이해를 제공하기 위해.
• 사용자 상호작용에 대한 카테고리 수준의 선호도의 희박한 영향을 분리함으로써 추천 일반화를 향상시키기 위해.
• 다중 환경 학습과 인과적 구조 모델링을 통해 불변 및 변화하는 선호도를 통합적으로 포착하는 통합 프레임워크를 개발하기 위해.

제안 방법

• 프레임워크는 각각 상대적으로 안정된 사용자 선호도를 가지는 짧은 시간 간격으로 구성된 시계열 환경의 시퀀스로 사용자 상호작용을 모델링한다.
• 시간적 변동 자동인코더(TVAE)를 사용하여 상호작용에서 잠재된 요인(예: 임신)을 추론하고, 환경 간의 선호도 변화를 모델링한다.
• 카테고리 수준의 사용자 선호도가 항목 상호작용에 미치는 희박한 영향을 분리하기 위해 두 개의 학습 가능한 행렬을 도입한다. 이는 세밀한 영향 추정을 가능하게 한다.
• 선호도 변화 모델링과 희박한 영향 학습을 동시에 최적화하기 위해 분산 및 희박성 정규화를 통합한 다중 목표 손실 함수를 설계한다.
• 학습 및 추론 중에 환경 수를 민감하게 조정할 수 있도록 지원하여, 다양한 데이터 분포에 적응할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 다양한 시간 순서로 정렬된 상호작용 환경 간에서 사용자 선호도 변화를 이끄는 잠재적 인과적 요인은 무엇인가?
• RQ2 안정적이고 변화하는 성분을 구분하면서, 한 환경에서 다른 환경으로 사용자 선호도가 어떻게 전이되는지를 어떻게 모델링할 수 있는가?
• RQ3 카테고리 수준 선호도의 희박한 영향을 분리하면 분포 외(OOD) 환경에서 상호작용 예측 정확도에 얼마나 기여하는가?
• RQ4 다중 환경 기반의 인과 인지 프레임워크는 기존의 내성적 또는 순차적 추천 모델보다 선호도 변화 상황에서 더 나은 일반화 성능를 보일 수 있는가?

주요 결과

• CDR는 사용자 선호도 변화 상황에서 추천 성능을 크게 향상시켜, 세 개의 실세계 데이터셋에서 최신 기준 모델을 능가하는 정확도와 일반화 능력을 확보한다.
• 제거 실험 결과, 선호도 변화 모델링을 위한 시간적 VAE와 분리된 희박한 영향 행렬이 성능 향상에 기여한다는 것이 확인되었다.
• 분산 및 희박성 정규화를 통합한 다중 목표 손실 함수는 특히 OOD 평가 시나리오에서 모델의 안정성과 일반화 능력을 향상시킨다.
• 프레임워크는 다양한 환경 수에 걸쳐 뛰어난 내성성을 보이며, 다양한 데이터 분할 전략을 가진 실세계 구현에 유연성을 확보한다.