[논문 리뷰] Interact and Decide: Medley of Sub-Attention Networks for Effective Group Recommendation

Lucas Vinh Tran, Tuan-Anh Nguyen Pham외 4명|arXiv (Cornell University)|2018. 04. 12.

Recommender Systems and Techniques참고 문헌 52인용 수 34

한 줄 요약

이 논문은 동적 사용자 상호작용을 다양한 하위 어텐션 네트워크로 모델링하는 새로운 신경망 아키텍처인 MoSAN을 제안한다. 여기서 각 사용자는 다른 사용자에 비한 선호도를 반영하는 하위 어텐션 모듈로 표현된다. MoSAN은 동적이고 그룹에 특화된 사용자 영향력 가중치를 효과적으로 학습함으로써 여러 벤치마크에서 일곱 개의 최신 기술(SOTA) 기준선을 크게 앞서는 최고 성능을 달성한다.

ABSTRACT

This paper proposes Medley of Sub-Attention Networks (MoSAN), a new novel neural architecture for the group recommendation task. Group-level recommendation is known to be a challenging task, in which intricate group dynamics have to be considered. As such, this is to be contrasted with the standard recommendation problem where recommendations are personalized with respect to a single user. Our proposed approach hinges upon the key intuition that the decision making process (in groups) is generally dynamic, i.e., a user's decision is highly dependent on the other group members. All in all, our key motivation manifests in a form of an attentive neural model that captures fine-grained interactions between group members. In our MoSAN model, each sub-attention module is representative of a single member, which models a user's preference with respect to all other group members. Subsequently, a Medley of Sub-Attention modules is then used to collectively make the group's final decision. Overall, our proposed model is both expressive and effective. Via a series of extensive experiments, we show that MoSAN not only achieves state-of-the-art performance but also improves standard baselines by a considerable margin.

연구 동기 및 목표

• 그룹 구성원 간 복잡하고 동적인 상호작용으로 인해 영향을 받는 집단적 의사결정 문제를 다루기.
• 기존 방법들이 정적 선호도 집계에 의존하거나 사용자 간 상호작용을 효과적으로 모델링하지 못하는 한계를 극복하기.
• 그룹 내에서 세밀하고 동적인 사용자 영향력을 포착하는 딥 러닝 모델을 개발하여 추천 정확도와 해석 가능성 향상.
• 각 사용자의 역할과 다양한 그룹 맥락에서의 영향력을 모델링하여 더 표현력 있고 개인화된 그룹 추천을 가능하게 하기.

제안 방법

• 각 그룹 구성원이 전용 하위 어텐션 모듈로 표현되는 하위 어텐션 네트워크의 조합(MoSAN)을 제안한다.
• 각 하위 어텐션 모듈은 사용자의 다른 모든 그룹 구성원에 비한 선호도를 기반으로 어텐션 가중치를 계산하여 사용자 간 상호작용을 동적으로 모델링한다.
• 하위 어텐션 출력을 가중치 기반 집계 메커니즘을 통해 조합하여 최종 그룹 수준의 추천 결정을 도출한다.
• 다중 헤드 어텐션 메커니즘을 사용하여 다양한 상호작용 패턴을 포착하고 표현력 있는 표현을 향상시킨다.
• 상위-N 추천 성능을 최적화하기 위해 쌍별 순위 손실을 사용하여 모델을 엔드 투 엔드로 훈련한다.
• 사용자 상호작용 데이터를 암묵적 신호로 통합하여 명시적인 역할 또는 메타데이터가 없더라도 동적 영향력 가중치를 학습한다.

실험 결과

연구 질문

• RQ1 그룹 내 사용자 상호작용을 어떻게 효과적으로 모델링할 수 있을까? 이를 통해 그룹 추천 성능을 향상시킬 수 있는가?
• RQ2 다양한 그룹에서 동적으로 사용자 영향력 가중치를 학습하는 신경망 아키텍처가 정적 집계 방법보다 우월한가?
• RQ3 실제 그룹 추천 데이터셋에서 MoSAN은 최신 기술(SOTA) 기준선보다 어떻게 성능을 내는가?
• RQ4 PIT와 같은 기준선 대비 MoSAN이 다양한 그룹 맥락에서 사용자의 진정한 중요성을 얼마나 잘 포착하는가?
• RQ5 특히 더 크고 복잡한 그룹에서 그룹 크기가 증가함에 따라 모델 성능은 어떻게 변하는가?

주요 결과

• MoSAN은 네 개의 실세계 데이터셋에서 일곱 개의 최신 기술(SOTA) 기준선을 크게 앞서며, ndcg@5와 rec@5 모두 최고 성능을 기록한다.
• Plancast 데이터셋에서 그룹 크기가 16~20인 경우 MoSAN은 최고 기준선 대비 20.97% 향상되어 더 큰 그룹에 대한 뛰어난 확장성을 보여준다.
• Plancast에서 상위 10명의 영향력 있는 사용자를 제거했을 때 MoSAN의 성능은 29.97% 감소하고, Meetup에서는 18.15% 감소하여 모델이 높은 영향력을 가진 사용자를 정확히 식별하고 의존하고 있음을 시사한다.
• 반면, PIT의 성능은 높은 가중치를 가진 사용자를 제거해도 거의 변화하지 않아, 그의 어텐션 메커니즘이 의미 있는 사용자 영향력을 포착하지 못한다는 것을 보여준다.
• MoSAN은 동적 사용자 역할을 성공적으로 탐지한다: 한 그룹에서는 사용자 u_4122가 지배적인 반면, 다른 그룹에서는 MoSAN이 다른 영향력 있는 사용자를 식별한다. 이는 PIT가 고정된 영향력 가중치를 할당하는 데 반해 MoSAN은 유연하게 변화하는 영향력을 반영한다는 것을 의미한다.
• 제거 실험 결과, 단순한 어텐션 풀링은 충분하지 않음을 확인할 수 있었으며, 이는 기초 행렬 분해 모델과 유사한 성능을 보이며 MoSAN의 하위 어텐션 설계의 필수성을 강조한다.