[논문 리뷰] Twitter Hashtag Recommendation using Matrix Factorization

Hamidreza Alvari|arXiv (Cornell University)|2017. 05. 30.

Recommender Systems and Techniques참고 문헌 20인용 수 3

한 줄 요약

이 논문은 사용자의 이력적 해시태그 사용을 기반으로만 해시태그를 추천하는 가중치 행렬 분해(hWMF)를 사용하는 해시태그 추천 시스템을 제안한다. 트윗 내용에 의존하지 않으며, 해시태그 간 상관관계를 모델링하고, 교대 최소 제곱법(ALS)을 사용해 최적화함으로써, 기준 모델 대비 우수한 성능을 달성하여 관련성 있고 사용자 일관성 있는 해시태그를 추천한다.

ABSTRACT

Twitter, one of the biggest and most popular microblogging Websites, has evolved into a powerful communication platform which allows millions of active users to generate huge volume of microposts and queries on a daily basis. To accommodate effective categorization and easy search, users are allowed to make use of hashtags, keywords or phrases prefixed by hash character, to categorize and summarize their posts. However, valid hashtags are not restricted and thus are created in a free and heterogeneous style, increasing difficulty of the task of tweet categorization. In this paper, we propose a low-rank weighted matrix factorization based method to recommend hashtags to the users solely based on their hashtag usage history and independent from their tweets' contents. We confirm using two-sample t-test that users are more likely to adopt new hashtags similar to the ones they have previously adopted. In particular, we formulate the problem of hashtag recommendation into an optimization problem and incorporate hashtag correlation weight matrix into it to account for the similarity between different hashtags. We finally leverage widely used matrix factorization from recommender systems to solve the optimization problem by capturing the latent factors of users and hashtags. Empirical experiments demonstrate that our method is capable to properly recommend hashtags.

연구 동기 및 목표

• 사용자 개인정보 보호 문제로 인해 공개된 트윗 내용이 부족한 상황에서도 관련성이 높은 해시태그를 추천하는 데 도전한다.
• 자연어 처리(NLP)가 필요하고 계산 부담이 큰 컨텐츠 기반 방법의 한계를 극복한다.
• 사용자 해시태그 사용 이력과 해시태그 상관관계를 통합한 최적화 문제로 해시태그 추천을 공식화한다.
• 사용자 행동 패턴과 해시태그 동시 발생 빈도를 활용하는 경량이며 컨텐츠 없는 추천 모델을 개발한다.
• 사용자가 일관되게 유사한 해시태그를 사용함을 입증함으로써, 이력 기반 추천에 효과적임을 확인한다.

제안 방법

• 사용자-해시태그 상호작용을 희소하고 저질서 행렬 X ∈ ℝ₊^{N×M}로 모델링하며, x_ij는 사용자 i가 해시태그 j를 사용했는지를 나타낸다.
• 관측된 사용자-해시태그 상호작용과 예측된 상호작용 간 재구성 오차를 최소화하는 최적화 문제로 해시태그 추천을 공식화한다.
• 해시태그 동시 발생 빈도에 따라 학습 샘플에 높은 가중치를 할당하는 가중치 행렬 분해(hWMF)를 도입한다.
• 해시태그 간 유사성을 반영하기 위해 해시태그 상관관계 가중치 행렬 W를 사용하며, 이는 트윗 내에서의 동시 사용 빈도로 계산된다.
• 사용자 및 해시태그 잠재 요인 행렬을 반복적으로 최적화하기 위해 교대 최소 제곱법(ALS) 알고리즘을 적용한다.
• 트윗 텍스트를 사용하지 않고도 사용자 선호도와 주제적 관계를 포착하는 저차원 잠재 요인을 학습한다.

실험 결과

연구 질문

• RQ1 사용자들은 시간이 지남에 따라 일관되게 유사한 해시태그를 사용하는 경향이 있는가, 즉 일관된 사용 패턴이 존재하는가?
• RQ2 해시태그 동시 발생 패턴은 추천 정확도 향상에 효과적으로 활용될 수 있는가?
• RQ3 컨텐츠 기반 방법과 비교해 컨텐츠 없는 이력 기반 행렬 분해 접근법은 해시태그 추천에서 어떤 성능을 보이는가?
• RQ4 해시태그 상관관계를 통합함으로써 추천 성능 향상에 어느 정도 기여하는가?
• RQ5 트윗 텍스트나 NLP, 유사도 계산에 의존하지 않고도 사용자 해시태그 이력만으로 학습된 저질서 행렬 분해 모델이 경쟁적인 성능을 낼 수 있는가?

주요 결과

• 두 표본 t-검정 결과, 사용자가 유사한 해시태그를 더 자주 사용하는 것으로 나타나, 해시태그 사용 행동의 일관성이 입증되었다.
• 제안된 hWMF 모델은 기준 모델 대비 정확한 해시태그 추천에서 뛰어난 성능을 보이며, 해시태그 상관관계 통합의 효과성을 입증했다.
• 트윗 내용을 요구하지 않아도 우수한 성능을 달성함으로써, 비공개 또는 개인 사용자 타임라인과 같은 환경에 적합한 모델임을 확인했다.
• 해시태그 동시 발생 빈도를 가중치 행렬로 통합함으로써 모델 일반화 능력과 추천 정밀도가 향상되었다.
• 모델은 계산적으로 효율적이며 확장 가능하여, 복잡한 NLP 파이프라인이나 유사도 계산이 필요 없음을 입증했다.
• 트렌딩 해시태그를 포함한 정제된 트윗 데이터셋에 대한 실증적 평가를 통해, 사용자 이력과 일치하는 관련성이 높은 해시태그를 효과적으로 추천할 수 있음을 확인했다.