[論文レビュー] Natural Language Processing via LDA Topic Model in Recommendation Systems

Hamed Jelodar, Yongli Wang+2 more|arXiv (Cornell University)|Sep 20, 2019

Recommender Systems and Techniques参考文献 76被引用数 4

ひとこと要約

本稿では、自然言語処理におけるLDAトピックモデリングを活用した推薦システムの分類法を提案し、Gibbsサンプリングを用いてISWCおよびWWW国際会議の出版物（2013–2017年）を分析する。LDAベースのシステムがコールドスタート問題、スパarsity問題、および潜在的ユーザー関心のモデリングを効果的に解決でき、オンラインコミュニティにおける従来の協調フィルタリングの強力な代替手段を提供することを示している。

ABSTRACT

Today, Internet is one of the widest available media worldwide. Recommendation systems are increasingly being used in various applications such as movie recommendation, mobile recommendation, article recommendation and etc. Collaborative Filtering (CF) and Content-Based (CB) are Well-known techniques for building recommendation systems. Topic modeling based on LDA, is a powerful technique for semantic mining and perform topic extraction. In the past few years, many articles have been published based on LDA technique for building recommendation systems. In this paper, we present taxonomy of recommendation systems and applications based on LDA. In addition, we utilize LDA and Gibbs sampling algorithms to evaluate ISWC and WWW conference publications in computer science. Our study suggest that the recommendation systems based on LDA could be effective in building smart recommendation system in online communities.

研究の動機と目的

• アプリ、音楽、旅行、科学論文推薦など多様な分野におけるLDAトピックモデリングに基づく推薦システムの包括的分類法の構築を目的とする。
• ISWCおよびWWW国際会議の学術的出版データ（2013–2017年）を分析するうえで、LDAおよびGibbsサンプリングの有効性を評価することを目的とする。
• LDAベースの手法が、コールドスタートやデータスパarsityといった協調フィルタリングの根本的限界をどの程度軽減できるかを調査することを目的とする。
• 明示的なユーザー評価や事前知識に依存せずに、テキストコンテンツから潜在的ユーザー関心をモデル化・抽出することを目的とする。

提案手法

• 学術的出版物のテキストデータから隠れたトピックを発見するために、生成的確率的モデルとしての潜在ディリクレ割り当て（LDA）を採用した。
• ドキュメントごとのトピック分布とトピックごとの語分布を推定するために、LDAにおける近似推論としてGibbsサンプリングを適用した。
• DBLPデータセットを用いて、ISWCおよびWWW国際会議の論文（2013–2017年）からコーパスを構築し、各論文をトークン（語）としての単語を持つドキュメントとして扱った。
• ドキュメント-トピックおよびトピック-語分布をモデル化するためにディリクレ事前分布（αおよびη）を用い、確率的トピック推論を可能にした。
• 潜在的トピックをユーザーおよびアイテムの特徴にマッピングすることで、意味的コンテンツに基づいたユーザーの好みとアイテムの属性を模擬した。
• トピックコherレンスおよび意味的分析を通じて、研究動向とユーザー関心を特定するモデルのパフォーマンスを評価した。

実験結果

リサーチクエスチョン

• RQ1 LDAベースのトピックモデリングを、音楽、アプリ、科学論文など多様な分野における推薦システム構築に体系的かつ効果的に応用する方法は何か？
• RQ2 新規ユーザーまたは新規アイテムが十分な相互作用データを持たない場合、LDAは推薦システムにおけるコールドスタート問題をどの程度軽減できるか？
• RQ3 LDAは、テキストメタデータからの意味的コンテンツを活用することで、協調フィルタリングにおけるデータスパarsityを効果的に低減できるか？
• RQ4 明示的な好みの信号が存在しない状況でも、LDAはテキストコンテンツと評価パターンのみを用いて、潜在的ユーザー関心をどの程度正確にモデル化できるか？
• RQ5 学術的出版データにLDAを適用することで得られる研究動向および研究者関心に関するインサイトは何か？

主な発見

• LDAベースの推薦システムは、相互作用履歴に依存せず、意味的コンテンツに基づいて新規ユーザーまたはアイテムをモデル化することで、コールドスタート問題を効果的に解決する。
• ISWCおよびWWW国際会議の出版物へのLDAの適用により、時間経過に伴う研究動向と研究者関心に関連する整合性のとれたトピッククラスタが明らかになった。
• GibbsサンプリングによりLDAにおける推論が効果的に実行され、『セマンティックウェブ』『知識グラフ』『情報検索』といった意味的なトピックが学術的テキストから抽出可能であった。
• LDAは次元削減および探索的データ分析において実用的であり、コンテンツベースの推薦パイプラインにおける解釈可能性の向上とスパarsityの低減に寄与した。
• LDAによるトピックモデリングは、ユーザー生成コンテンツおよびアイテム記述における繰り返し現れる意味的テーマの同定により、潜在的ユーザー関心を効果的に捉えた。
• LDAを協調フィルタリング手法と統合することで、特にスパースな評価環境下において、推薦の正確性と多様性が向上した。