[論文レビュー] Application of Statistical Relational Learning to Hybrid Recommendation Systems

Shuo Yang, Mohammed Korayem+3 more|arXiv (Cornell University)|Jul 4, 2016

Recommender Systems and Techniques参考文献 16被引用数 4

ひとこと要約

本論文は、コンテンツベースおよび協調フィルタリングを広範な特徴工学なしに統合する統計的関係学習（SRL）手法である関係的機能勾配ブースティング（RFGB）を用いて、スケーラブルなハイブリッド推薦システムを提唱する。このアプローチは、コスト感受性の目的関数を用いて精度と再現率のトレードオフを調整することで、ユーザー満足度にとって重要な偽陽性を低減し、大規模な実世界の求職者推薦データで高い精度と再現率を達成する。

ABSTRACT

Recommendation systems usually involve exploiting the relations among known features and content that describe items (content-based filtering) or the overlap of similar users who interacted with or rated the target item (collaborative filtering). To combine these two filtering approaches, current model-based hybrid recommendation systems typically require extensive feature engineering to construct a user profile. Statistical Relational Learning (SRL) provides a straightforward way to combine the two approaches. However, due to the large scale of the data used in real world recommendation systems, little research exists on applying SRL models to hybrid recommendation systems, and essentially none of that research has been applied on real big-data-scale systems. In this paper, we proposed a way to adapt the state-of-the-art in SRL learning approaches to construct a real hybrid recommendation system. Furthermore, in order to satisfy a common requirement in recommendation systems (i.e. that false positives are more undesirable and therefore penalized more harshly than false negatives), our approach can also allow tuning the trade-off between the precision and recall of the system in a principled way. Our experimental results demonstrate the efficiency of our proposed approach as well as its improved performance on recommendation precision.

研究の動機と目的

• 従来のハイブリッド推薦システムが広範な特徴工学を必要とするという限界を克服するため、統計的関係学習（SRL）を活用すること。
• CareerBuilderのようなプラットフォームで見られる数十億件の求職者および履歴書記録を処理できるスケーラブルな、実世界の推薦システムを開発すること。
• 精度を再現率よりも優先するドメイン固有のコストの好みを反映するために、偽陽性と偽陰性のトレードオフを調整可能なハイパーパrameterを用いて、精度と再現率のトレードオフを調整すること。
• 関係的で大規模データ処理の文脈において、SRLを用いてコンテンツベースと協調フィルタリングを統合する有効性を評価すること、特にコールドスタートユーザーに対して。

提案手法

• ユーザー、求職、およびそれらの属性間の確率的依存関係を学習するために、関係的回帰木から構成されるブースティングモデル、すなわち関係的機能勾配ブースティング（RFGB）を用いる。
• 履歴書、求人広告、ユーザーの応募履歴からの特徴に基づいて、求人がユーザーに推薦されるべきかどうかを予測するためのターゲット関係 Match(User, Job) を定義する。
• ユーザーと求職、ユーザーとユーザーの類似性をモデル化するため、1次述語として UserSkill, JobSkill, UserJobDis（距離）, PrAppliedJob（以前の応募）を用いる。
• 類似ユーザーからターゲットユーザーへ知識を転送するため、協調フィルタリングのブリッジを表す述語として CommSkill, CommClass, CommCity を導入する。
• ハイパーパrameter α と β を用いて、目的関数にペナルティ項を追加することで、RFGBを変更し、精度と再現率のトレードオフを調整可能にする。
• モデルのロバストネスとスケーラビリティを向上させるために、地理的距離のような連続的特徴を4つのクラスに離散化する。

実験結果

リサーチクエスチョン

• RQ1 統計的関係学習は、数十億件のデータポイントを含む実世界の大規模な求職者推薦システムに効果的にスケーリング可能か？
• RQ2 SRLを用いてコンテンツベースと協調フィルタリングを統合することで、コンテンツベースフィルタリング単体と比較して推薦性能が向上するか？
• RQ3 ドメイン固有のコスト構造（例えば、偽陽性をより重視する）を反映するために、精度と再現率のトレードオフを原理的かつ効果的に調整可能か？
• RQ4 SRLベースのモデルは、従来のハイブリッドシステムと比較して、手作業による特徴工学の必要性を低減し、コールドスタートユーザーに対してもより強固に扱えるか？

主な発見

• ハイブリッドSRLベースのシステムは、コンテンツベースフィルタリング単体と比較して、再現率（すべてのユーザークラスで1.0に達する）とAUC-ROCが顕著に向上し、精度と正解率についても競争力を持つ。
• コスト感受性学習を用いたソフトマージンアプローチにより、偽陽性率（FPR）が顕著に低減され、ドメイン固有のコスト行列を考慮しない先行手法を上回る性能を示した。
• ハイパーパrameter α と β を用いて、精度と再現率のトレードオフを調整可能であり、異なる展開要件に合わせたカスタマイズが可能である。
• マルコフ論理ネットワーク（MLNs）は、同じデータに対して3か月間の計算を経てもスケーリングに失敗したため、提案されたRFGBベースのSRLアプローチの効率的さが浮き彫りになった。
• 類似ユーザーからの関係的特徴を活用することで、コールドスタート問題を効果的に処理し、広範な特徴工学への依存を低減した。
• 本研究は、SRLが大規模な実世界の推薦システムに成功裏に適用可能であることを示し、大規模データ処理の文脈における求職者推薦分野での初の導入を記録した。