[論文レビュー] Context-aware recommendations from implicit data via scalable tensor factorization

Balázs Hidasi, Domonkos Tikk|arXiv (Cornell University)|Sep 29, 2013

Recommender Systems and Techniques参考文献 29被引用数 7

ひとこと要約

本稿では、暗黙的フィードバックデータを用いた文脈対応推薦のためのスケーラブルなテンソル因子分解手法であるiTALSを提案する。この手法は、共役勾配法と座標降下法を用いて逐次最小二乗法（ALS）を拡張し、より高速な学習を実現し、非ゼロ要素数に対して線形スケーラビリティを維持しながら、6つのデータセットで最先端の性能を達成した。

ABSTRACT

Albeit the implicit feedback based recommendation problem - when only the user history is available but there are no ratings - is the most typical setting in real-world applications, it is much less researched than the explicit feedback case. State-of-the-art algorithms that are efficient on the explicit case cannot be automatically transformed to the implicit case if scalability should be maintained. There are few implicit feedback benchmark data sets, therefore new ideas are usually experimented on explicit benchmarks. In this paper, we propose a generic context-aware implicit feedback recommender algorithm, coined iTALS. iTALS applies a fast, ALS-based tensor factorization learning method that scales linearly with the number of non-zero elements in the tensor. We also present two approximate and faster variants of iTALS using coordinate descent and conjugate gradient methods at learning. The method also allows us to incorporate various contextual information into the model while maintaining its computational efficiency. We present two context-aware variants of iTALS incorporating seasonality and item purchase sequentiality into the model to distinguish user behavior at different time intervals, and product types with different repetitiveness. Experiments run on six data sets shows that iTALS clearly outperforms context-unaware models and context aware baselines, while it is on par with factorization machines (beats 7 times out of 12 cases) both in terms of recall and MAP.

研究の動機と目的

• ユーザーの好みがクリックや購入行動といった行動から推定される暗黙的フィードバックにおける推薦システム分野における研究の不足に対処すること。
• 時間的および行動的文脈を暗黙的フィードバックモデリングに統合する、スケーラブルで効率的な文脈対応推薦手法の開発。
• 既存のALSベースの手法が暗黙的フィードバック設定においてスケーラビリティに限界を示すのを克服するため、共役勾配法と座標降下法を用いた近似学習バージョンを導入すること。
• 季節性やアイテム購入の順序性といった複雑なユーザ行動パターンを、統一されたテンソル因子分解フレームワーク内でモデル化すること。

提案手法

• 暗黙的フィードバックを扱えるようにALSを拡張したテンソル因子分解モデルであるiTALSを提案。ユーザーとアイテムの相互作用を3次元テンソルとしてモデル化し、文脈を第3の次元として扱う。
• 正則化を施した重み付き最小二乗目的関数を用い、ユーザーおよびアイテムの潜在要因を学習する。暗黙的フィードバックは正例として扱い、負例は再重み付けにより暗黙的に推定する。
• 2つの近似トレーニングバージョンを導入：共役勾配法を用いるiTALS-CG（収束が速い）と、座標降下法を用いるiTALS-CD（非ゼロ要素数に対して線形にスケーリング可能）。
• 時間的季節性（例：日次・週次パターン）やアイテムの繰り返し性（例：頻繁に購入されるアイテム vs. 一度きりの購入）をモデル化する文脈対応特徴工学を導入し、それらを追加のテンソルモードとして表現する。
• 対称的テンソル分解アプローチを採用し、ユーザー、アイテム、文脈要因の低ランク表現を因子分解で学習し、予測値は対応する潜在ベクトルの内積として計算する。
• CGで前処理を施し、以前の解の状態を再利用することで、高い精度を維持しながらトレーニング時間を短縮し、ALS比で最大50％の高速化を達成した。

実験結果

リサーチクエスチョン

• RQ1 スケーラビリティと精度を維持しつつ、テンソル因子分解フレームワークを暗黙的フィードバックデータに効果的に適応できるか？
• RQ2 共役勾配法や座標降下法といった近似最適化手法は、暗黙的フィードバックにおけるトレーニング速度と予測性能の面でALSに比べてどのように異なるか？
• RQ3 季節性や順序的購入パターンといった文脈対応モデリングは、文脈に無関係なモデルに比べて、どれほど推薦精度を向上させられるか？
• RQ4 特に再現率とMAP指標において、因子分解マシンと比較してiTALSは最先端のモデルと同等の性能を発揮するか？
• RQ5 大規模な暗黙的フィードバック環境下で、ALS、CG、CDといった異なる最適化戦略は収束速度とモデル安定性にどのように影響を与えるか？

主な発見

• iTALSは、テストした6つのデータセットすべてにおいて、文脈に無関係なモデルおよび文脈対応ベースライン（iALS、iCA）を再現率@20およびMAP@20の両指標で顕著に上回った。
• iTALS-CGバージョンは、ALSと同等またはより高い精度を維持しながら、最大50％の高速なトレーニングを達成し、最もスケーラブルで実用的な選択肢となった。
• 共役勾配法は、特に高次元設定において、解の再利用が可能であるため、安定性と精度の面で座標降下法を常に上回った。
• モデルは文脈を介したユーザ行動のセグメンテーションを効果的に捉えた：季節性モデリングにより周期的な使用パターンが区別され、順序性モデリングにより繰り返し購入と一回限りの購入が区別された。
• 因子分解マシン（12件中7件で上回った）と同等の性能を達成し、再現率とMAPの両指標で優れた結果を示したが、これは暗黙的フィードバックに特化して設計されたにもかかわらず顕著である。
• 目的関数における再重み付けの使用により、頻度の高い相互作用に対して高い信頼度を割り当てることで、暗黙的フィードバックの曖昧性を軽減し、モデルのロバスト性が向上した。