[論文レビュー] Expectation-Maximization for Learning Determinantal Point Processes

Jennifer Gillenwater, Alex Kulesza+2 more|arXiv (Cornell University)|Nov 4, 2014

Point processes and geometric inequalities参考文献 29被引用数 36

ひとこと要約

本論文は、固有値と固有ベクトルを用いてカーネルをパrameter化することにより、決定的ポイントプロセス（DPPs）の完全なカーネル行列の学習のための期待値最大化（EM）にインspiredされたアルゴリズムを提案する。固有分解を活用し、対数尤度の取り扱いやすい下界を導出することで、射影勾配上昇の数値的不安定性や退化問題を回避し、実世界の製品推薦タスクにおいてテスト尤度に最大16.5%の相対的改善を達成した。

ABSTRACT

A determinantal point process (DPP) is a probabilistic model of set diversity compactly parameterized by a positive semi-definite kernel matrix. To fit a DPP to a given task, we would like to learn the entries of its kernel matrix by maximizing the log-likelihood of the available data. However, log-likelihood is non-convex in the entries of the kernel matrix, and this learning problem is conjectured to be NP-hard. Thus, previous work has instead focused on more restricted convex learning settings: learning only a single weight for each row of the kernel matrix, or learning weights for a linear combination of DPPs with fixed kernel matrices. In this work we propose a novel algorithm for learning the full kernel matrix. By changing the kernel parameterization from matrix entries to eigenvalues and eigenvectors, and then lower-bounding the likelihood in the manner of expectation-maximization algorithms, we obtain an effective optimization procedure. We test our method on a real-world product recommendation task, and achieve relative gains of up to 16.5% in test log-likelihood compared to the naive approach of maximizing likelihood by projected gradient ascent on the entries of the kernel matrix.

研究の動機と目的

• DPPにおける完全な正定値カーネル行列の学習という課題に取り組むこと。これは非凸的であり、NP困難であると予想されている。
• 各行ごとのスカラー重みや固定されたDPPの線形結合に制限される従来の手法の限界を克服すること。
• 勾配上昇における射影ステップが引き起こす退化解を避ける、堅牢な最適化手順の開発。
• 計算効率を保ちながら、制約なしの非パラメトリックなDPPカーネル行列の学習を可能にすること。
• 固有分解とEM風最適化を活用することで、実世界の推薦タスクにおけるテスト尤度の向上を図ること。

提案手法

• カーネル行列 $ L $ をその固有値 $ \Lambda $ と固有ベクトル $ V $ を用いてパrameter化することで、尤度目的関数の再パラメータ化を可能にする。
• 現在の $ V $ と $ \Lambda $ の推定値を用いて、尤度の下界を構築することで、EM風のアルゴリズムを適用する。
• Eステップでは、現在のパラメータのもとでの完全データ尤度の期待値を計算する。
• Mステップでは、行列微分から導かれた閉形式の更新式を用いて、下界を $ \Lambda $ と $ V $ に関して最適化する。
• 行列 $ H^{Y_i} = V_{Y_i} R^2 V_{Y_i}^\top $ のサイズ $ |Y_i| \times |Y_i| $ を小さくすることで、$ V $ に関する勾配を効率的に計算し、計算複雑性を低減する。
• 固有分解により正定値性を内蔵的に維持することで、退化を引き起こす射影ステップの必要性を排除する。

実験結果

リサーチクエスチョン

• RQ1 射影ステップに依存せずに、完全なDPPカーネル行列を学習できるEM風のアルゴリズムを設計できるか？
• RQ2 固有値と固有ベクトルを用いたカーネルの再パラメータ化は、行列要素に対する直接的勾配上昇に比べ、より安定的かつ効果的な最適化をもたらすか？
• RQ3 提案手法は、実世界の部分集合選択タスクにおいて、ベースライン手法よりも高いテスト尤度を達成できるか？
• RQ4 低データ環境下や初期化が悪い場合、この手法はどのように性能を示すか？
• RQ5 EMベースのアプローチは、勾配上昇に比べ、アイテム間の多様性を促進する負の相互作用をよりよく保持できるか？

主な発見

• 提案されたEMベースの手法は、実世界の製品推薦タスクにおいて、射影勾配上昇と比較して最大16.5%の相対的改善をテスト尤度で達成した。
• 勾配上昇でよく見られる、射影によって引き起こされる退化解（ほぼ対角行列のカーネル行列）を回避し、多様性モデリングの質を向上させた。
• アルゴリズムは勾配上昇よりも漸近的に高速であり、初期化やデータセットの変動に対してより頑健であった。
• 低データ環境下でも、モーメントマッチング初期化により中央値でベースライン比4.55%の相対的向上を維持した。
• 固有分解の活用により、最初の勾配ステップを多項式時間 $ O(nNk^2) $ で正確に計算可能となった。ここで $ k $ は観測された最大部分集合のサイズを表す。
• 本手法はアイテム間の負の相互作用を効果的にモデル化できており、これはDPPが部分集合選択において多様性を強制するために不可欠である。