[論文レビュー] Geometric Matrix Completion: A Functional View

Abhishek Sharma, Maks Ovsjanikov|arXiv (Cornell University)|Sep 29, 2020

Sparse and Compressive Sensing Techniques参考文献 16被引用数 4

ひとこと要約

本論文は、関数マップ文献から理論的に裏付けられた単一の正則化項に基づく、幾何的行列補完の新しい機能的視点を導入している。合成データおよび実世界の推薦データセットにおいて最先端の性能を達成しており、合成設定では先行手法を最大で2桁以上上回っている。また、複数の正則化項を必要とする従来の手法よりも単純で解釈可能性に優れている。

ABSTRACT

We propose a totally functional view of geometric matrix completion problem. Differently from existing work, we propose a novel regularization inspired from the functional map literature that is more interpretable and theoretically sound. On synthetic tasks with strong underlying geometric structure, our framework outperforms state of the art by a huge margin (two order of magnitude) demonstrating the potential of our approach. On real datasets, we achieve state-of-the-art results at a fraction of the computational effort of previous methods. Our code is publicly available at https://github.com/Not-IITian/functional-matrix-completion

研究の動機と目的

• 複数の非凸正則化スキームに依存する従来の幾何的行列補完手法の限界を解消すること。
• 行と列のグラフにおける幾何的構造を活用する、原理的で解釈可能なフレームワークを構築すること。
• 強い幾何的構造を示す合成データ上で性能を向上させつつ、実世界の推薦システムデータにおいても効率性を維持すること。
• 複数の正則化項を単一の理論的根拠に基づく機能的正則化に置き換えることで最適化を単純化すること。
• グラフラプラシアン固有関数による低次元基底表現が、効果的な行列回復に十分な低ランク正則化を提供することを示すこと。

提案手法

• 行グラフと列グラフ間の関数マップ表現を用いて、幾何的行列補完を凸最適化問題として定式化する。
• グラフラプラシアンのスペクトル分解を用いて、2つのグラフの積空間上での関数を表現する低次元基底を定義する。
• 行グラフと列グラフの固有基底間の一貫性を強制する、関数マップ整合性に基づく単一の正則化項を導入する。
• データ適合性と提案された機能的正則化の組み合わせを最小化することで行列補完の目的関数を最適化し、非凸項を回避する。
• グラフラプラシアンの固有基底を低次元表現空間として用い、最適化に必要なパラメータ数を顕著に削減する。
• 行グラフと列グラフの固有基底を整合させる変換行列を適用し、緩い等長性仮定のもとで対角関数マップ表現を可能にする。

実験結果

リサーチクエスチョン

• RQ1 関数マップ理論から導出された単一の凸正則化項は、幾何的行列補完において複数の非凸正則化を上回る性能を発揮できるか？
• RQ2 提案された機能的視点は、強い幾何的構造を示す合成データにどの程度一般化可能か？
• RQ3 実世界の推薦システムにおけるノイズ混じりまたは摂動を加えたグラフ構造に対し、この手法はどの程度頑健性を示すか？
• RQ4 関数マップフレームワークは、深層学習ベースや多正則化アプローチに比べ、より単純で解釈可能な形で最先端の性能を達成できるか？
• RQ5 低次元固有基底表現が、疎な観測からの効果的な行列回復に十分な低ランク正則化を提供できるか？

主な発見

• 強い幾何的構造を示す合成Netflixデータでは、本手法がテスト誤差0.0022を達成し、以前の最先端手法SGMC（0.0021）を上回り、かつ初期手法の100倍も高い精度を示した。
• 観測エントリがたった1%の状況でも、SGMCを上回る性能を示し、幾何的行列回復における優れたサンプル効率性を示した。
• ガウスノイズを加えたノイズ混じりのグラフにおいても、本手法は頑健であり、特に高いノイズレベルでSGMCよりも強い耐性を示した。
• FlixsterおよびMovielens-100Kといった実世界データセットでは、それぞれテスト誤差0.888および0.915を達成し、DMFやOurs-FMを上回った。また、最適化がより単純であることも特徴である。
• 正則化を省いたベースラインOurs-FMですら、Flixsterで0.888の強力な性能を示しており、ラプラシアン固有基底自体が強力な正則化能力を有することを示している。
• SGMC や RGCNN といった従来の最先端モデルよりも顕著に計算コストが低く抑えられており、凸的でコンactな定式化のおかげである。