[論文レビュー] Unsupervised Learning of Predictors from Unpaired Input-Output Samples

Jianshu Chen, Po-Sen Huang+3 more|arXiv (Cornell University)|Jun 15, 2016

Anomaly Detection Techniques and Applications参考文献 22被引用数 6

ひとこと要約

本論文は、出力系列の構造的事前分布を活用することで、ペア化されていない入力-出力サンプルから予測子を学習する非教師あり学習フレームワークを提案する。出力構造の適合と入力-出力相関のバランスを取る非凸型の目的関数を導入し、適切な正則化のもとで、ペア化された訓練データが存在しない状況でも、近似的に最適な解に収束することを示している。

ABSTRACT

Unsupervised learning is the most challenging problem in machine learning and especially in deep learning. Among many scenarios, we study an unsupervised learning problem of high economic value --- learning to predict without costly pairing of input data and corresponding labels. Part of the difficulty in this problem is a lack of solid evaluation measures. In this paper, we take a practical approach to grounding unsupervised learning by using the same success criterion as for supervised learning in prediction tasks but we do not require the presence of paired input-output training data. In particular, we propose an objective function that aims to make the predicted outputs fit well the structure of the output while preserving the correlation between the input and the predicted output. We experiment with a synthetic structural prediction problem and show that even with simple linear classifiers, the objective function is already highly non-convex. We further demonstrate the nature of this non-convex optimization problem as well as potential solutions. In particular, we show that with regularization via a generative model, learning with the proposed unsupervised objective function converges to an optimal solution.

研究の動機と目的

• ペア化された入力-出力訓練データが入手できない、大規模スケールで費用がかかりすぎる・実現不可能な予測モデルの学習課題に対処すること。
• 教師あり学習と同一の評価基準を用いるが、ペア化されたデータを必要としない実用的な非教師あり学習目的関数の開発。
• 出力系列の生成的事前分布を組み込むことで、非教師あり予測子学習における非凸性と自明な局所最適解の問題を克服すること。
• 生成的モデルによる正則化が最適化を安定化させ、意味のある解への収束を可能にすることを示すこと。

提案手法

• 非教師あり目的関数を定義し、予測出力が無作為に得られた出力分布の構造にどれだけ適合するかを最大化する。
• 出力系列の生成的モデル（例：マルコフ連鎖）に基づく正則化項を統合し、最適化が自明な解から逸脱するように誘導する。
• 線形分類器を用いて入力-出力マッピングをモデル化し、目的関数は出力構造の尤度と入力データとの相関を組み合わせる。
• 勾配ベース最適化を用いて非教師ありコスト関数を最小化し、構造適合と入力相関のバランスを取るために正則化強度を調整する。
• 別個の無ラベル出力系列から $ p(y_1, \ldots, y_T) $ を推定し、遷移行列 $ P $ を用いたマルコフ連鎖としてモデル化する。
• 合成データにおけるテスト誤差を用いて性能を評価し、出力事前分布の推定誤差が異なるレベルに及ぼす影響を、教師ありベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 ペア化された入力-出力データが存在しない状況でも、教師あり学習と同等の性能を達成できる非教師あり目的関数を設計できるか？
• RQ2 非教師あり目的関数の非凸性が最適化に与える影響は何か？また、誤った局所最適解が生じる原因は何か？
• RQ3 正則化が自明な局所最適解を排除し、意味のある予測子へと最適化を誘導する役割は何か？
• RQ4 出力系列事前分布 $ p(y_1, \ldots, y_T) $ の推定誤差に対して、非教師あり学習の性能はどれほど感度を示すか？
• RQ5 ペア化されたデータが全く存在しない状況でも、提案手法が教師あり最適解に近い解に収束できるか？

主な発見

• 提案された非教師あり目的関数は、単純な線形分類器ですら非常に非凸的であり、自明な解（例：ランク1解）を含む多数の局所最適解を有する。
• 正則化がなければ、自明な解の周囲に平坦な領域が存在し、グローバル最適解への収束が困難になる。
• 適切な正則化（例：$ \lambda = 30 $）により、コスト関数に「勾配」が生じ、自明な局所最適解からの脱出が可能となり、教師ありグローバル最適解に近い解が得られる。
• 推定された出力分布 $ p(y_1, \ldots, y_T) $ のノイズが増加するにつれて、非教師あり手法の性能は劣化するが、事前分布が比較的正確であれば頑健である。
• 正則化パラメータ $ \lambda $ は慎重にチューニングする必要がある：小さすぎると自明な解が抑制されず、大きすぎるとデータ依存項が圧倒され、性能が劣化する。
• 正則化パラメータ $ \lambda = 30 $ を用いた非教師あり学習により得られた解は、視覚的および定量的に教師あり解に非常に近い。合成データ上での手法の有効性が示された。