[論文レビュー] A Tutorial on Online Supervised Learning with Applications to Node Classification in Social Networks

Alexander Rakhlin, Karthik Sridharan|arXiv (Cornell University)|Aug 31, 2016

Advanced Bandit Algorithms Research参考文献 11被引用数 6

ひとこと要約

このチュートリアルでは、データ生成過程をモデル化するのではなく、解集合をモデル化することで、最適な予測性能を達成するオンライン教師あり学習のフレームワークを提示する。Coverの安定性条件と確率的予測戦略を活用し、正確な最適化がNP困難であっても、誤り数の上限を保証する。応用例として、ラベルなしデータを用いたソーシャルネットワークにおけるノード分類とラデマッハサンプリングを含む。

ABSTRACT

We revisit the elegant observation of T. Cover '65 which, perhaps, is not as well-known to the broader community as it should be. The first goal of the tutorial is to explain---through the prism of this elementary result---how to solve certain sequence prediction problems by modeling sets of solutions rather than the unknown data-generating mechanism. We extend Cover's observation in several directions and focus on computational aspects of the proposed algorithms. The applicability of the methods is illustrated on several examples, including node classification in a network. The second aim of this tutorial is to demonstrate the following phenomenon: it is possible to predict as well as a combinatorial "benchmark" for which we have a certain multiplicative approximation algorithm, even if the exact computation of the benchmark given all the data is NP-hard. The proposed prediction methods, therefore, circumvent some of the computational difficulties associated with finding the best model given the data. These difficulties arise rather quickly when one attempts to develop a probabilistic model for graph-based or other problems with a combinatorial structure.

研究の動機と目的

• データ生成過程をモデル化せずに、誤り数の上限が最適となるオンライン予測アルゴリズムを設計する方法を示すこと。
• 最適なモデルの計算がNP困難であっても、予測性能が組み合わせ的ベンチマークと一致できることを示すこと。
• 確率的戦略とラベルなしデータを用いて、グラフのような組み合わせ的構造におけるオンライン学習の計算可能性を高める手法を開発すること。
• ビット予測に関するCoverの古典的結果を、ノード特徴量などの付加情報を持つ構造的予測問題へと拡張すること。
• 真のデータ分布を知らないまま、近似のための確率的プレイアウトを用いて、計算不能な最適化を回避するオンラインノード分類のフレームワークを提供すること。

提案手法

• 目的の誤り関数φに対する安定性条件を用い、超立方体の任意の座標に沿ってφが急激に変化しないように保証する。
• 予測問題を確率的戦略上のミニマックス最適化として定式化し、最適予測平均q*tを後退帰納法とポテンシャル関数を用いて導出する。
• コアアルゴリズムは確率的プレイアウトを用いる：P_Xから未来の入力x_{t+1:n}をサンプリングし、ラデマッハ変数ε_{t+1:n}を用いて最適予測平均q*tを推定する。
• 最適戦略は等化器である：y_t = +1およびy_t = -1の両方に対して期待損失が等しくなるように保証され、敵対的選択に対しても頑健である。
• 将来の不確実性下での期待誤り数上限を追跡するため、再帰的な後退計算による信頼性関数Rel_tを用いる。
• 最終的な予測ルールは、q*t(x_{1:t}, y_{1:t-1}) = n * E[φ(x_{1:n}, y_{1:t-1}, -1, ε_{t+1:n}) - φ(x_{1:n}, y_{1:t-1}, +1, ε_{t+1:n})] で与えられ、安定性と最適性を保証する。

実験結果

リサーチクエスチョン

• RQ1 φ(y)の誤り数上限を、すべての系列yに対して保証できるオンライン予測アルゴリズムを設計できるか？ ただし、φが多項式時間で計算不能であってもよい。
• RQ2 最良のモデルの計算がNP困難である組み合わせ的問題（例：ノード分類）において、最適な予測性能を達成する方法は何か？
• RQ3 φにどのような条件を課すと、すべての系列yに対してμ_A(y) ≤ φ(y)を満たす確率的予測戦略が存在するか？
• RQ4 真のデータ分布を知らないまま、ラベルなしデータと確率的プレイアウトを用いて、最適予測戦略の近似を達成できるか？
• RQ5 φに対する安定性条件は、予測アルゴリズムの実装可能性と頑健性とどのように関係するか？

主な発見

• 関数φが達成可能（すなわち、すべてのyに対してμ_A(y) ≤ φ(y)を満たす予測アルゴリズムが存在する）であるための必要十分条件は、φが安定的であり、E[φ] ≥ 1/2であることである。
• q*t(x_{1:t}, y_{1:t-1})で定義される確率的予測戦略により、φの正確な最小化がNP困難であっても、期待誤り率がφ(y)で抑えられることが保証される。
• 確率的プレイアウトと等化器の性質のおかげで、Natureがx_tとq_tに応じて選択を適応させても、最適戦略と同等の期待誤り数上限が達成される。
• アルゴリズムは、P_Xからのサンプルと独立なラデマッハ変数のみを用いて実装可能であり、P_Xの明示的知識を必要としない。
• 一様入力下でのφの期待値は1/2であり、信頼性再帰の整合性と後退帰納法の正当性を保証する。
• フレームワークにより、ラベルなし特徴量と安定的かつ近似可能なベンチマークを用いて、ソーシャルネットワークにおけるオンラインノード分類が可能となり、NP困難な最適化を回避できる。