[論文レビュー] Online Multiclass Classification Based on Prediction Margin for Partial Feedback

Takuo Kaneko, Issei Sato+1 more|arXiv (Cornell University)|Feb 4, 2019

Advanced Bandit Algorithms Research参考文献 17被引用数 13

ひとこと要約

本稿では、予測マージンと補完ラベルを活用することで性能を向上させる、部分フィードバックにおける決定的オンライン多クラス分類アルゴリズムCSPAを提案する。正解予測に対してはサポートクラスパasive aggressive（SPA）更新を、誤り予測に対しては補完ラベルにインspiredされた更新を組み合わせることで、従来のマージン非依存型および確率的手法に比べ、より優れた経験的精度と安定性を達成し、理論的累積二乗損失バウンド保証を有する。

ABSTRACT

We consider the problem of online multiclass classification with partial feedback, where an algorithm predicts a class for a new instance in each round and only receives its correctness. Although several methods have been developed for this problem, recent challenging real-world applications require further performance improvement. In this paper, we propose a novel online learning algorithm inspired by recent work on learning from complementary labels, where a complementary label indicates a class to which an instance does not belong. This allows us to handle partial feedback deterministically in a margin-based way, where the prediction margin has been recognized as a key to superior empirical performance. We provide a theoretical guarantee based on a cumulative loss bound and experimentally demonstrate that our method outperforms existing methods which are non-margin-based and stochastic.

研究の動機と目的

• 正解ラベルが明らかでない、予測の正誤のみが与えられる部分フィードバック下でのオンライン多クラス分類の課題に対処すること。
• 従来の非マージンベース型または確率的探索戦略に依存する手法は、実世界の応用において性能に制限があるため、それを改善すること。
• 誤り予測時の更新を補完ラベルにインspiredした手法でガイドする、決定的でマージンベースのアルゴリズムを開発すること。
• 提案手法に対して累積二乗損失バウンドを用いた理論的収束保証を提供すること。

提案手法

• 各クラスごとに重みベクトル w_i ∈ ℝ^d を K 個用意し、線形パラメータモデルを用いて各クラスのスコア w_i^T x を計算する。
• 各ラウンドで予測ラベル ŷ_t は、最大スコアを持つクラスとして選択される： ŷ_t = argmax_i w_i,t^T x_t。
• 正解予測の場合、予測マージンに基づくマージンベース更新を維持するサポートクラスパasive aggressive（SPA）更新ルールを適用する。
• 誤り予測の場合、補完ラベルからの学習にインspiredされた新しい更新ルールを導入し、誤った予測クラスに対する信頼度を低下させる。
• 誤った予測に対するペナルティを課しつつマージン構造を保つように、サロゲート損失関数を最小化する更新ルールを導出する。
• ガウスカーネルを用いて非線形設定へ拡張し、カーネル化された特徴写像に固定のサポート集合（700インスタンス）を用いる。

実験結果

リサーチクエスチョン

• RQ1 決定的でマージンベースのアルゴリズムは、部分フィードバック下のオンライン多クラス分類において、従来の確率的および非マージンベース手法を上回ることができるか？
• RQ2 補完ラベルは、部分フィードバック下の多クラス問題におけるマージンベース学習フレームワークにどのように効果的に統合できるか？
• RQ3 このような手法に対して、特に累積損失および誤り回数バウンドの観点から、どのような理論的保証を確立できるか？
• RQ4 提案手法の性能は、異なるデータセットおよび線形・非線形設定の両方でどのようにスケーリングするか？

主な発見

• 線形および非線形設定の両方において、CSPAはBanditron、Confidit、BPAに比べ、すべてのテストデータセットで正しく提案されたラベルの割合において顕著な優位性を示した。
• 線形ケースの6つのデータセットのうち5つで、CSPAは平均的な正解ラベル割合が最高であり、図3のシェーディング領域における標準偏差が小さいことから、より安定した性能を示した。
• ガウスカーネルを用いた非線形ケースでは、CSPAはほぼすべてのデータセットで優れた性能を維持した（図4を参照）、関数の複雑さに対して強いロバストネスを示した。
• 理論的分析により、累積二乗損失バウンドが確立され、敵対的条件下でもアルゴリズムの収束保証が得られた。
• CSPAのハイパーパramータ β はノイズデータに対してロバストであり、理論的に保証される範囲内に β を設定することで安定性が確保されるが、非敵対的設定ではより高い値がより良い経験的結果をもたらす可能性がある。