[論文レビュー] Incorporating Unlabeled Data into Distributionally Robust Learning

Charlie Frogner, Sebastian Claici+2 more|arXiv (Cornell University)|Dec 16, 2019

Machine Learning and Algorithms参考文献 44被引用数 10

ひとこと要約

本稿では、不確実性の集合を制約するために無教師データを統合する分布的ロバスト学習フレームワークを提案する。これにより一般化保証が向上し、従来の手法が失敗する状況でも信頼性の高い予測が可能になる。無教師データを用いてWasserstein距離と最適輸送を介して不確実性集合を精緻化することで、よりきつい性能保証が得られ、アクティブラーニングおよびロバスト分類の分野で標準的手法を上回る性能を発揮する。

ABSTRACT

We study a robust alternative to empirical risk minimization called distributionally robust learning (DRL), in which one learns to perform against an adversary who can choose the data distribution from a specified set of distributions. We illustrate a problem with current DRL formulations, which rely on an overly broad definition of allowed distributions for the adversary, leading to learned classifiers that are unable to predict with any confidence. We propose a solution that incorporates unlabeled data into the DRL problem to further constrain the adversary. We show that this new formulation is tractable for stochastic gradient-based optimization and yields a computable guarantee on the future performance of the learned classifier, analogous to -- but tighter than -- guarantees from conventional DRL. We examine the performance of this new formulation on 14 real datasets and find that it often yields effective classifiers with nontrivial performance guarantees in situations where conventional DRL produces neither. Inspired by these results, we extend our DRL formulation to active learning with a novel, distributionally-robust version of the standard model-change heuristic. Our active learning algorithm often achieves superior learning performance to the original heuristic on real datasets.

研究の動機と目的

• 分布的ロバスト学習（DRL）における不確実性集合が広すぎる問題に対処し、予測が空虚（vacuous）になり、信頼性が欠ける状況を解消すること。
• 無教師データを活用して敵対的分布の許容可能な分布集合を制約することで、DRLにおける一般化保証を向上させること。
• 無教師データを組み込んだDRLのための実行可能で計算可能な最適化フレームワークを構築し、非空虚な性能保証を可能にすること。
• 分布的ロバストモデル変化ヒューリスティックを導入することで、提案されたDRLフレームワークをアクティブラーニングに拡張し、サンプル効率を向上させること。
• 14の実データセットにおいて、従来のDRLが不確実性集合が広すぎて失敗する状況でも、有効な分類器を生成できることを実証的に示すこと。

提案手法

• 敵対的不確実性集合が、ラベル付きデータの経験的分布を中心とするWassersteinボールと、無教師データから導出された周辺分布制約の両方によって制約される分布的ロバスト学習問題を定式化する。
• 最適輸送とWasserstein距離を用いて不確実性集合を定義し、集合に含まれる分布がラベル付きデータに近く、かつ無教師データの特徴分布と整合的であることを保証する。
• 敵対的制約をきめ細かく制御できる双対定式化を導入し、無教師データを用いた確率的勾配ベースの最適化により、敵対的制約を厳しくする。
• 制約付き不確実性集合上での最悪ケース期待損失を計算することで、分布シフト下での潜在的なモデル変化を最大にするサンプルを選択する、分布的ロバストアクティブラーニングヒューリスティックを構築する。
• Adam最適化法を用い、適応的学習率とバッチ処理を導入することで、双対最適化問題を効率的に解く。
• Clopper-Pearson区間を用いてラベル確率の信頼区間を推定し、妥当性を保つ最小のWasserstein半径を二分探索で特定することで、過剰に慎重になるのを防ぎつつ、ロバスト性を維持する。

実験結果

リサーチクエスチョン

• RQ1 無教師データを用いて、分布的ロバスト学習における敵対的不確実性集合を制約し、予測の信頼性を向上させることができるか？
• RQ2 無教師データを統合することで、従来のDRLと比較して、よりきつい非空虚な一般化保証が得られるか？
• RQ3 提案されたDRLフレームワークを、より高いサンプル効率を実現するアクティブラーニングに拡張可能か？
• RQ4 提案された分布的ロバストアクティブラーニングヒューリスティックの性能は、標準的なヒューリスティックやランダムサンプリングと比較してどのように優れているか？
• RQ5 従来のDRLが不確実性集合が広すぎて失敗する状況において、本手法がどのような状況で有効な分類器を生成するか？

主な発見

• 従来のDRLが不確実性集合が広すぎて空虚な境界を生じる14の実データセットにおいて、本手法は非自明な性能保証を達成した。
• 無教師データの統合により、敵対的分布の許容可能な集合が著しく狭められ、均一なクラス確率の割り当てから、自信のある予測が可能になった。
• 分布的ロバストアクティブラーニングヒューリスティックは、一様ランダムサンプリングおよび標準的なモデル変化ヒューリスティックを上回り、ラベル付きサンプル数に対する尤度の増加が顕著に優れている。
• アクティブラーニング評価において、本手法の尤度曲線下の面積はベースラインと比較して100倍以上にのぼり、優れたサンプル効率を示した。
• 最適化は確率的勾配降下法と双対定式化を用いることで、実行可能でスケーラブルな形で達成された。
• ラベル確率の信頼区間の使用と適応的半径選択により、ロバスト性を維持しながら妥当性と計算効率を両立した。