[論文レビュー] Exploring the Memorization-Generalization Continuum in Deep Learning

Ziheng Jiang, Chiyuan Zhang+2 more|arXiv (Cornell University)|Feb 8, 2020

Anomaly Detection Techniques and Applications参考文献 10被引用数 4

ひとこと要約

本稿では、深層学習モデルが個々のインスタンスをどの程度信頼性を持って予測するかを定量化するための整合性スコア（Cスコア）を導入し、記憶と一般化の連続体を明らかにした。Cスコアは、訓練データサイズの変化に伴うモデルの整合性を推定することで、一方では分布外や誤ラベルの例を特定し、他方では通常の一般化可能なパターンを特定する。これにより、外れ値検出と表現学習の洞察が向上する。

ABSTRACT

Human learners appreciate that observations usually form hierarchies of regularities and sub-regularities. For example, English verbs have irregular cases that must be memorized (e.g., go -> went) and regular cases that generalize well (e.g., kiss -> kissed, miss -> missed). Likewise, deep neural networks have the capacity to memorize rare or irregular forms but nonetheless generalize across instances that share common patterns or structures. We analyze how individual instances are treated by a model via a consistency score. The score is the expected accuracy of a particular architecture for a held-out instance on a training set of a given size sampled from the data distribution. We obtain empirical estimates of this score for individual instances in multiple data sets, and we show that the score identifies out-of-distribution and mislabeled examples at one end of the continuum and regular examples at the other end. We explore two categories of proxies to the consistency score: pairwise distance based proxy and the training statistics based proxies. We conclude with two applications using C-scores to help understand the dynamics of representation learning and filter out outliers, and discussions of other potential applications such as curriculum learning, and active data collection.

研究の動機と目的

• 深層ニューラルネットワークが、まれなまたは不規則なインスタンスの記憶と、通常のパターンへの一般化のバランスをどのようにとっているかを理解すること。
• 異なる訓練データサイズにおいて、各インスタンスごとのモデル整合性を測定可能な代理指標を構築し、その信頼性を評価すること。
• Cスコアを用いて、訓練データサイズにわたる整合性が低いことから、分布外および誤ラベルの例を同定し、データ品質とモデルの頑健性を向上させること。
• Cスコアが表現学習、カリキュラム学習、およびアクティブデータ収集において、より良い訓練ダイナミクスを実現するのにどのように有用であるかを検討すること。

提案手法

• Cスコアを、異なるサイズの訓練データサブセットで学習させたモデルが、ホールドアウトされたインスタンスに対して示す期待精度として定義する。
• データ分布から抽出された複数の訓練データサブセットを用いて、個々のインスタンスのCスコアを経験的に推定する。
• 2つの代理手法を提案する：特徴の類似性を用いるペアワイズ距離ベースの代理手法と、訓練中の活性化パターンを用いる訓練統計ベースの代理手法。
• Cスコアを用いて、訓練データサイズにわたる整合性が低いインスタンスを特定することで、分布外および誤ラベルの例を検出する。
• Cスコアを用いてデータをフィルタリングし、高整合性で一般化可能な例を優先することで、表現学習のダイナミクスを改善する。
• 複数のデータセットで手法を評価し、通常の一般化可能なインスタンスと、不規則または損傷のあるインスタンスを区別できるかを検証する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、異なる訓練データサイズにわたるインスタンスごとのモデル整合性を定量化し、記憶と一般化の連続体を明らかにできるか？
• RQ2 Cスコアは、整合性が低いことから、どの程度分布外および誤ラベルの例を同定できるか？
• RQ3 ペアワイズ距離ベースの代理手法と訓練統計ベースの代理手法は、Cスコアの推定において、どのように比較されるか？
• RQ4 Cスコアを用いて、訓練中に低整合性で外れ値にかかりやすい例をフィルタリングすることで、表現学習をどのように改善できるか？
• RQ5 Cスコアはカリキュラム学習およびアクティブデータ収集において、どのような応用が可能か？

主な発見

• Cスコアは、訓練データサイズにわたる整合性が低いことから、分布外および誤ラベルの例を効果的に同定する。
• 通常で一般化可能なインスタンスは、常に高いCスコアを示し、異なる訓練データサイズにおいてもモデルの信頼性が強いことを示している。
• 訓練統計ベースの代理手法は、ペアワイズ距離ベースの代理手法よりも、Cスコアの推定においてより正確である。
• Cスコアは、記憶と一般化の明確な連続体を明らかにし、高いスコアは一般化を示し、低いスコアはまれなまたは損傷のあるインスタンスの記憶を示している。
• 低Cスコアのインスタンスをフィルタリングすることで、モデルの一般化性能と表現学習のダイナミクスが向上する。
• 本手法により、高整合性で情報量の多いインスタンスを優先することで、カリキュラム学習やアクティブデータ収集といった実用的応用が可能になる。