[論文レビュー] Distribution Density, Tails, and Outliers in Machine Learning: Metrics and Applications

Nicholas Carlini, Úlfar Erlingsson+1 more|arXiv (Cornell University)|Oct 29, 2019

Adversarial Robustness in Machine Learning参考文献 37被引用数 19

ひとこと要約

本論文は、敵対的ロバストネス、再訓練安定性、アンサンブル整合性、および微分プライベート学習を活用して、データセットの潜在的分布内での各例の代表的度や外れ値度を定量化するための5つの異なる指標を導入する。アプローチが異なっていても、指標同士は高い相関を示し、記憶された訓練例やレアな部分モードといった重要なインサイトを明らかにし、カリキュラム学習および敵対的ロバストネスの向上を可能にする。

ABSTRACT

We develop techniques to quantify the degree to which a given (training or testing) example is an outlier in the underlying distribution. We evaluate five methods to score examples in a dataset by how well-represented the examples are, for different plausible definitions of "well-represented", and apply these to four common datasets: MNIST, Fashion-MNIST, CIFAR-10, and ImageNet. Despite being independent approaches, we find all five are highly correlated, suggesting that the notion of being well-represented can be quantified. Among other uses, we find these methods can be combined to identify (a) prototypical examples (that match human expectations); (b) memorized training examples; and, (c) uncommon submodes of the dataset. Further, we show how we can utilize our metrics to determine an improved ordering for curriculum learning, and impact adversarial robustness. We release all metric values on training and test sets we studied.

研究の動機と目的

• 代表的度を事前に定義せずに、例がデータ分布にどの程度適切に表現されているかを定量化する指標のセットを開発すること。
• 代表的度の異なる定義の間の相互作用を理解し、それらの不一致が意味のあるデータ特性を明らかにする方法を解明すること。
• 代表的度に基づくデータのフィルタリングを通じて、モデルの訓練を改善すること—代表的例、記憶された訓練インスタンス、またはレアな部分モードの例を特定すること。
• 代表的度指標に基づいて訓練データを順序付けることでカリキュラム学習を向上させること。
• 精度を超えたデータ分布の性質を分析することで、敵対的ロバストネスとモデルの解釈可能性を向上させること。

提案手法

• 敵対的ロバストネス、再訓練安定性、アンサンブル整合性、および微分プライベート学習に基づいて5つの異なる指標を定義する。
• これらの多様だが補完的なアプローチを用いて、各データポイントを「代表的」から「外れ値に近い」までの連続的スケールでスコア化する。
• MNIST、Fashion-MNIST、CIFAR-10、ImageNetの4つのベンチマークデータセットにこれらの指標を適用する。
• 指標の不一致を用いて、代表的例、記憶された訓練インスタンス、および一般的でない部分モードを特定する。
• 再訓練における予測安定性が敵対的距離と強く相関することを示し、複雑なタスクにおいてもその近似が可能であることを実証する。
• 再現性および今後の研究を支援するため、訓練およびテストセットのすべての指標スコアを公開する。

実験結果

リサーチクエスチョン

• RQ1 多様な指標において「よく代表されている」という定義がどの程度相関するか、そしてそれらの不一致からどのようなインサイトが得られるか？
• RQ2 これらの指標は、現実のデータセットにおける記憶された訓練例やレアな部分モードを特定できるか？
• RQ3 代表的度に基づくデータのフィルタリングが、モデルの訓練速度、精度、および敵対的ロバストネスにどのように影響するか？
• RQ4 非線形的または複雑なモデルにおいて、再訓練安定性が敵対的距離の代理としてどの程度有効に機能するか？
• RQ5 代表的度に基づいて訓練例を順序付けることで、これらの指標がカリキュラム学習を向上させられるか？

主な発見

• 5つの指標は、大多数の訓練およびテスト例において高い相関を示し、代表的度の背後にある一貫性のある概念があることを示している。
• 指標間の不一致は意味のあるデータ異常を明らかにする：記憶された訓練例や、訓練データに適切に表現されていないレアな部分モード。
• 代表的例のみで訓練されたモデルは、より速く学習し、より単純な意思決定境界を持つようになり、わずかに敵対的ロバストネスが向上する。
• 誤りまたは誤解を招く例を指標の不一致によって除外した後、外れ値のみで訓練すると、同じサンプル複雑度でも顕著に高い全体的な精度が達成できる。
• 再訓練安定性は敵対的距離と強く相関しており、敵対的ロバストネス評価の実用的近似として使用可能であることが示唆される。
• MNIST、Fashion-MNIST、CIFAR-10、ImageNetの指標スコアの公開は、今後のデータ分布分析およびモデル解釈性研究の貴重なリソースを提供する。