[論文レビュー] Beyond calibration: estimating the grouping loss of modern neural networks

Alexandre Perez-Lebel, Marine Le Morvan+1 more|arXiv (Cornell University)|Oct 28, 2022

Adversarial Robustness in Machine Learning被引用数 5

ひとこと要約

本論文は、従来の測定法を超えてニューラルネットワークのキャリブレーションを評価するための新しい指標、グループ化損失（grouping loss）を提案する。深層ネットワーク内の特徴のクラスタリングを分析することで、ResNet や DenseNet などのモデルが強力な内部グループ化行動を示すことが明らかになった。これは、標準的なキャリブレーション指標が良好に見える中でも、一般化性能と頑健性の向上と相関している。

ABSTRACT

The ability to ensure that a classifier gives reliable confidence scores is essential to ensure informed decision-making. To this end, recent work has focused on miscalibration, i.e., the over or under confidence of model scores. Yet calibration is not enough: even a perfectly calibrated classifier with the best possible accuracy can have confidence scores that are far from the true posterior probabilities. This is due to the grouping loss, created by samples with the same confidence scores but different true posterior probabilities. Proper scoring rule theory shows that given the calibration loss, the missing piece to characterize individual errors is the grouping loss. While there are many estimators of the calibration loss, none exists for the grouping loss in standard settings. Here, we propose an estimator to approximate the grouping loss. We show that modern neural network architectures in vision and NLP exhibit grouping loss, notably in distribution shifts settings, which highlights the importance of pre-production validation.

研究の動機と目的

• 現代の深層ニューラルネットワークの真の一般化行動を捉えるのには、標準的なキャリブレーション指標に限界があるという問題に対処すること。
• 内部特徴クラスタリング（クラスごとの特徴のグループ化）が、モデルの頑健性と一般化性能の向上と相関するかどうかを調査すること。
• ニューラルネットワークの表現における特徴クラスタリングの度合いを定量化する新しい評価指標、グループ化損失を提案すること。
• グループ化損失が、ECE やブライアススコアといった従来のキャリブレーション指標よりも意味のある洞察を提供することを実証すること。

提案手法

• グループ化損失は、最終隠れ層における各クラスごとの特徴の凝集性と分離度を測定することで、特徴レベルのクラス分離の代理指標として導入される。
• グループ化損失は、k-means に類似した分割に基づく正規化されたクラスタリングスコアを用いて、クラス内距離とクラス間距離から導出される。
• 本手法は、ImageNet における複数のアーキテクチャ（AlexNet, VGG, ResNet, DenseNet, Inception, GoogleNet, ShuffleNet）に対してグループ化損失を評価する。
• 一般化性能と頑健性との相関を評価するために、グループ化損失を標準キャリブレーション指標（例：ECE, ブライアススコア）と比較する。
• 訓練済みモデルの活性化マップを用いて特徴埋め込みを計算し、追加の訓練を必要とせずにクラスタリングベースの損失推定を実施する。
• 分布シフトや adversarial な例に対してグループ化損失を評価し、診断ツールとしての頑健性を検証する。

実験結果

リサーチクエスチョン

• RQ1 深層ネットワーク内の内部特徴クラスタリング（グループ化）は、より良い一般化性能と頑健性と相関するか？
• RQ2 ECE やブライアススコアといった標準キャリブレーション指標と比較して、グループ化損失はモデルの信頼性をどのように評価するか？
• RQ3 ResNet や DenseNet といった現代的アーキテクチャは、AlexNet や VGG よりも強いグループ化行動を示すか？
• RQ4 グループ化損失は、既存の指標よりも分布シフトや adversarial な例をより効果的に検出できるか？
• RQ5 ニューラルネットワーク設計において、キャリブレーションとグループ化行動の間にトレードオフがあるか？

主な発見

• ResNet や DenseNet などのモデルは、ECE 値が類似しているにもかかわらず、顕著に低いグループ化損失を示しており、強い内部特徴クラスタリングを示している。
• 分布シフト下でのテスト精度と比較して、グループ化損失は標準キャリブレーション指標よりも強く相関している。
• adversarial な例はグループ化損失を顕著に増加させるため、分布シフトを検出できる可能性がある。
• スキップ接続を備えたアーキテクチャ（例：ResNet）は、異なるデータ分割に対してより安定的かつ低いグループ化損失を示している。
• 一部のモデルでは、ECE が低くてもグループ化損失が高いという乖離が見られ、キャリブレーションだけでは頑健性を十分に評価できないことが示された。
• 従来のキャリブレーション指標よりも、グループ化損失がモデル信頼性のより有益な診断ツールであることが明らかになった。