[論文レビュー] Selectivity considered harmful: evaluating the causal impact of class selectivity in DNNs

Matthew L. Leavitt, Ari S. Morcos|arXiv (Cornell University)|Mar 3, 2020

Cell Image Analysis Techniques参考文献 68被引用数 21

ひとこと要約

この論文は、深層ニューラルネットワークのユニットにおけるクラス選択性を直接操作できる微分可能正則化項を導入し、選択性を低減させることでテスト精度が向上すること（Tiny ImageNetでは2%以上）を示している。また、高い選択性は性能にとって必要でも有益でもないことが明らかになった。研究では、ニューロンの選択性が機能的意義を反映するとする仮定に疑問を呈し、一般化性能を損なう要因にもなり得ることを示している。

ABSTRACT

The properties of individual neurons are often analyzed in order to understand the biological and artificial neural networks in which they're embedded. Class selectivity-typically defined as how different a neuron's responses are across different classes of stimuli or data samples-is commonly used for this purpose. However, it remains an open question whether it is necessary and/or sufficient for deep neural networks (DNNs) to learn class selectivity in individual units. We investigated the causal impact of class selectivity on network function by directly regularizing for or against class selectivity. Using this regularizer to reduce class selectivity across units in convolutional neural networks increased test accuracy by over 2% for ResNet18 trained on Tiny ImageNet. For ResNet20 trained on CIFAR10 we could reduce class selectivity by a factor of 2.5 with no impact on test accuracy, and reduce it nearly to zero with only a small ($\sim$2%) drop in test accuracy. In contrast, regularizing to increase class selectivity significantly decreased test accuracy across all models and datasets. These results indicate that class selectivity in individual units is neither sufficient nor strictly necessary, and can even impair DNN performance. They also encourage caution when focusing on the properties of single units as representative of the mechanisms by which DNNs function.

研究の動機と目的

• 個々のニューロンにおけるクラス選択性が、深層ニューラルネットワークの性能にとって機能的に必要または有益であるかどうかを調査すること。
• ニューロンのアブレーションなどの間接的手法に起因する限界を克服し、選択性の因果的役割を明確に分離すること。
• 訓練中にクラス選択性を因果変数として直接制御できる正則化手法を開発・適用すること。
• DNNにおけるニューロン選択性が機能的役割を反映するとする一般的な仮定に挑戦すること。
• 高い選択性が一般化を妨げたり、冗長であるかどうかを評価すること。

提案手法

• 隠れユニットにおけるクラス選択性を直接制御できる微分可能正則化項を損失関数に導入した。
• 正則化項は、異なる入力クラスにおけるニューロン応答の分散をペナルティまたは促進することで、選択性の精密な操作を可能にした。
• 訓練中にこの手法を適用し、選択性が精度および一般化に与える影響を制御された実験で評価した。
• ResNet18（Tiny ImageNet）およびResNet20（CIFAR-10）を用いた実験を行い、特定のネットワーク層におけるアブレーションスタディも実施した。
• 統計的有意性はブートストラップ法による信頼区間とウィルコクソン順位和検定を用いて評価した。
• 正則化がユニット軸以外の方向に選択性を回転させるのを避けることで、混同要因を回避した。

実験結果

リサーチクエスチョン

• RQ1 個々のニューロンにおけるクラス選択性は、DNN性能の向上と因果的に関連しているか？
• RQ2 クラス選択性を低減させることで、より良い一般化性能と高いテスト精度が達成できるか？
• RQ3 DNNにおける効果的なネットワーク機能には、高いクラス選択性が必須であるか？
• RQ4 選択性を増加させることで、それが必要でない場合でもネットワーク性能が損なわれるか？
• RQ5 ニューロン選択性は、ネットワーク機能の代理としてどれほど冗長または誤解を招くものであるか？

主な発見

• Tiny ImageNetで訓練されたResNet18において、クラス選択性を低減させることでテスト精度が2%以上向上した。
• CIFAR-10で使用されたResNet20では、クラス選択性を2.5倍低減させてもテスト精度に低下は見られなかった。
• 選択性をほぼゼロ（約20倍）まで低減させても、テスト精度はわずか2%低下にとどまった。
• クラス選択性を高めるように正則化すると、すべてのモデルとデータセットでテスト精度が著しく低下した。
• 選択性の増加による悪影響は急速に現れ、p < 6×10⁻⁶という統計的に有意な結果が得られた（主な比較で）。
• 結果から、クラス選択性は良い性能のための必要条件でも十分条件でもなく、むしろ有害である可能性があることが示唆された。