[論文レビュー] Towards Understanding Learning Representations: To What Extent Do Different Neural Networks Learn the Same Representation

Liwei Wang, Lunjia Hu+5 more|arXiv (Cornell University)|Oct 28, 2018

Domain Adaptation and Few-Shot Learning参考文献 4被引用数 33

ひとこと要約

本論文は、異なるランダム初期化から訓練された2つの同一の深層ニューラルネットワークが学習する表現間の類似度を定量化する、きめ細やかな部分空間マッチングフレームワークを提案する。活性化ベクトルと最大マッチおよび単純マッチの分解理論を用いることで、畳み込み層が予想に反して非常に低い表現類似度を示すことが明らかになり、ネットワークが訓練実行ごとに同等の特徴を学習するという仮定に疑問を呈する。

ABSTRACT

It is widely believed that learning good representations is one of the main reasons for the success of deep neural networks. Although highly intuitive, there is a lack of theory and systematic approach quantitatively characterizing what representations do deep neural networks learn. In this work, we move a tiny step towards a theory and better understanding of the representations. Specifically, we study a simpler problem: How similar are the representations learned by two networks with identical architecture but trained from different initializations. We develop a rigorous theory based on the neuron activation subspace match model. The theory gives a complete characterization of the structure of neuron activation subspace matches, where the core concepts are maximum match and simple match which describe the overall and the finest similarity between sets of neurons in two networks respectively. We also propose efficient algorithms to find the maximum match and simple matches. Finally, we conduct extensive experiments using our algorithms. Experimental results suggest that, surprisingly, representations learned by the same convolutional layers of networks trained from different initializations are not as similar as prevalently expected, at least in terms of subspace match.

研究の動機と目的

• 深層ニューラルネットワークにおける表現類似度を体系的かつ理論的根拠に基づいて定量化するためのアプローチを開発すること。
• 同一アーキテクチャだが異なる初期化を持つネットワークが、類似した中間表現を学習するかどうかを調査すること。
• 類似度の構造的粗さを特定すること—すなわち、局所的（ニューロン対ニューロン）か分散的（クラスターレベル）か。
• 部分空間マッチが深層ネットワークにおける表現類似度の有効な指標であるかどうかを特定すること。

提案手法

• 固定された入力セット上で活性化ベクトルを用いてモデルニューロン表現を記述し、入力-出力挙動を捉える。
• ニューロンの集合間の部分空間マッチングにより表現類似度を定義し、部分空間は活性化ベクトルによって張られる。
• 全体的な類似度を捉える「最大マッチ」の概念と、最小類似度単位としての「単純マッチ」を導入する。
• 分解定理の証明：すべてのマッチは一意に単純マッチに分解可能であり、構造的分析が可能になる。
• 最大マッチおよび単純マッチを計算するための効率的なアルゴリズム（ランダム化および反復手法を含む）を開発する。
• さまざまな類似度閾値（ε）を用いて、CIFAR-10およびImageNet上で訓練されたResNetおよびVGGネットワークにフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 異なる初期化から訓練された2つの同一の深層ニューラルネットワークが、同じ中間表現を学習する程度はどの程度か？
• RQ2 表現間の類似度は局所的（ニューロン対ニューロン）か分散的（クラスターレベル）か？
• RQ3 活性化部分空間間の最大マッチは、学習済み表現の真の構造的類似度を反映しているか？
• RQ4 単純マッチのサイズと分布は、表現類似度の微細構造をどのように明らかにするか？
• RQ5 高いテスト精度は、中間層における高い表現類似度を示唆するのか？

主な発見

• 異なる初期化を持つネットワークの畳み込み層間の最大マッチ類似度は非常に低く、特に深層部ではほぼゼロに近いことが多い。
• 出力層の表現類似度の高さは、特徴の内因的共有によるものではなく、同じ出力ターゲットへのアライメントによるものである。
• 入力層の類似度も、共有された入力分布にもかかわらず、細部構造において低いことが示され、局所的ニューロンレベルの対応関係が限定的であることが示唆される。
• 単純マッチサイズの分布は、極めて少ない数の小さなマッチ（例：1つのニューロン）を示しており、ネットワーク間で顕著な局所的類似度が存在しないことを示唆する。
• 観察された低類似度は、同一アーキテクチャが訓練実行ごとに同等の表現を学習するという一般的な仮定に反する。
• これらの結果は、表現学習に関する現在の理解が限界に達していることを示唆し、部分空間マッチが意味的類似度を完全に捉えていない可能性があり、解釈可能性および指標選択に関する根本的な問いを提起する。