[論文レビュー] Interpreting Convolutional Neural Networks Through Compression

Reza Abbasi-Asl, Bin Yu|arXiv (Cornell University)|Nov 7, 2017

Explainable Artificial Intelligence (XAI)参考文献 8被引用数 15

ひとこと要約

本稿では、分類精度低下（CAR）に基づくフィルタープルーニング手法を提案し、構造的圧縮を通じて畳み込みニューラルネットワーク（CNNs）の解釈を可能にする。精度に与える影響が最小限のフィルターを段階的に除去することで、除去されたフィルターはしばしば視覚的に冗長であることが明らかになった。例えば、色選択性のフィルターがその例である。一方で、最も重要なフィルターは形状選択性を示す。主な貢献は、特定の画像クラスにリンクされたフィルターの重要度を示すクラスベースのCARインデックスであり、これによりフィルター機能の解釈可能で人間が読みやすい説明が可能になる。

ABSTRACT

Convolutional neural networks (CNNs) achieve state-of-the-art performance in a wide variety of tasks in computer vision. However, interpreting CNNs still remains a challenge. This is mainly due to the large number of parameters in these networks. Here, we investigate the role of compression and particularly pruning filters in the interpretation of CNNs. We exploit our recently-proposed greedy structural compression scheme that prunes filters in a trained CNN. In our compression, the filter importance index is defined as the classification accuracy reduction (CAR) of the network after pruning that filter. The filters are then iteratively pruned based on the CAR index. We demonstrate the interpretability of CAR-compressed CNNs by showing that our algorithm prunes filters with visually redundant pattern selectivity. Specifically, we show the importance of shape-selective filters for object recognition, as opposed to color-selective filters. Out of top 20 CAR-pruned filters in AlexNet, 17 of them in the first layer and 14 of them in the second layer are color-selective filters. Finally, we introduce a variant of our CAR importance index that quantifies the importance of each image class to each CNN filter. We show that the most and the least important class labels present a meaningful interpretation of each filter that is consistent with the visualized pattern selectivity of that filter.

研究の動機と目的

• 複雑なCNNのパラメータ数が多く、解釈が困難であるという課題に対処するため。
• 性能を維持しつつ解釈性を向上させる構造的圧縮手法を開発するため。
• 分類精度への影響を測定することで、どのフィルターが分類に最も寄与しているかを同定するため。
• フィルター機能と特定の画像カテゴリを結びつけるクラスベースの重要度インデックス（CAR^c）を導入するため。
• CARに基づくフィルタープルーニングが、視覚的に冗長で機能的に意味のあるフィルターを明らかにすることを実証するため。

提案手法

• 除去後の分類精度低下（CAR）に基づいてフィルターをプルーニングするグリーディな構造的圧縮スキームを提案する。
• フィルターの重要度を、そのフィルターを除去した際のトップ1精度の低下として定義し、影響が最も小さい順からプルーニングを優先する。
• 各ステップ後に再訓練を実施することで、性能を維持する段階的プルーニングを用いる。
• フィルターiがレイヤーLから除去された際の、各画像クラスcごとの精度低下を測定する変種、CAR^c(i,L)を導入する。
• トップアクティベート画像パッチを用いてフィルターのパターン選択性を可視化し、高/低CAR^cクラスと照らし合わせる。
• 解釈性を重視し、AlexNetとLeNetに適用し、初期および中位レベルの畳み込み層に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 CNN内のどのフィルターが機能的に冗長であり、圧縮によって体系的に同定可能か？
• RQ2 CARに基づくフィルタープルーニングは、視覚的パターン選択性を反映する解釈可能なネットワーク構造を生成するか？
• RQ3 特定の画像クラスに依存するフィルターの重要度を意味的に解釈可能か？
• RQ4 クラスベースのCAR^cインデックスは、フィルターの視覚的パターン選択性とどの程度相関するか？
• RQ5 CARに基づく圧縮は、分類精度を保持しつつ、人間による解釈を可能にする程度はどの程度か？

主な発見

• AlexNetの最初の層で上位20個のCARプルーニング対象フィルターのうち17個が色選択性であった。これは、色選択性のフィルターが機能的に冗長であることを示している。
• AlexNetの2番目の層では、上位20個のCARプルーニング対象フィルターのうち14個が色選択性であった。これにより、色選択性のフィルターが認識にあまり重要でないことが再確認された。
• CARによって特定された最も重要なフィルターは形状選択性を示しており、例えば楕円形や直線構造を検出するフィルターである。これは物体認識のニーズと整合している。
• AlexNetのレイヤー5のフィルターについて、CAR^c値が最も高いクラス（例：'steep arch bridge'、'soup bowl'）は、そのフィルターがアクティベートするパターンと視覚的に一致しており、クラス依存性と視覚的選択性の整合性が確認された。
• クラスベースのCAR^cインデックスは、各フィルターに対して最も依存度が高く、最も低い依存度の画像クラスを的確に同定でき、フィルター機能の説明を自然言語で行える。
• AlexNetの2番目の層から102個のフィルターをプルーニングしても、ImageNetの37%～49%のクラスで、元のネットワークと3%以内の分類精度を維持した。