[論文レビュー] Demystifying CNNs for Images by Matched Filters

Shengxi Li, Xinyi Zhao+2 more|arXiv (Cornell University)|Oct 16, 2022

Generative Adversarial Networks and Image Synthesis被引用数 4

ひとこと要約

本稿では、畳み込みニューラルネットワーク（CNN）の画像認識におけるコアな畳み込み演算が、入力データ内の特定のパターンを検出するマッチドフィルタとして機能することを示すことで、CNNのブラックボックス性を解明するマッチドフィルタリングフレームワークを提案する。信号処理の観点からCNNを再構成することで、カーネル学習、活性化、プーリングの理論的基盤を確立し、訓練済みのCNNが最適なマッチドフィルタリングを実行することを示した。これにより、学習されたパラメータに物理的意味が与えられ、AI for health分野における解釈可能性が向上する。

ABSTRACT

The success of convolution neural networks (CNN) has been revolutionising the way we approach and use intelligent machines in the Big Data era. Despite success, CNNs have been consistently put under scrutiny owing to their extit{black-box} nature, an extit{ad hoc} manner of their construction, together with the lack of theoretical support and physical meanings of their operation. This has been prohibitive to both the quantitative and qualitative understanding of CNNs, and their application in more sensitive areas such as AI for health. We set out to address these issues, and in this way demystify the operation of CNNs, by employing the perspective of matched filtering. We first illuminate that the convolution operation, the very core of CNNs, represents a matched filter which aims to identify the presence of features in input data. This then serves as a vehicle to interpret the convolution-activation-pooling chain in CNNs under the theoretical umbrella of matched filtering, a common operation in signal processing. We further provide extensive examples and experiments to illustrate this connection, whereby the learning in CNNs is shown to also perform matched filtering, which further sheds light onto physical meaning of learnt parameters and layers. It is our hope that this material will provide new insights into the understanding, constructing and analysing of CNNs, as well as paving the way for developing new methods and architectures of CNNs.

研究の動機と目的

• CNNのブラックボックス性に対処することにより、理論的分析や医療分野など感受性の高い分野への応用を妨げる要因を解消する。
• 信号処理におけるマッチドフィルタリングにリンクすることで、CNNにおける畳み込み演算の理論的基盤を提供する。
• マッチドフィルタリングの観点から、学習されたCNNのパラメータと層に物理的意味を明らかにする。
• CNNにおける畳み込み-活性化-プーリングの連鎖が、マッチドフィルタリングの最大信号対雑音比（SNR）性能と一致することを示す。
• より解釈可能なCNNアーキテクチャの構築、分析、設計に新たな知見をもたらす。

提案手法

• CNNにおける畳み込み演算を、ノイズの多い入力データ内に既知の信号パターンを検出するマッチドフィルタとして定式化する。
• マッチドフィルタの理論的性質（SNRを最大化する）を用いて、CNNの設計および動作を正当化する。
• 平均的な局所的画像パッチ（例：MNISTの数字、サイン言語の文字）に基づいて事前定義されたカーネルを設計し、初期マッチドフィルタとして使用する。
• 学習率0.001で100エポックにわたり確率的勾配降下法（SGD）を用いてCNNを訓練し、事前定義済みおよびランダム初期化からのフィルタ最適化を実施する。
• 事前定義されたマッチドフィルタで初期化したCNNとランダム重みで初期化したCNNの性能を比較し、事前知識による利点を評価する。
• 複数の層にわたるマッチドフィルタリング出力を可視化し、階層的特徴検出および学習されたフィルタの進化を示す。

実験結果

リサーチクエスチョン

• RQ1 CNNにおける畳み込み演算は、信号処理のマッチドフィルタリング原理を用いてどのように理論的に正当化できるか？
• RQ2 マッチドフィルタリングとして解釈した場合、学習されたCNNフィルターや活性化パターンにどのような物理的意味が与えられるか？
• RQ3 事前定義されたマッチドフィルタで初期化したCNNは、ランダム初期化と比較して、どの程度訓練収束速度と精度が向上するか？
• RQ4 CNNにおける畳み込み-活性化-プーリング連鎖は、マッチドフィルタリングの最大SNR性能とどの程度一致するか？
• RQ5 マッチドフィルタリングの観点は、CNNの新しいアーキテクチャや理論的枠組みの構築を可能にするか？

主な発見

• 事前定義されたマッチドフィルタで初期化したCNNは、MNISTの数字認識で平均90％のテスト精度を達成し、ランダム初期化（89％）をわずかに上回った。
• 平均的な局所的画像パッチに基づく事前定義フィルタの使用は、実用的なCNNで一般的に用いられる小さなカーネルサイズにおいて、学習効率の向上を顕著に実現した。
• カラー画像を用いたサイン言語の文字認識に関する実験では、平均パターンに基づく事前定義フィルタが、1層および2層のCNNにおいて、より速くかつ正確に収束することを確認した。
• マッチドフィルタリング解釈により、訓練済みCNNにおける学習されたフィルタが最適な信号検出に対応することを明らかにした。これにより、もともと曖昧なパラメータに物理的意味が与えられた。
• CNNにおける畳み込み-活性化-プーリング連鎖が、マッチドフィルタリングの最大SNR特性によって理論的に裏付けられ、CNN設計の厳密な基盤が得られた。
• 本フレームワークは、CNNの動作を確立された信号処理理論に結びつけることで、CNNのブラックボックス性を解明し、解釈性の向上を実現するとともに、新たなアーキテクチャの構築に道を開いた。