[論文レビュー] Residual Convolutional Neural Network Revisited with Active Weighted Mapping

Hyoungho Jung, Ryong Lee+2 more|arXiv (Cornell University)|Nov 16, 2018

Machine Learning and ELM参考文献 18被引用数 5

ひとこと要約

本稿では、入力に適応する可学習な重み付けメカニズムであるアクティブウェイトマッピング（AWM）を提案する。この手法は、ResNetの固定されたアイデンティティショートカット接続を、入力画像ごとに推論される動的でチャネルに配慮した重みに置き換える。全結合層を用いて、グローバル特徴埋め込みに基づき各層固有の重みを予測することで、ResNetおよびDenseNetアーキテクチャ全体で精度が向上し、実験ではCIFAR-100で最大0.62%の誤差率低減が確認された。また、推論された重みの識別性能も高く、LDAベースの分類で8.14%のAUC向上を示した。

ABSTRACT

In visual recognition, the key to the performance improvement of ResNet is the success in establishing the stack of deep sequential convolutional layers using identical mapping by a shortcut connection. It results in multiple paths of data flow under a network and the paths are merged with the equal weights. However, it is questionable whether it is correct to use the fixed and predefined weights at the mapping units of all paths. In this paper, we introduce the active weighted mapping method which infers proper weight values based on the characteristic of input data on the fly. The weight values of each mapping unit are not fixed but changed as the input image is changed, and the most proper weight values for each mapping unit are derived according to the input image. For this purpose, channel-wise information is embedded from both the shortcut connection and convolutional block, and then the fully connected layers are used to estimate the weight values for the mapping units. We train the backbone network and the proposed module alternately for a more stable learning of the proposed method. Results of the extensive experiments show that the proposed method works successfully on the various backbone architectures from ResNet to DenseNet. We also verify the superiority and generality of the proposed method on various datasets in comparison with the baseline.

研究の動機と目的

• ResNetにおける固定されたアイデンティティベースのショートカット接続の制限を解消し、深層視覚認識のさらなる精度向上を図ること。
• 残差接続に可学習で入力依存の重みを適用することで、特徴統合とモデル性能が向上するかを検証すること。
• 提案手法の汎用性と有効性を、ResNetやDenseNetを含む多様なバックボーンアーキテクチャにわたって検証すること。
• 生の画像特徴とは独立して、推論された重み値の識別性能を定量的に評価すること。

提案手法

• 各残差ブロックのショートカット接続に適用される重みを、入力に依存するチャネルワイズ特徴に基づいて動的に予測するアクティブウェイトマッピング（AWM）を提案する。
• ショートカット接続および畳み込みブロックからのグローバル平均プーリング特徴を抽出し、それらを連結して全結合層に供給し、重み値を予測する。
• 各残差ブロックの重みを0〜1の範囲で正規化された可学習重みとして生成するために、全結合層の出力にシグモイド活性化関数を適用する。
• 交互学習を採用：バックボーンネットワークとAWMモジュールを交互に訓練し、片方を固定した上で他方が更新されることで、安定したエンドツーエンド学習を確保する。
• DenseNetにおける結合前処理に、学習済み重みを入力に応じた重要度に適応させるソフトアサインメントに類似したメカニズムを適用する。
• 主成分分析（PCA）と線形判別分析（LDA）を用いて重みベクトルの識別性能を評価し、k-NN分類設定においてピクセルベース特徴と比較する。

実験結果

リサーチクエスチョン

• RQ1 ResNetにおける固定アイデンティティマッピングを入力に適応する重みに置き換えることで、視覚認識の精度向上が達成できるか？
• RQ2 AWMモジュールで動的に推論される重み値が、異なる画像クラスや入力特性に応じて有意義に変化するか？
• RQ3 提案されたAWM手法は、ResNetやDenseNetのような異なるバックボーンアーキテクチャに一般化可能か？
• RQ4 低次元の重みベクトルのみで、画像分類に十分な識別的情報を捉えられるか？
• RQ5 複数のデータセットおよびネットワーク深さにおいて、AWMモジュールの性能はベースラインモデルと比べてどのように差がつくか？

主な発見

• 提案されたAWM手法は、22〜40層のDenseNetに適用した場合、CIFAR-100で平均0.62%の誤差率低減を達成し、深さの変化にかかわらず一貫した向上効果を示した。
• ResNet-110では、AWMモジュールから得られる推論重みベクトルが強く識別的であり、PCA+LDAベースのk-NN分類において、ピクセルベース特徴を平均8.14%のAUC向上（ランク1からランク10まで）で上回った。
• アブレーションスタディにより、AWMモジュールが予測する重み値がクラス依存であることが確認され、低次元の重みベクトルに対するLDAベース分類性能が裏付けた。
• 広範な実験により、本手法の有効性と汎用性が、ResNetやDenseNetを含む複数のバックボーンアーキテクチャにわたって検証され、広範な適用可能性が示された。
• 交互学習戦略により、学習が安定し、AWMモジュールが劣化を伴わずに収束し、性能向上が達成された。