[論文レビュー] InterActive: Inter-Layer Activeness Propagation

Lingxi Xie, Liang Zheng+3 more|arXiv (Cornell University)|Apr 30, 2016

Cell Image Analysis Techniques被引用数 9

ひとこと要約

InterActiveは、低レベルおよびミドルレベルのニューロンに高レベルの視覚的文脈を統合することで、深層特徴を向上させる、画期的なトップダウン型アクティビティ伝播手法を提案する。高レベル応答からのスコア関数のバックプロパゲーションによりニューロンのアクティビティを計算することで、空間的重み付きで文脈に配慮した特徴を生成し、微調整を必要とせずに複数のベンチマークで最先端の画像分類精度を達成する。

ABSTRACT

An increasing number of computer vision tasks can be tackled with deep features, which are the intermediate outputs of a pre-trained Convolutional Neural Network. Despite the astonishing performance, deep features extracted from low-level neurons are still below satisfaction, arguably because they cannot access the spatial context contained in the higher layers. In this paper, we present InterActive, a novel algorithm which computes the activeness of neurons and network connections. Activeness is propagated through a neural network in a top-down manner, carrying high-level context and improving the descriptive power of low-level and mid-level neurons. Visualization indicates that neuron activeness can be interpreted as spatial-weighted neuron responses. We achieve state-of-the-art classification performance on a wide range of image datasets.

研究の動機と目的

• 標準的な深層特徴抽出手法が前方伝搬に依存し、高レベルの視覚的文脈を無視するという制限を是正すること。
• 上位レイヤーからの文脈的情報を統合することで、低レベルおよびミドルレベルの特徴表現を向上させること。
• 追加のアノテーションやモデルの微調整を必要とせず、特徴品質を向上させる非教師あり手法を開発すること。
• 微調整なしに事前学習済みネットワークのみを用いて、標準的な画像分類ベンチマークで最先端の性能を達成すること。

提案手法

• InterActiveは、高レベルニューロン応答の確率的分布を定義し、文脈的影響をモデル化する。
• 各ネットワーク接続に関してスコア関数を計算し、ネットワーク出力に対する感受性を定量化する。
• すべての接続された入力重みのアクティビティからニューロンのアクティビティを集約し、文脈に配慮した応答を形成する。
• この手法はネットワーク全体にトップダウン方向にアクティビティを伝播させ、低レイヤーのニューロンの受容野を効果的に拡張する。
• 最終的な特徴表現は、元のニューロン応答の空間的重み付きバージョンであり、サリエンシーに配慮した特徴として解釈される。
• このアプローチは推論後処理として適用され、事前学習済みネットワークの再トレーニングや微調整を必要としない。

実験結果

リサーチクエスチョン

• RQ1 高レベルの視覚的文脈を、低レベルおよびミドルレベルの深層特徴を向上させるために効果的に活用できるか？
• RQ2 非教師ありで微分可能であるような形で、ニューロンおよび接続のアクティビティをどのように測定できるか？
• RQ3 トップダウン型アクティビティ伝播は、平均プーリングやマックスプーリングといった標準的なプーリング戦略を上回ることができるか？
• RQ4 アクティビティ伝播による文脈的情報の統合は、多様な画像分類データセットにおいて一貫した性能向上をもたらすか？

主な発見

• InterActiveは、Pet-37データセットにおいて強力なベースラインを上回る0.43%の向上を達成し、複数のベンチマークで最先端の分類精度を達成した。
• Bird-200データセットでは、ボクセルボックスアノテーションを一切使用せずに75.62%の精度を達成し、オブジェクト局在を必要とする手法との差を著しく縮めた。
• ImageNet ILSVRC2012では、16層のVGGNetで検証誤差を7.1%から6.8%に低下させ、統合モデルでは6.7%から6.5%に低下させた。
• ボクセルボックスアノテーションを組み合わせた場合、77.53%の精度を達成し、元の特徴を1.91%上回り、より複雑なモデルの性能に近づいた。
• この手法は教師なしで顕著な領域やオブジェクト部分を暗黙的に検出でき、非教師ありサリエンシー検出の強力な可能性を示した。
• ベースラインの精度がすでに高い状態でも、データセット全体にわたって一貫した向上が得られたことから、アクティビティ伝播による深層特徴の本質的向上が示された。