[論文レビュー] VisualBackProp for learning using privileged information with CNNs

Devansh Bisla, Anna Choromanska|arXiv (Cornell University)|May 24, 2018

Machine Learning and Data Classification参考文献 21被引用数 3

ひとこと要約

この論文では、セグメンテーションマスクなどの特権情報を利用して、軽量でパラメータフリーのアーキテクチャモジュールを用いて、CNNの学習を向上させるVisualBackPropを提案する。このアプローチは、逆方向の可視化により顕著な特徴に注目を向けることで、推論パイプラインを変更せずにImageNetで2.4%、PASCAL VOCで2.7%の分類精度向上を達成する。

ABSTRACT

In many machine learning applications, from medical diagnostics to autonomous driving, the availability of prior knowledge can be used to improve the predictive performance of learning algorithms and incorporate `physical,' `domain knowledge,' or `common sense' concepts into training of machine learning systems as well as verify constraints/properties of the systems. We explore the learning using privileged information paradigm and show how to incorporate the privileged information, such as segmentation mask available along with the classification label of each example, into the training stage of convolutional neural networks. This is done by augmenting the CNN model with an architectural component that effectively focuses model's attention on the desired region of the input image during the training process and that is transparent to the network's label prediction mechanism at testing. This component effectively corresponds to the visualization strategy for identifying the parts of the input, often referred to as visualization mask, that most contribute to the prediction, yet uses this strategy in reverse to the classical setting in order to enforce the desired visualization mask instead. We verify our proposed algorithms through exhaustive experiments on benchmark ImageNet and PASCAL VOC data sets and achieve improvements in the performance of $2.4\%$ and $2.7\%$ over standard single-supervision model training. Finally, we confirm the effectiveness of our approach on skin lesion classification problem.

研究の動機と目的

• 学習段階でドメイン固有の特権情報（例：セグメンテーションマスク）を組み込むことで、CNNの一般化性能を向上させること。
• 特徴選択の制御が不十分であるため、標準的な教師あり学習では誤った相関関係を学習してしまうという限界を解消すること。
• 推論アーキテクチャを変更せずに、モデルの注目を関連する画像領域に誘導する手法を開発すること。
• 皮膚腫瘍分類を含む多様なベンチマークで、このアプローチの有効性を検証すること。

提案手法

• 学習中に望ましい可視化マスクを逆方向にバックプロパゲートするための、パラメータフリーのアーキテクチャ的要素を導入する。
• 可視化マスクを逆方向に適用する：事後的に顕著な特徴を特定するのでなく、学習段階で特定の領域に注目を向けるように強制する。
• 平均化、デコンボリューション、ポイントワイド乗算の線形演算のみを用いるため、あらゆるCNNアーキテクチャと互換性がある。
• 全結合層のすべての畳み込み層に、フル解像度の特権マスクを適用し、背景やアーティファクトなどの不要な特徴を抑制する。
• テスト時には同一のネットワークアーキテクチャを維持するため、推論に追加のオーバーヘッドが生じない。
• 二重の監視フレームワークを採用：学習中に通常のラベル監視に加え、特権マスクによる監視を実施する。

実験結果

リサーチクエスチョン

• RQ1 セグメンテーションマスクを特権情報として組み込むことで、画像分類タスクにおけるCNNの性能向上が図れるか？
• RQ2 VisualBackPropの逆方向可視化メカニズムは、特徴学習およびモデルの一般化にどのように影響を与えるか？
• RQ3 精度とロバスト性の観点から、標準的なデータオーグメンテーションや入力マスキング手法に比べ、本手法が優れているか？
• RQ4 背景アーティファクト（例：定規、髪の毛）がモデルを誤導する可能性がある医療画像分類に、本手法は効果的に適用可能か？

主な発見

• 提案手法は、ImageNetデータセットにおいて、標準的な単一監視学習と比較して、トップ1精度が2.4%絶対的に向上した。
• PASCAL VOCデータセットでは、ベースライン学習と比較して、平均mAPが2.7%向上した。
• 皮膚腫瘍分類では、Full FocusバージョンがメラノーマのROC-AUCを0.815に達し、通常の学習ベースライン（0.802）を上回った。
• Half Focusバージョンは、より鋭い可視化マスクを生成し、Seborrheic KeratosisのAUCが0.941に達し、ベースライン（0.924）を上回った。
• 代表的な可視化結果から、髪の毛や定規などの背景アーティファクトへの注目が効果的に抑制され、代わりに腫瘍領域に注目していることが確認された。
• 1回の順方向プロパゲーションよりも少ない計算演算量であるため、非常に効率的で、実世界のシステムへの実装が可能である。