[論文レビュー] Group-CAM: Group Score-Weighted Visual Explanations for Deep Convolutional Networks

Qinglong Zhang, Lu Rao+1 more|arXiv (Cornell University)|Mar 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 23被引用数 33

ひとこと要約

Group-CAM は特徴マップをグループ化し、初期マスクをデノイズしてから、摂動後のクラス信頼度で重み付けすることで、ターゲット関連のサリエンシマップを効率的に生成します。従来手法より少ないネットワーククエリで、より良い説明を実現します。

ABSTRACT

In this paper, we propose an efficient saliency map generation method, called Group score-weighted Class Activation Mapping (Group-CAM), which adopts the "split-transform-merge" strategy to generate saliency maps. Specifically, for an input image, the class activations are firstly split into groups. In each group, the sub-activations are summed and de-noised as an initial mask. After that, the initial masks are transformed with meaningful perturbations and then applied to preserve sub-pixels of the input (i.e., masked inputs), which are then fed into the network to calculate the confidence scores. Finally, the initial masks are weighted summed to form the final saliency map, where the weights are confidence scores produced by the masked inputs. Group-CAM is efficient yet effective, which only requires dozens of queries to the network while producing target-related saliency maps. As a result, Group-CAM can be served as an effective data augment trick for fine-tuning the networks. We comprehensively evaluate the performance of Group-CAM on common-used benchmarks, including deletion and insertion tests on ImageNet-1k, and pointing game tests on COCO2017. Extensive experimental results demonstrate that Group-CAM achieves better visual performance than the current state-of-the-art explanation approaches. The code is available at https://github.com/wofmanaf/Group-CAM.

研究の動機と目的

• CNN の意思決定に対する効率的で判別的な視覚的説明を動機づけ、信頼性と解釈性を高める。
• RISE より速いサリエンシ法を開発しつつ、説明品質を維持または改善する。
• 分割-変換-統合の戦略を活用して、グループベースの初期マスクを生成し、クラス信頼度スコアで重み付けする。

提案手法

• G グループにクラス活性を分割し、各グループ内の勾配重み付け済み活性化を合計して初期マスクを形成する。
• 初期マスクをデノイズして正規化し、滑らかで画素を保持するマスクを作成する。
• 入力のマスクされていない領域をぼかし、摂動された入力から信頼度の向上を計算してマスクを重み付けする。
• 重み付け（信頼度スコア）でマスク付き入力を集約し、加重和を介して最終的なサリエンシマップを形成する。
• ImageNet-1k および COCO2017 で RISE、XRAI、Grad-CAM、Score-CAM と比較して効率と視覚品質を評価する。

実験結果

リサーチクエスチョン

• RQ1 Group-CAM は既存の方法よりはるかに少ないネットワーククエリでターゲット関連のサリエンシマップを生成できるか。
• RQ2 グループベースのマスキングと摂動アプローチは、最新の説明手法と比較して視覚的品質と局在性能の両方を改善するか。
• RQ3 Group-CAM は分類器の微調整のための有効なデータ拡張手段となるか。

主な発見

• Group-CAM は ImageNet-1k の挿入/削除テストにおいて Grad-CAM、Grad-CAM++、RISE、XRAI、Score-CAM より総合的な説明性能（AUC）が高く、Group-CAM は 56.8 insertion AUC、12.3 deletion AUC、44.5 overall AUC を達成した。
• ImageNet-1k で、COCO val2017 の局在化（ポイントゲーム）で Group-CAM が競合他社を上回り、平均精度は Grad-CAM の 56.7 に対して 57.5 を達成。
• Group-CAM は非常に高速で（G=32 の場合約 0.09 秒／画像）実行時間も Grad-CAM と競合しつつ、より良い説明を提供。
• アブレーション研究により、グループ数 G の増加が全体スコアを改善し、しきい値 theta が約 70 のとき強い性能を示すことが分かった。