[論文レビュー] Exploring Visual Interpretability for Contrastive Language-Image Pre-training

Yi Li, Hualiang Wang+3 more|arXiv (Cornell University)|Sep 15, 2022

Multimodal Machine Learning Applications被引用数 11

ひとこと要約

本論文は、コントラスト型言語・画像事前学習（CLIP）の視覚的解釈可能性を向上させるためのECLIPを提案する。CLIPはプーリング層における意味的シフトにより、誤って背景領域を前面に押し出してしまうことが判明した。学習中に自己教師付きの注意マップを用いてマスク付き最大プーリングに注意プーリングを置き換えることで、認識精度を損なわずに視覚的バイアスを是正する。3つのベンチマークで最先端の解釈可能性を達成した。

ABSTRACT

Contrastive Language-Image Pre-training (CLIP) learns rich representations via readily available supervision of natural language. It improves the performance of downstream vision tasks, including but not limited to the zero-shot, long tail, segmentation, retrieval, caption, and video. However, the visual explainability of CLIP is rarely studied, especially for the raw feature map. To provide visual explanations of its predictions, we propose the Image-Text Similarity Map (ITSM). Based on it, we surprisingly find that CLIP prefers the background regions than the foregrounds, and shows erroneous visualization results against human understanding. This phenomenon is universal for both vision transformers and convolutional networks, which suggests this problem is unique and not owing to certain network. Experimentally, we find the devil is in the pooling part, where inappropriate pooling methods lead to a phenomenon called semantic shift. For this problem, we propose the Explainable Contrastive Language-Image Pre-training (ECLIP), which corrects the explainability via the Masked Max Pooling. Specifically, to avoid the semantic shift, we replace the original attention pooling by max pooling to focus on the confident foreground, with guidance from free attention during training. Experiments on three datasets suggest that ECLIP greatly improves the explainability of CLIP, and beyond previous explainability methods at large margins. The code will be released later.

研究の動機と目的

• CLIPの視覚的説明が人間の認識と矛盾する理由、特に前景よりも背景領域を優先する傾向の原因を解明すること。
• プーリング機構、特に平均値に類似したプーリング操作が果たす役割を含め、この直感に反する挙動の根本的原因を同定すること。
• 元の認識性能を保ちながら、CLIPの予測における視覚的解釈可能性を向上させる手法を開発すること。
• 推論時に変更を加えずに、無料の注意マスクを用いて訓練時に特徴選択を判別的前景領域に導く訓練時ソリューションを提案すること。

提案手法

• テキスト特徴と画像トークン特徴の類似度を計算することで、CLIPの生の予測を可視化するための画像・テキスト類似度マップ（ITSM）を導入する。
• 意味的シフトを低減し、信頼性の高い前景領域に注目を向けるために、元の注意プーリングを最大プーリングに置き換える。
• 推論時に変更を加えずに、学習中に自己教師付き注意マップ（MoCoV3 や DINO から得られるもの）をマスクとして用い、最大プーリング操作をガイドする。
• 解釈可能性と分類を分離するために、学習可能な線形変換のペアを新たに導入し、CLIPの元の性能を維持する。
• CLIPバックボーンを固定し、新しい線形層とマスク付き最大プーリングのみを微調整することで、精度の低下を防ぐ。
• 2つのバリエーションを提案：RCLIP（逆転CLIP、訓練なし）とECLIP（マスク付き最大プーリングを含む）、両者とも解釈可能性が向上している。

実験結果

リサーチクエスチョン

• RQ1 なぜCLIPは人間の理解とは矛盾する視覚的説明を出力し、前景よりも背景領域を優先するのか？
• RQ2 CLIPにおける背景バイアスは、アーキテクチャ設計由来であるのか、それともネットワーク内のある特定モジュールに起因するのか？
• RQ3 全モデルの再訓練や人為的アノテーションマスクを用いずに、平均値に類似したプーリングが引き起こす意味的シフトを是正できるか？
• RQ4 訓練中に自己教師付き注意マップを用いることで、テキストと判別的画像領域との整合性が向上するか？
• RQ5 バックプロパゲーションに依存しない単純な手法が、既存の勾配ベースや注意ベースの手法よりも優れた解釈可能性を達成できるか？

主な発見

• Image-Text Similarity Mapにより、ResNetやビジョントランスフォーマーベースのバックボーンを問わず、CLIPは視覚的説明において一貫して背景領域を前景よりも優先することが判明した。
• この挙動の根本的原因は、特に注意プーリングやグローバル平均プーリングといった平均値に類似した操作に起因するプーリング層における意味的シフトであると特定された。
• 注意プーリングを最大プーリングに置き換えることで、背景バイアスが軽減され、解釈可能性が向上した。mIoUは17.55%、mSCは30.53%向上した。
• 訓練中に自己教師付き注意マップ（DINOガイド）を導入することで、さらに性能向上が見られ、mIoUは45.52、mSCは26.16にまで上昇した。
• ECLIPは、元のCLIPと同等の認識精度（例：ImageNet-S50で90.54 mAP）を維持しながら、顕著に解釈可能性が向上した。
• ECLIPは、Grad-CAM や最新のViTベース手法[9]と比較して、定性的および定量的評価の両方で優れた性能を示し、関連画像領域の局在化が優れていた。