[論文レビュー] Benchmarking Zero-Shot Robustness of Multimodal Foundation Models: A Pilot Study

Chenguang Wang, Ruoxi Jia+2 more|arXiv (Cornell University)|Mar 15, 2024

Infrastructure Maintenance and Monitoring被引用数 4

ひとこと要約

本稿では、CLIPのようなマルチモodal基礎モデルのゼロショットロバストネスを、7つの自然な分布シフト、3つの合成シフト、11の敵対的攻撃に対して評価する包括的ベンチマークRoZを紹介する。強力なゼロショット精度を示す一方で、CLIPは合成シフトでは平均で-11.8%、タイプグラフィック攻撃では-34.7%のロバストネス低下を示しており、教師ありImageNetモデルと比較して顕著なロバストネスギャップが存在することが明らかになった。

ABSTRACT

Pre-training image representations from the raw text about images enables zero-shot vision transfer to downstream tasks. Through pre-training on millions of samples collected from the internet, multimodal foundation models, such as CLIP, produce state-of-the-art zero-shot results that often reach competitiveness with fully supervised methods without the need for task-specific training. Besides the encouraging performance on classification accuracy, it is reported that these models close the robustness gap by matching the performance of supervised models trained on ImageNet under natural distribution shift. Because robustness is critical to real-world applications, especially safety-critical ones, in this paper, we present a comprehensive evaluation based on a large-scale robustness benchmark covering 7 natural, 3 synthetic distribution shifts, and 11 adversarial attacks. We use CLIP as a pilot study. We show that CLIP leads to a significant robustness drop compared to supervised ImageNet models on our benchmark, especially under synthetic distribution shift and adversarial attacks. Furthermore, data overlap analysis suggests that the observed robustness under natural distribution shifts could be attributed, at least in part, to data overlap. In summary, our evaluation shows a comprehensive evaluation of robustness is necessary; and there is a significant need to improve the robustness of zero-shot multimodal models.

研究の動機と目的

• 自然な分布シフトを超えたゼロショットマルチモダル基礎モデルのロバストネスを体系的に評価すること。
• 自然なシフトでの観察されたロバストネスが、データオーバーラップによるものか、真のモデル一般化によるものかを特定すること。
• 自然、合成、敵対的ロバストネス評価を含む包括的ベンチマーク（RoZ）の開発。
• プロンプト工学および自動プロンプト生成がゼロショット設定におけるロバストネスに与える影響を評価すること。
• 安全に重要な用途に向けたゼロショットマルチモダルモデルにおけるロバストネス向上の緊急性を浮き彫りにすること。

提案手法

• ImageNet-V2、ObjectNetなど7つの自然な分布シフト、ImageNet-C、Stylized ImageNetなど3つの合成シフト、11の敵対的攻撃を含むRoZベンチマークを構築。
• ViT-B/16、ResNet50x16などの複数のビジョンエンコーダーを用いたCLIP、および自動プロンプト生成を活用するCLIP-Autoを評価。
• テストセットとImageNet間のデータオーバーラップ分析を実施し、自然なシフトでのロバストネスがデータセットオーバーラップに起因しているかどうかを評価。
• マルチモーダルモデルのプロンプトベース推論における脆弱性を標的とした、新しいタイプグラフィック攻撃テストセット（ImageNet-T、CIFAR-10-T）を導入。
• すべてのロバストネス条件下で、ゼロショットCLIPの性能を標準ImageNetモデルと比較。
• 微調整なしに自然言語テンプレートを用いた標準化されたゼロショットプロンプティングを用い、モデルの一般化能力を評価。

(a) Seven natural distribution shifts.

実験結果

リサーチクエスチョン

• RQ1 CLIPは、教師ありImageNetモデルと比較して、合成的分布シフトおよび敵対的攻撃下でもどの程度ロバストネスを維持できるか？
• RQ2 自然な分布シフトでのCLIPの観察されたロバストネスは、ImageNet学習セットとのデータオーバーラップに起因しているか？
• RQ3 自動プロンプト生成（CLIP-Auto）は、標準CLIPおよび教師ありモデルと比較してロバストネスにどのように影響するか？
• RQ4 タイプグラフィック摂動のような新しい敵対的攻撃下で、マルチモーダルゼロショットモデルにどのような脆弱性が現れるか？
• RQ5 RoZのような包括的ベンチマークは、ゼロショットマルチモーダル基礎モデルのロバストネスの弱みを信頼性を持って特定できるか？

主な発見

• CLIPは、合成的分布シフト（例：ImageNet-C、Stylized ImageNet）の平均で-11.8%の顕著なロバストネス低下を示したが、教師ありImageNetモデルと比較して顕著なロバストネスギャップが存在した。
• 敵対的攻撃では、CLIPは標準ImageNetモデルを下回り、新しく導入されたタイプグラフィック攻撃セット（ImageNet-TおよびCIFAR-10-T）では-34.7%のロバストネス低下を示した。
• データオーバーラップ分析の結果、自然な分布シフト（例：ImageNet-A、ImageNet-R）での観察されたロバストネスは、少なくとも部分的にImageNet学習セットとの重複サンプルに起因していることが判明した。
• 自動プロンプト生成を活用するCLIP-Autoは、すべてのテストセットで標準CLIPと同等の性能を示し、プロンプト自動化によるロバストネス向上は見られなかった。
• 強力なゼロショット精度を示す一方で、CLIPは非自然な分布シフト下では一般化が不十分であり、実世界の展開において顕著な脆弱性を露呈した。
• RoZベンチマークは、ゼロショットマルチモーダルモデルのロバストネスの弱みを効果的に特定でき、標準的なゼロショット精度を超えた体系的ロバストネス評価の必要性を示した。

(b) Robustness test sets except for the distribution shifts in (a).