[論文レビュー] Mitigating Object Hallucination in Large Vision-Language Models via Image-Grounded Guidance

Linxi Zhao, Yihe Deng+2 more|arXiv (Cornell University)|Feb 13, 2024

Epilepsy research and treatment被引用数 4

ひとこと要約

本稿では、生成時に分類器フリー整合性を用いて事前学習済み視覚モデルからのオブジェクトグランドイング特徴を統合することで、訓練不要かつAPI不要なフレームワークMARINEを提案する。この手法により、オブジェクトの幻覚を低減するとともに、応答の詳細性と正確性を向上させ、CHAIR、POPE、GPT-4V評価を用いた6つのLVLMにおいて、生成後処理や微調整手法を上回る性能を発揮する。

ABSTRACT

The advancement of Large Vision-Language Models (LVLMs) has increasingly highlighted the critical issue of their tendency to hallucinate non-existing objects in the images. To address this issue, previous works focused on using specially curated datasets or powerful LLMs to rectify the outputs of LVLMs. However, these approaches require either costly training or fine-tuning, or API access to proprietary LLMs for post-generation correction. In response to these limitations, we propose Mitigating hallucinAtion via image-gRounded guIdaNcE (MARINE), a framework that is both training-free and API-free. MARINE effectively and efficiently reduces object hallucinations during inference by introducing image-grounded guidance to LVLMs. This is achieved by leveraging open-source vision models to extract object-level information, thereby enhancing the precision of LVLM-generated content. Our framework's flexibility further allows for the integration of multiple vision models, enabling more reliable and robust object-level guidance. Through comprehensive evaluations across 5 popular LVLMs with diverse evaluation metrics and benchmarks, we demonstrate the effectiveness of MARINE, which even outperforms existing fine-tuning-based methods. Remarkably, it reduces hallucinations consistently in GPT-4V-assisted evaluation while maintaining the detailedness of LVLMs' generations. We release our code at https://github.com/Linxi-ZHAO/MARINE.

研究の動機と目的

• 大規模ビジョン・リンガウエッジモデル（LVLM）における、存在しないオブジェクトについての記述を生成するという深刻な問題に対処すること。
• 高価な微調整やGPT-3.5のような外部LLM APIに依存しない、訓練不要かつAPI不要なソリューションを開発すること。
• 生成プロセス中に、LVLMの出力の元のスタイルや指示遵守性を保持しつつ、幻覚を低減すること。
• 事前学習済み検出器からのオブジェクトグランドイング特徴を活用して視覚的文脈を豊かにすることで、LVLM出力の正確性と詳細性を向上させること。
• 生成中に修正することが、生成後処理に比べてより効果的で、より少ない干渉で実現できることを示すこと。

提案手法

• MARINEは、事前学習済みオブジェクト検出モデル（例：DETR）を用いて、画像内にオブジェクトが存在することを根拠とする視覚特徴を抽出する。
• これらのオブジェクトグランドイング特徴はソフトプロンプトとして投影され、生成プロセス中にLVLMのクロスアテンション層に統合される。
• ガイドランス強度γを用いて、分類器フリー整合性（CFG）が適用され、グランドイング特徴がテキスト生成に与える影響を制御する。
• ガイドランス機構により、LVLMが豊富な視覚的特徴に整合したテキストを生成するよう促され、幻覚的コンテンツの低減が実現される。
• このフレームワークは任意のビジョンモデルおよびプロジェクション関数と互換性があり、柔軟な展開が可能である。
• 評価にはCHAIR、POPE、およびGPT-4V支援評価を用い、幻覚の低減と応答の詳細性を測定する。

実験結果

リサーチクエスチョン

• RQ1 訓練不要かつAPI不要な手法が、生成プロセス中にLVLMにおけるオブジェクトの幻覚を効果的に低減できるか。
• RQ2 分類器フリー整合性を用いてオブジェクトグランドイング特徴を統合することで、LVLM出力の正確性と事実整合性がどのように向上するか。
• RQ3 生成中に幻覚を是正することが、生成後処理に比べて、元のスタイルや指示遵守性をよりよく保持できるか。
• RQ4 オブジェクトグランドイング特徴のガイドランス強度およびノイズ強度が、幻覚低減と応答品質にどのように影響するか。
• RQ5 MARINEは、既存の微調整ベースおよび生成後補正手法を上回る幻覚低減性能と詳細な応答生成を達成できるか。

主な発見

• MARINEは6つのLVLMにおいて幻覚を顕著に低減し、CHAIRおよびPOPE指標において、最新の生成後処理手法（WoodpeckerやLURE）を上回る性能を発揮する。
• ガイドランス強度0.5で、CHAIRによる測定においてLLaVA-v1.5ではベースライン比で23.1%の相対的幻覚低減が達成された。
• MARINEは応答の詳細性を向上させ、GPT-4V評価では事実の正確性と詳細の保持率がベースライン比で15.6%向上した。
• アブレーションスタディにより、ガイドランス強度γ ∈ (0.3, 0.7) が幻覚低減において最適であると確認され、高値にすると忠実性は向上するが多様性が低下する。
• オブジェクト検出器からのノイズ強度（信頼度しきい値による）は性能に影響を及ぼすが、DETR（γ=0.5）を用いたMARINEは、全しきい値でLUREやWoodpeckerを上回る性能を示した。
• 定性的な結果では、MARINEは元の応答スタイルや指示遵守性を保持しているのに対し、Woodpecker や LURE はしばしば元の出力を上書きまたは歪めてしまう。