[論文レビュー] Seeing is Believing: Mitigating Hallucination in Large Vision-Language Models via CLIP-Guided Decoding

Ailin Deng, Z.-H. Chen+1 more|arXiv (Cornell University)|Feb 23, 2024

COVID-19 diagnosis using AIMedicine被引用数 3

ひとこと要約

本稿では、CLIPスコアを文単位のデコードをガイドする外部指標として用いることで、訓練なしにオブジェクトの幻覚を低減する手法であるCLIPガイドドデコード（CGD）を提案する。入力画像とのCLIP類似度が高い生成文を優遇することで、CGDは幻覚を顕著に低減し、33.5％の相対的削減を達成する。生成品質は維持され、モデルの微調整や外部ツールの必要がない。

ABSTRACT

Large Vision-Language Models (LVLMs) are susceptible to object hallucinations, an issue in which their generated text contains non-existent objects, greatly limiting their reliability and practicality. Current approaches often rely on the model's token likelihoods or other internal information, instruction tuning on additional datasets, or incorporating complex external tools. We first perform empirical analysis on sentence-level LVLM hallucination, finding that CLIP similarity to the image acts as a stronger and more robust indicator of hallucination compared to token likelihoods. Motivated by this, we introduce our CLIP-Guided Decoding (CGD) approach, a straightforward but effective training-free approach to reduce object hallucination at decoding time. CGD uses CLIP to guide the model's decoding process by enhancing visual grounding of generated text with the image. Experiments demonstrate that CGD effectively mitigates object hallucination across multiple LVLM families while preserving the utility of text generation. Codes are available at https://github.com/d-ailin/CLIP-Guided-Decoding.

研究の動機と目的

• LVLMにおけるオブジェクト幻覚の根本的要因、特に文の後半における生成においての要因を解明すること。
• 内部モデルの尤度よりも、CLIP類似度が幻覚の指標としてより強固であるかどうかを評価すること。
• CLIPを外部ガイドとして用いることで、微調整なしに軽量なデコード段階での幻覚低減手法を開発すること。
• 特にセーフティクリティカルな状況や人間とAIの相互作用の場面において、生成品質を維持したまま幻覚を低減すること。

提案手法

• 本手法は、CLIPガイドドデコード（CGD）を導入し、入力画像との視覚的・意味的整合性に基づいて、デコード中に候補文をスコア付けする。
• 各デコードステップで複数の候補文が生成され、それらのCLIPスコアが計算され、画像との整合性が評価される。
• 幻覚スコアは、文の尤度とCLIPスコアの重み付き組み合わせとして計算され、CLIPスコアが高い候補が優先される。
• 最終出力は、視覚的根拠を強調する微分可能再ランク付け機構を用いて、最もスコアの高い候補から選択される。
• アプローチは完全に推論時のみに適用され、モデルの微調整や追加学習は不要である。
• CLIPモデルをLVLMと別個に使用した場合と、LVLMで使用されているものと同一のものを使用した場合の両方で評価され、さまざまな設定においても堅牢性が示された。

実験結果

リサーチクエスチョン

• RQ1 CLIP類似度は、LVLMにおけるトークン尤度よりも幻覚の指標としてより強く信頼性があるか？
• RQ2 CLIPスコアをデコードのガイドとして用いることで、オープンエンドド画像キャプション生成における幻覚が低減するか？
• RQ3 微調整なしで外部ガイドを用いる手法（例：CGD）は、生成品質を損なわず、幻覚低減に効果的か？
• RQ4 異なるCLIPモデル、特にLVLM自体で使用されているものと比較した場合、CGDの性能はどのように変化するか？
• RQ5 さまざまなLVLMにおいて、生成キャプションの後半の文において幻覚が顕著に増加するか？

主な発見

• CLIPスコアは、特にキャプションの後半における文において、トークン尤度よりもはるかに強く、より頑健な幻覚指標であることが示された。
• CGDは、グリーディデコードと比較して幻覚を33.5％相対的に低減し、COCOでは29.73、NoCapsでは8.12の幻覚スコアを達成した。
• アブレーションスタディにより、CLIPガイドが幻覚低減に主に寄与していることが確認され、CLIPガイドの除去により性能はグリーディレベルにまで低下した。
• LVLMで使用されている同じCLIPモデル（例：OpenAI ViT-L/14）を再利用しても、CGDはベースラインデコードを上回った。これは、既存の微調整におけるオーバーフィッティングの可能性を示唆している。
• 候補数（N）とサンプリング回数（M）を増やすことで性能が向上し、CLIPガイドを用いた広範な探索が幻覚低減を強化することが示された。
• 生成品質は維持されており、平均キャプション長はグリーディの80.05からCGDの76.66にわずかに短縮された。これは、実用性への劣化が最小限であることを示している。