[论文解读] TouchStone: Evaluating Vision-Language Models by Language Models

Shuai Bai, Shusheng Yang+7 more|arXiv (Cornell University)|Aug 31, 2023

Multimodal Machine Learning Applications被引用 7

一句话总结

本文提出 TouchStone，一种利用大语言模型（LLMs）作为裁判的自动化评估框架，用于评估视觉语言模型（LVLMs）在多种能力上的表现。通过将多模态输入转化为详细图像注释的文本形式，该方法使 GPT-4 能够以与人类偏好高度一致的方式评分对话质量，揭示了当前 LVLM 中显著的幻觉现象，并识别出关键的改进方向。

ABSTRACT

Large vision-language models (LVLMs) have recently witnessed rapid advancements, exhibiting a remarkable capacity for perceiving, understanding, and processing visual information by connecting visual receptor with large language models (LLMs). However, current assessments mainly focus on recognizing and reasoning abilities, lacking direct evaluation of conversational skills and neglecting visual storytelling abilities. In this paper, we propose an evaluation method that uses strong LLMs as judges to comprehensively evaluate the various abilities of LVLMs. Firstly, we construct a comprehensive visual dialogue dataset TouchStone, consisting of open-world images and questions, covering five major categories of abilities and 27 subtasks. This dataset not only covers fundamental recognition and comprehension but also extends to literary creation. Secondly, by integrating detailed image annotations we effectively transform the multimodal input content into a form understandable by LLMs. This enables us to employ advanced LLMs for directly evaluating the quality of the multimodal dialogue without requiring human intervention. Through validation, we demonstrate that powerful LVLMs, such as GPT-4, can effectively score dialogue quality by leveraging their textual capabilities alone, aligning with human preferences. We hope our work can serve as a touchstone for LVLMs' evaluation and pave the way for building stronger LVLMs. The evaluation code is available at https://github.com/OFA-Sys/TouchStone.

研究动机与目标

• 为解决视觉语言模型（LVLMs）在对话和创造性能力方面缺乏全面、自动化评估的问题。
• 通过开发使用强大 LLM 作为裁判的可扩展自动化方法，克服人工评估的局限性。
• 通过将模型输出与细粒度人类注释进行对比，系统性地评估 LVLM 中的幻觉现象。
• 构建一个多样化、开放世界的视觉对话数据集，涵盖识别、理解与文学创作。
• 在无需人工标注者或视觉增强模型的情况下，实现对 LVLM 性能的直接、高效且可靠的评估。

提出的方法

• 在五个能力类别（描述性、识别、理解、叙事和多图像分析）下构建包含 27 个子任务的 TouchStone 数据集。
• 生成详细的图像注释和描述，将视觉输入转换为 LLM 可理解的文本格式。
• 使用 GPT-4 作为裁判模型，通过基于正确性、相关性和有用性的成对比较来评估对话质量。
• 采用 GPT-4-HA（人类辅助）响应作为参考输出，其源自细粒度图像注释和问题。
• 实施位置平衡评分，以减轻成对比较中的位置偏差。
• 通过将模型生成的描述和人类注释输入 GPT-4，预测幻觉严重程度来衡量幻觉。

实验结果

研究问题

• RQ1 强大的 LLM（如 GPT-4）是否可以作为可靠裁判，在无需人工干预的情况下评估多模态对话的质量？
• RQ2 当前 LVLM 的幻觉现象在多大程度上存在？能否通过基于 LLM 的评估实现其量化测量？
• RQ3 与人类偏好相比，LVLM 在包括视觉叙事和多图像推理在内的多样化能力上表现如何？
• RQ4 输入图像分辨率和提示设计在减少 LVLM 幻觉方面起到什么作用？
• RQ5 使用 LLM 裁判的自动化评估能否实现与人类偏好排名的高度一致？

主要发现

• GPT-4 作为裁判在评估对话质量方面与人类偏好表现出强一致性，验证了基于 LLM 的自动化评估的可行性。
• PandaGPT 的幻觉得分最高（835.5），表明存在严重幻觉，可能源于有限的视觉输入（如仅来自 ImageBind 的 cls 嵌入）。
• InstructBLIP 和 Qwen-VL 的幻觉得分最低（分别为 519.0 和 504.5），表明更短、更简洁的回应可降低幻觉风险。
• 当前 LVLM 在空间理解与复杂视觉关系方面表现不佳，表明需要更优的空间与结构建模。
• 更高分辨率的图像输入（超过 224×224）可提升对细粒度细节和小物体的识别能力，从而提高输出准确性。
• 通过交错的图文数据（如网页、文章）进行多图像预训练，可提升跨多张图像的推理与摘要能力。