[论文解读] Struc-Bench: Are Large Language Models Really Good at Generating Complex Structured Data?

Xiangru Tang, Yiming Zong+5 more|arXiv (Cornell University)|Sep 16, 2023

Topic Modeling被引用 5

一句话总结

本论文提出了 Struc-Bench，一个用于评估大语言模型（LLMs）在原始文本、HTML 和 LaTeX 格式下生成复杂结构化数据能力的基准。该研究揭示了 GPT-3.5 和 GPT-4 在格式、内容准确性及推理方面存在关键缺陷，随后提出一种基于 FormatCoT 的结构感知微调方法，显著提升了 LLaMA-7B 在已见与未见数据上的格式约束遵循能力，其表现远超基线 LLM。

ABSTRACT

Despite the remarkable capabilities of Large Language Models (LLMs) like GPT-4, producing complex, structured tabular data remains challenging. Our study assesses LLMs' proficiency in structuring tables and introduces a novel fine-tuning method, cognizant of data structures, to bolster their performance. We unveil Struc-Bench, a comprehensive benchmark featuring prominent LLMs (GPT-NeoX-20B, GPT-3.5, GPT-4, and Vicuna), which spans text tables, HTML, and LaTeX formats. Our proposed FormatCoT aids in crafting format-specific instructions from the intended outputs to populate this benchmark. Addressing the gap in task-centered evaluation, we propose two innovative metrics, P-Score (Prompting Score) and H-Score (Heuristical Score), to more accurately gauge LLM performance. Our experiments show that applying our structure-aware fine-tuning to LLaMA-7B leads to substantial performance gains, outshining its LLM counterparts across most measures. In-depth error analysis and creating an ability map across six dimensions -- coverage, formatting, reasoning, comprehension, pragmatics, and hallucination -- highlight areas for future enhancements and suggest forthcoming research trajectories. Our code and models can be found at https://github.com/gersteinlab/Struc-Bench.

研究动机与目标

• 系统评估当前 LLM 在原始文本、HTML 和 LaTeX 等多种格式下生成复杂结构化数据的能力。
• 识别当前先进 LLM（如 GPT-3.5 和 GPT-4）在格式、内容准确性、数值推理和长表格处理方面的具体失败模式。
• 构建一个全面的基准 Struc-Bench，包含多样化的真实世界结构化数据示例，以实现超越简单内容重叠度量的细粒度评估。
• 提出并验证一种基于 FormatCoT 的结构感知指令微调方法，通过从目标输出生成格式指令，提升 LLM 在结构化格式上的泛化能力。
• 构建一个涵盖六个维度（覆盖度、格式、推理、理解、实用性和幻觉控制）的能力图谱，以刻画 LLM 在结构化生成中的优势与劣势。

提出的方法

• 开发了 Struc-Bench，一个包含原始文本、HTML 和 LaTeX 表格的精选数据集，旨在测试复杂结构化输出的生成能力。
• 使用 GPT-3.5 从目标输出生成详细的格式描述（FormatCoT），将人类可读的格式要求转化为结构化指令。
• 利用这些格式指令对 LLaMA-7B 进行微调，使模型在训练过程中学习特定格式的约束条件。
• 采用两阶段评估流程：通过基于 GPT-4 的相似性提示实现自动化评分（内容与结构相似性，0–10 分制），并辅以人工错误分析。
• 基于在内容覆盖度、格式、推理、理解、实用性和幻觉控制等方面的错误分析，构建多维能力图谱。
• 在零样本推理设置下，将格式和内容描述作为输入，确保模型严格遵循指定的结构模板生成输出。

Figure 1: A system for describing complex structured formats and learning to follow this format in human language. We use zero-shot for inference.

实验结果

研究问题

• RQ1 当前 LLM（如 GPT-3.5 和 GPT-4）在原始文本、HTML 和 LaTeX 格式下生成复杂结构化数据的表现如何？
• RQ2 LLM 生成的结构化输出中主要的失败模式是什么，特别是在格式、内容准确性、数值推理和长表格处理方面？
• RQ3 基于 FormatCoT 生成格式指令的结构感知指令微调方法，能否显著提升 LLM 生成正确结构化输出的能力？
• RQ4 微调后的 LLaMA-7B 在已见与未见的结构化数据格式上的表现，与 GPT-3.5、GPT-4 和 Vicuna 的零样本推理相比如何？
• RQ5 在结构化数据生成中，哪些模型能力维度（如覆盖度、格式、推理和幻觉控制）最严重地限制了 LLM 的表现？

主要发现

• GPT-3.5 和 GPT-4 在结构化生成中表现出显著的失败率，仅有 3% 的输出完全正确，主要归因于格式错误和内容不准确。
• 所提出的结构感知微调方法显著提升了 LLaMA-7B 在结构化数据生成方面的能力，在已见与未见数据上均优于所有评估过的 LLM，包括 GPT-4。
• FormatCoT 生成的指令使 LLaMA-7B 实现了高水平的格式遵循精度，表明通过针对性的指令微调可显著提升模型性能。
• 能力图谱显示，LLM 在格式推理、复杂输入理解以及幻觉控制方面表现最弱，尤其在长表格和数值推理任务中更为明显。
• GPT-3.5 和 GPT-4 输出的内容相似度平均为 5.2，结构相似度平均为 4.8，表明其在内容与结构上均与真实值存在显著偏差。
• 该基准发现，依赖词重叠的现有评估指标不足以衡量结构化数据，因其无法捕捉格式层面的错误与结构不一致。

Figure 2: Error analysis by human annotation. Some error types are explained in Appendix A .