[论文解读] Beyond Scale: The Diversity Coefficient as a Data Quality Metric for Variability in Natural Language Data

Brando Miranda, A. Lee+5 more|arXiv (Cornell University)|Jun 24, 2023

Topic Modeling被引用 6

一句话总结

本文引入了多样性系数作为大型语言模型（LLMs）预训练数据集数据质量的正式、可解释的度量指标，超越了规模的考量。基于微调后的GPT-2模型的Fisher信息矩阵对角线的Task2Vec嵌入，作者证明了公开可用的LLM数据集表现出高度的正式多样性——该结论得到了合理动机的理论边界和可解释性检验的支持——表明该度量能可靠地捕捉数据覆盖范围，并可指导构建更高品质、更丰富的训练数据。

ABSTRACT

Current trends in pre-training Large Language Models (LLMs) primarily focus on the scaling of model and dataset size. While the quality of pre-training data is considered an important factor for training powerful LLMs, it remains a nebulous concept that has not been rigorously characterized. To this end, we propose a formalization of one key aspect of data quality -- measuring the variability of natural language data -- specifically via a measure we call the diversity coefficient. Our empirical analysis shows that the proposed diversity coefficient aligns with the intuitive properties of diversity and variability, e.g., it increases as the number of latent concepts increases. Then, we measure the diversity coefficient of publicly available pre-training datasets and demonstrate that their formal diversity is high compared to theoretical lower and upper bounds. Finally, we conduct a comprehensive set of controlled interventional experiments with GPT-2 and LLaMAv2 that demonstrate the diversity coefficient of pre-training data characterizes useful aspects of downstream model evaluation performance -- totaling 44 models of various sizes (51M to 7B parameters). We conclude that our formal notion of diversity is an important aspect of data quality that captures variability and causally leads to improved evaluation performance.

研究动机与目标

• 为解决LLM预训练中数据质量缺乏正式、定量度量的问题，特别是超越数据集规模的考量。
• 将数据质量的讨论建立在形式化定义、可解释的度量之上——具体而言，即数据多样性。
• 通过检验其与多样性直观属性的一致性，验证多样性系数作为可靠且有意义度量的有效性。
• 通过将多样性系数与理论下限和上限进行比较，证明公开可用的LLM预训练数据集在形式上具有多样性。
• 为实践者提供一种实用、易访问的框架，用于在数据整理过程中评估和提升数据集的多样性。

提出的方法

• 使用固定GPT-2模型在每个序列批次上微调至下一项预测任务后，计算Fisher信息矩阵（FIM）对角线的Task2Vec嵌入。
• 将FIM对角线用作向量表示（即Task2Vec嵌入），以捕捉数据的内在属性，如语义和结构复杂性。
• 通过不同数据批次的Task2Vec嵌入之间的成对距离，计算多样性系数，从而量化正式的数据多样性。
• 为符号序列数据建立多样性系数的理论下限和上限，以提供经验值的上下文参考。
• 开展可解释性实验：拼接数据集、改变潜在概念（通过GINC数据集）以及调整词汇表大小，以检验系数的行为。
• 通过测试替代模型和随机网络验证鲁棒性，结果表明只要使用一致的嵌入方法，结果保持一致。

实验结果

研究问题

• RQ1 多样性系数能否作为自然语言预训练数据集中数据多样性的可靠、正式度量？
• RQ2 在直观变化（如增加数据源数量或潜在概念数量）下，多样性系数的行为如何？
• RQ3 与合理动机的理论边界相比，公开可用的LLM预训练数据集的多样性系数是否较高？
• RQ4 通过多样性系数衡量的形式化数据多样性，是否与下游模型性能相关？
• RQ5 多样性系数能否作为实用工具，用于数据整理，而不仅仅是单纯增加数据规模？

主要发现

• 通过与合理动机的理论下限和上限比较，确认公开可用的LLM预训练数据集的多样性系数在形式上较高。
• 当将来自不同来源的多个预训练数据集拼接时，多样性系数上升，表明其对数据源多样性的敏感性。
• 在GINC数据集中，随着潜在概念数量的增加，系数也随之上升，符合对多样性的直观预期。
• 更大的、更丰富的词汇表会导致更高的多样性系数，进一步验证其对语言丰富度的敏感性。
• 多样性系数与模型性能相关：在不同形式多样性的数据集上微调的GPT-2模型中，多样性越高，交叉熵损失越低。
• 只要嵌入方法保持一致，多样性系数在不同模型架构和嵌入方法（包括随机网络）下仍保持可靠。