[论文解读] Understanding Dataset Difficulty with $\mathcal{V}$-Usable Information

Kawin Ethayarajh, Yejin Choi+1 more|arXiv (Cornell University)|Oct 16, 2021

Topic Modeling被引用 4

一句话总结

本文提出了一种新颖的信息论框架，利用 $Π$-可用信息量化给定模型 $Π$ 的数据集难度，通过逐样本 $Π$-信息（pvi）实现实例级别的难度估计。研究发现，$Π$-可用信息越低，模型难度越高，并在主流NLP基准数据集中识别出标注伪影，如错误标注的样本和对极简词汇线索的过度依赖。

ABSTRACT

Estimating the difficulty of a dataset typically involves comparing state-of-the-art models to humans; the bigger the performance gap, the harder the dataset is said to be. However, this comparison provides little understanding of how difficult each instance in a given distribution is, or what attributes make the dataset difficult for a given model. To address these questions, we frame dataset difficulty -- w.r.t. a model $\mathcal{V}$ -- as the lack of $\mathcal{V}$-$ extit{usable information}$ (Xu et al., 2019), where a lower value indicates a more difficult dataset for $\mathcal{V}$. We further introduce $ extit{pointwise $\mathcal{V}$-information}$ (PVI) for measuring the difficulty of individual instances w.r.t. a given distribution. While standard evaluation metrics typically only compare different models for the same dataset, $\mathcal{V}$-$ extit{usable information}$ and PVI also permit the converse: for a given model $\mathcal{V}$, we can compare different datasets, as well as different instances/slices of the same dataset. Furthermore, our framework allows for the interpretability of different input attributes via transformations of the input, which we use to discover annotation artefacts in widely-used NLP benchmarks.

研究动机与目标

• 为解决标准数据集难度评估缺乏可解释性的问题，该问题仅依赖于模型与人类性能差距的聚合指标。
• 开发一种面向特定模型的难度度量方法，量化模型实际能从输入中利用的信息量。
• 实现对单个样本和数据子集的细粒度分析，以揭示广泛使用的NLP基准中隐藏的偏差和标注伪影。
• 提供一种稳定、可解释且计算基础坚实的替代方案，以替代基于不确定性的或基于IRT的难度估计方法。

提出的方法

• 将数据集难度形式化为 $Π$-可用信息的缺失，该信息通过预测性 $Π$-信息 ($I_{Π}(X\to Y)$) 定义，用于衡量在模型约束下可提取的信息量。
• 引入逐样本 $Π$-信息（pvi）作为单个样本难度的度量，其来源于模型对单个输入的预测能力。
• 通过输入变换（如词语乱序、同义词替换）隔离特定输入属性对 $Π$-可用信息的贡献。
• 在不同模型、训练种子和训练时间点之间比较pvi值，以验证其稳定性和与人类判断的相关性。
• 通过测量在操纵输入属性后 $Π$-可用信息的变化，利用该框架检测标注伪影。
• 使用该框架在相同模型下比较不同数据集和数据子集，实现跨数据集难度分析。

实验结果

研究问题

• RQ1 如何以一种反映特定模型 $Π$ 实际信息可用性的形式化方式量化数据集难度？
• RQ2 逐样本 $Π$-信息（pvi）与人工标注的难度及模型预测准确率的相关性有多大？
• RQ3 在给定数据集和模型下，哪些输入属性对信息可用性的贡献最大？
• RQ4 如何利用 $Π$-可用信息检测NLP基准中的系统性标注伪影？

主要发现

• 斯坦福自然语言蕴含（SNLI）数据集的 BERT-可用信息显著多于 MultiNLI 和 CoLA，这解释了 BERT 在 SNLI 上表现更优的原因。
• 不同模型、训练种子和训练时间点的 pvi 值具有高度相关性（皮尔逊相关系数 $r \geq 0.75$），表明其具有稳定性和可靠性。
• pvi 值较低的样本表现出较低的人工标注一致性与较低的模型预测准确率，验证了 pvi 作为难度代理指标的有效性。
• 在 SNLI 中，词语顺序对 BERT-可用信息的影响极小，表明模型可能依赖浅层线索而非语义结构。
• 在 CoLA 中，部分最难的样本存在错误标注，表现为 pvi 值低且模型不确定性高。
• 在仇恨言论检测数据集中，仅 50 个潜在具有冒犯性的词汇就占了大部分 BERT-可用信息，表明存在未被察觉的偏差风险。