[论文解读] Coverage Testing of Deep Learning Models using Dataset Characterization

Senthil Mani, Anush Sankaran+2 more|arXiv (Cornell University)|Nov 17, 2019

Adversarial Robustness in Machine Learning参考文献 28被引用 15

一句话总结

本文提出了一种基于数据集特征分析的覆盖率驱动测试用例生成框架，聚焦于四个质量维度——等价划分、中心点定位、边界条件和成对边界条件——应用于网络倒数第二层卷积层的特征。该方法通过生成能增强数据分布覆盖的测试用例，提升了模型评估的可靠性，使准确性评估更具可信度，尤其适用于高性能模型。

ABSTRACT

Deep Neural Networks (DNNs), with its promising performance, are being increasingly used in safety critical applications such as autonomous driving, cancer detection, and secure authentication. With growing importance in deep learning, there is a requirement for a more standardized framework to evaluate and test deep learning models. The primary challenge involved in automated generation of extensive test cases are: (i) neural networks are difficult to interpret and debug and (ii) availability of human annotators to generate specialized test points. In this research, we explain the necessity to measure the quality of a dataset and propose a test case generation system guided by the dataset properties. From a testing perspective, four different dataset quality dimensions are proposed: (i) equivalence partitioning, (ii) centroid positioning, (iii) boundary conditioning, and (iv) pair-wise boundary conditioning. The proposed system is evaluated on well known image classification datasets such as MNIST, Fashion-MNIST, CIFAR10, CIFAR100, and SVHN against popular deep learning models such as LeNet, ResNet-20, VGG-19. Further, we conduct various experiments to demonstrate the effectiveness of systematic test case generation system for evaluating deep learning models.

研究动机与目标

• 为解决标准测试集在评估深度学习模型时的局限性，这些测试集可能无法代表真实世界数据或完整的数据分布。
• 提出一种面向模型的测试数据集质量评估框架，超越准确率指标，确保对输入空间的更广泛覆盖。
• 通过分析特征空间属性（如中心点接近度和边界区域）生成更具代表性与鲁棒性的测试用例。
• 证明即使在标准基准上表现更高的准确率，模型在特征空间的关键区域（如决策边界和类别中心）仍可能存在覆盖不足。
• 提供一种系统化、自动化的测试用例生成方法，基于数据集与模型特征进行引导，提升模型评估的可信度。

提出的方法

• 该方法使用DNN倒数第二层卷积层的特征作为测试数据集分析的输入，实现对数据分布的模型特定评估。
• 定义了四个数据集质量维度：等价划分（类别分布）、中心点定位（接近类别聚类中心的程度）、边界条件（距离决策边界的距离）以及成对边界条件（类别间边界的接近程度）。
• 测试用例生成基于这些维度在特征空间中进行采样，并通过引入扰动生成新的、具有代表性的测试输入。
• 使用去卷积网络将生成的特征扰动可视化并重构为图像空间，以供检查生成的测试用例。
• 应用元变换规则为新生成的测试用例生成真实输出，确保评估的一致性。
• 该方法在标准图像数据集（MNIST、Fashion-MNIST、CIFAR-10、CIFAR-100、SVHN）上进行评估，使用LeNet、ResNet-20和VGG-19等模型。

实验结果

研究问题

• RQ1 如何在深度学习模型中系统性地衡量测试数据集质量，而不仅依赖标准准确率指标？
• RQ2 标准基准数据集在多大程度上未能覆盖特征空间的关键区域，如决策边界和类别中心？
• RQ3 基于数据集特征分析的测试用例生成能否提升模型评估的可靠性？
• RQ4 模型在标准测试集上的表现与特征空间中边界和中心区域的覆盖程度之间有何关联？
• RQ5 聚焦于特定特征空间区域（如边界）生成测试用例，对模型准确率和鲁棒性有何影响？

主要发现

• ResNet-20在CIFAR-10上的准确率高于VGG-19，但其边界条件覆盖显著更低，表明测试中存在潜在盲区。
• 当在仅包含中心区域样本的数据集上测试时，VGG-19的准确率降至100%，且所有样本均被正确分类，证实高准确率模型仍可能在分布不佳的测试集中失效。
• 高标准准确率的模型对基于所提覆盖率指标生成的测试用例表现出更低的鲁棒性，表明标准基准可能高估了模型的可靠性。
• 在决策边界附近生成的测试用例产生低质量的可视化结果，表明边界区域更难表示，可能需要专门处理。
• 所提指标揭示，即使广泛使用的数据集如CIFAR-10和SVHN在关键特征空间区域的覆盖仍显不足，尤其对复杂模型而言。
• 该框架表明，当测试集基于特征空间覆盖而非仅标准划分的准确率时，模型评估更具可信度。