[论文解读] DeepGD: A Multi-Objective Black-Box Test Selection Approach for Deep Neural Networks

Zohreh Aghababaeyan, Manel Abdellatif+2 more|arXiv (Cornell University)|Mar 8, 2023

Adversarial Robustness in Machine Learning参考文献 70被引用 4

一句话总结

DeepGD 是一种针对深度神经网络的黑盒多目标测试选择方法，通过优先选择高不确定性和多样性的未标记输入，在最大化故障检测的同时最小化标注成本。它在故障揭示方面优于现有的白盒和黑盒方法，并通过选择具有信息量的测试输入提升了模型微调的准确性。

ABSTRACT

Deep neural networks (DNNs) are widely used in various application domains such as image processing, speech recognition, and natural language processing. However, testing DNN models may be challenging due to the complexity and size of their input domain. Particularly, testing DNN models often requires generating or exploring large unlabeled datasets. In practice, DNN test oracles, which identify the correct outputs for inputs, often require expensive manual effort to label test data, possibly involving multiple experts to ensure labeling correctness. In this paper, we propose DeepGD, a black-box multi-objective test selection approach for DNN models. It reduces the cost of labeling by prioritizing the selection of test inputs with high fault revealing power from large unlabeled datasets. DeepGD not only selects test inputs with high uncertainty scores to trigger as many mispredicted inputs as possible but also maximizes the probability of revealing distinct faults in the DNN model by selecting diverse mispredicted inputs. The experimental results conducted on four widely used datasets and five DNN models show that in terms of fault-revealing ability: (1) White-box, coverage-based approaches fare poorly, (2) DeepGD outperforms existing black-box test selection approaches in terms of fault detection, and (3) DeepGD also leads to better guidance for DNN model retraining when using selected inputs to augment the training set.

研究动机与目标

• 为解决在 DNN 测试中大规模未标记数据集标注成本过高的问题，特别是当无法访问模型内部结构时。
• 减少对依赖白盒覆盖度的测试选择方法的依赖，因为这类方法往往与实际误判无显著相关性。
• 开发一种黑盒测试选择方法，利用不确定性和多样性以最大化故障揭示能力。
• 通过选择能提升泛化能力和故障检测能力的测试输入，改善模型微调效果。
• 提供一种成本效益高的一次性标注解决方案，避免主动学习所需的迭代人工标注流程。

提出的方法

• DeepGD 利用模型输出的不确定度分数识别预测可能出错的输入，依据预测中置信度低或熵高的特征。
• 通过计算最后一层隐藏层中输入嵌入之间的距离来衡量多样性，确保所选输入覆盖输入空间的不同区域。
• 采用多目标优化框架，在高不确定性和高多样性之间取得平衡，以选择能最大化故障检测的测试输入。
• 该方法无需访问模型内部结构或训练数据，适用于第三方或专有 DNN。
• 采用基于搜索的方法探索未标记数据集，在固定预算下选择紧凑且高影响力的测试集。
• 所选输入既用于测试也用于微调，以最小的标注成本提升模型鲁棒性。

实验结果

研究问题

• RQ1 结合不确定性和多样性的黑盒测试选择方法是否能在 DNN 故障检测方面优于依赖覆盖度的白盒方法？
• RQ2 在相同标注预算下，DeepGD 的故障揭示能力与现有黑盒测试选择技术相比如何？
• RQ3 使用 DeepGD 选择的输入进行微调，能在多大程度上提升 DNN 模型的准确率和故障容错能力？
• RQ4 不确定性和多样性相结合是否比单独使用任一准则具有更好的故障检测效果？
• RQ5 DeepGD 在多种 DNN 架构和数据集（包括具有复杂输入分布的数据集）中是否均表现出有效性？

主要发现

• 尽管依赖内部模型指标，DeepGD 在故障检测方面显著优于白盒覆盖度测试选择方法。
• DeepGD 通过在测试输入选择中有效平衡不确定性和多样性，实现了比现有黑盒方法更高的故障揭示能力。
• 该方法显著改善了模型微调效果，使用所选测试输入扩充训练集后模型准确率得到提升。
• 在不同模型和数据集上，第二好的测试选择方法各不相同，表明不存在普遍占优的单一方法，这进一步验证了 DeepGD 多目标策略的稳健性。
• DeepGD 在四个广泛使用的数据集和五种 DNN 模型上表现一致，证明了其良好的泛化能力。
• 该方法通过聚焦于一小部分高影响力未标记数据，显著降低了标注成本，使其在预算有限的真实测试场景中具有实用性。