[论文解读] Datamorphic Testing: A Methodology for Testing AI Applications

Hong Zhu, Dongmei Liu+3 more|arXiv (Cornell University)|Dec 10, 2019

Software Testing and Debugging Techniques参考文献 5被引用 9

一句话总结

本文提出了一种名为数据形态测试（datamorphic testing）的新方法，用于测试人工智能应用——尤其是机器学习系统——通过定义在数据变换下保持不变的输入-输出不变性。该方法通过基于变换的测试用例验证人脸识别系统，有效检测出工业应用中的缺陷，在识别模型不一致性方面表现出可衡量的成功。

ABSTRACT

With the rapid growth of the applications of machine learning (ML) and other artificial intelligence (AI) techniques, adequate testing has become a necessity to ensure their quality. This paper identifies the characteristics of AI applications that distinguish them from traditional software, and analyses the main difficulties in applying existing testing methods. Based on this analysis, we propose a new method called datamorphic testing and illustrate the method with an example of testing face recognition applications. We also report an experiment with four real industrial application systems of face recognition to validate the proposed approach.

研究动机与目标

• 为应对人工智能应用因非确定性和数据依赖性行为带来的测试挑战。
• 识别传统软件测试方法在应用于机器学习和人工智能系统时的局限性。
• 提出一种针对人工智能应用独特特性的新型测试方法。
• 在真实工业人脸识别系统上验证所提方法的实际效果与缺陷检测能力。

提出的方法

• 将数据形态关系定义为输入经特定方式变换后，输出之间必须保持的不变性。
• 对输入数据施加受控的数据变换（例如旋转、缩放），并验证输出变化是否符合预期模式。
• 使用变换对（例如原始输入与变换后输入）生成测试用例，要求输出行为满足预定义的不变性规则。
• 基于预期的输出关系而非精确的输出值构建测试预言机，以适应人工智能模型的非确定性特征。
• 将该方法应用于真实工业人脸识别系统，评估其实际可行性与缺陷检测能力。
• 通过统计分析评估模型在变换下的行为一致性，将偏差识别为潜在缺陷。

实验结果

研究问题

• RQ1 如何调整测试方法以应对人工智能应用的非确定性和数据敏感性行为？
• RQ2 在人工智能系统中，当输入以可预测方式变换时，输出之间可建立何种不变性？
• RQ3 数据形态测试能否有效检测真实工业人工智能系统（如人脸识别）中的缺陷？
• RQ4 在缺陷检测能力和实际可行性方面，数据形态测试与传统测试方法相比如何？

主要发现

• 通过基于变换的测试用例，数据形态测试在四个真实工业人脸识别系统中成功检测出模型不一致性。
• 该方法识别出传统测试方法因依赖精确输出比较而遗漏的缺陷。
• 该方法在检测图像旋转和缩放等数据变换下的细微模型故障方面表现出强鲁棒性。
• 对变换下输出行为的统计分析揭示了偏差，提示可能存在模型缺陷。
• 该技术在无需每个测试用例都具备真实标签的情况下，有效识别出深度学习模型的错误行为。
• 在工业系统上的验证结果证实了数据形态测试在真实人工智能应用环境中的实际可行性与可扩展性。