[论文解读] Testing Monotonicity of Machine Learning Models

Arnab Sharma, Heike Wehrheim|arXiv (Cornell University)|Feb 27, 2020

Adversarial Robustness in Machine Learning参考文献 32被引用 4

一句话总结

本文提出一种基于验证的测试方法，用于检测黑盒机器学习模型中的单调性，通过推断白盒决策树近似并使用SMT求解系统性地生成反例。该方法在检测单调性违规方面优于自适应随机测试和基于属性的测试，在90个模型上表现出更高的有效性和效率。

ABSTRACT

Today, machine learning (ML) models are increasingly applied in decision making. This induces an urgent need for quality assurance of ML models with respect to (often domain-dependent) requirements. Monotonicity is one such requirement. It specifies a software as 'learned' by an ML algorithm to give an increasing prediction with the increase of some attribute values. While there exist multiple ML algorithms for ensuring monotonicity of the generated model, approaches for checking monotonicity, in particular of black-box models, are largely lacking. In this work, we propose verification-based testing of monotonicity, i.e., the formal computation of test inputs on a white-box model via verification technology, and the automatic inference of this approximating white-box model from the black-box model under test. On the white-box model, the space of test inputs can be systematically explored by a directed computation of test cases. The empirical evaluation on 90 black-box models shows verification-based testing can outperform adaptive random testing as well as property-based techniques with respect to effectiveness and efficiency.

研究动机与目标

• 为解决金融和医疗等关键领域中黑盒机器学习模型单调性缺乏系统性测试技术的问题。
• 实现与底层机器学习算法或架构无关的模型无关单调性验证。
• 通过系统性地生成针对性测试用例，而非依赖随机或覆盖率驱动的采样，提升测试的有效性。
• 提供一种形式化、可验证的方法，利用SMT技术在近似白盒模型上检测单调性违规。
• 通过确认的反例迭代优化白盒模型，提升测试套件的覆盖率和准确性。

提出的方法

• 从被测模型的预测结果中，利用来自该模型的训练数据推断出一个白盒决策树模型。
• 将决策树转化为可用SMT逻辑表达的逻辑公式，以支持形式化验证。
• 使用SMT求解器通过检查增加某个输入属性是否导致输出预测下降，来计算潜在的单调性反例。
• 采用类似符号执行的策略，系统性地变化检测到的反例，以扩展测试覆盖率并探索邻近输入区域。
• 在原始黑盒模型中验证推断的反例；若确认为有效反例，则将其存储为有效的单调性违规。
• 若未发现有效反例，则使用包含已确认测试用例的新数据重新训练白盒模型，以提升近似质量。

实验结果

研究问题

• RQ1 基于验证的测试是否能在检测黑盒机器学习模型的单调性违规方面优于自适应随机测试和基于属性的测试？
• RQ2 推断的白盒决策树在近似复杂黑盒模型以用于单调性测试方面有多有效？
• RQ3 对反例进行系统性变化在多大程度上提升了测试套件的覆盖率和单调性失效的检测能力？
• RQ4 白盒模型的迭代优化在多大程度上影响了单调性测试的准确性和效率？
• RQ5 所提出的方法是否能有效应用于使用单调性感知和标准算法训练的多样化机器学习模型？

主要发现

• 所提出的基于验证的测试方法在90个黑盒模型上检测单调性违规的有效性优于自适应随机测试和基于属性的测试。
• 该方法以更少的测试用例实现了更高的检测率，表明在识别单调性失效方面具有更高的效率。
• 对反例的系统性变化显著提高了测试套件的覆盖率，并增加了发现隐藏违规的可能性。
• 白盒模型的迭代重训练提升了近似保真度，减少了假阴性，增强了检测准确性。
• 该方法在多样化模型上表现出色，包括使用单调性感知和标准学习算法训练的模型。
• 在推断的白盒模型上使用SMT求解，实现了对单调性约束的精确、形式化验证，优于基于启发式的方法。