[论文解读] Counterexample-Guided Learning of Monotonic Neural Networks

Aishwarya Sivaraman, Golnoosh Farnadi+2 more|arXiv (Cornell University)|Jun 16, 2020

Domain Adaptation and Few-Shot Learning参考文献 46被引用 11

一句话总结

该论文提出了一种基于反例的改进方法，用于在不限制假设空间的前提下强制ReLU神经网络的单调性。该方法引入了两种技术：一种是在推理时通过基于验证的包络构造，可证明地确保单调性；另一种是通过迭代添加反例对，在训练过程中将单调性作为归纳偏置，从而在真实世界基准上实现了最先进性能，保证了单调性并提升了泛化能力。

ABSTRACT

The widespread adoption of deep learning is often attributed to its automatic feature construction with minimal inductive bias. However, in many real-world tasks, the learned function is intended to satisfy domain-specific constraints. We focus on monotonicity constraints, which are common and require that the function's output increases with increasing values of specific input features. We develop a counterexample-guided technique to provably enforce monotonicity constraints at prediction time. Additionally, we propose a technique to use monotonicity as an inductive bias for deep learning. It works by iteratively incorporating monotonicity counterexamples in the learning process. Contrary to prior work in monotonic learning, we target general ReLU neural networks and do not further restrict the hypothesis space. We have implemented these techniques in a tool called COMET. Experiments on real-world datasets demonstrate that our approach achieves state-of-the-art results compared to existing monotonic learners, and can improve the model quality compared to those that were trained without taking monotonicity constraints into account.

研究动机与目标

• 为解决在标准ReLU神经网络中强制实施单调性约束而不限制模型容量的挑战。
• 开发一种方法，可对任意训练好的网络在预测时可证明地保证单调性。
• 通过迭代生成反例，在训练过程中将单调性作为归纳偏置。
• 在高维真实世界数据集中，提升模型泛化能力的同时确保单调性。
• 在准确率和单调性约束方面超越现有单调学习方法（如min-max和deep lattice网络）。

提出的方法

• 使用基于SMT的验证框架检测单调性反例对——即仅在一个特征上不同的输入对，其中增加该特征值反而导致输出减小。
• 利用反例在线构建训练网络的单调包络，确保所有预测结果均保持单调性。
• 通过识别并添加难以满足单调性的反例对到训练数据中，实现基于反例的指导性训练，从而迭代优化模型。
• 利用先前工作的自动定理证明和SMT编码，重新利用其提取反例而非用于完整验证。
• 将预测时的强制机制与训练时的正则化整合到一个统一工具Comet中，支持回归和二分类任务。
• 采用全局搜索策略寻找反例，能够检测超出局部邻域的长距离单调性违反。

实验结果

研究问题

• RQ1 能否在不限制假设空间的前提下，对任意ReLU神经网络可证明地强制实现单调性？
• RQ2 基于反例的指导性训练是否能在确保单调性的同时提升模型泛化能力？
• RQ3 与min-max和deep lattice网络等现有方法相比，基于反例的指导性单调学习性能如何？
• RQ4 全局反例检测是否能优于基于局部邻域的方法，更有效地识别单调性违反？
• RQ5 在高维真实世界学习任务中，将单调性作为归纳偏置在多大程度上起到正则化作用？

主要发现

• 基于反例的预测方法在标准数据集上，每个模型的推理时间仅增加几秒钟，即可保证推理时的单调性。
• 基于反例的训练方法相比未施加单调性约束的模型，显著提升了模型质量，证明了单调性作为有效正则化的潜力。
• Comet在四个真实世界基准上优于min-max和deep lattice网络，在准确率和单调性约束方面均达到最先进水平。
• 由于采用全局搜索策略，该方法成功检测到局部邻域方法可能遗漏的长距离单调性违反。
• 预测时的包络构造与训练时的反例注入相结合，带来了更好的泛化能力和更强的单调性保证。
• 实证结果表明，强制实施单调性可减少模型错误，提升在贷款审批和自主控制等应用中的可信度。