[论文解读] Local Repair of Neural Networks Using Optimization

Keyvan Majd, Siyu Zhou+3 more|arXiv (Cornell University)|Sep 28, 2021

Adversarial Robustness in Machine Learning参考文献 32被引用 7

一句话总结

本文提出一种基于优化的框架，通过使用混合整数二次规划（MIQP）在单层中调整权重，修复预训练的前馈神经网络，确保满足安全约束的同时保持原始性能。该方法在安全、分类和控制任务中成功修复网络，且精度损失最小。

ABSTRACT

In this paper, we propose a framework to repair a pre-trained feed-forward neural network (NN) to satisfy a set of properties. We formulate the properties as a set of predicates that impose constraints on the output of NN over the target input domain. We define the NN repair problem as a Mixed Integer Quadratic Program (MIQP) to adjust the weights of a single layer subject to the given predicates while minimizing the original loss function over the original training domain. We demonstrate the application of our framework in bounding an affine transformation, correcting an erroneous NN in classification, and bounding the inputs of a NN controller.

研究动机与目标

• 解决预训练神经网络在部署后无法满足安全或性能属性的挑战。
• 在仅修改网络单一层的情况下，保持对原始训练数据的高精度。
• 提供一种通用的、与网络架构无关的修复方法，适用于前馈网络，不同于以往受限于特定架构的方法。
• 实现最小化、有针对性的权重调整，以满足用户定义的输出谓词在指定输入域上的要求。
• 支持机器人学应用，包括安全控制、分类校正和运动学建模。

提出的方法

• 将神经网络修复问题建模为混合整数二次规划（MIQP），优化单一层的权重变化。
• 将安全和性能约束定义为在给定输入域上对网络输出的谓词。
• 使用二值变量建模神经元激活状态，实现在MIQP公式中对ReLU非线性的精确建模。
• 在原始数据集上最小化原始训练损失，同时满足所有约束，确保与原始模型的偏差最小。
• 应用MIQP求解器计算最优权重更新，以修复指定输入区域的网络。
• 在三个机器人学任务中验证该方法：仿射变换的边界控制、分类错误校正，以及通过CBF和CLF约束实现的安全机器人控制。

实验结果

研究问题

• RQ1 是否可以无需从头开始重新训练，修复预训练神经网络以满足安全约束？
• RQ2 在修复过程中，如何最小化对原始训练数据性能的退化？
• RQ3 能否通过单层权重调整实现精确、局部的修复，同时保持全局精度？
• RQ4 修复不同网络层（如最后一层与隐藏层）对可行性与性能有何影响？
• RQ5 MIQP-based修复框架在真实世界机器人控制与验证任务中的有效性如何？

主要发现

• 所提出的基于MIQP的修复框架在多种机器人学应用中成功满足了安全与性能谓词，且精度损失极小。
• 在移动机器人控制任务中，修复最后一层时权重偏差为δ = 2.45，轨迹完全避开了危险区域。
• 修复后的控制器在靠近危险区域时动态调整速度，而在安全区域则收敛至原始策略，表现出自适应行为。
• 该方法在原始训练数据上保持了高性能，这在QP-based模仿学习设置中轨迹质量得以保持得到验证。
• 在某些情况下，修复最后一层时出现不可行性，表明在复杂场景中，修复隐藏层可能更具鲁棒性。
• 该框架实现了有针对性的、最小化的修复，提升了安全性和正确性，且无需对抗样本重训练或完整网络重训练。