[论文解读] Data-Driven Assessment of Deep Neural Networks with Random Input Uncertainty.

Brendon G. Anderson, Somayeh Sojoudi|arXiv (Cornell University)|Oct 2, 2020

Adversarial Robustness in Machine Learning参考文献 25被引用 4

一句话总结

本文提出了一种数据驱动的、基于优化的方法，用于在随机输入不确定性下评估深度神经网络的安全性，同时验证输出的鲁棒性并实现不确定性定位。该方法提供了一个统一框架，涵盖可达性分析与认证方法，适用于所有网络架构，并通过保证凸性和样本复杂度，实现高概率认证。

ABSTRACT

When using deep neural networks to operate safety-critical systems, assessing the sensitivity of the network outputs when subject to uncertain inputs is of paramount importance. Such assessment is commonly done using reachability analysis or robustness certification. However, certification techniques typically ignore localization information, while reachable set methods can fail to issue robustness guarantees. Furthermore, many advanced methods are either computationally intractable in practice or restricted to very specific models. In this paper, we develop a data-driven optimization-based method capable of simultaneously certifying the safety of network outputs and localizing them. The proposed method provides a unified assessment framework, as it subsumes state-of-the-art reachability analysis and robustness certification. The method applies to deep neural networks of all sizes and structures, and to random input uncertainty with a general distribution. We develop sufficient conditions for the convexity of the underlying optimization, and for the number of data samples to certify and localize the outputs with overwhelming probability. We experimentally demonstrate the efficacy and tractability of the method on a deep ReLU network.

研究动机与目标

• 解决现有可达性分析与鲁棒性认证方法在处理一般输入分布和定位问题时的局限性。
• 开发一个统一框架，同时实现不确定性下网络输出的鲁棒性认证与空间定位。
• 确保任意规模或结构的深度神经网络在计算上的可处理性与高概率保证。
• 建立底层优化问题凸性的充分条件，并推导出可靠认证的样本复杂度边界。

提出的方法

• 该方法将数据驱动的优化问题形式化，用于评估在随机输入不确定性下的最坏情况输出偏差。
• 通过凸松弛技术确保在充分条件下，优化问题保持可处理且凸性成立。
• 通过识别输出空间中预测保持鲁棒的区域，实现定位功能。
• 利用输入不确定性的蒙特卡洛采样来估计可达集，并以高概率验证鲁棒性。
• 该框架具有通用性，适用于所有具有ReLU或类似激活函数的深度神经网络及任意输入分布。
• 推导出样本复杂度边界，以确保使用有限数据实现高概率认证与定位。

实验结果

研究问题

• RQ1 能否开发一个统一框架，同时在一般输入不确定性下对深度神经网络的鲁棒性进行认证并实现输出定位？
• RQ2 如何在不同网络架构下确保用于鲁棒性评估的优化问题的凸性？
• RQ3 实现高概率认证与定位所需的最少输入样本数量是多少？
• RQ4 与现有可达性分析与认证技术相比，该方法在可处理性与准确性方面表现如何？

主要发现

• 所提方法在单一统一框架中实现了鲁棒性认证与输出定位，涵盖了先前的可达性分析与认证方法。
• 推导出底层优化问题凸性的充分条件，确保计算可处理性。
• 该方法通过有限数量的输入样本实现高概率认证，其性能由样本复杂度边界量化。
• 在深度ReLU网络上的实验结果表明，该方法在不同不确定性分布下均表现出有效性、可处理性与可扩展性。