[论文解读] Safety and Trustworthiness of Deep Neural Networks: A Survey
本综述回顾了近期关于确保深度神经网络（DNNs）安全性与可信性的研究，重点关注验证、测试、对抗鲁棒性以及可解释性。通过对178篇近期论文（2017–2018年）的分析，综合了关键进展，并识别出在高风险应用（如自动驾驶汽车）中实现DNN可靠部署的开放挑战。
In the past few years, significant progress has been made on deep neural networks (DNNs) in achieving human-level intelligence on several long-standing tasks. With broader deployment of DNNs on various applications, the concerns on its safety and trustworthiness have been raised, particularly after the fatal incidents of self-driving cars. Research to address these concerns is very active, with many papers released in the past few years. This survey paper is to conduct a review of the current research efforts on making DNNs safe and trustworthy, by focusing on four aspects, i.e., verification, testing, adversarial attack and defence, and interpretability. In total, we surveyed 178 papers, most of which were published in the most recent two years, i.e., 2017 and 2018.
研究动机与目标
- 为应对高调事件（如自动驾驶汽车致死事故）后，人们对深度神经网络（DNNs）在现实应用中安全性与可靠性的日益担忧。
- 系统性地回顾并综合2017–2018年期间关于提升DNN安全性与可信性的研究进展，涵盖四个关键维度：验证、测试、对抗鲁棒性与可解释性。
- 识别当前研究中的空白与开放挑战，以指导未来工作，推动更鲁棒、更可信的DNN系统发展。
- 为从事可信AI的研究人员与从业者提供全面且最新的参考资源。
提出的方法
- 本综述对178篇主要发表于2017年与2018年的论文进行了系统性文献回顾，筛选标准为与DNN安全与可信性高度相关。
- 按四个核心主题对研究贡献进行分类与分析：形式化验证、测试方法、对抗攻击与防御技术、可解释性方法。
- 针对每个主题，分析其关键技术、假设、局限性及文献中报告的性能指标。
- 分析强调了各领域的最新进展，并识别出趋势、开放问题与未解决挑战。
- 综合多篇论文的发现，突出跨领域洞察与研究方向。
实验结果
研究问题
- RQ1截至2017–2018年，确保深度神经网络安全性与可信性的主要研究方向有哪些？
- RQ2当前的验证与测试方法在不同条件下保证DNN可靠性方面的有效性如何？
- RQ3DNN对对抗攻击的关键脆弱性是什么？现有防御机制的有效性如何？
- RQ4可解释性技术在多大程度上提升了用户信任与系统透明度？
- RQ5当前可信DNN研究中的主要开放挑战与局限性是什么？
主要发现
- 综述发现，DNN安全与可信性相关研究活动显著增加，尤其在对抗鲁棒性与形式化验证领域，这主要受自动驾驶系统中高调事件的推动。
- 验证技术在可扩展性与精度方面取得进展，但由于计算复杂性，仍主要局限于小型至中型网络。
- 对抗防御方法在不同程度上取得成功，但当面临更强、更具适应性的攻击时，许多方法表现出脆弱性。
- 基于测试的方法在检测局部故障方面有效，但在覆盖输入空间与罕见边缘情况方面存在困难。
- 可解释性技术有助于提升模型透明度与用户信任，但缺乏标准化与严谨的评估框架。
- 尽管已有进展，但在可扩展性、泛化能力以及在多样化应用场景中对安全保证的真实世界验证方面，仍存在重大挑战。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。