[论文解读] A Survey on Impact of Transient Faults on BNN Inference Accelerators

Navid Khoshavi, Connor Broyles+1 more|arXiv (Cornell University)|Apr 10, 2020

Advanced Neural Network Applications参考文献 23被引用 13

一句话总结

本文通过FPGA-based故障注入方法，研究了瞬态软错误——特别是单粒子翻转（SEUs）和多比特翻转（MBUs）——对二值化神经网络（BNN）推理加速器的影响。研究结果表明，激活层极易受到攻击，在软错误累积的最坏情况下，分类准确率最高下降76.7%，尤其在高故障累积时更为显著。

ABSTRACT

Over past years, the philosophy for designing the artificial intelligence algorithms has significantly shifted towards automatically extracting the composable systems from massive data volumes. This paradigm shift has been expedited by the big data booming which enables us to easily access and analyze the highly large data sets. The most well-known class of big data analysis techniques is called deep learning. These models require significant computation power and extremely high memory accesses which necessitate the design of novel approaches to reduce the memory access and improve power efficiency while taking into account the development of domain-specific hardware accelerators to support the current and future data sizes and model structures.The current trends for designing application-specific integrated circuits barely consider the essential requirement for maintaining the complex neural network computation to be resilient in the presence of soft errors. The soft errors might strike either memory storage or combinational logic in the hardware accelerator that can affect the architectural behavior such that the precision of the results fall behind the minimum allowable correctness. In this study, we demonstrate that the impact of soft errors on a customized deep learning algorithm called Binarized Neural Network might cause drastic image misclassification. Our experimental results show that the accuracy of image classifier can drastically drop by 76.70% and 19.25% in lfcW1A1 and cnvW1A1 networks,respectively across CIFAR-10 and MNIST datasets during the fault injection for the worst-case scenarios

研究动机与目标

• 分析瞬态软错误在真实世界中对BNN推理加速器的影响，特别是在自动驾驶汽车等安全关键应用中的影响。
• 识别BNN加速器中最易受攻击的组件，包括层、数据类型（权重、激活值）以及故障类型（SEU、MBU）。
• 评估软错误随时间累积对BNN加速器分类准确率和系统可靠性的长期影响。
• 开发并验证一种真实的、基于FPGA的故障注入框架，以模拟反映实际硬件行为的软错误。

提出的方法

• 在基于FPGA的BNN加速器上，使用修改后的FINN框架进行故障注入实验，以模拟瞬态软错误。
• 在BNN加速器的组合逻辑和存储单元中，分别注入SEUs（单比特翻转）和MBUs（多比特翻转）。
• 针对两种BNN架构（lfcW1A1和cnvW1A1）中的不同网络层，特别是激活层和权重层进行故障注入。
• 在不同故障数量（最多100个故障）及时间与空间分布下，测量分类准确率的退化情况。
• 使用CIFAR-10和MNIST数据集，在真实工作负载和故障注入场景下评估性能表现。
• 通过追踪早期层（如第一卷积层）中受损数据如何污染下游计算，分析故障传播过程。

实验结果

研究问题

• RQ1 在真实故障注入条件下，SEUs和MBUs如何影响BNN推理加速器的分类准确率？
• RQ2 BNN加速器中哪些层和数据类型（权重、激活值）对软错误最为脆弱？
• RQ3 软错误随时间累积如何影响BNN推理的长期可靠性和准确率？
• RQ4 与SEUs相比，MBUs对BNN加速器输出准确率的相对影响如何？
• RQ5 网络中某一层的位置（如早期层与晚期层）如何影响其对软错误引发的准确率下降的敏感性？

主要发现

• 当在lfcW1A1网络的激活层中注入100个SEUs时，最坏情况下准确率从98.4%下降至22.92%，降幅达76.7%。
• 在最坏情况SEU注入下，cnvW1A1网络的准确率下降了19.25%，而lfcW1A1网络的下降幅度高达76.7%。
• 激活层显著比权重层更易受攻击，当累积故障超过20个后，故障引发的准确率下降变得尤为明显。
• MBUs的影响大于SEUs，因为其导致多个比特及相邻数据被破坏，引发更严重的错误传播和系统级退化。
• 网络中的第一层最为脆弱，早期层的故障会引发级联错误，显著降低最终分类准确率。
• 尽管各类场景下的平均准确率下降幅度适中，但最坏情况揭示了极端误分类风险，尤其在安全关键应用中更为显著。