[论文解读] testRNN: Coverage-guided Testing on Recurrent Neural Networks

Wei Huang, Youcheng Sun+2 more|arXiv (Cornell University)|Jun 20, 2019

Adversarial Robustness in Machine Learning参考文献 12被引用 5

一句话总结

testRNN 是一种针对长短期记忆（LSTM）网络的覆盖率引导测试工具，采用基于变异的测试用例生成方法，并引入三种新型结构化测试覆盖率指标——单元覆盖率、门覆盖率和序列覆盖率，以评估模型的鲁棒性与内部数据流。该工具使模型设计者能够通过有针对性的测试检测对抗性样本并提升模型可靠性。在 MNIST、情感分析和分子预测任务上的实证验证表明，该工具能有效实现覆盖率与鲁棒性评估。

ABSTRACT

Recurrent neural networks (RNNs) have been widely applied to various sequential tasks such as text processing, video recognition, and molecular property prediction. We introduce the first coverage-guided testing tool, coined testRNN, for the verification and validation of a major class of RNNs, long short-term memory networks (LSTMs). The tool implements a generic mutation-based test case generation method, and it empirically evaluates the robustness of a network using three novel LSTM structural test coverage metrics. Moreover, it is able to help the model designer go through the internal data flow processing of the LSTM layer. The tool is available through: https://github.com/TrustAI/testRNN under the BSD 3-Clause licence.

研究动机与目标

• 为解决循环神经网络（RNNs），特别是广泛应用但鲁棒性测试不足的长短期记忆网络（LSTMs）缺乏验证与测试技术的问题。
• 开发一种白盒测试框架，利用 LSTM 单元中的结构化信息指导测试用例生成与覆盖率测量。
• 使模型设计者与用户能够在安全关键应用中部署前检测对抗性样本并评估模型鲁棒性。
• 提供覆盖率模式与对抗性样本关系的直观可视化，以指导模型改进与调试。
• 提供公开可用、开源的工具（BSD 3-Clause），支持 LSTM 模型的可重现与可扩展测试。

提出的方法

• testRNN 采用基于变异的测试用例生成方法，系统性地修改输入序列以探索模型行为，同时避免对覆盖率标准的过拟合。
• 引入三种新型结构化测试覆盖率指标：单元覆盖率（基于隐藏状态符号聚合）、门覆盖率（基于遗忘门与输入门值）、序列覆盖率（基于细胞状态演化符号模式表示）。
• 通过公式 Δξt = |ξ⁺t − ξ⁺t−1| + |ξ⁻t − ξ⁻t−1| 计算覆盖率，以衡量时间步之间信息变化。
• 支持可配置的覆盖率阈值（如 --threshold_CC 6, --threshold_GC 0.8）与序列符号表示（如 --symbols_SQ 2），以控制测试集生成。
• 该工具与 Keras/TensorFlow 模型集成，并将测试结果记录至文件，用于可视化与分析。
• 支持通过 Python 脚本（如 readfile.py）可视化覆盖率随时间的变化、对抗性样本频率以及特征覆盖率模式。

实验结果

研究问题

• RQ1 如何将覆盖率引导测试适配于 LSTM 复杂的序列结构，其本质区别于前馈网络？
• RQ2 哪些新型结构化测试覆盖率指标能有效捕捉 LSTM 单元内部的信息流与转换？
• RQ3 基于变异的测试生成方法是否能有效发现暴露 LSTM 模型鲁棒性缺陷的对抗性样本？
• RQ4 覆盖率指标与对抗性样本模式在多大程度上能揭示模型学习行为与特征重要性的洞察？
• RQ5 testRNN 如何通过数据增强与调试支持现实应用中的模型改进？

主要发现

• testRNN 为一个 MNIST LSTM 模型成功生成了 2,000 个测试用例，测试准确率达到 98.7%，并通过覆盖率指标揭示了模型的鲁棒性模式。
• 该工具表明，某些单元（如第二层 LSTM 中的第 4 个单元）被覆盖得更频繁，暗示其对最终分类具有更高贡献。
• 覆盖率图显示，随着 Oracle 半径减小，对抗性样本数量增加，该关系的曲线下面积（AUC）可用于比较模型鲁棒性。
• 通过扰动输入序列，该工具在 MNIST 中识别出对抗性样本，可视化结果确认了输入模式的结构性变化。
• 符号化序列覆盖率指标（使用 2 个符号）实现了对时间步间细胞状态演化重复模式的检测。
• 该工具的开源发布（https://github.com/TrustAI/testRNN）支持可重现测试与多样化 LSTM 应用的扩展。