[论文解读] End-to-End Prediction of Buffer Overruns from Raw Source Code via Neural Memory Networks

Minje Choi, Sehun Jeong+2 more|arXiv (Cornell University)|Mar 7, 2017

Software Engineering Research参考文献 18被引用 13

一句话总结

本文提出一种基于记忆网络的端到端深度学习方法，直接从原始源代码检测缓冲区溢出，无需手工特征或语言特定规则。该模型通过在多个步骤中关注相关代码行，学习追踪变量值、执行数值比较并推理代码语义，从而在多种代码模式下实现高精度的缓冲区溢出漏洞检测。

ABSTRACT

Detecting buffer overruns from a source code is one of the most common and yet challenging tasks in program analysis. Current approaches have mainly relied on rigid rules and handcrafted features devised by a few experts, limiting themselves in terms of flexible applicability and robustness due to diverse bug patterns and characteristics existing in sophisticated real-world software programs. In this paper, we propose a novel, data-driven approach that is completely end-to-end without requiring any hand-crafted features, thus free from any program language-specific structural limitations. In particular, our approach leverages a recently proposed neural network model called memory networks that have shown the state-of-the-art performances mainly in question-answering tasks. Our experimental results using source codes demonstrate that our proposed model is capable of accurately detecting simple buffer overruns. We also present in-depth analyses on how a memory network can learn to understand the semantics in programming languages solely from raw source codes, such as tracing variables of interest, identifying numerical values, and performing their quantitative comparisons.

研究动机与目标

• 开发一种数据驱动的、端到端的缓冲区溢出检测方法，避免依赖手工特征或语言特定规则。
• 克服传统静态分析和标准深度学习模型（如RNN、LSTM）在捕捉代码行间语义数据流和值追踪方面的局限性。
• 探究记忆网络是否能仅从原始代码中学习数值概念和定量比较，而无需对数字或比较关系进行显式监督。
• 证明记忆网络能够有效对代码执行逻辑推理，例如比较缓冲区大小，以判断是否存在缓冲区溢出。

提出的方法

• 该模型采用记忆网络架构，利用外部记忆槽存储和检索来自不同代码行的信息。
• 通过注意力机制在多个步骤中选择相关记忆槽，实现对代码段的逐步推理。
• 将原始源代码作为标记序列进行处理，端到端学习词嵌入，无需预先提供语言学或语法特征。
• 数值通过训练隐式学习，数字的词嵌入在向量空间中形成结构化、有序的表示。
• 模型在生成的C类源代码合成数据集上进行训练，其中包含各种缓冲区溢出模式。
• 通过比较目标缓冲区大小（来自分配）与源缓冲区大小（来自strcpy或类似操作）进行预测。

实验结果

研究问题

• RQ1 记忆网络模型是否能在不使用任何手工特征或语言特定规则的情况下，从原始源代码中检测缓冲区溢出？
• RQ2 该模型是否能通过端到端训练学习执行数值比较并跨代码行追踪变量值？
• RQ3 该模型的注意力机制是否能有效识别并跨多个步骤检索相关代码段（例如缓冲区分配）？
• RQ4 在训练过程中，数字的词嵌入如何演变？它们是否反映出有意义的数值关系？

主要发现

• 记忆网络模型在所有难度级别的缓冲区溢出检测中均表现优异，优于标准RNN和LSTM基线模型。
• 模型成功学习将数字表示为具有清晰顺序的词嵌入，t-SNE可视化和余弦相似度模式均显示了这一点。
• 注意力机制使模型能够追踪变量在代码行间的使用：首先定位目标缓冲区，然后定位源缓冲区，最后比较其大小。
• 模型在未对数值本身或比较关系进行显式监督的情况下，仍能有效执行缓冲区大小之间的定量比较。
• 变量（如缓冲区和整数）的词嵌入根据其语义角色被不同地学习，t-SNE可视化中的聚类模式清晰表明了这一点。
• 模型的预测置信度与注意力路径的正确性高度相关，表明其通过多步推理实现了可靠的逻辑判断。