[论文解读] Automated email Generation for Targeted Attacks using Natural Language

Avisha Das, Rakesh Verma|arXiv (Cornell University)|Aug 19, 2019

Spam and Phishing Detection参考文献 19被引用 14

一句话总结

本文提出了一种基于深度学习的系统，使用循环神经网络（RNNs）自动生成模仿合法写作风格的针对性恶意电子邮件，旨在绕过统计邮件检测器。该系统通过在合法与钓鱼邮件混合数据集上微调文本生成，实现了更高的欺骗成功率，表明RNN生成的邮件可显著规避标准垃圾邮件分类器。

ABSTRACT

With an increasing number of malicious attacks, the number of people and organizations falling prey to social engineering attacks is proliferating. Despite considerable research in mitigation systems, attackers continually improve their modus operandi by using sophisticated machine learning, natural language processing techniques with an intent to launch successful targeted attacks aimed at deceiving detection mechanisms as well as the victims. We propose a system for advanced email masquerading attacks using Natural Language Generation (NLG) techniques. Using legitimate as well as an influx of varying malicious content, the proposed deep learning system generates extit{fake} emails with malicious content, customized depending on the attacker's intent. The system leverages Recurrent Neural Networks (RNNs) for automated text generation. We also focus on the performance of the generated emails in defeating statistical detectors, and compare and analyze the emails using a proposed baseline.

研究动机与目标

• 探究使用深度学习自动生成针对性恶意邮件的可行性。
• 开发一种通过在合法与钓鱼邮件数据混合数据集上微调，生成连贯且意图明确的虚假邮件的系统。
• 评估生成邮件在绕过预训练统计邮件分类器方面的有效性。
• 将所提出的基于RNN的系统与基线自然语言生成工具（Dada Engine）进行性能对比。
• 分析当检测系统暴露于合成的、类人钓鱼内容时的失败模式与误分类模式。

提出的方法

• 该系统采用循环神经网络（RNNs），特别是长短期记忆（LSTM）网络，基于训练数据中学习到的模式生成序列化文本。
• 通过温度超参数控制文本生成，以在输出的多样性与连贯性之间取得平衡。
• 在50%合法与50%钓鱼邮件的混合数据集上对模型进行微调，以嵌入恶意意图，同时保持风格相似性。
• 采用基于Dada Engine的基线系统，用于对比评估生成邮件的质量与可检测性。
• 使用基于支持向量机（SVM）的垃圾邮件分类器执行统计检测，以评估绕过检测的成功程度。
• 错误分析聚焦于重复性文本生成以及恶意邮件被误分类为合法邮件的问题，尤其是当链接非传统地放置时。

实验结果

研究问题

• RQ1 基于RNN的文本生成能否产生在连贯性与风格上均与合法邮件相似的针对性恶意邮件？
• RQ2 RNN生成的邮件在多大程度上能够绕过基于历史钓鱼模式训练的统计分类器？
• RQ3 在欺骗性与可检测性方面，所提出的基于RNN的系统与基于规则的NLG基线（Dada Engine）相比表现如何？
• RQ4 链接位置与语言特征在自动化检测器将恶意邮件误分类为合法邮件的过程中起到何种作用？
• RQ5 RNN生成邮件的主要失败模式是什么，这些模式如何影响检测绕过？

主要发现

• 基于RNN的系统成功生成了具有连贯结构并嵌入恶意意图的邮件，尽管部分输出存在语法错误和重复短语。
• 大量RNN生成的邮件被SVM-based检测器误分类为合法邮件，表明其有效绕过了统计分类。
• 将链接非传统地插入句子中间的邮件更可能绕过检测，即使其包含恶意内容。
• 在50%钓鱼数据混合比例下训练的模型生成的邮件比Dada Engine基线更具欺骗性，尤其在模仿自然写作风格方面表现更优。
• 重复性文本生成（如重复的标签<NET>和'ECT'）是常见缺陷，可能源于模型局限性或训练数据量较小。
• 尽管存在不完美之处，该系统表明深度学习生成的邮件可绕过现有检测机制，凸显了NLP驱动网络攻击日益增长的威胁。