[论文解读] A Novel Way of Identifying Cyber Predators

Dan Liu, Ching Y. Suen+1 more|arXiv (Cornell University)|Dec 11, 2017

Advanced Malware Detection Techniques参考文献 3被引用 17

一句话总结

该论文提出了一种新颖的深度学习方法，结合LSTM-RNN语言建模、句子向量表示和FastText情感分析，以识别在线对话中的网络诱捕者。通过利用LSTM生成的句子向量和情感评分，该方法在测试中实现了100%的精确率和81.10%的召回率，超越了SPI竞赛的最高成绩，展示了在文本序列中检测掠夺性行为的高准确性。

ABSTRACT

Recurrent Neural Networks with Long Short-Term Memory cell (LSTM-RNN) have impressive ability in sequence data processing, particularly for language model building and text classification. This research proposes the combination of sentiment analysis, new approach of sentence vectors and LSTM-RNN as a novel way for Sexual Predator Identification (SPI). LSTM-RNN language model is applied to generate sentence vectors which are the last hidden states in the language model. Sentence vectors are fed into another LSTM-RNN classifier, so as to capture suspicious conversations. Hidden state enables to generate vectors for sentences never seen before. Fasttext is used to filter the contents of conversations and generate a sentiment score so as to identify potential predators. The experiment achieves a record-breaking accuracy and precision of 100% with recall of 81.10%, exceeding the top-ranked result in the SPI competition.

研究动机与目标

• 为解决在实时文本对话中识别网络性诱捕者这一挑战。
• 在性诱捕者识别（SPI）竞赛中，提升检测准确率和精确率，超越现有方法。
• 开发一种稳健的、具备序列感知能力的模型，能够泛化至未见过的掠夺性对话模式。
• 整合情感分析与句子级嵌入，以增强用户的行为画像能力。
• 利用深度学习实现可扩展且自动化的可疑在线互动识别。

提出的方法

• 使用LSTM-RNN生成句子向量，作为语言模型的最终隐藏状态，以捕捉序列上下文信息。
• 将这些学习到的句子向量作为输入，输入到第二个LSTM-RNN分类器中，以检测可疑的对话模式。
• 应用FastText分析对话内容并计算情感评分，以标记情绪操控性或掠夺性语言。
• 将情感评分与LSTM生成的句子表示相结合，以提升检测的敏感性。
• 在对话序列上端到端训练模型，以学习掠夺性行为的判别特征。
• 利用LSTM-RNN的最后一个隐藏状态作为新句子的固定长度向量表示。

实验结果

研究问题

• RQ1 结合LSTM-RNN与FastText的混合深度学习模型，是否能提升在线对话中网络诱捕者的检测效果？
• RQ2 LSTM-RNN生成的句子级嵌入在序列文本数据中，能在多大程度上提升对掠夺性行为的识别能力？
• RQ3 将情感分析与神经序列建模相结合，对网络诱捕者检测的精确率和召回率有何影响？
• RQ4 该模型是否能在保持高检测准确率的同时，泛化至未见过的对话？
• RQ5 所提出的方法是否优于SPI竞赛中的最先进方法？

主要发现

• 所提方法在识别网络诱捕者方面实现了100%的精确率，表明在测试集中无任何误报。
• 该模型召回率达到81.10%，意味着成功检测到超过80%的实际掠夺性互动。
• 该模型超越了SPI竞赛中的最高排名结果，为该任务设立了新的准确率与精确率基准。
• 使用LSTM生成的句子向量有效实现了对未见句子的表示，支持模型泛化能力。
• 通过FastText进行的情感分析有助于识别掠夺性行为中常见的情绪操控语言模式。
• 序列建模与情感分析的结合，显著提升了检测性能，优于基线方法。