[论文解读] OntoEnricher: A Deep Learning Approach for Ontology Enrichment from Unstructured Text.

Lalit Mohan Sanagavarapu, Vivek Iyer+1 more|arXiv (Cornell University)|Feb 8, 2021

Information and Cyber Security参考文献 9被引用 4

一句话总结

OntoEnricher 提出了一种使用双向LSTM和通用句子编码器的深度学习方法，通过从非结构化文本中提取安全概念（如漏洞、威胁和控制措施）来自动丰富信息安全本体。该方法在识别被移除的本体概念时测试准确率超过80%，展示了其在上下文概念提取方面的鲁棒性。

ABSTRACT

Information Security in the cyber world is a major cause for concern, with significant increase in the number of attack surfaces. Existing information on vulnerabilities, attacks, controls, and advisories available on the web provides an opportunity to represent knowledge and perform security analytics to mitigate some of the concerns. Representing security knowledge in the form of ontology facilitates anomaly detection, threat intelligence, reasoning and relevance attribution of attacks, and many more. This necessitates dynamic and automated enrichment of information security ontologies. However, existing ontology enrichment algorithms based on natural language processing and ML models have issues with the contextual extraction of concepts in words, phrases and sentences. This motivates the need for sequential Deep Learning architectures that traverse through dependency paths in text and extract embedded vulnerabilities, threats, controls, products and other security related concepts and instances from learned path representations. In the proposed approach, Bidirectional LSTMs trained on a large DBpedia dataset and Wikipedia corpus of 2.8 GB along with Universal Sentence Encoder was deployed to enrich ISO 27001 based information security ontology. The approach yielded a test accuracy of over 80\% when tested with knocked out concepts from ontology and web page instances to validate the robustness.

研究动机与目标

• 应对网络空间攻击面不断扩大所带来的对动态、自动化信息安全本体丰富化日益增长的需求。
• 克服现有基于NLP和机器学习的本体丰富化方法在捕捉词语、短语和句子之间上下文关系方面的局限性。
• 实现从非结构化网络文本中稳健提取与安全相关的概念（如漏洞、威胁、控制措施和产品）的能力。
• 通过在文本中利用依赖路径上的序列深度学习，提升本体丰富化的可扩展性和上下文准确性。

提出的方法

• 在包含DBpedia和2.8 GB Wikipedia数据集在内的大规模语料库上训练双向长短期记忆（LSTM）网络。
• 利用通用句子编码器生成上下文相关的句子嵌入，以增强对输入文本的语义理解。
• 处理文本中的依赖路径，以建模词语和短语之间的序列关系，从而实现对安全概念的更深层次上下文提取。
• 训练模型以识别并映射漏洞、威胁、控制措施和产品等实体到基于ISO 27001的信息安全本体中的预定义类别。
• 通过在故意移除本体概念的实例上进行测试，并评估恢复准确率，验证模型的鲁棒性。

实验结果

研究问题

• RQ1 深度学习模型能否以高上下文准确性从非结构化文本中有效提取与安全相关的概念？
• RQ2 与传统NLP方法相比，双向LSTM结合预训练句子编码器在丰富信息安全本体方面的表现如何？
• RQ3 当面对真实世界网络文本时，该模型在泛化能力以及恢复缺失或被移除的概念方面的能力有多大？
• RQ4 依赖路径遍历在捕捉对本体丰富化至关重要的语义关系方面有多有效？

主要发现

• 当评估基于ISO 27001的信息安全本体中被移除概念的恢复情况时，OntoEnricher模型的测试准确率超过80%。
• 将双向LSTM与通用句子编码器结合显著提升了对安全相关文本的上下文理解能力。
• 对依赖路径的序列化处理使模型能够捕捉术语之间的细微语义关系，从而提高了概念提取的精度。
• 该模型在处理真实世界、非结构化的网络内容方面表现出鲁棒性，适用于网络威胁情报应用中的动态本体丰富化。