[論文レビュー] OntoEnricher: A Deep Learning Approach for Ontology Enrichment from Unstructured Text.

Lalit Mohan Sanagavarapu, Vivek Iyer+1 more|arXiv (Cornell University)|Feb 8, 2021

Information and Cyber Security参考文献 9被引用数 4

ひとこと要約

OntoEnricherは、双方向LSTMとユニバーサル文埋め込み表現を用いた深層学習的手法を提案し、非構造化テキストから脆弱性、脅威、対策などの情報セキュリティの概念を自動で抽出することで、情報セキュリティオントロジーを拡張する。この手法は、オントロジー概念が意図的に削除された状況においても80%以上のテスト精度を達成し、文脈的な概念抽出の堅牢性を示している。

ABSTRACT

Information Security in the cyber world is a major cause for concern, with significant increase in the number of attack surfaces. Existing information on vulnerabilities, attacks, controls, and advisories available on the web provides an opportunity to represent knowledge and perform security analytics to mitigate some of the concerns. Representing security knowledge in the form of ontology facilitates anomaly detection, threat intelligence, reasoning and relevance attribution of attacks, and many more. This necessitates dynamic and automated enrichment of information security ontologies. However, existing ontology enrichment algorithms based on natural language processing and ML models have issues with the contextual extraction of concepts in words, phrases and sentences. This motivates the need for sequential Deep Learning architectures that traverse through dependency paths in text and extract embedded vulnerabilities, threats, controls, products and other security related concepts and instances from learned path representations. In the proposed approach, Bidirectional LSTMs trained on a large DBpedia dataset and Wikipedia corpus of 2.8 GB along with Universal Sentence Encoder was deployed to enrich ISO 27001 based information security ontology. The approach yielded a test accuracy of over 80\% when tested with knocked out concepts from ontology and web page instances to validate the robustness.

研究の動機と目的

• サイバースペースにおける攻撃表面の拡大に伴い、動的で自動的な情報セキュリティオントロジーの拡張ニーズに対応する。
• 従来のNLPおよび機械学習ベースのオントロジー拡張手法が語句・フレーズ・文における文脈的関係を捉えるのに限界を示す問題を克服する。
• 非構造化ウェブテキストから脆弱性、脅威、対策、製品などのセキュリティ関連概念を堅牢に抽出することを可能にする。
• テキスト内の依存関係パスを用いた順序付き深層学習を活用することで、オントロジー拡張のスケーラビリティと文脈的正確性を向上させる。

提案手法

• DBpediaと2.8 GBのWikipediaデータセットを含む大規模コーパスで学習された双方向LSTMネットワークを採用する。
• ユニバーサル文埋め込み表現を用いて、入力テキストの意味的理解を向上させる文の埋め込みを生成する。
• テキスト内の依存関係パスを処理し、語句やフレーズ間の順序的な関係をモデル化することで、セキュリティ概念のより深い文脈的抽出を可能にする。
• 脆弱性、脅威、対策、製品などのエンティティを、ISO 27001に基づく情報セキュリティオントロジー内の事前に定義されたクラスに同定・マッピングするようにモデルを学習する。
• オントロジー概念を意図的に削除したインスタンスをテストし、回復精度を評価することで、モデルの堅牢性を検証する。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、高い文脈的正確性をもって非構造化テキストからセキュリティ関連の概念を効果的に抽出できるか？
• RQ2 事前学習済みの文埋め込み表現と組み合わせた双方向LSTMは、従来のNLP手法と比較して、情報セキュリティオントロジーの拡張においてどれほど優れた性能を示すか？
• RQ3 実世界のウェブテキストが与えられた場合、モデルは欠落したまたは削除されたオントロジー概念をどれほど一般化して回復できるか？
• RQ4 依存関係パスの走査は、オントロジー拡張に不可欠な意味的関係をどれほど効果的に捉えられるか？

主な発見

• OntoEnricherモデルは、ISO 27001に基づく情報セキュリティオントロジーから意図的に削除された概念の回復を評価する際、80%以上のテスト精度を達成した。
• 双方向LSTMとユニバーサル文埋め込み表現の統合により、セキュリティ関連テキストの文脈的理解が顕著に向上した。
• 依存関係パスの順序処理により、用語間の微細な意味的関係を捉えることができ、概念抽出の正確性が向上した。
• 実世界の非構造化ウェブコンテンツを効果的に処理する能力を示し、サイバーセキュリティ脅威インテリジェンス応用における動的オントロジー拡張に適していることが実証された。