[論文レビュー] Natural language processing for word sense disambiguation and information extraction

K. R. Chowdhary|arXiv (Cornell University)|Apr 5, 2020

Topic Modeling参考文献 33被引用数 6

ひとこと要約

この博士論文は、語義解析（WSD）および情報抽出（IE）のための新しいフレームワークを提示する。このフレームワークは、同義語集を用いたアプローチ、文書検索におけるファジィ論理、および質問応答のための構造化クエリ言語（SDL）を採用している。さらに、ベイジアン手法の限界を克服するため、デムスター＝シャーファー理論に基づく戦略を導入し、非構造化テキストからのより柔軟で強固な情報抽出を可能にしている。

ABSTRACT

This research work deals with Natural Language Processing (NLP) and extraction of essential information in an explicit form. The most common among the information management strategies is Document Retrieval (DR) and Information Filtering. DR systems may work as combine harvesters, which bring back useful material from the vast fields of raw material. With large amount of potentially useful information in hand, an Information Extraction (IE) system can then transform the raw material by refining and reducing it to a germ of original text. A Document Retrieval system collects the relevant documents carrying the required information, from the repository of texts. An IE system then transforms them into information that is more readily digested and analyzed. It isolates relevant text fragments, extracts relevant information from the fragments, and then arranges together the targeted information in a coherent framework. The thesis presents a new approach for Word Sense Disambiguation using thesaurus. The illustrative examples supports the effectiveness of this approach for speedy and effective disambiguation. A Document Retrieval method, based on Fuzzy Logic has been described and its application is illustrated. A question-answering system describes the operation of information extraction from the retrieved text documents. The process of information extraction for answering a query is considerably simplified by using a Structured Description Language (SDL) which is based on cardinals of queries in the form of who, what, when, where and why. The thesis concludes with the presentation of a novel strategy based on Dempster-Shafer theory of evidential reasoning, for document retrieval and information extraction. This strategy permits relaxation of many limitations, which are inherent in Bayesian probabilistic approach.

研究の動機と目的

• 非構造化テキスト文書から構造的かつ実行可能な情報を抽出する課題に対処すること。
• 同義語集に基づく手法を用いて、語の意味の解析の精度と速度を向上させること。
• ファジィ論理を適用して、クエリと文書のマッチングにおける不確実性を扱い、文書検索の性能を向上させること。
• 質問応答システムのための情報抽出を簡素化するために、質問の主要要素（誰が、何を、いつ、どこで、なぜ）に基づく構造化記述言語（SDL）を活用すること。
• ベイジアン確率的モデルの代替として、証拠の推論理論に基づくデムスター＝シャーファー理論を用いて、文書検索およびIEにおける柔軟性を高めること。

提案手法

• 語の意味の解析に特化した同義語集ベースのアプローチで、語とその類義語間の意味的類似度を活用する。
• 文書検索にファジィ論理を適用し、関連性スコアの不確実性をモデル化し、検索の耐障害性を向上させる。
• 自然言語クエリを構造化されたデータ形式にマッピングするための構造化記述言語（SDL）を設計する。
• SDLを質問応答パイプラインと統合し、取得した文書から答えを抽出および整理する。
• 複数の情報源からの証拠を統合するためにデムスター＝シャーファー理論を適用し、厳密な確率的独立性仮定の緩和を可能にする。
• 文書検索、WSD、IEモジュールを統合したハイブリッドアーキテクチャを構築し、エンドツーエンドの情報抽出を実現する。

実験結果

リサーチクエスチョン

• RQ1 同義語集ベースの手法は、NLPシステムにおける語の意味の解析の速度と精度をどのように向上させることができるか？
• RQ2 曖昧または不正確なクエリが存在する状況下で、ファジィ論理は文書検索をどの程度向上させることができるか？
• RQ3 構造化記述言語（SDL）は、自然言語クエリを自動抽出可能な構造化情報に効果的にマッピングできるか？
• RQ4 デムスター＝シャーファー理論は、文書検索およびIEにおける不確実な証拠の統合において、ベイジアン手法をどのように上回るか？
• RQ5 確率的モデルにはどのような限界があり、証拠の推論はそれらの代替としてより柔軟に機能できるか？

主な発見

• 同義語集ベースのWSD手法は、具体的な例を示しながら有効な意味解析を達成したが、定量的な精度指標は報告されていなかった。
• ファジィ論理に基づく文書検索は、クエリと文書のマッチングにおける不確実性と曖昧さの処理を改善し、検索の耐障害性を高めた。
• SDLベースのシステムは、質問の主要要素（誰が、何を、いつ、どこで、なぜ）を中心に答えを構造化することで、情報抽出プロセスの簡素化を実現した。
• デムスター＝シャーファー理論のアプローチにより、ベイジアンモデルに内在する独立性仮定の緩和が可能になり、証拠の統合がより柔軟に実現された。
• WSD、文書検索、IEを統合したパイプラインの統合は、非構造化テキストからのエンドツーエンド情報抽出の実現可能性を示した。
• 提案されたフレームワークは、生のテキストを構造的かつ分析可能なデータに変換することで、情報過多の緩和に効果的であると示唆された。