[論文レビュー] Representing Verbs as Argument Concepts

Yu Gong, Kaiqi Zhao+1 more|arXiv (Cornell University)|Mar 2, 2018

Natural Language Processing Techniques参考文献 25被引用数 6

ひとこと要約

本稿では、大規模コーパスから主題および目的語のインスタンスを分類ベースの分枝限定法を用いて要約することで、調整可能で人間が読み取り可能かつ機械で計算可能な動詞の概念を自動的に推論するデータ駆動型フレームワークを提案する。この手法は、概念間の意味的重複を最小限に抑えつつ動詞の目的語を高精度にカバーすることができ、細分化されたbag-of-words的手法や粗い意味的役割アプローチに比べ、粒度とカバー範囲のバランスをとった優れた性能を発揮する。

ABSTRACT

Verbs play an important role in the understanding of natural language text. This paper studies the problem of abstracting the subject and object arguments of a verb into a set of noun concepts, known as the "argument concepts". This set of concepts, whose size is parameterized, represents the fine-grained semantics of a verb. For example, the object of "enjoy" can be abstracted into time, hobby and event, etc. We present a novel framework to automatically infer human readable and machine computable action concepts with high accuracy.

研究の動機と目的

• 動詞表現における細分化されたbag-of-words的手法と粗い意味的役割アプローチの限界を解消すること。
• 生テキストから自動的かつ調整可能な動詞目的語の抽象化を、高レベルの名詞的概念にすること。
• 生成された概念が人間が読み取り可能かつ機械で計算可能であり、パラメータ化された集合サイズによって粒度を制御できることを保証すること。
• 実際の動詞目的語インスタンスのカバー範囲を最大化すると同時に、概念間の意味的重複を最小限に抑えること。
• Probase や WordNet などの外部知識分類法を活用することで、未観測の目的語への一般化を向上させること。

提案手法

• 本手法は、概念をノードとし、「isA」関係がエンティティの階層的カバー範囲を定義する分類法（例：Probase や WordNet）を外部知識として用いる。
• 目的語の概念化問題を、カバー範囲を最大化し、ペアワイズの重複を最小化するように、分類法から k 個の概念を選択する問題として定式化する。
• コアアルゴリズムは、カバー範囲と多様性の両立を図るための効率的な最適化のための分枝限定戦略を採用する。
• 概念間の重複は、それらがカバーするエンティティの正規化された共通部分集合として定義される：$\text{Overlap}(c_1,c_2) = \frac{|E_{c_1} \cap E_{c_2}|}{\min\{|E_{c_1}|, |E_{c_2}|\}}$。
• フレームワークは依存構文解析を統合して主題および目的語の目的語を抽出し、その後それらを分類法の概念にマッピングして抽象化する。
• 本手法は人間による評価と目的語カバー範囲メトリクスを用いて評価され、選択的選好およびクラスタリングベースのベースラインと比較される。

実験結果

リサーチクエスチョン

• RQ1 我々は、多様な目的語インスタンスに一般化可能な、調整可能で人間が読み取り可能かつ機械で計算可能な動詞の目的語概念の自動生成が可能か？
• RQ2 提案手法は、実際の動詞目的語のカバー範囲と概念間の意味的多様性（低重複）のバランスをどのようにとるか？
• RQ3 分類法の選択（例：Probase と WordNet の対比）が、推論された概念の正確性および一般化性能にどの程度影響を与えるか？
• RQ4 本手法は、従来の選択的選好およびクラスタリングベースの手法と比較して、カバー範囲および概念品質の面でどの程度優れているか？
• RQ5 推論された目的語概念は、学習データに存在しない未観測の動詞目的語にも一般化可能か？

主な発見

• 提案手法は、ベースラインの選択的選好およびクラスタリングベースの手法に比べ、特に Probase を分類法として用いた場合に高い目的語カバー範囲を達成する。
• Probase はテスト目的語の91.69％をカバーするが、WordNet は84.82％にとどまるため、名前付きエンティティおよび複数語表現のカバー範囲が広いため、より優れた性能を発揮する。
• 分枝限定アルゴリズムは、意味的重複を低く保ちつつカバー範囲を最大化する概念集合を効果的に生成し、重複を明示的に制御しない手法に比べて優れた性能を示す。
• 人間による評価では、生成された目的語概念が正確で解釈可能であり、動詞の意味的解釈に関する人間の直感と高い整合性を示している。
• 本手法は未学習の目的語（例：'McDonalds' が 'eat' に対して）に対しても良好に一般化でき、学習データに直接含まれないが分類法のリンクを通じて正しくマッピングされる。
• フレームワークは、分類法に適応した最適化による概念抽象化が、従来の分布的またはクラスタリングベースの手法よりも優れた動詞の意味的表現を可能にすることを示している。