[論文レビュー] ASER: Towards Large-scale Commonsense Knowledge Acquisition via Higher-order Selectional Preference over Eventualities

Hongming Zhang, Xin Liu+5 more|arXiv (Cornell University)|Apr 5, 2021

Natural Language Processing Techniques被引用数 16

ひとこと要約

本稿では、依存構文解析および話法解析を用いて無ラベルテキストから抽出した出来事、状態、行動といった言語的出来事（eventualities）を対象として、高次選択的好み（higher-order selectional preference）を用いて構築された大規模な常識知識グラフ、ASERを紹介する。言語的グラフ内の統計的好みをモデル化することにより、文脈に依存する常識知識（例：'dog barks' は 'cat barks' よりもはるかに一般的）を捉え、43800万の出来事間に6億4800万エッジを有する。概念化により、1500万の概念化されたノードおよび2億2400万エッジにカバー範囲が拡大された。

ABSTRACT

Commonsense knowledge acquisition and reasoning have long been a core artificial intelligence problem. However, in the past, there has been a lack of scalable methods to collect commonsense knowledge. In this paper, we propose to develop principles for collecting commonsense knowledge based on selectional preference. We generalize the definition of selectional preference from one-hop linguistic syntactic relations to higher-order relations over linguistic graphs. Unlike previous commonsense knowledge definition (e.g., ConceptNet), selectional preference (SP) knowledge only relies on statistical distribution over linguistic graphs, which can be efficiently and accurately acquired from the unlabeled corpus with modern tools. Following this principle, we develop a large-scale eventuality (a linguistic term covering activity, state, and event)-based knowledge graph ASER, where each eventuality is represented as a dependency graph, and the relation between them is a discourse relation defined in shallow discourse parsing. The higher-order selectional preference over collected linguistic graphs reflects various kinds of commonsense knowledge. Moreover, motivated by the observation that humans understand events by abstracting the observed events to a higher level and can thus transfer their knowledge to new events, we propose a conceptualization module to significantly boost the coverage of ASER. In total, ASER contains 648 million edges between 438 million eventualities. After conceptualization with Probase, a selectional preference based concept-instance relational knowledge base, our concept graph contains 15 million conceptualized eventualities and 224 million edges between them. Detailed analysis is provided to demonstrate its quality. All the collected data, APIs, and tools are available at https://github.com/HKUST-KnowComp/ASER.

研究の動機と目的

• 人為的ラベル付けや専門家が編集した知識ベースに依存しない、常識知識取得のスケーラビリティ課題に取り組む。
• ConceptNetのような固定された三項組み（例：三項組）の制限を超えるために、絶対的事実ではなく確率的で文脈に依存する好みとして常識をモデル化する。
• 言語的分布的パターンに基づき、因果的・時間的・道具的関係を捉える、出来事中心の大規模知識グラフを構築する。
• Probaseを用いた概念化により、知識の抽象化と一般化を実現し、未観測の出来事への適用可能性を高める。

提案手法

• 依存構文解析および構文成分解析を用いて、生テキストから出来事（出来事、状態、行動）を抽出し、出来事レベルの依存グラフを構築する。
• 浅い話法解析を用いて出来事間の話法関係（例：原因、結果、道具）を特定し、知識グラフのエッジを定義する。
• 言語的グラフ全体の統計的共起パターンを分析することで、高次選択的好みをモデル化し、人為的ラベルなしで出来事ペアの妥当性を捉える。
• Probaseを用いた概念化により、特定の出来事（例：'dog barks'）をより広範な概念（例：'animal barks'）にマッピングし、一般化性とカバー範囲を向上させる。
• クライアント・サーバー型アーキテクチャを採用した分散知識グラフシステムを構築し、クエリおよびConceptNet形式への変換を可能にするAPIを提供する。
• ルールベース推論（AMIE+を活用）および内在的・外在的評価を用いて、取得した知識の品質と実用性を検証する。

Figure 1: ASER Demonstration. Eventualities are connected with weighted directed edges. Each eventuality is a dependency graph.

実験結果

リサーチクエスチョン

• RQ1 言語的グラフにおける高次選択的好みを用いて、人為的ラベルなしで常識知識取得をスケーリングできるか？
• RQ2 無ラベルテキスト内の統計的パターンは、出来事間の妥当な常識的関係（例：因果関係、時間的順序）をどれほど効果的に捉えられるか？
• RQ3 概念化は、常識知識グラフのカバー範囲と一般化能力をどの程度向上させるか？
• RQ4 特に推論タスクにおいて、ConceptNetなどの既存の知識ベースと比較してASERの品質と実用性はいかがなものか？
• RQ5 構造的で出来事中心の表現を有することにより、ASERは代名詞解決や対話システムといった複雑な推論タスクをサポートできるか？

主な発見

• ASERは、人為的ラベルなしの無ラベルテキスト内の統計的パターンから、43800万の出来事間に6億4800万エッジを有する。
• 出来事 'dog barks' はASER内で14,998回出現するが、'cat barks' はたった6回にとどまり、これは常識に整合する強い統計的好みを示している。
• エッジ ⟨'be hungry', Cause, 'eat food'⟩ はASERに存在するが、逆は存在しない。これはASERが妥当な因果関係を捉えていることを示している。
• Probaseによる概念化を経て、ASERの概念グラフは1500万の概念化された出来事および2億2400万エッジに拡大され、カバー範囲が顕著に向上した。
• 外在的評価では、ASERが対話システムなどの下流タスクを支援できることを示し、その性能向上は出来事中心かつ統計的根拠に基づく構造に起因している。
• 本研究では、データ、API、ツール（ConceptNet形式への変換ユーティリティを含む）をオープンソースで提供しており、広範な採用と統合を促進している。

Figure 2: Paper Road Map.