[論文レビュー] Joint Reasoning for Multi-Faceted Commonsense Knowledge

Yohan Chalier, Simon Razniewski+1 more|arXiv (Cornell University)|Jan 13, 2020

Semantic Web and Ontologies参考文献 40被引用数 14

ひとこと要約

この論文では、整数線形計画法（ILP）におけるソフト制約を用いて、妥当性、典型性、顕著性、顕著性の4つの意味的側面をモデル化することで、共通知識（CSK）を強化する共同推論フレームワークDiceを提案する。線形計画法の緩和と低コスト理論を活用することで、これらの次元にわたり情報豊かで百分位数正規化された順位付けを実現し、一様なベースラインと比較して表現力と品質が著しく向上した。評価では、元のCSKデータが50％拡張され、平均pprefが0.66を記録した。

ABSTRACT

Commonsense knowledge (CSK) supports a variety of AI applications, from visual understanding to chatbots. Prior works on acquiring CSK, such as ConceptNet, have compiled statements that associate concepts, like everyday objects or activities, with properties that hold for most or some instances of the concept. Each concept is treated in isolation from other concepts, and the only quantitative measure (or ranking) of properties is a confidence score that the statement is valid. This paper aims to overcome these limitations by introducing a multi-faceted model of CSK statements and methods for joint reasoning over sets of inter-related statements. Our model captures four different dimensions of CSK statements: plausibility, typicality, remarkability and salience, with scoring and ranking along each dimension. For example, hyenas drinking water is typical but not salient, whereas hyenas eating carcasses is salient. For reasoning and ranking, we develop a method with soft constraints, to couple the inference over concepts that are related in in a taxonomic hierarchy. The reasoning is cast into an integer linear programming (ILP), and we leverage the theory of reduction costs of a relaxed LP to compute informative rankings. This methodology is applied to several large CSK collections. Our evaluation shows that we can consolidate these inputs into much cleaner and more expressive knowledge. Results are available at https://dice.mpi-inf.mpg.de.

研究の動機と目的

• 既存の共通知識ベースが文を独立して扱い、信頼度スコアに依存するという限界を是正するため、概念-属性記述のより豊かな多面的表現を導入すること。
• 人間の直感が何が妥当で、一般的で、特徴的で、記憶に残りやすいかを捉えるために、妥当性、典型性、顕著性、顕著性の4つの明確な意味的次元をモデル化すること。
• 分類的階層と単語埋め込みを用いて関連する概念を共同推論可能にする。これにより、関連概念間での文脈的推論が可能になる。
• 整数線形計画法と低コスト解析を用いて、各次元に沿った定量的かつ正規化された順位付けをスケーラブルで原理的に行う方法を開発すること。
• ConceptNet、TupleKB、Quasimodoなどの既存収集データに多面的スコアと推論された記述を追加することで、洗練された高品質なCSKデータセットを生成すること。

提案手法

• フレームワークは、共通知識記述の4つの次元をモデル化する：妥当性（論理的整合性）、典型性（インスタンス全体での出現頻度）、顕著性（兄弟概念との差異）、顕著性（自発的な人間の関連付け）。
• 分類的階層と単語レベルの埋め込み（例：word2vec、GloVe）を用いて関連する概念を特定し、共同推論用の近傍を形成する。
• 関連する記述間の推論を結合するためのソフト制約を定義する。例えば、ある属性が概念に対して妥当であるがその兄弟に対してはそうでない場合、その属性は顕著であるとマークされる可能性がある。
• 推論タスクは整数線形計画法（ILP）として定式化され、変数は各側面のスコアを表し、制約は記述と概念間の論理的関係をエンコードする。
• 線形計画法の緩和からの低コスト（機会費用）を用いて、各側面の情報豊かで正規化された順位付けを計算し、記述間の比較評価を可能にする。
• ソースCSKからの事前スコアと関連概念からの証拠を統合し、制約の重みを学習して人間がアノテートしたベンチマークで性能を最適化する。

実験結果

リサーチクエスチョン

• RQ1 単なる信頼度スコアを超えた多面的モデルが、概念属性に関する人間の直感をよりよく捉えられるか？
• RQ2 分類体系や埋め込み空間内の関連する概念をどのように共同推論することで、CSK記述の品質と表現力が向上するか？
• RQ3 線形計画法の緩和からの低コストが、CSKの複数の意味的側面にわたり意味的で正規化された順位付けを提供できるか？
• RQ4 ソフト制約を用いた共同推論は、独立したスコア付けや事前スコアに基づく手法と比較して、人間がアノテートした順位付けの予測性能においてどのように優れているか？
• RQ5 このフレームワークは、一貫性と表現力を保ちつつ、既存のCSK収集データに新しい高品質な記述と多次元スコアを追加できるか？

主な発見

• Diceは人間がアノテートした順位付けにおいて平均ペアワイズ正確度（ppref）0.66を達成し、単に事前スコアを使用するベースライン（0.58）や単に共同推論を行うもの（0.51）を著しく上回った。
• 4次元モデルは微細な違いを捉えた：例えば、ヘビに対して「be at shed」は「be at pet zoo」よりも典型性が高い一方で、後者は顕著性が高いと評価された。
• 妥当性は評価で低いパフォーマンスを示したことから、モデル化が最も困難な次元であった。これは、より洗練された入力信号の必要性を示唆している。
• 制約学習の結果、類似関係の依存性と妥当性推論が最終順位付けに最も強い影響を与えた。これは、概念間の関係性の重要性を裏付けた。
• この手法により、推論によって元のCSK収集データが約50％拡張され、多面的スコアを備えた洗練されたデータセットが生成され、公開ダウンロード可能となった。
• https://dice.mpi-inf.mpg.de に設置されたWebデモは、記述とその側面スコア、近傍の文脈、重み付きで具現化されたILP制約をインタラクティブに探索可能にしている。