[論文レビュー] Deep Probabilistic Logic: A Unifying Framework for Indirect Supervision

Hai Wang, Hoifung Poon|arXiv (Cornell University)|Aug 26, 2018

Topic Modeling参考文献 39被引用数 10

ひとこと要約

本稿では、確率的論理とディープラーニングを統合することで、自然言語処理におけるエンドツーエンドの間接的教師付き学習を可能にする統合的フレームワークであるDeep Probabilistic Logic (DPL)を提案する。ラベル意思決定を潜在変数としてモデル化し、変分EMを用いてディープニューラルネットワークと重み付き論理式を同時に最適化することで、DPLは遠隔教師付き学習、データプログラミング、共同推論を統合・一般化し、手動アノテーションを一切用いずに生物医学的機械読解タスクで顕著な精度向上を達成した。

ABSTRACT

Deep learning has emerged as a versatile tool for a wide range of NLP tasks, due to its superior capacity in representation learning. But its applicability is limited by the reliance on annotated examples, which are difficult to produce at scale. Indirect supervision has emerged as a promising direction to address this bottleneck, either by introducing labeling functions to automatically generate noisy examples from unlabeled text, or by imposing constraints over interdependent label decisions. A plethora of methods have been proposed, each with respective strengths and limitations. Probabilistic logic offers a unifying language to represent indirect supervision, but end-to-end modeling with probabilistic logic is often infeasible due to intractable inference and learning. In this paper, we propose deep probabilistic logic (DPL) as a general framework for indirect supervision, by composing probabilistic logic with deep learning. DPL models label decisions as latent variables, represents prior knowledge on their relations using weighted first-order logical formulas, and alternates between learning a deep neural network for the end task and refining uncertain formula weights for indirect supervision, using variational EM. This framework subsumes prior indirect supervision methods as special cases, and enables novel combination via infusion of rich domain and linguistic knowledge. Experiments on biomedical machine reading demonstrate the promise of this approach.

研究の動機と目的

• 自然言語処理におけるアノテーションのボトルネックを解消するため、多様な間接的教師付き学習手法を統合すること。
• 計算が困難な推論や学習が存在する中でも、確率的論理とエンドツーエンドの学習を可能にするためのアプローチ。
• 遠隔教師付き学習、データプログラミング、共同推論といった複数の形態の間接的教師付き学習を、1つのフレームワーク内で統合すること。
• 豊富なドメイン知識と最小限の手動アノテーションデータを活用して、生物医学的テキストにおける機械読解の精度を向上させること。
• スケーラブルでモジュラーなフレームワークを提供し、教師信号の柔軟な組み合わせを可能とすること。

提案手法

• DPLは、予測モジュール（ディープニューラルネットワーク）と教師モジュール（確率的論理モデル）を組み合わせており、ラベル意思決定は潜在変数として扱われる。
• 間接的教師付き学習は、重み付き一階論理式で表現され、仮想証拠を一般化することで、多様な教師信号源を統一的に扱う。
• 変分EMを用いて、ディープラーニングモデルの最適化と教師信号の重みの精緻化を交互に繰り返す。
• 学習は、入力に対して仮想証拠の条件付き尤度を最大化することで、予測モジュールと教師モジュールを同時に最適化する。
• 確率的論理部における近似推論にはループ付きベイズ推論（loopy belief propagation）を用い、2〜4イテレーションで収束する。
• アプローチはモジュラーな学習をサポートしており、各EMイテレーションでディープラーニングを10エポック分最適化し、合計で3回のEMステップを実行する。

実験結果

リサーチクエスチョン

• RQ1 遠隔教師付き学習、データプログラミング、共同推論といった多様な間接的教師付き学習手法を統合できる統一フレームワークは構築可能か？
• RQ2 計算が困難な推論が存在する中でも、ディープラーニングと確率的論理を効果的に組み合わせ、エンドツーエンドの学習を可能にできるか？
• RQ3 複数の間接的教師付き学習信号を統合することで、生物医学的機械読解タスクの精度が向上するか？
• RQ4 DPLは、元のラベル関数がカバーしない誤り（例：引用やフラット化されたテーブル由来の誤り）に対しても一般化可能か？
• RQ5 大規模な生物医学的データセットにおける、DPLの学習時間および推論時間のスケーラビリティはどの程度か？

主な発見

• DPLは関係抽出タスクで0.61の精度と20,378の絶対リcallを達成し、Pengら（2017）の0.31の精度と11,481のリcallを著しく上回った。
• DPLのエンティティリンクャーは、トレーニング時およびテスト時のフィルタリングを組み合わせることで、精度を0.55から0.61に向上させ、低信頼度の遺伝子メンション由来のノイズ低減効果を示した。
• DPLは、元のラベル関数がカバーしなかった関係抽出の誤り（例：引用やフラット化されたテーブル由来）を是正でき、初期の教師信号を超えた一般化能力を示した。
• フレームワークは学習インスタンスに対して線形にスケーリングされ、効率的であった。PubMed規模のデータに対して、関係抽出は3.5時間、エンティティリンクは2.5時間で実行され、25コアのCPUと1つのGPUを用いた。
• 誤り解析の結果、DPLの精度誤差の45％が遺伝子変異関連性に起因しており、今後の改善の鍵となる分野であることが示された。
• DPLは教師信号の相互強化を実現し、遠隔教師付き学習、データプログラミング、共同推論を1つのモデルで統合することで、精度向上が達成された。