[論文レビュー] Improving Neural Model Performance through Natural Language Feedback on Their Explanations

Aman Madaan, Niket Tandon+5 more|arXiv (Cornell University)|Apr 18, 2021

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

本論文では、再訓練を伴わずに自然言語フィードバックを通じてニューラルモデルの説明を改善するインタラクティブNLPシステムMercurieを紹介する。人間のフィードバックを用いて一貫性のない説明グラフを是正することで、Mercurieは一貫性を40%低減し、3つのドメインで下流の退行的推論の正確性を1.2ポイント向上させた。

ABSTRACT

A class of explainable NLP models for reasoning tasks support their decisions by generating free-form or structured explanations, but what happens when these supporting structures contain errors? Our goal is to allow users to interactively correct explanation structures through natural language feedback. We introduce MERCURIE - an interactive system that refines its explanations for a given reasoning task by getting human feedback in natural language. Our approach generates graphs that have 40% fewer inconsistencies as compared with the off-the-shelf system. Further, simply appending the corrected explanation structures to the output leads to a gain of 1.2 points on accuracy on defeasible reasoning across all three domains. We release a dataset of over 450k graphs for defeasible reasoning generated by our system at https://tinyurl.com/mercurie .

研究の動機と目的

• 再訓練を回避するため、自然言語フィードバックを用いたニューラルモデルの説明のインタラクティブ是正を可能にすること。
• 現実世界の設定ではめったに見られない構造的または実行可能なフィードバックを必要とする既存のシステムの限界を克服すること。
• オープンドメインで現実世界の応用において、ニューラルモデルが生成する説明グラフの一貫性と質を向上させること。
• 洗練された説明構造が下流の推論タスクにおいて測定可能な向上をもたらすことを示すこと。
• 将来的な研究を支援するため、45万件を超える説明グラフを含む大規模データセットを公開すること。

提案手法

• 本システムは2段階のパイプラインを採用：事前学習済みのニューラルモデル（M）が初期の説明グラフを生成し、グラフ補正器（G）が人間のフィードバックを用いてそれを洗練する。
• 人間のフィードバックは、説明グラフ内の一貫性の欠如や誤りを自然言語で記述する（例：「このノードはグラフの他の部分と矛盾している」）。
• グラフ補正器（G）は、入力クエリ、フィードバック、初期グラフを入力として受け取り、修正されたグラフを出力するように微調整されたシーケンス・トゥ・シーケンスモデルで学習する。
• 補正プロセスは反復的である：フィードバックが収集され、グラフが洗練され、さらにフィードバックがなければそのプロセスが繰り返される。
• 修正されたグラフは、下流タスク（退行的推論）の入力シーケンスに付加され、文脈表現が向上する。
• システムは入力シーケンスとグラフノードをRoBERTa-baseでエンコードし、予測には1層のMLP分類器を用いる。

実験結果

リサーチクエスチョン

• RQ1 自然言語フィードバックは、ニューラルモデルが生成する説明グラフの不一致を効果的に低減できるか？
• RQ2 人間のフィードバックによる説明構造の洗練が、下流の推論パフォーマンスに測定可能な向上をもたらすか？
• RQ3 タスク固有のフィードバックスキーマや構造的な編集コマンドを必要とせずに、システムはドメインをまたいで一般化できるか？
• RQ4 説明グラフの品質が、下流の退行的推論タスクのパフォーマンスにどのように影響するか？
• RQ5 再訓練を伴わずに、説明に対するフィードバックが、下流のモデルパフォーマンスをどの程度向上させられるか？

主な発見

• グラフ補正器（G）は、説明グラフあたりの重複ノードの平均数を40%削減し、2.11から1.25に低下させた。
• ドメイン全体で平均して、少なくとも1つの繰り返しがあるグラフの割合は、73.3%から47.6%に低下した。
• 修正済みグラフを入力シーケンスに付加することで、3つのドメイン（アトミック、SNLI、ソーシャル）全体で平均して退行的推論の正確性が1.2ポイント向上した。
• 修正済みグラフを使用するモデル（G）は平均83.26%の正確性を達成し、ベースライン（82.03%）および修正なしモデル（82.53%）を有意に上回った。
• その向上は統計的に有意であり、洗練され、より一貫性のある説明構造が下流の推論を向上させることを示した。
• 本システムは、しばしば曖昧で実行不能な現実世界のフィードバックに対しても、特別なフィードバックフォーマットを必要とせずに、うまく一般化できた。