[論文レビュー] Polyjuice: Generating Counterfactuals for Explaining, Evaluating, and Improving Models

Tongshuang Wu, Marco Túlio Ribeiro+2 more|arXiv (Cornell University)|Jan 1, 2021

Topic Modeling参考文献 76被引用数 22

ひとこと要約

Polyjuiceは、ペアドセンテンスデータセットから学習することで、NLPモデルのための多様で制御可能な反事実を生成する微調整済みGPT-2モデルです。制御コードを用いて摂動の種類と位置を制御でき、データ拡張において約70%のアノテーション作業を削減するとともに、3つのタスクにおいてモデル評価、説明、エラー分析の向上を実現します。

ABSTRACT

While counterfactual examples are useful for analysis and training of NLP models, current generation methods either rely on manual labor to create very few counterfactuals, or only instantiate limited types of perturbations such as paraphrases or word substitutions. We present Polyjuice, a general-purpose counterfactual generator that allows for control over perturbation types and locations, trained by finetuning GPT-2 on multiple datasets of paired sentences. We show that Polyjuice produces diverse sets of realistic counterfactuals, which in turn are useful in various distinct applications: improving training and evaluation on three different tasks (with around 70% less annotation effort than manual generation), augmenting state-of-the-art explanation techniques, and supporting systematic counterfactual error analysis by revealing behaviors easily missed by human experts.

研究の動機と目的

• NLP分野における反事実生成の高コストと一貫性の欠如を解消するため、汎用的な生成器を用いて自動化すること。
• 予測の変更やラベルの変更に限定されたタスク固有の反事実生成器の限界を克服すること。
• 下流のアプリケーション選択から生成を分離することで、複数のNLPタスクに広く応用可能な反事実の実現。
• 人間が関与するワークフローを支援するため、手作業でのラベリング負担を軽減する高品質で多様な反事実の生成。
• 人間の専門家や標準的な説明手法が見逃す行動を露呈することで、体系的なモデルのエラー分析を促進すること。

提案手法

• 元の文と反事実文のペアドデータセットを複数用いてGPT-2を微調整し、多様な反事実の条件付き生成を学習する。
• 制御コード（例：否定、削除）と穴埋めテンプレートを導入し、入力に摂動の種類と位置を指定する。
• 反事実生成を条件付きテキスト生成として定式化し、入力文と制御コードの両方に条件づける。
• 下流のアプリケーション向けに、生成されたプールから関連する反事実を抽出するためのシンプルなタスク固有の選択ヒューリスティクスを用いる。
• 既存の汎用言語モデルに依存せずに、流暢で多様かつ意味的に近い反事実を生成できるモデルの能力を活用する。
• 人間が反事実をラベル付けまたは選択するだけで、完全に新規に作成するのではなく、半自動ワークフローで生成器を適用する。

実験結果

リサーチクエスチョン

• RQ1 1つの汎用的反事実生成器は、データ拡張や評価において手作業による生成と比較して、アノテーション作業を削減しながらも、モデル性能を維持または向上させることができるか？
• RQ2 制御可能でアプリケーションに依存しない反事実生成は、特徴の帰属分析に基づく既存手法を上回るモデル説明をどの程度向上させられるか？
• RQ3 Polyjuiceは、人間の専門家や標準的な評価プロトコルが見逃す体系的なモデル行動やエラーをどの程度効果的に明らかにできるか？
• RQ4 同じ生成された反事実のセットが、トレーニング、評価、説明、エラー分析を含む複数の下流タスクをサポートできるか？
• RQ5 特に摂動が微細または文脈に依存する場合に、カバレッジ、バイアス、有効性の面で現在のアプローチにどのような限界があるか？

主な発見

• Polyjuiceは、手作業による生成と比較して、データ拡張および対照セット生成において、約70%のアノテーション作業を削減しました。
• モデルは流暢で多様かつ意味的に近い反事実を生成でき、制御メカニズムにより、標準的な言語モデルから得られる可能性が低い摂動を効果的に抽出できました。
• Polyjuiceが生成した反事実は、3つの異なるNLPタスクにおいて、モデルの汎化性能を顕著に向上させるとともに、モデルの脆弱性を特定するのを助けました。
• 最先端の説明技術と組み合わせた場合、Polyjuiceの反事実は、『great』や『kids』といったキーワードに対して感度が低いというモデルの失敗を、特徴の帰属分析だけでは見逃すことがあることを明らかにしました。
• Polyjuiceを用いた反事実のエラー分析により、さまざまな否定形に対するモデルの応答の差異といった体系的な行動が明らかになり、モデルの耐性に関する深い洞察が得られました。
• 強みがある一方で、モデルは網羅的ではなく、トレーニングデータのバイアスにより特定の摂動パターン（例：否定的センチメント語）を好む傾向があるため、注意深い人間の監視が不可欠です。