[論文レビュー] RARR: Researching and Revising What Language Models Say, Using Language Models

Luyu Gao, Zhuyun Dai+9 more|arXiv (Cornell University)|Oct 17, 2022

Topic Modeling被引用数 13

ひとこと要約

RARRは、外部の証拠を自動で調査し、出力の事実的帰属を向上させるためにテキストを再編集することで、言語モデルの出力を強化するモデルに依存しないフレームワークです。少量のfew-shotプロンプトと大規模言語モデル、Web検索を用いることで、最小限の微調整で高忠実度の再編集を実現し、多様な生成タスクにおいて帰属の正確性を顕著に向上させます。

ABSTRACT

Language models (LMs) now excel at many tasks such as few-shot learning, question answering, reasoning, and dialog. However, they sometimes generate unsupported or misleading content. A user cannot easily determine whether their outputs are trustworthy or not, because most LMs do not have any built-in mechanism for attribution to external evidence. To enable attribution while still preserving all the powerful advantages of recent generation models, we propose RARR (Retrofit Attribution using Research and Revision), a system that 1) automatically finds attribution for the output of any text generation model and 2) post-edits the output to fix unsupported content while preserving the original output as much as possible. When applied to the output of several state-of-the-art LMs on a diverse set of generation tasks, we find that RARR significantly improves attribution while otherwise preserving the original input to a much greater degree than previously explored edit models. Furthermore, the implementation of RARR requires only a handful of training examples, a large language model, and standard web search.

研究の動機と目的

• 言語モデルの出力における根拠のない内容や事実誤認を是正するため、自動帰属を可能にする。
• 取得した証拠と整合するように生成されたテキストを再編集するが、元のスタイル、構造、意図を保持する方法を開発する。
• アーキテクチャの変更を要せず、あらゆる事前学習済み言語モデルと連携できるモデルに依存しないシステムを構築する。
• 再編集モデルの帰属品質と元のテキストの特性の保持度を評価する。
• 大規模言語モデルを用いた少量のfew-shotプロンプトが、多様な生成タスクにわたって強力な一般化を実現できることを示す。

提案手法

• RARRは2段階で動作する：研究（クエリ生成と証拠取得）と再編集（不一致検出とテキスト編集）。
• クエリジェネレータが入力テキストの異なる側面について質問を生成し、ターゲットのWeb検索を誘導する。
• リトリーバーは標準的なWeb検索を用いて、各クエリに関連する証拠スニペットを収集する。
• 合意モデルは、元のテキストと取得した証拠との間に不一致がないかを確認する。
• 不一致が検出された場合にのみ、大規模言語モデルを用いた少量のfew-shotプロンプトにより、的を射た再編集をエディットモデルが実行する。
• 証拠スニペットは選別され、アトリビューションレポートに統合され、追跡可能性と透明性が保証される。

実験結果

リサーチクエスチョン

• RQ1 元のモデルを変更せずに、後処理による再編集システムが言語モデル出力の事実的帰属を改善できるか？
• RQ2 大規模言語モデルを用いた少量のfew-shotプロンプトが、知識の根拠付け、推論、対話などの多様な生成タスクにどの程度一般化できるか？
• RQ3 RARRは、根拠のない主張を是正する際、元のテキストのスタイルと構造をどの程度保持できるか？
• RQ4 RARRは、帰属の正確性と元のコンテンツの保持の両面で、既存の編集モデルと比べてどの程度優れているか？
• RQ5 標準的なWeb検索と大規模言語モデルを基盤とするリトリーブ増強型の再編集システムが、最小限の教師信号で微調整済みモデルを上回る性能を発揮できるか？

主な発見

• RARRは、知識集約型の質問、推論チェーン、対話応答など、多様なタスクにおいて帰属のパフォーマンスを顕著に向上させる。
• 保存度の指標で測定したところ、RARRは以前の編集モデルよりも、元のテキストのスタイルと構造をより効果的に保持している。
• RARRはわずか数例の学習例でのみ高い性能を発揮しており、少数のfew-shot一般化が有効であることを示している。
• RARRは、帰属の質と元のコンテンツの保持の両面で、既存の再編集モデルを上回っている。
• 生成後のリトリーブと再編集により、モデルに依存しない帰属が実現され、あらゆる既存の言語モデルに適用可能である。
• 評価結果から、RARRのアトリビューションレポートは取得した証拠と強く関連しており一貫性が高く、モデル出力への信頼性を高めている。