[論文レビュー] Automatic Evaluation of Attribution by Large Language Models

Xiang Yue, Boshi Wang+4 more|arXiv (Cornell University)|May 10, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、大規模言語モデル（LLMs）における帰属の自動評価のためのフレームワークであるAttrScoreを紹介し、誤りを帰属可能な、外挿的な、および矛盾するタイプに分類する。少数の例提示によるプロンプトと、QA、事実確認、NLI、要約タスクからの再利用されたデータを用いた小規模言語モデルの微調整の2つのアプローチを評価したが、良好な性能を達成したものの、微細な情報や記号的操作の処理における課題が明らかになった。

ABSTRACT

A recent focus of large language model (LLM) development, as exemplified by generative search engines, is to incorporate external references to generate and support its claims. However, evaluating the attribution, i.e., verifying whether the generated statement is fully supported by the cited reference, remains an open problem. Although human evaluation is common practice, it is costly and time-consuming. In this paper, we investigate the automatic evaluation of attribution given by LLMs. We begin by defining different types of attribution errors, and then explore two approaches for automatic evaluation: prompting LLMs and fine-tuning smaller LMs. The fine-tuning data is repurposed from related tasks such as question answering, fact-checking, natural language inference, and summarization. We manually curate a set of test examples covering 12 domains from a generative search engine, New Bing. Our results on this curated test set and simulated examples from existing benchmarks highlight both promising signals and challenges. We hope our problem formulation, testbeds, and findings will help lay the foundation for future studies on this important problem.

研究の動機と目的

• 生成検索などの応用分野における信頼性に不可欠な、スケーラブルで自動化されたLLM帰属評価の欠如に対処すること。
• 二値的または粗い分類を超えて、帰属誤りの微細な分類体系（帰属可能な、外挿的な、矛盾する）を定義すること。
• 少々の例提示によるLLMsを用いたプロンプトと、関連するNLPタスクからの再利用データを用いた小規模モデルの微調整という、2つの自動評価手法を開発・評価すること。
• データ汚染を回避し、信頼性の高い評価を可能にするために、New Bingからの12ドメインの実世界テストセットを構築すること。
• 自動帰属評価における主な失敗モードを特定すること、例えば文脈的ヒントを無視することや、数値比較を誤って処理することなど。

提案手法

• 帰属誤りの三クラス分類体系を提唱：(1) 帰属可能（参照が主張を完全に支持する）、(2) 外挿的（参照の支持が不十分）、(3) 矛盾的（参照と直接矛盾する）。
• 少々の例提示を用いたゼロショットプロンプト手法を設計し、LLMs（例：ChatGPT）を用いて帰属タイプを分類する。
• 質問応答、事実確認、自然言語推論、要約タスクからの合成および再利用データセットを用いて、小規模言語モデルを微調整する。
• 実際のNew Bingクエリから成る12の実世界ドメインの新しいテストセットを収集し、評価の正確性を確保し、ベンチマークからのデータ漏洩を回避する。
• 人間によるアノテート済みゴールドスタンダードを用いてモデルの予測を評価し、誤りタイプ分類と失敗モード分析に焦点を当てる。
• 誤分類のパターンを分析し、数値や日付への感受性の欠如、記号的操作（例：著者性や集合所属の検証）の失敗といった繰り返し発生する失敗モードを特定する。

実験結果

リサーチクエスチョン

• RQ1 少々の例提示によるLLMsを用いたプロンプト手法を、微細な誤り分類体系に適用することで、自動帰属評価を信頼性高く行えるか？
• RQ2 関連NLPタスクからの再利用データを用いた小規模モデルの微調整は、プロンプト手法に比べて帰属分類においてどの程度効果的か？
• RQ3 自動帰属評価における主な失敗モードは何か。それらはモデルの挙動とどのように関連しているか？
• RQ4 生成検索エンジンからの実世界クエリを用いることで、合成データやベンチマークベースのデータに比べて、評価の妥当性がどの程度向上するか？
• RQ5 モデルは、数値の不一致や文脈的誤解といった微細な誤りをどの程度正しく検出できるか？

主な発見

• LLMsを用いたプロンプトベースのアプローチは、収集されたテストセットで合理的な性能を示したが、文脈的ヒントを無視することで79.4％の誤りが生じ、頻繁に失敗した。
• 微細な情報への感受性の欠如（例：数値や日付の比較に失敗）が、誤分類の13.8％を占めた。
• 記号的操作（例：著者性や集合所属の確認）の失敗が、誤りの6.8％を占め、論理的推論の限界を示した。
• 微調整済みモデルは、特に微妙な意味的差を処理する面でプロンプト手法よりも高い耐性を示したが、複雑なケースでは依然として性能が不十分だった。
• 両手法とも、定量的または時間的詳細の正確な比較を要する参照の処理に苦労しており、自動帰属評価における主要な課題が浮き彫りになった。
• New Bingからの収集済みテストセットは、既存のベンチマークと顕著な分布的差異を示し、実世界の評価データの必要性を裏付けた。