[論文レビュー] Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling

Bairu Hou, Yujian Liu+4 more|arXiv (Cornell University)|Nov 15, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、再訓練を伴わずに、大規模言語モデル（LLMs）の不確実性をデータ（アンビギアス）とモデル（エピステミック）不確実性に分解する、新しいフレームワークであるInput Clarification Ensemblingを提案する。入力を複数の明確化バージョンに生成し、それらの間でLLMの予測をアンサンブルすることで、ベイジアンニューラルネットワークに類似した対称的不確実性分解を達成し、複数のベンチマークで正確で信頼性の高い不確実性評価を実現した。

ABSTRACT

Uncertainty decomposition refers to the task of decomposing the total uncertainty of a predictive model into aleatoric (data) uncertainty, resulting from inherent randomness in the data-generating process, and epistemic (model) uncertainty, resulting from missing information in the model's training data. In large language models (LLMs) specifically, identifying sources of uncertainty is an important step toward improving reliability, trustworthiness, and interpretability, but remains an important open research question. In this paper, we introduce an uncertainty decomposition framework for LLMs, called input clarification ensembling, which can be applied to any pre-trained LLM. Our approach generates a set of clarifications for the input, feeds them into an LLM, and ensembles the corresponding predictions. We show that, when aleatoric uncertainty arises from ambiguity or under-specification in LLM inputs, this approach makes it possible to factor an (unclarified) LLM's predictions into separate aleatoric and epistemic terms, using a decomposition similar to the one employed by Bayesian neural networks. Empirical evaluations demonstrate that input clarification ensembling provides accurate and reliable uncertainty quantification on several language processing tasks. Code and data are available at https://github.com/UCSB-NLP-Chang/llm_uncertainty.

研究の動機と目的

• ブラックボックスで大規模なLLMsに対して有効な不確実性分解手法の不足に対処すること。
• 微調整や再訓練のコストが非常に高いため、ベイジアンニューラルネットワークのように複数のモデルバージョンを訓練する方法が現実的でないという課題を克服すること。
• モデルのパラメータ更新なしに、推論時における入力の操作のみを用いて、合計不確実性をデータ（アンビギアス）とモデル（エピステミック）の成分に分解する手法を開発すること。
• 実世界の応用においてLLMの信頼性、解釈可能性、信頼性を向上させるための実用的な不確実性評価を可能にすること。

提案手法

• 別個の明確化モデルを用いて、曖昧な入力を再表現することで、複数の入力明確化バージョンを生成し、データ不確実性を低減する。
• 各明確化バージョンを固定されたLLMに入力し、モデルの予測をアンサンブルすることで出力分布を推定する。
• ベイジアンニューラルネットワークと類似した対称的分解構造をフレームワークが活用し、明確化バージョン間の予測分散からモデル不確実性を推定する。
• データ不確実性は入力明確化後の予測分散として定量化され、モデル不確実性は元の入力における残存する分散から導出される。
• モデルパラメータの更新を一切行わず、事前学習済みLLMへの入力レベルの摂動と推論呼び出しに依存する。
• 明確化された入力が元の曖昧な入力よりも低いデータ不確実性を示すことを検証するため、単調性チェックを実施する。

Figure 1: Overview of the proposed uncertainty quantification method.

実験結果

リサーチクエスチョン

• RQ1 モデルの再訓練を伴わずに、LLMsの不確実性をデータ不確実性とモデル不確実性に効果的に分解できるか？
• RQ2 入力明確化アンサンブルは、ベイジアンニューラルネットワークの対称的分解構造と整合性を持つ不確実性推定を生成するか？
• RQ3 提案手法は、曖昧な入力を信頼性高く検出でき、明確化に基づくアンサンブルによって回答の再現率を向上させられるか？
• RQ4 異なる曖昧さレベルを有するデータセットにおいて、不確実性分解の性能はどのように変化するか？
• RQ5 明確化モデルは、不確実性評価および下流の性能をどの程度向上させられるか？

主な発見

• 入力明確化後にデータ不確実性が顕著に低下し、不確実性分解の単調性が裏付けられた。
• 曖昧さが明示的に表れるAmbigInstデータセットでは、明確化モデルが効果的な明確化を生成し、優れた曖昧さ検出性能を示した。
• より繊細な曖昧さを有するAmbigQAデータセットでは、不確実性評価の向上が見られたが、曖昧さの繊細さのため性能は限定的であった。
• 明確化の数が増えるにつれて、正しい回答の再現率が一貫して向上し、LLMの信頼性向上の有効性が実証された。
• 正解の明確化を組み合わせることで性能がさらに向上し、明確化モジュールの価値が確認された。
• 明確化なしの通常のプロンプトと比較して、フレームワークは優れた性能を示し、不確実性を考慮した入力アンサンブルが回答カバレッジと信頼性を向上させることを示した。

Figure 2: Data uncertainty distribution on the AmbigQA (Min et al., 2020 ) dataset using the BNN method. We use kernel density estimation to smooth the frequency distribution histogram. BNN is achieved by ensembling different in-context examples.