[論文レビュー] Semantic Uncertainty: Linguistic Invariances for Uncertainty Estimation in Natural Language Generation

Lorenz Kuhn, Yarin Gal+1 more|arXiv (Cornell University)|Feb 19, 2023

Topic Modeling被引用数 49

ひとこと要約

本論文は、意味的等価性をクラスタリングして意味に基づく不確実性を推定する、NLG の教師なし不確実性指標であるセマンティックエントロピーを提案し、トークン列ではなく意味に基づく不確実性を推定することで QA タスクにおけるモデルの正確さの予測性を向上させる。

ABSTRACT

We introduce a method to measure uncertainty in large language models. For tasks like question answering, it is essential to know when we can trust the natural language outputs of foundation models. We show that measuring uncertainty in natural language is challenging because of "semantic equivalence" -- different sentences can mean the same thing. To overcome these challenges we introduce semantic entropy -- an entropy which incorporates linguistic invariances created by shared meanings. Our method is unsupervised, uses only a single model, and requires no modifications to off-the-shelf language models. In comprehensive ablation studies we show that the semantic entropy is more predictive of model accuracy on question answering data sets than comparable baselines.

研究の動機と目的

• 意味の表層形ではなく、自由形式NLGにおいて信頼できる不確実性測度が必要である動機を示す。
• 意味に対するエントロピーとしてセマンティックエントロピーを提案する。
• オフ・ザ・シェルフのLMを改変せず、単一モデルを用いた実用的な教師なし手法を開発する。
• 広範なアブレーションを通じて、open-およびclosed-book QAデータセット（TriviaQAとCoQA）で有効性を示す。

提案手法

• 同じ意味を表す出力を双方向含意によってクラスタリングすることで、意味的等価性を定義する。
• 単一のモデルから複数のシーケンスをサンプルし、それらを意味ベースの同値関係クラスにクラスタリングする。
• 各意味クラス内のトークンレベルの確率を集約して、意味の分布に対するエントロピーとしてセマンティックエントロピーを計算する。
• すべての意味を観測できないため、セマンティックエントロピーを近似するモンテカルロ推定を用いる。
• 温度パラメータを含むサンプリング戦略（多項分布サンプリング/ビームサンプリング）を分析し、長さ正規化を議論する。

(a)

実験結果

リサーチクエスチョン

• RQ1 NLGの不確実性はトークン中心ではなく意味に焦点を当てることができるか、監視なしで定量化できるか？
• RQ2 セマンティックエントロピーは標準的なエントロピーやベースラインよりもQAタスクでモデルの正確性を予測できるか？
• RQ3 意味ベースの不確実性推定において、多様性と正確性をどうバランスさせるようにサンプリングとクラスタリングを設定すべきか？
• RQ4 このアプローチはモデルサイズやTriviaQAやCoQAのようなQAデータセットで頑健か？

主な発見

• セマンティックエントロピーは、オープンブックおよびクローズドブックQAタスクにおいてモデルの正確性を予測する際にベースラインを上回る。
• 本手法はモデルサイズに伴ってスケールし、より多くのサンプルを利用するほど効果を得られる一方で、モデルの改変やアンサンブルを必要としない。
• 双方向含意クラスタリングアルゴリズムは、意味ベースの不確実性のために意味的に等価な出力を効果的にグルーピングする。
• 多様性と正確性のバランスを取り、中程度のサンプリング温度で最適な不確実性性能が得られる。
• 長い文は結合尤度に影響を与えるため、特定の設定で長さ正規化されたエントロピーの議論を促す。

(b)