[論文レビュー] Causal Discovery with Language Models as Imperfect Experts

Stephanie Long, Alexandre Piché+3 more|arXiv (Cornell University)|Jul 5, 2023

Bayesian Modeling and Causal Inference被引用数 6

ひとこと要約

本稿では、真の因果グラフが高い確率で保たれるように保証しつつ、大規模言語モデル（LLM）からの不完全な専門家知識を組み込むことで、因果発見におけるマークフ・同値クラス（MEC）をグリーディで一貫性に配慮した手法で精錬する方法を提案する。このアプローチは、サイクルのない性質と条件付き独立制約を活用して誤った専門家による方向付けを是正し、実世界のデータセットにおいてMECのサイズと構造的ハミング距離（SHD）を顕著に低減する。

ABSTRACT

Understanding the causal relationships that underlie a system is a fundamental prerequisite to accurate decision-making. In this work, we explore how expert knowledge can be used to improve the data-driven identification of causal graphs, beyond Markov equivalence classes. In doing so, we consider a setting where we can query an expert about the orientation of causal relationships between variables, but where the expert may provide erroneous information. We propose strategies for amending such expert knowledge based on consistency properties, e.g., acyclicity and conditional independencies in the equivalence class. We then report a case study, on real data, where a large language model is used as an imperfect expert.

研究の動機と目的

• 因果グラフがマークフ・同値クラス（MEC）までしか特定できない因果発見手法の限界に対処すること。これにより、干渉の推定に不確実性が生じる。
• 特に大規模言語モデル（LLM）のような不完全な専門家からの知識を統合するフレームワークを構築し、MECを精錬して不確実性を低減すること。
• 専門家フィードバックに誤りが含まれる場合でも、真の因果グラフが精錬されたMECに高い確率で含まれ続けるように保証すること。
• 合成的なノイズ付き専門家とLLMベースの専門家を用いて、実世界のデータセット上で本手法の有効性を評価すること。
• 専門家の信頼性と不確実性のキャリブレーションが、因果精錬のパフォーマンスに与える影響を評価すること。

提案手法

• 真のグラフを高い確率で保持しつつMECのサイズを最小化するという最適化問題として、不完全な専門家の使用を形式化する。
• MECにおけるサイクルのない性質と条件付き独立制約との整合性をテストすることで、段階的に専門家フィードバックを統合するグリーディアルゴリズムを提案する。
• 2つの戦略を導入する：$S_{\text{size}}$（MECのサイズを最小化）と$S_{\text{risk}}$（真のグラフを除外するリスクを制御）で、ベイズ推論を用いる。
• ノイズモデルを用いて専門家の誤りをシミュレートし、各専門家による方向付けが確率$1 - \varepsilon$で正しく、整合性のないグラフは除外する。
• まず真のDAGからMECを抽出し、その後専門家クエリを用いて精錬するという手順で、実世界のベイジアンネットワーク（例：Insurance, Asia, ALARM）に本手法を適用する。
• MECのサイズ、真のグラフとのSHD、および真のグラフが含まれる確率の経験的確率$p(G^\star \in \mathcal{M}^{E,S})$を用いてパフォーマンスを評価する。

実験結果

リサーチクエスチョン

• RQ1 LLMからの不完全な専門家知識を、マークフ・同値クラスを超えて因果発見の不確実性を低減するために効果的に活用できるか？
• RQ2 専門家フィードバックが誤りを含む場合でも、真の因果グラフが精錬された同値クラスに含まれ続けるように保証する方法は何か？
• RQ3 MECの精錬において、リスク制御型とサイズ最適化型の異なる専門家戦略の間には、どのようなパフォーマンスのトレードオフが生じるか？
• RQ4 LLMの信頼性と不確実性のキャリブレーションは、因果精錬の質にどのように影響を与えるか？
• RQ5 LLMは、単なる専門家統合よりも、因果関連の知識を提供でき、因果発見のパフォーマンスを向上させられるか？

主な発見

• 制御された誤り率を持つ$\varepsilon$-専門家を用いた場合、Insurance, Asia, ALARMの全ネットワークにおいて、本手法はMECのサイズとSHDを顕著に低減し、$p(G^\star \in \mathcal{M}^{E,S}) \geq 1 - \eta$を維持した。
• $\eta = 1$の場合、本手法はLongら（2023）のナーブなLLM統合法よりも低いSHDを達成し、より高い正確性と制御性を示した。
• ALARMを除くすべてのデータセットにおいて、LLMベースの専門家は少なくとも1つの$\varepsilon$-専門家と同等の性能を示し、LLMから因果関連知識を効果的に抽出できることを示した。
• ALARMネットワークでは、メタデータの曖昧さと専門家の混乱のため、$\eta$が小さい場合ですら真のグラフが$\mathcal{M}^{E,S}$から除外された。
• text-davinci-003モデルは不確実性のキャリブレーションが著しく悪く、低$\eta$でも過剰に自信を持ち、真のグラフを誤って除外する結果となった。
• 本手法のパフォーマンスは、信頼性の低い専門家を用いる際に劣化する傾向にあり、LLMを専門家として使用する際には、より良いノイズモデルと不確実性キャリブレーションの必要性が浮き彫りになった。