[論文レビュー] Causality for Large Language Models

Anpeng Wu, Kun Kuang+8 more|arXiv (Cornell University)|Oct 20, 2024

Topic Modeling被引用数 5

ひとこと要約

偽の相関とバイアスへの依存を克服するため、事前学習、ファインチューニング、アライメント、推論、評価の各段階を横断して因果性をLLMsに統合することに関する包括的な調査。

ABSTRACT

Recent breakthroughs in artificial intelligence have driven a paradigm shift, where large language models (LLMs) with billions or trillions of parameters are trained on vast datasets, achieving unprecedented success across a series of language tasks. However, despite these successes, LLMs still rely on probabilistic modeling, which often captures spurious correlations rooted in linguistic patterns and social stereotypes, rather than the true causal relationships between entities and events. This limitation renders LLMs vulnerable to issues such as demographic biases, social stereotypes, and LLM hallucinations. These challenges highlight the urgent need to integrate causality into LLMs, moving beyond correlation-driven paradigms to build more reliable and ethically aligned AI systems. While many existing surveys and studies focus on utilizing prompt engineering to activate LLMs for causal knowledge or developing benchmarks to assess their causal reasoning abilities, most of these efforts rely on human intervention to activate pre-trained models. How to embed causality into the training process of LLMs and build more general and intelligent models remains unexplored. Recent research highlights that LLMs function as causal parrots, capable of reciting causal knowledge without truly understanding or applying it. These prompt-based methods are still limited to human interventional improvements. This survey aims to address this gap by exploring how causality can enhance LLMs at every stage of their lifecycle-from token embedding learning and foundation model training to fine-tuning, alignment, inference, and evaluation-paving the way for more interpretable, reliable, and causally-informed models. Additionally, we further outline six promising future directions to advance LLM development, enhance their causal reasoning capabilities, and address the current limitations these models face.

研究の動機と目的

• 相関ベースの限界とバイアスを克服するため、因果推論をLLMsへ統合する動機付け。
• 事前学習、ファインチューニング、アライメント、推論、評価の各段階で因果性を組み込む方法を示すライフサイクル框架を提示する。
• 因果ベースの技術を分類し、LLM開発の各段階に対応づける。
• 因果情報を取り入れたLLMsの課題を浮き彫りにし、今後の方向性を提案する。

提案手法

• 五つのLLM段階（事前学習、ファインチューニング、アライメント、推論、評価）にわたる既存の因果性に着想を得た技術をレビューする。
• 三つの因果的事前学習アプローチを提案する：debiased token embedding、counterfactual training corpus、および causal foundation model framework。
• ファインチューニング、アライメント、推論のための因果性を強化したプロセスを概説し、causal discovery、causal effects、counterfactual reasoning を含む。

実験結果

リサーチクエスチョン

• RQ1 因果性をLLMsの訓練とライフサイクルに組み込んで、相関ベースの学習を超えるにはどうすればよいか。
• RQ2 各段階（事前学習、ファインチューニング、アライメント、推論、評価）で、どの技術が最も因果推論をLLMsに促進するか？
• RQ3 因果情報を取り入れたLLMsを構築する際の主要な課題と今後の方向性は何か？

主な発見

• 各段階における因果性ベースの技術は、LLMsのバイアス、信頼性、解釈可能性に対処できる。
• 現在の因果プロンプトは内在的なモデル理解よりも人間の介入とプロンプトに依存している。訓練に因果性を組み込むことが不可欠。
• 因果推論を進化させ、LLMsの限界を克服するための六つの将来方向が提案されている。