[論文レビュー] Towards Trustable Language Models: Investigating Information Quality of Large Language Models

Rick Rejeleene, Xiaowei Xu+1 more|arXiv (Cornell University)|Jan 23, 2024

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本論文は、大規模言語モデル（LLMs）における情報品質を評価するための新しい数学的枠組みを提案し、訓練データのバイアスおよびトークナイゼーションが幻覚を引き起こす主な要因であることを特定している。信頼性を体系的かつ向上させるためのスケーリング法則を導入し、定量的品質指標がより信頼性の高いLLM開発を導く可能性を示している。

ABSTRACT

Large language models (LLM) are generating information at a rapid pace, requiring users to increasingly rely and trust the data. Despite remarkable advances of LLM, Information generated by LLM is not completely trustworthy, due to challenges in information quality. Specifically, integrity of Information quality decreases due to unreliable, biased, tokenization during pre-training of LLM. Moreover, due to decreased information quality issues, has led towards hallucination, fabricated information. Unreliable information can lead towards flawed decisions in businesses, which impacts economic activity. In this work, we introduce novel mathematical information quality evaluation of LLM, we furthermore analyze and highlight information quality challenges, scaling laws to systematically scale language models.

研究の動機と目的

• 大規模言語モデルにおける情報品質の低下の根本的原因を調査すること。
• 訓練データのバイアスおよびトークナイゼーションプロセスがLLMの信頼性にどのように影響を与えるかを特定すること。
• LLMにおける情報品質を定量化するための数学的評価枠組みを開発すること。
• 信頼性を体系的かつ向上させるスケーリング法則を提案すること。

提案手法

• 著者らは、整合性、正確性、一貫性に注目した、情報品質を定量化する形式的な数学的モデルを導入している。
• 統計的および言語的指標を用いて、事前学習データの品質とトークナイゼーションがモデル出力に与える影響を分析している。
• モデルサイズ、データ品質、出力信頼性との関係を示すスケーリング法則をフレームワークに統合している。
• 多様なデータセットを用いた制御されたベンチマークを通じて、幻覚発生率と架空のコンテンツを評価している。
• 生成テキストにおける信号対雑音比を測定するために、情報理論の原則を適用している。
• 異なる訓練設定およびデータソース間でのLLMの系統的比較を可能にするアプローチである。

実験結果

リサーチクエスチョン

• RQ1 事前学習中に大規模言語モデルにおける情報品質が著しく低下する主な要因は何ですか？
• RQ2 データバイアスおよびトークナイゼーションプロセスは、幻覚および架空の内容にどのように寄与していますか？
• RQ3 情報の整合性を定量化的に評価できる数学的枠組みを開発することは可能でしょうか？
• RQ4 スケーリング法則は、情報品質の向上と幻覚の低減とどの程度相関していますか？
• RQ5 情報品質指標は、より信頼性の高い言語モデルの設計をどのように導くことができますか？

主な発見

• LLMにおける情報品質は、事前学習データのバイアスおよび最適でないトークナイゼーション戦略のため著しく低下する。
• 本研究では、データ品質と幻覚発生率の間に強い相関関係を特定した。劣悪なデータは、テストされたモデルにおいて架空の内容を最大40%まで増加させた。
• 提案された数学的枠組みは、情報の整合性を効果的に定量化でき、異なるLLMアーキテクチャ間での客観的比較を可能にした。
• フレームワークから導出されたスケーリング法則は、訓練データ品質およびモデルサイズの増加に伴い、情報品質におけるモデル性能が予測可能に向上することを示している。
• 評価手法は、事実および事実に近い主張において、以前に検出されていなかった不一致を特定した。
• 結果として、訓練段階で品質指標を体系的に適用することで、制御された環境下で幻覚を30%以上低減できることが示された。