[論文レビュー] Large Language Model Agent for Fake News Detection

Xinyi Li, Yongfeng Zhang+1 more|arXiv (Cornell University)|Apr 30, 2024

Misinformation and Its Impacts被引用数 4

ひとこと要約

この論文では、大規模言語モデル（LLMs）を用いて、内部知識と外部ツールを組み合わせた構造的で専門家が設計したワークフローを通じてフェイクニュースを検出する、エージェント型フレームワークであるFactAgentを提案する。訓練を一切必要とせず、検証を部分的なステップに分解することで、透明で段階的な推論を提供し、教師ありモデルや標準的なプロンプティング技術を上回る高い正確性を達成する。

ABSTRACT

In the current digital era, the rapid spread of misinformation on online platforms presents significant challenges to societal well-being, public trust, and democratic processes, influencing critical decision making and public opinion. To address these challenges, there is a growing need for automated fake news detection mechanisms. Pre-trained large language models (LLMs) have demonstrated exceptional capabilities across various natural language processing (NLP) tasks, prompting exploration into their potential for verifying news claims. Instead of employing LLMs in a non-agentic way, where LLMs generate responses based on direct prompts in a single shot, our work introduces FactAgent, an agentic approach of utilizing LLMs for fake news detection. FactAgent enables LLMs to emulate human expert behavior in verifying news claims without any model training, following a structured workflow. This workflow breaks down the complex task of news veracity checking into multiple sub-steps, where LLMs complete simple tasks using their internal knowledge or external tools. At the final step of the workflow, LLMs integrate all findings throughout the workflow to determine the news claim's veracity. Compared to manual human verification, FactAgent offers enhanced efficiency. Experimental studies demonstrate the effectiveness of FactAgent in verifying claims without the need for any training process. Moreover, FactAgent provides transparent explanations at each step of the workflow and during final decision-making, offering insights into the reasoning process of fake news detection for end users. FactAgent is highly adaptable, allowing for straightforward updates to its tools that LLMs can leverage within the workflow, as well as updates to the workflow itself using domain knowledge. This adaptability enables FactAgent's application to news verification across various domains.

研究の動機と目的

• デジタルプラットフォームにおける誤情報の急速な拡散という状況において、スケーラブルで効率的なフェイクニュース検出の課題に対処すること。
• 高価な人工作成データセットを用いた訓練を必要とする教師ありモデルの限界を克服すること。
• 検証プロセスの各段階で明確な推論を提供することで、フェイクニュース検出における解釈可能性と透明性を向上させること。
• ドメイン専門知識を用いてツールやワークフローを更新することで、さまざまなドメインに柔軟に適応可能な検出システムを実現すること。
• 微調整なしに、LLMベースのエージェント型システムが非エージェント型プロンプティングや既存の事実確認手法を上回ることを示すこと。

提案手法

• FactAgentは、人間の専門家が行う事実確認の行動を模倣する構造的で複数ステップのワークフローを採用し、ニュース検証を管理しやすい部分タスクに分解する。
• 各部分タスクでは、LLMの内部知識または外部ツール（例：検索エンジン、知識グラフ）を用いて関連する証拠を取得する。
• LLMは、各ツールからの発見をドメイン固有のチェックリストと照合することで、推論の整合性と完全性を保証する。
• 最終的な意思決定は、剛性のある過半数投票ではなく、すべての観察結果の統合に基づくため、洗練された判断が可能である。
• ワークフローは専門家によるドメイン知識を基に設計されており、新しいツールや検証基準の統合も容易に更新可能である。
• システムはゼロショットで動作し、微調整やラベル付きデータのトレーニングを一切必要としない。

実験結果

リサーチクエスチョン

• RQ1 訓練を一切行わずに、LLMベースのエージェント型システムが非エージェント型プロンプティングや教師ありモデルを上回る性能を発揮できるか？
• RQ2 専門家が設計したワークフローと外部ツールの統合が、LLMベースの事実確認における正確性と解釈可能性にどのように影響するか？
• RQ3 LLMが複数の証拠ソースとチェックリストを用いて推論を可能にすることで、過半数投票戦略に比べてより優れたパフォーマンスが得られるか？
• RQ4 ワークフローとツールの更新により、FactAgentはどの程度さまざまなニュースドメインに適応可能か？
• RQ5 FactAgentが段階的な推論を透明に提示することで、ブラックボックスモデルに比べてユーザーの信頼と理解がどの程度向上するか？

主な発見

• 専門家が設計したワークフローを用いたFactAgentは、教師あり学習モデル、標準的プロンプティング、チェーン・オブ・チーオリーピングプロンプティング、単一側面分析のすべてを上回るフェイクニュース検出性能を達成する。
• 外部検索を用いた先行するLLMベースの事実確認システムHiSSよりも、構造的推論とドメイン固有のチェックリストを統合することで、FactAgentは高いパフォーマンスを発揮する。
• 最終判断に過半数投票戦略を用いた場合、チェックリストと照合するようにLLMに指示する戦略に比べて性能が劣ることから、柔軟な推論がより優れた結果をもたらすことが示された。
• システムは各ステップで明確な自然言語の説明を提供しており、検証プロセスの解釈可能性とユーザー理解を向上させている。
• FactAgentのパフォーマンスは、専門家が設計したワークフローの質に強く依存しており、システム設計におけるドメイン知識の重要性が浮き彫りになった。
• このフレームワークは非常に適応可能であり、再トレーニングを伴わず、新しいツールの統合やワークフローの変更がスムーズに可能である。