[論文レビュー] Trust Oriented Explainable AI for Fake News Detection

Krzysztof Siwek, Daniel Adam Stankowski+1 more|arXiv (Cornell University)|Mar 12, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

この論文はSHAP、LIME、Integrated Gradientsを用いてNLPベースの偽ニュース検知器（LSTMとCNN）を説明し、XAIが透明性を向上させつつ高精度を維持することを示す。各手法は独自の説明価値を提供し、限界がある。

ABSTRACT

This article examines the application of Explainable Artificial Intelligence (XAI) in NLP based fake news detection and compares selected interpretability methods. The work outlines key aspects of disinformation, neural network architectures, and XAI techniques, with a focus on SHAP, LIME, and Integrated Gradients. In the experimental study, classification models were implemented and interpreted using these methods. The results show that XAI enhances model transparency and interpretability while maintaining high detection accuracy. Each method provides distinct explanatory value: SHAP offers detailed local attributions, LIME provides simple and intuitive explanations, and Integrated Gradients performs efficiently with convolutional models. The study also highlights limitations such as computational cost and sensitivity to parameterization. Overall, the findings demonstrate that integrating XAI with NLP is an effective approach to improving the reliability and trustworthiness of fake news detection systems.

研究の動機と目的

• NLPベースの偽ニュース検出における透明性の必要性を動機づけ、ブラックボックスモデルへの依存を減らす。
• 偽ニュース分類の文脈で選択したXAI手法（SHAP、LIME、Integrated Gradients）を比較する。
• XAIの実用的な利益と限界（計算コスト、パラメータ感度、誤解リスク）を評価する。
• XAIとNLPアーキテクチャおよびエンドユーザー調査の将来統合の基礎を提供する。

提案手法

• ISOTデータセットを用いた実ニュースと偽ニュースのラベル付き完全なNLP偽ニュース検知パイプラインを開発する。
• 埋め込み＋分類層を用いた2つのニューラルアーキテクチャ（LSTMとCNN）を評価する。
• トークンレベルの説明のためにXAI手法（SHAP、LIME、Integrated Gradients）を統合・比較する。
• 特徴量寄与度指標と視覚化を用いて説明の質と忠実度を評価する。
• アーキテクチャの振る舞いを反映した説明を示すモデル別分析と可視化を提示する。

Figure 2: SHAP visualization for CNN model

実験結果

リサーチクエスチョン

• RQ1 SHAP、LIME、Integrated GradientsはNLPモデルにおける偽ニュース検出の説明としてどの程度機能するか？
• RQ2 LSTMとCNNのアーキテクチャ間で説明の質はどのように異なるか？
• RQ3 この設定でXAIを使用する際の実践的な制限とリスクは何か？
• RQ4 誤解を避けるためにXAI出力の評価をモデル・アーキテクチャ固有にすべきか？

主な発見

• XAIは透明性を高めつつ分類精度を高水準で維持する傾向がある。
• SHAPは詳細な局所寄与を提供し、LIMEはシンプルで直感的な説明を、Integrated Gradients (IG) はCNNで効率的である。
• LSTMではSHAPが最も強い除去効果と最高のAOPCを示し、LIMEは完結性でやや劣り、IGは遅く効果は限定的だった。
• CNNではIGが完結性とAOPCのバランスが最も良く、速度も速かった。LIMEは中間、SHAPは十分性とAOPCで遅れを取った。
• 説明品質はアーキテクチャ依存であり、普遍的に最適な単一手法はなく、モデル固有の評価が望ましい。

Figure 3: LIME visualization for CNN model