[論文レビュー] Advancing Explainable AI with Causal Analysis in Large-Scale Fuzzy Cognitive Maps

Marios Tyrovolas, Nikolaos D. Kallimanis+1 more|arXiv (Cornell University)|May 15, 2024

Cognitive Science and Mapping被引用数 4

ひとこと要約

本稿では、二分探索とグラフ走査を用いて、大規模なファジィ認知マップ（FCMs）における全因果効果を効率的に計算する新規手法TCEC-FCMアルゴリズムを紹介する。計算量の複雑性をO(n!)からO(n·e·log e)に低減することで、全経路探索法に比べて顕著な高速化を実現し、説明可能なAI（XAI）応用における複雑で大規模なFCMsにおける実用的因果分析を可能にする。

ABSTRACT

In the quest for accurate and interpretable AI models, eXplainable AI (XAI) has become crucial. Fuzzy Cognitive Maps (FCMs) stand out as an advanced XAI method because of their ability to synergistically combine and exploit both expert knowledge and data-driven insights, providing transparency and intrinsic interpretability. This letter introduces and investigates the "Total Causal Effect Calculation for FCMs" (TCEC-FCM) algorithm, an innovative approach that, for the first time, enables the efficient calculation of total causal effects among concepts in large-scale FCMs by leveraging binary search and graph traversal techniques, thereby overcoming the challenge of exhaustive causal path exploration that hinder existing methods. We evaluate the proposed method across various synthetic FCMs that demonstrate TCEC-FCM's superior performance over exhaustive methods, marking a significant advancement in causal effect analysis within FCMs, thus broadening their usability for modern complex XAI applications.

研究の動機と目的

• 大規模なファジィ認知マップ（FCMs）における因果経路の全探索という、計算量がO(n!)に達するため実用的でないという根本的限界を解消すること。
• すべての因果経路をブルートフォースで列挙することに依存せずに、FCMsにおける全因果効果をスケーラブルかつ効率的に計算する手法を開発すること。
• 複雑で大規模なシステムにおける高速かつ信頼性の高い因果分析を可能にすることで、FCMsの説明可能なAI（XAI）における実用的有用性を高めること。
• 従来の方法が密度が高くまたは大規模なFCMsでは計算が管理不能になるという問題を克服すること。
• 時間計算量が明確に低い新規アルゴリズムを用いて、FCMsにおける因果効果分析の新しいベンチマークを確立すること。

提案手法

• TCEC-FCMアルゴリズムは、すべての可能な経路を列挙せずに、因果効果を体系的に探索・計算するために二分探索とグラフ走査技術を用いる。
• 経路評価の最適化と冗長計算の削減を図るため、ソート済み重みリスト（W_sorted）を活用する。
• ソート済みエッジ重みに基づくプルーニングを施した変更版深さ優先探索を適用し、密度の高いグラフでも効率を向上させる。
• ファジィ因果代数の原則に従い、すべての関連経路に沿った間接的効果を集約することで全因果効果を計算し、解釈可能性を維持する。
• TCEC-FCM-LSバージョンは、軽量で重みをソートした最適化を導入し、実行時間のばらつきをさらに低減する。
• 形式的解析と実装により、時間計算量がO(n·e·log e)であることが示され、全探索アプローチのO(n!)に比べ顕著に改善されている。

実験結果

リサーチクエスチョン

• RQ1 全経路列挙を回避しつつ、大規模なFCMsにおける全因果効果を計算できるスケーラブルなアルゴリズムを開発できるか？
• RQ2 TCEC-FCMアルゴリズムは、全探索法と比較して実行時間とスケーラビリティにおいてどの程度の性能を示すか？
• RQ3 FCMの密度とノード数の変動が、TCEC-FCMおよびその変種の性能に与える影響は何か？
• RQ4 特に密度が高くまたは大規模な構造において、アルゴリズムは一貫した性能を維持できるか？
• RQ5 実世界のXAI応用における計算可能性という観点から、TCEC-FCMは従来の方法（例：DFSB-FCM）と比較してどの程度優れているか？

主な発見

• 1,000ノードで密度が変動する大規模FCMsにおいて、TCEC-FCMアルゴリズムは平均400.95秒の実行時間を達成し、全探索法であるDFSB-FCM法を著しく上回った。
• 1,000ノードのFCMsにおいて、TCEC-FCMはDFSB-FCM法の平均実行時間995.93秒を99%以上短縮した。
• TCEC-FCMは、全テスト密度において一貫して低い実行時間を維持しており、ノード数と密度の増加に伴いわずかな増加にとどまった。
• TCEC-FCM-LSバージョンは、性能のばらつきが顕著で、実行時間が523.87秒のベンチマークの周辺を前後して変動しており、本体のTCEC-FCMアルゴリズムに比べて安定性に欠けることが示された。
• 1,000の概念が完全に相互接続されたFCMsでは、TCEC-FCMは1回の実行で0.027〜0.032秒で実行されたが、DFSB-FCMは5,000秒以上を要し、性能向上は10万倍に達した。
• O(n·e·log e)の計算量を持つ本アルゴリズムにより、大規模なFCMsにおける実用的因果分析が可能となり、複雑で高次元のシステムを対象とする実世界のXAI応用においても実現可能となった。