[论文解读] Advancing Explainable AI with Causal Analysis in Large-Scale Fuzzy Cognitive Maps

Marios Tyrovolas, Nikolaos D. Kallimanis+1 more|arXiv (Cornell University)|May 15, 2024

Cognitive Science and Mapping被引用 4

一句话总结

本文提出TCEC-FCM算法，一种新颖方法，通过使用二分查找与图遍历技术，高效计算大规模模糊认知图（FCMs）中的总因果效应，将计算复杂度从O(n!)降低至O(n·e·log e)。该方法相较于穷举路径搜索方法实现了显著的速度提升，使复杂、大规模FCMs的因果分析在可解释人工智能（XAI）应用中成为可能。

ABSTRACT

In the quest for accurate and interpretable AI models, eXplainable AI (XAI) has become crucial. Fuzzy Cognitive Maps (FCMs) stand out as an advanced XAI method because of their ability to synergistically combine and exploit both expert knowledge and data-driven insights, providing transparency and intrinsic interpretability. This letter introduces and investigates the "Total Causal Effect Calculation for FCMs" (TCEC-FCM) algorithm, an innovative approach that, for the first time, enables the efficient calculation of total causal effects among concepts in large-scale FCMs by leveraging binary search and graph traversal techniques, thereby overcoming the challenge of exhaustive causal path exploration that hinder existing methods. We evaluate the proposed method across various synthetic FCMs that demonstrate TCEC-FCM's superior performance over exhaustive methods, marking a significant advancement in causal effect analysis within FCMs, thus broadening their usability for modern complex XAI applications.

研究动机与目标

• 为解决大规模模糊认知图（FCMs）中穷举因果路径探索所面临的O(n!)计算复杂度这一关键限制。
• 开发一种可扩展且高效的FCMs总因果效应计算方法，无需依赖所有因果路径的暴力枚举。
• 通过在复杂、大规模系统中实现快速、可靠的因果分析，提升FCMs在可解释人工智能（XAI）中的实际可用性。
• 克服传统方法在密集或大型FCMs中不可行的问题，因为在这些场景下穷举搜索的计算成本变得无法承受。
• 通过一种具有可证明更低时间复杂度的新算法，为FCMs中的因果效应分析建立新基准。

提出的方法

• TCEC-FCM算法利用二分查找与图遍历技术，系统性地探索并计算因果效应，而无需枚举所有可能路径。
• 它利用排序后的权重列表（W_sorted）优化路径评估，并在遍历过程中减少冗余计算。
• 该算法采用基于排序边权重的剪枝优化改进版深度优先搜索，在密集图中提升效率。
• 通过聚合所有相关路径上的间接效应，并运用模糊因果代数原理，保持结果的可解释性，计算总因果效应。
• TCEC-FCM-LS变体引入一种轻量级、基于排序权重的优化，进一步降低执行时间的波动性。
• 该方法经过形式化分析与实现，时间复杂度为O(n·e·log e)，显著优于穷举方法的O(n!)复杂度。

实验结果

研究问题

• RQ1 能否开发一种可扩展算法，在无需穷举路径枚举的前提下，计算大规模FCMs中的总因果效应？
• RQ2 与穷举搜索方法相比，所提出的TCEC-FCM算法在执行时间和可扩展性方面表现如何？
• RQ3 FCM的密度与节点数量对TCEC-FCM及其变体性能有何影响？
• RQ4 该算法能否在不同FCM结构中保持一致的性能表现，特别是在密集或大规模配置下？
• RQ5 与现有方法如DFSB-FCM相比，TCEC-FCM算法在现实世界XAI应用中的计算可行性如何？

主要发现

• 在包含1,000个节点且密度各异的大规模FCMs上，TCEC-FCM算法的平均执行时间为400.95秒，显著优于穷举的DFSB-FCM方法。
• 对于1,000个节点的FCMs，TCEC-FCM相较于DFSB-FCM将平均执行时间减少了99%以上，后者平均耗时995.93秒。
• TCEC-FCM在所有测试密度下均保持极低且稳定的执行时间，仅随节点数量和密度的增加出现轻微上升。
• TCEC-FCM-LS变体表现出更高的性能波动性，执行时间围绕523.87秒的基准值波动，表明其稳定性低于主TCEC-FCM算法。
• 在包含1000个概念的全连接FCMs中，TCEC-FCM每轮执行时间为0.027–0.032秒，而DFSB-FCM需超过5,000秒，性能提升达100,000倍。
• 该算法的O(n·e·log e)复杂度使大规模FCMs中的实际因果分析成为可能，使其适用于涉及复杂、高维系统的现实世界XAI应用。