[논문 리뷰] Advancing Explainable AI with Causal Analysis in Large-Scale Fuzzy Cognitive Maps

Marios Tyrovolas, Nikolaos D. Kallimanis외 1명|arXiv (Cornell University)|2024. 05. 15.

Cognitive Science and Mapping인용 수 4

한 줄 요약

이 논문은 이진 탐색과 그래프 순회 기법을 활용하여 대규모 퍼지 인지 지도(Fuzzy Cognitive Maps, FCMs)에서 총 인과 효과를 효율적으로 계산하는 새로운 알고리즘인 TCEC-FCM 알고리즘을 소개한다. 이로 인해 계산 복잡도는 O(n!)에서 O(n·e·log e)로 감소한다. 이는 전수적 경로 탐색 방법에 비해 빠른 성능 향상을 이끌어내며, 복잡한 대규모 FCM에서 설명 가능한 인공지능(XAI) 응용을 위한 실용적인 인과 분석을 가능하게 한다.

ABSTRACT

In the quest for accurate and interpretable AI models, eXplainable AI (XAI) has become crucial. Fuzzy Cognitive Maps (FCMs) stand out as an advanced XAI method because of their ability to synergistically combine and exploit both expert knowledge and data-driven insights, providing transparency and intrinsic interpretability. This letter introduces and investigates the "Total Causal Effect Calculation for FCMs" (TCEC-FCM) algorithm, an innovative approach that, for the first time, enables the efficient calculation of total causal effects among concepts in large-scale FCMs by leveraging binary search and graph traversal techniques, thereby overcoming the challenge of exhaustive causal path exploration that hinder existing methods. We evaluate the proposed method across various synthetic FCMs that demonstrate TCEC-FCM's superior performance over exhaustive methods, marking a significant advancement in causal effect analysis within FCMs, thus broadening their usability for modern complex XAI applications.

연구 동기 및 목표

• 대규모 퍼지 인지 지도(FCMs)에서 전수적 인과 경로 탐색의 핵심적 한계를 해결하기 위해, O(n!)의 계산 복잡도로 인해 실용성이 떨어지는 문제를 해결하고자 한다.
• 모든 인과 경로를 브루트 포스로 나열하지 않고도 FCM에서 총 인과 효과를 효율적이고 확장 가능한 방법으로 계산할 수 있는 방법을 개발하고자 한다.
• 복잡하고 대규모 시스템에서 신뢰할 수 있고 신속한 인과 분석을 가능하게 하여 FCM의 실용적 사용성을 향상시키고자 한다.
• 밀도가 높거나 대규모 FCM에서는 기존 방법이 계산적으로 처리 불가능해지는 문제를 해결하고자 한다.
• 시간 복잡도가 증명 가능하게 낮은 새로운 알고리즘을 통해 FCM에서의 인과 효과 분석에 새로운 기준을 설정하고자 한다.

제안 방법

• TCEC-FCM 알고리즘은 모든 가능한 경로를 나열하지 않고도 체계적으로 인과 효과를 탐색하고 계산하기 위해 이진 탐색과 그래프 순회 기법을 사용한다.
• 경로 평가의 최적화와 중복 계산 감소를 위해 정렬된 가중치 목록(W_sorted)을 활용한다.
• 정렬된 간선 가중치를 기반으로 한 가지 변형된 깊이 우선 탐색과 가지치기를 적용하여 밀도가 높은 그래프에서도 효율성을 높인다.
• 간접 효과를 모든 관련 경로를 통해 집계함으로써 총 인과 효과를 계산하며, 퍼지 인과 대수 원칙을 활용해 해석 가능성 유지한다.
• TCEC-FCM-LS 변종은 추가적인 실행 시간 변동성을 줄이기 위해 경량의 정렬된 가중치 기반 최적화를 도입한다.
• 알고리즘은 공식적으로 분석되었으며, 시간 복잡도가 O(n·e·log e)로 전수적 접근 방식의 O(n!)에 비해 크게 향상되었다.

실험 결과

연구 질문

• RQ1 전수적 경로 나열 없이도 대규모 FCM에서 총 인과 효과를 계산할 수 있는 확장 가능한 알고리즘을 개발할 수 있는가?
• RQ2 제안된 TCEC-FCM 알고리즘이 실행 시간과 확장성 측면에서 전수적 탐색 방법과 비교해 어떻게 성능을 발휘하는가?
• RQ3 FCM의 밀도와 노드 수가 TCEC-FCM 및 그 변종의 성능에 미치는 영향은 어떠한가?
• RQ4 특히 밀도가 높거나 대규모 구성에서 다양한 FCM 구조에 대해 알고리즘이 일관된 성능을 유지할 수 있는가?
• RQ5 실제 XAI 응용에 있어 실현 가능성이 높은 기존 방법들과 비교했을 때 TCEC-FCM 알고리즘의 계산적 타당성은 어떠한가?

주요 결과

• 1,000개의 노드와 다양한 밀도를 가진 대규모 FCM에서 TCEC-FCM 알고리즘은 평균 400.95초의 실행 시간을 기록하여 전수적 탐색 방법인 DFSB-FCM보다 뛰어난 성능을 보였다.
• 1,000개의 노드를 가진 FCM에서 TCEC-FCM는 DFSB-FCM 평균 실행 시간 995.93초 대비 99% 이상의 시간 단축을 기록했다.
• 모든 테스트된 밀도에서 TCEC-FCM는 일관되게 낮은 실행 시간을 유지했으며, 노드 수와 밀도 증가에 따라 약간의 증가만 보였다.
• TCEC-FCM-LS 변종은 성능 변동성이 더 높았으며, 평균 기준 523.87초 주변에서 실행 시간이 변동하여 주된 TCEC-FCM 알고리즘보다 안정성이 떨어지는 것으로 나타났다.
• 1,000개의 개념이 완전히 상호 연결된 FCM에서는 TCEC-FCM가 1회 실행에 평균 0.027~0.032초 내로 실행되었고, 반면 DFSB-FCM는 5,000초 이상 소요되어 성능 향상이 약 100,000배에 이르렀다.
• 알고리즘의 O(n·e·log e) 복잡도는 대규모 FCM에서 실용적인 인과 분석을 가능하게 하여, 고차원적이고 복잡한 시스템을 포함한 실제 XAI 응용 분야에 적용 가능하게 한다.