[論文レビュー] Transferable XAI: Relating Understanding Across Domains with Explanation Transfer

Fei Wang, Yifan Zhang+1 more|arXiv (Cornell University)|Feb 14, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

本論文は、関連AIドメイン（サブスペース、タスク、属性）間で説明を転送するアフィン変換フレームワークであるTransferable XAIを提案し、健康リスクと大気汚染の設定におけるタスク転送と属性転送を評価します。

ABSTRACT

Current Explainable AI (XAI) focuses on explaining a single application, but when encountering related applications, users may rely on their prior understanding from previous explanations. This leads to either overgeneralization and AI overreliance, or burdensome independent memorization. Indeed, related decision tasks can share explanatory factors, but with some notable differences; e.g., body mass index (BMI) affects the risks for heart disease and diabetes at the same rate, but chest pain is more indicative of heart disease. Similarly, models using different attributes for the same task still share signals; e.g., temperature and pressure affect air pollution but in opposite directions due to the ideal gas law. Leveraging transfer of learning, we propose Transferable XAI to enable users to transfer understanding across related domains by explaining the relationship between domain explanations using a general affine transformation framework applied to linear factor explanations. The framework supports explanation transfer across various domain types: translation for data subspace (subsuming prior work on Incremental XAI), scaling for decision task, and mapping for attributes. Focusing on task and attributes domain types, in formative and summative user studies, we investigated how well participants could understand AI decisions from one domain to another. Compared to single-domain and domain-independent explanations, Transferable XAI was the most helpful for understanding the second domain, leading to the best decision faithfulness, factor recall, and ability to relate explanations between domains. This framework contributes to improving the reusability of explanations across related AI applications by explaining factor relationships between subspaces, tasks, and attributes.

研究の動機と目的

• ユーザーが過剰一般化や記憶負荷を増やすことなく、あるAIドメインから関連ドメインへの理解を適用できるようにする。
• サブスペース、タスク、属性間の説明転送のための解釈可能なアフィン変換フレームワークを導入する。
• 転送マッピングのスパース性を保ちつつ説明の忠実性を維持し、認知負荷を低減する。
• 実世界に近い健康リスクと大気汚染シナリオでTask TransferとAttributes Transferを形成的・総括的に評価する。

提案手法

• wと相対属性値χを用いた線形ファクター説明で予測を説明する。
• Originalドメインの説明をTargetドメインの説明へ写像するアフィン変換 w_T = A w_O + b を定義する。
• ドメイン種別特有の転送を実装する：サブスペースは平行移動による転送（A = I, b ≠ 0）；タスクはスケーリングによる転送（A = diag(κ); b = 0）；属性はマッピングによる転送（w_T = Mχ^T w_O、疎なMχを用いる）。
• 理解負荷を最小化しつつ忠実性を維持するために、疎性正則化を用いてOriginalとTargetの説明器を同時訓練する（L = L_O + L_T + λ L_s）。
• 忠実性、ファクターリコール、ドメイン間の関連理解を評価するために、2つの実験（Task TransferとAttributes Transfer）を健康リスクと大気汚染に跨って実施する。

Figure 1. Concept of Transferable XAI for cross-domain understanding. a) Original Domain: Initial understanding of AI decisions. b) Target Domain: Understanding goal for the second domain. c) Mismatched Domains: Applying original understanding to the target domain results in knowledge gaps (gray) an

実験結果

リサーチクエスチョン

• RQ1 Transferable XAIを用いて、OriginalドメインからTargetドメインへのAI決定の理解をユーザーはどの程度効果的に転送できるか？
• RQ2 Transferable XAIは単一ドメインの説明と比べて、決定の忠実性、ファクターリコール、およびドメイン間での説明の関連理解を改善するか？
• RQ3 Subspace、Task、Attributes転送の間で認知負荷と有効性にはどんな差があるか？
• RQ4 翻訳、スケーリング、マッピング転送は、ドメインを跨いだ一般ユーザーに対して直感的で稀薄な説明を支持するか？

主な発見

• Transferable XAIはTargetドメインのAI決定の理解を他の説明よりも効果的に支援した。
• Targetドメインにおいて最も高い決定忠実性とファクターリコールを達成した。
• ユーザーのドメイン間での説明関連付け能力を向上させた。
• スパース正則化は転送ファクター数を制限することで認知負荷を低減する。
• このフレームワークはSubspace転送を他のドメイン転送と統合することによりIncremental XAIを包含する。

Figure 2. Conceptual example of affine transformations across different domain types, shown with 2-dimensional data (two attributes) for simplicity. See technical details in Section 3.3 .