[論文レビュー] Interplay between Federated Learning and Explainable Artificial Intelligence: a Scoping Review

Luis M. López-Ramos, Florian Leiser+7 more|arXiv (Cornell University)|Nov 7, 2024

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

このスコープレビューは、フェデレーテッドラーニング（FL）と解釈可能なAI（XAI）の相互作用を調査し、FLがモデルの説明に与える影響を定量的に評価する研究がほとんどないという重要な研究ギャップを特定した。研究では、多数の研究が特徴量の重要度に基づく説明に注目しているが、FLの集約処理によりノード固有の解釈可能性のパターンが希釈され、標準化された報告慣行は依然として稀であることが判明した。

ABSTRACT

Contains basic and extraction data about papers included in a scoping review about the interplay between federated learning and explainable artificial intelligence.

研究の動機と目的

• フェデレーテッドラーニング（FL）と解釈可能なAI（XAI）の共同応用に関する現在の研究状況をマップおよび分析すること。
• 特に透明性と再現可能性に焦点を当てた、FLとXAIを組み合わせた研究におけるメソドロジー的および報告上のギャップを同定すること。
• FLトレーニングがモデルの解釈可能性および事後的説明に与える影響、特にグローバルな説明とローカルな説明の忠実度の観点から調査すること。
• FLライブラリの使用状況やデータ特徴の文書化を含む、標準化された報告慣行の欠如を強調すること。
• FLがモデル構造および説明可能性に与える影響を評価するより厳密で定量的な研究を促すこと

提案手法

• FLとXAIの両方を明示的に扱う研究を対象としたスコープレビューを実施し、モデルの解釈可能性または事後的説明における両者の相互作用に焦点を当てた。
• 37件の研究が含まれる基準を満たしており、10個以下のデータセンターを含む水平型FL（HFL）設定に注目した。
• 解釈可能性（例：アルゴリズムの透明性）を強調するか、説明手法（例：特徴量の重要度）を強調するかに基づき、研究を分類した。
• データおよびモデル報告の基準（例：TRIPOD+AI、MINIMAR）への準拠度を評価することで、報告品質を評価した。
• 既存のFLライブラリ（例：Flower、PySyft）の使用状況とカスタム実装の比較を行い、メソドロジー記述の透明性を評価した。
• 特に「説明可能性」「解釈可能性」「XAI」の用語にまつわる用語の不一致を特定し、標準化された定義の導入を提言した

Figure 1: Schematic overview of a main research question: do explanations differ between federated models and centralized models?

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングは、集中型トレーニングと比較して、モデルの説明の質、忠実度、一貫性にどのように影響するか？
• RQ2 FLとXAIの研究の何パーセントが、既存のFLライブラリを採用しており、その影響は再現性および透明性にどのように現れるか？
• RQ3 報告ガイドライン（例：TRIPOD+AI や MINIMAR）に従って、データ特性、モデル性能、説明指標の報告がどの程度なされているか？
• RQ4 FL-XAI研究で一般的に使用されている説明手法の種類は何か？また、それらは解釈可能性に焦点を当てたアプローチと比較してどう異なるか？
• RQ5 再現性およびFL-XAIシステムの責任ある展開を妨げる主なメソドロジカルおよび報告上のギャップは何か？

主な発見

• 本レビューにおいて、FLがモデルの説明に与える影響を明示的かつ定量的に分析した研究は1件のみであり、この分野における顕著な研究ギャップが判明した。
• FLノード間での解釈可能性指標の集約は、ノード固有のパターンを希釈させる傾向があり、ローカルな解釈可能性の忠実度を犠牲にして一般化されたグローバルな知見が得られる場合がある。
• 8件の論文が説明手法をFLアルゴリズムの一部として統合しており、XAIをFLトレーニングループに統合する可能性を示唆している。
• 研究の少数派が既存のFLライブラリ（例：Flower、PySyft）を採用しており、大多数の研究はカスタム実装を採用するか、実装の詳細を欠落させている。
• 多くの研究がデータ特性を報告せず、TRIPOD+AI や MINIMAR などの報告ガイドラインに準拠していないため、再現性と監査可能性が損なわれている。
• 用語に一貫性がなく、「説明可能性」「解釈可能性」「XAI」などの用語が不統一に使用されており、比較可能性とメソドロジカルな明確性を損なっている

Figure 2: Flow diagram indicating the number of papers identified, excluded in the different phases, and included in the review.