[論文レビュー] Opening the Black-Box: A Systematic Review on Explainable AI in Remote Sensing

Adrian Höhl, Ivica Obadić+6 more|arXiv (Cornell University)|Feb 21, 2024

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

この論文は remote sensing（RS）における explainable AI (xAI) の PRISMA ベースの体系的文献調査を実施し、xAI 手法を整理し、RS アプリケーションにおける使用パターン、評価実践、課題を分析する。

ABSTRACT

In recent years, black-box machine learning approaches have become a dominant modeling paradigm for knowledge extraction in remote sensing. Despite the potential benefits of uncovering the inner workings of these models with explainable AI, a comprehensive overview summarizing the explainable AI methods used and their objectives, findings, and challenges in remote sensing applications is still missing. In this paper, we address this gap by performing a systematic review to identify the key trends in the field and shed light on novel explainable AI approaches and emerging directions that tackle specific remote sensing challenges. We also reveal the common patterns of explanation interpretation, discuss the extracted scientific insights, and reflect on the approaches used for the evaluation of explainable AI methods. As such, our review provides a complete summary of the state-of-the-art of explainable AI in remote sensing. Further, we give a detailed outlook on the challenges and promising research directions, representing a basis for novel methodological development and a useful starting point for new researchers in the field.

研究の動機と目的

• RS における xAI 手法の利用を要約し、RS タスク全体で共通する目的を特定する。
• xAI 手法を分類し、RS アプリケーションにマッピングして RS における xAI の分類体系を明確にする。
• xAI の説明が RS でどのように分析・解釈・評価されているかを評価する。
• RS の xAI 実践と一般的な xAI のベストプラクティス・推奨事項との整合性を評価する。
• RS における xAI の制限・課題・有望な方向性を浮き彫りにする。

提案手法

• Scopus、Springer、IEEE Xplore を横断した PRISMA 指導の系統的文献検索を実施。
• 2017–2023 年に発表された RS 関連 xAI 論文を特定するための inclusion/exclusion 条件を定義。
• RS または EO データと xAI コンセプトを対象とする 2 部構成の検索クエリを 3 つのデータベースで作成。
• 964 件の候補論文をスクリーニングし、重複と関連性の低い論文を除外して、分析対象とする一次研究を 147 件に確定（図書館に 60 件追加）。
• サブカテゴリーを含む 4 部構成の xAI分類法（特徴量の寄与、蒸留、内在的説明、対比的例）を提案。
• 使用パターン（タスク、センサ、手法）を要約し、定性的・定量的な洞察を抽出し、評価実践に言及する。

Figure 1: The number of publications of ML and xAI in EO , obtained by using the search query described in Section III-B and Appendix LABEL:apx:search_queries , differ by a factor of $\approx 70$ . (*Calculated amount of publications given the first ten months of the year and assuming a linear trend

実験結果

リサーチクエスチョン

• RQ1 RQ1: EO タスクに対してどの explainable AI アプローチが用いられ、どのような手法が開発されているか？
• RQ2 RQ2: RS において xAI の説明はどのように分析・解釈・評価されているか？
• RQ3 RQ3: RS で xAI を用いることから生じる目的と知見は何か？
• RQ4 RQ4: RS の xAI アプローチは推奨される xAI 実践とどのように整合するか？
• RQ5 RQ5: RS における xAI の制限・課題・今後の方向性は何か？

主な発見

• SHAP は最も頻繁に使用される手法で、公開論文の 38% 超で使用。
• 局所近似法は論文の 29%、バックプロパゲーション法は 23%、CAM の派生は土地被覆タスクで顕著（18%）。
• 摂動法（22%）および局所法は農業 RS アプリケーションで一般的で、他の手法分布はタスクによって異なる。
• 地表被覆モニタリング、農業、自然災害モニタリングは合わせて RS xAI 文献の約 40% を占める（それぞれ 34、26、26 論文）。
• 90% 超の論文が説明の定性的評価に依拠しており、定量評価は少ない。
• データ特性、ラベル欠如、説明を標準的 xAI 評価実践に整合させることなどの課題。

Figure 2: Flow Diagram of PRISMA. Figure adapted from [ 26 ] .