[論文レビュー] Applications of Explainable artificial intelligence in Earth system science

Feini Huang, Shijie Jiang+8 more|arXiv (Cornell University)|Jun 12, 2024

Computational Physics and Python Applications被引用数 7

ひとこと要約

ESS（地球系科学）向けのXAI概念を紹介し、ESSにおけるXAIアプリケーションを調査し、課題を議論し、プロセスベースのモデルとデータ駆動の洞察を橋渡しする解釈可能なハイブリッドAIアプローチを提唱するレビューです。

ABSTRACT

In recent years, artificial intelligence (AI) rapidly accelerated its influence and is expected to promote the development of Earth system science (ESS) if properly harnessed. In application of AI to ESS, a significant hurdle lies in the interpretability conundrum, an inherent problem of black-box nature arising from the complexity of AI algorithms. To address this, explainable AI (XAI) offers a set of powerful tools that make the models more transparent. The purpose of this review is twofold: First, to provide ESS scholars, especially newcomers, with a foundational understanding of XAI, serving as a primer to inspire future research advances; second, to encourage ESS professionals to embrace the benefits of AI, free from preconceived biases due to its lack of interpretability. We begin with elucidating the concept of XAI, along with typical methods. We then delve into a review of XAI applications in the ESS literature, highlighting the important role that XAI has played in facilitating communication with AI model decisions, improving model diagnosis, and uncovering scientific insights. We identify four significant challenges that XAI faces within the ESS, and propose solutions. Furthermore, we provide a comprehensive illustration of multifaceted perspectives. Given the unique challenges in ESS, an interpretable hybrid approach that seamlessly integrates AI with domain-specific knowledge appears to be a promising way to enhance the utility of AI in ESS. A visionary outlook for ESS envisions a harmonious blend where process-based models govern the known, AI models explore the unknown, and XAI bridges the gap by providing explanations.

研究の動機と目的

• ESS研究者に対して、説明可能なAI（XAI）の基礎的理解を提供する。
• XAIがESSにおけるAIの意思決定の伝達をどのように促進するかをレビューする。
• ESSにおけるXAI適用の課題を特定し、解決策を提案する。
• ESSにおける解釈可能なハイブリッドAIアプローチの潜在性を強調する。

提案手法

• XAIの概念と典型的な手法を説明する。
• XAIが解釈、モデル診断、科学的発見をどのように支援するかを示すためESS文献をレビューする。
• ESSにおけるXAIの4つの主要な課題を特定し、実用的な解決策を提案する。
• AIとドメイン知識を統合する多面的な視点を示す。
• プロセスベースのモデルとAIモデルを組み合わせた解釈可能なハイブリッドアプローチを提案する。
• 確立されたESSプロセスとAIの調和に向けた未来志向の展望を提示する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAI（XAI）とは何か、そしてその典型的な手法は何か？
• RQ2 XAIは地球系科学にどのように適用され、解釈と発見をどのように支援してきたか？
• RQ3 ESSにおけるXAIの適用における主要な課題は何か、そしてどのような解決策が存在するか？
• RQ4 AIを用いてESSを進展させる上で、解釈可能なハイブリッドアプローチの役割は何か？
• RQ5 プロセスベースのモデル、AI、説明の調和的な融合を促進する将来の展望は何か？

主な発見

• XAIはESSにおけるAIの意思決定の伝達を促進する。
• XAIはモデル診断を支援し、ESSにおける科学的洞察の解明に役立つ。
• ESS-XAI分野は提案された解決策とともに4つの重要な課題に直面している。
• AIとドメイン知識を統合する解釈可能なハイブリッドアプローチはESSにとって有望である。
• 将来展望として、プロセスベースのモデルが既知を統治し、AIが未知を探求し、XAIが説明を橋渡しする姿が描かれる。