[論文レビュー] Process-Guided Concept Bottleneck Model

Reza M. Asiyabi, SEOSAW Partnership+2 more|arXiv (Cornell University)|Jan 15, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

本論文は Process-Guided Concept Bottleneck Models (PG-CBM) を提案し、概念ボトルネックモデルを領域駆動の因果制約で拡張して、Earth Observation データから地表上 biomass density を推定する。異種監督と解釈可能な中間出力を維持しつつ、精度を保つ。

ABSTRACT

Concept Bottleneck Models (CBMs) improve the explainability of black-box Deep Learning (DL) by introducing intermediate semantic concepts. However, standard CBMs often overlook domain-specific relationships and causal mechanisms, and their dependence on complete concept labels limits applicability in scientific domains where supervision is sparse but processes are well defined. To address this, we propose the Process-Guided Concept Bottleneck Model (PG-CBM), an extension of CBMs which constrains learning to follow domain-defined causal mechanisms through biophysically meaningful intermediate concepts. Using above ground biomass density estimation from Earth Observation data as a case study, we show that PG-CBM reduces error and bias compared to multiple benchmarks, whilst leveraging multi-source heterogeneous training data and producing interpretable intermediate outputs. Beyond improved accuracy, PG-CBM enhances transparency, enables detection of spurious learning, and provides scientific insights, representing a step toward more trustworthy AI systems in scientific applications.

研究の動機と目的

• ボトルネックに領域特有の因果プロセスを組み込み、中間概念を生物物理的機序と整合させる。
• 異種かつ部分的に重なる監督データ源からの学習を可能にする。
• 中間概念間の相互依存をモデリングし、基盤となる生態プロセスを反映させる。
• Process ガイダンスによる一般化能力とOOD（Out-Of-Distribution）耐性の改善を理論的に正当化する。
• PG-CBM が予測精度を維持しつつ、解釈可能で因果的一貫性のある出力を提供することを示す。

提案手法

• f(x) を複数の概念モジュール h_i(x)（領域定義の中間変数 Z_i）に分解し、それを集約して Y を出力する g を置く CBM を拡張する。
• p(X,Z,Y) によるプロセスグラフガイド付き分解と、学習可能な条件付き写像 p(Z_i | Pa_GP(Z_i)) を介して Z_i を因果領域関係と整合させる。
• 各 h_i を独自のデータソースで訓練し、ラベルが sparse な場合にはマスク付き損失を用いて異種監督をサポートする。
• サブモデル間での知識移転を伴うエンドツーエンドの後学習を用いて、集約と中間表現を洗練させる。
• modality 特異的エンコーダ、空間ピラミッドモジュール、多頭自己注意、定量予測の確率出力ヘッドを備えた統一的な DL アーキテクチャを採用する。
• focal 定量損失と、単調性・空間・分位数整合性・敵対的バイアス低減の正則化項を組み合わせた損失を用いる。

実験結果

リサーチクエスチョン

• RQ1 領域に根ざしたプロセス誘導中間表現は、予測精度を犠牲にすることなく解釈性を向上させるのか？
• RQ2 intermediates と targets のラベルが sparse または非重複である場合、異種監督を許すことで学習は改善されるのか？
• RQ3 因果整合な中間概念は、分布外での頑健性を高め、誤った相関を減らすのか？
• RQ4 PG-CBM は従来の vanilla CBM やブラックボックスDL と比較して、EO データからの AGBD 推定といった生態学的タスクでどのような差異を示すのか？

主な発見

• PG-CBM は EO データからの AGBD 推定において、従来の CBM およびブラックボックス DL と比較して誤差とバイアスを低減する。
• 従来の CBM と比較して、PG-CBM は RMSD が 21.8 Mg/ha、バイアスが 1.5 Mg/ha（従来の CBM は 24.3 Mg/ha、2.8 Mg/ha）を達成。
• PG-CBM は、従来の CBM よりも絶対バイアスが小さく（17.5 Mg/ha、3.2％の相対バイアス）、従来の CBM は 18.6 Mg/ha、6.1％。
• モデルは異種監督（GEDI キャノピー高/被覆と現地プロットによる AGBD の監督）を活用して中間概念予測子を訓練する。
• PG-CBM は予測精度を維持しつつ、生態学的機構と整合する解釈可能な中間出力を提供する。