[論文レビュー] Editable XAI: Toward Bidirectional Human-AI Alignment with Co-Editable Explanations of Interpretable Attributes

Haoyang Chen, Jingwen Bai+2 more|arXiv (Cornell University)|Feb 13, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

The paper introduces Editable XAI and CoExplain, a neurosymbolic framework that allows users to read, write, and enhance rule-based explanations to achieve bidirectional human-AI alignment with neural networks explained by decision trees.

ABSTRACT

While Explainable AI (XAI) helps users understand AI decisions, misalignment in domain knowledge can lead to disagreement. This inconsistency hinders understanding, and because explanations are often read-only, users lack the control to improve alignment. We propose making XAI editable, allowing users to write rules to improve control and gain deeper understanding through the generation effect of active learning. We developed CoExplain, leveraging a neural network for universal representation and symbolic rules for intuitive reasoning on interpretable attributes. CoExplain explains the neural network with a faithful proxy decision tree, parses user-written rules as an equivalent neural network graph, and collaboratively optimizes the decision tree. In a user study (N=43), CoExplain and manually editable XAI improved user understanding and model alignment compared to read-only XAI. CoExplain was easier to use with fewer edits and less time. This work contributes Editable XAI for bidirectional AI alignment, improving understanding and control.

研究の動機と目的

• Editable XAI を動機づけ、読み取り専用の説明とユーザーとAIのドメイン不整合を克服する定義を行う。
• Editable な説明の設計要件をユーザーエリソン調査から特定する。
• Read, Write, Enhance の対話を支えるニューロ-symbolic 手法を用いて CoExplain を開発する。
• Editable な説明が、非 editable ベースラインと比較してユーザーの理解とモデルの整合性を向上させることを示す。

提案手法

• expressivity と学習性のためにニューラルネットワークを基礎予測モデルとして用いる。
• distillation による忠実な代理決定木を通じてモデルを説明する（Read モード）。
• ユーザー記述の決定木ルールを同等のニューラルネットワークに解析する（Write モード）。
• 阈値の自動調整と木の topology の再編成を訓練 with regularization によって説明を強化する（Enhance モード）。
• 決定木とニューラルネットワークの等価性を蒸留・解析・逆伝播・正則化を通じて維持する。
• CoExplain を Read-only XAI および手動で editable な XAI と比較するユーザ研究で評価する。

実験結果

リサーチクエスチョン

• RQ1 Explanation を editable にすることで、ユーザーのドメイン知識と AI 推論の整合性をどう改善できるか。
• RQ2 ニューロ-symbolic フレームワークは、ユーザーと AI との双方向の相互作用（読み取り、書き込み、強化）をサポートできるか。
• RQ3 Editable な説明は、従来の読み取り専用の説明と比較してユーザー理解とモデル整合性を改善するか。
• RQ4 Editable XAI システムのユーザー研究からどのような設計指針が生まれるか。
• RQ5 自動的な強化を通じて、ユーザーの意図を最もよく保持しつつモデル性能を改善する仕組みは何か。

主な発見

• Editable な説明は、読み取り専用の説明と比較してユーザー理解とモデル整合性を改善する（ユーザ研究 N=43）。
• 参加者は自分のドメイン知識を反映したユーザー作成のルールを好んだ。必ずしも最も正確でなくても良い。
• CoExplain は初期のユーザー知識との整合性と、AI支援強化による最適近似性能の達成とのバランスをとる。
• オンデマンドの強化は閾値とトポロジの精練によって編集負担を軽減し、ユーザーの時間を節約する。
• ユーザーは読み書き強化の協働的で双方向な性質を、静的な説明よりも使いやすく魅力的とみなした。