[論文レビュー] Explainable Empirical Risk Minimization

Zhang, L., Karakasidis, G.+3 more|arXiv (Cornell University)|Sep 3, 2020

Explainable Artificial Intelligence (XAI)参考文献 19被引用数 4

ひとこと要約

本稿では、予測リスクと主観的説明可能性の両者をユーザー固有のフィードバックを通じてバランスさせる新しいフレームワーク、説明可能で経験的リスク最小化（EERM）を提案する。予測の条件付きエントロピーをユーザーの信号に基づいて正則化項として用いることで、EERMはユーザーの認知的枠組みに適合したモデルの解釈可能性を向上させ、精度を損なうことなく説明可能性を向上させる。線形回帰および天気予測と嫌がらせ発言検出のデータセットを用いた意思決定木のタスクにおいて、その有効性が実証された。

ABSTRACT

The successful application of machine learning (ML) methods becomes increasingly dependent on their interpretability or explainability. Designing explainable ML systems is instrumental to ensuring transparency of automated decision-making that targets humans. The explainability of ML methods is also an essential ingredient for trustworthy artificial intelligence. A key challenge in ensuring explainability is its dependence on the specific human user ("explainee"). The users of machine learning methods might have vastly different background knowledge about machine learning principles. One user might have a university degree in machine learning or related fields, while another user might have never received formal training in high-school mathematics. This paper applies information-theoretic concepts to develop a novel measure for the subjective explainability of the predictions delivered by a ML method. We construct this measure via the conditional entropy of predictions, given a user feedback. The user feedback might be obtained from user surveys or biophysical measurements. Our main contribution is the explainable empirical risk minimization (EERM) principle of learning a hypothesis that optimally balances between the subjective explainability and risk. The EERM principle is flexible and can be combined with arbitrary machine learning models. We present several practical implementations of EERM for linear models and decision trees. Numerical experiments demonstrate the application of EERM to detecting the use of inappropriate language on social media.

研究の動機と目的

• 異なるユーザーの熟練度の違いを考慮した機械学習の説明可能性の課題に対処するため、ユーザーに依存する説明可能性の個人化された測定法を導入すること。
• 個々のユーザーに対して、経験的リスクと主観的説明可能性の最適なトレードオフを実現する柔軟な学習原則を開発すること。
• アンケートの回答や生体生理的信号などのユーザーのフィードバック（例：アンケート応答や生体信号）を学習プロセスに統合し、モデルの解釈可能性を向上させること。
• フィードバック信号を通じてユーザーの直感を組み込むことで、実世界の応用においてモデルの信頼性と性能が向上することを示すこと。
• モデル固有の修正を要せず、線形モデルや意思決定木を含む多様なモデルに一般化可能であるフレームワークを提供すること。

提案手法

• 本手法は、ユーザーのフィードバック信号 u に基づくモデル予測 h の条件付きエントロピー H(h|u) を正則化項として用い、主観的説明可能性を定量化する。
• ユーザーのフィードバック信号 u はアンケート、生体測定、またはその他のユーザー固有の指標によって収集され、データポイント間のユーザー定義の類似性を定義するために使用される。
• EERMは、経験的リスクと H(h|u) に基づくペナルティ項を含む正則化されたリスク最小化問題として定式化され、上界 η による制約が課される。
• 線形モデルでは、H(h|u) ≤ η を満たす制約の下で重みベクトル w を最適化し、ユーザー信号分布のガウス近似を用いる。
• 意思決定木では、各ユーザー信号値 u に対して別個の木を学習し、類似したユーザーのフィードバックに対して予測の一貫性を保つために、木の深さや構造を制約する。
• 本フレームワークは、トレーニング中にユーザーのフィードバックを統合するアルゴリズムにより実装されており、トレーニング後は継続的なユーザー入力が不要であるため、スケーラブルな展開が可能である。

実験結果

リサーチクエスチョン

• RQ1 異なるユーザーの背景知識の違いを考慮した、機械学習モデルの説明可能性の向上方法は何か？
• RQ2 情報理論的原則を用いて、ユーザーの直感を反映するユーザー固有の説明可能性の測定法を構築できるか？
• RQ3 学習プロセスにユーザーのフィードバック信号を組み込むことで、モデルの解釈性が向上するが、予測性能が低下することなく実現できるか？
• RQ4 異なる種類のモデルに対して、モデルリスクと主観的説明可能性のトレードオフを体系的に最適化する方法は何か？
• RQ5 EERMは、天気予測や嫌がらせ発言検出といった実世界のタスクに効果的に適用可能であり、説明可能性と精度の両面で測定可能な向上をもたらすか？

主な発見

• 天気予測タスクにおいて、条件付きエントロピーの上界 η を増加させると、経験的リスクが単調に減少し、説明可能性の制約を緩和するにつれてモデル性能が向上することが示された。
• 線形回帰における最適な重みベクトル w は、η の変化に伴い体系的にシフトすることが判明し、モデルがユーザー固有の説明可能性要件に適応していることが示された。
• 嫌がらせ発言検出において、η = 2 ビットの EERM が学習した意思決定木は、テスト精度 0.929 を達成し、優れた性能を示した一方で、ユーザー固有の説明可能性を維持していた。
• 得られた意思決定木は、攻撃的ツイートに頻出する語彙に基づくユーザー信号 u をルートノードとして明示的に使用しており、モデルがユーザーの直感に予測を一致させたことを示している。
• 本手法は、予測精度と主観的説明可能性の両方をうまくバランスさせ、条件付きエントロピーが多様なユーザーに対して信頼性の高いモデルを向上させる有効な正則化項であることが確認された。
• 数値実験により、EERM は線形モデルおよび意思決定木の両方に対して柔軟に適用可能であり、データセット全体にわたり説明可能性と性能の両面で一貫した向上が得られることを確認した。