[論文レビュー] Machine Guides, Human Supervises: Interactive Learning with Global Explanations

Teodora Popordanoska, Mohit Kumar+1 more|arXiv (Cornell University)|Sep 21, 2020

Explainable Artificial Intelligence (XAI)参考文献 42被引用数 6

ひとこと要約

本稿では、人間が例を選び、機械が分類器の意思決定面のグローバルな説明を用いてそれをガイドする、新しいインタラクティブ機械学習フレームワークである説明的ガイド付き学習（XGL）を紹介する。XGLは、全インスタンス空間にわたるモデルの欠陥を露呈させることで物語的バイアスを軽減し、未知の未知の要因が存在する中でもモデル品質を向上させる。シミュレーションにおいて、機械主導および人間主導の戦略を上回る性能を発揮する。

ABSTRACT

We introduce explanatory guided learning (XGL), a novel interactive learning strategy in which a machine guides a human supervisor toward selecting informative examples for a classifier. The guidance is provided by means of global explanations, which summarize the classifier's behavior on different regions of the instance space and expose its flaws. Compared to other explanatory interactive learning strategies, which are machine-initiated and rely on local explanations, XGL is designed to be robust against cases in which the explanations supplied by the machine oversell the classifier's quality. Moreover, XGL leverages global explanations to open up the black-box of human-initiated interaction, enabling supervisors to select informative examples that challenge the learned model. By drawing a link to interactive machine teaching, we show theoretically that global explanations are a viable approach for guiding supervisors. Our simulations show that explanatory guided learning avoids overselling the model's quality and performs comparably or better than machine- and human-initiated interactive learning strategies in terms of model quality.

研究の動機と目的

• 説明的インタラクティブ学習における物語的バイアスを解消すること。これは、未知の未知の要因（高信頼度の誤り）が存在する中で、局所的説明がモデルの性能を誇張するためである。
• モデルが自らの欠陥を認識していない状況でも、依然として強固な性能を示す人間監視者主導の学習プロトコルを設計すること。
• グローバルな説明がインタラクティブ学習における有効な機械のガイダンス形式であることを検証すること。
• グローバルな説明が監視者に、モデル品質を向上させる情報量が多く、挑戦的な例を特定・選択するのを可能にすることを示すこと。
• XGLをインタラクティブ機械学習の理論的枠組みと結びつける基盤を提供すること。特に、説明の複雑さと監視品質のトレードオフを強調すること。

提案手法

• XGLは、インスタンス空間の異なる領域における分類器の挙動を要約するグローバルな説明を用いる。これにより、体系的な欠陥やバイアスが露呈される。
• 機械はこれらのグローバルな説明を提供し、監視者が情報量が多く、高いインパクトを持つ例（特に、現在の意思決定面に挑戦する例）を選択するのをガイドする。
• 個々のクエリに焦点を当てた局所的説明とは異なり、グローバルな説明は、既知の誤り領域におけるモデルの誤った自信を強化しない。
• 本手法は、インタラクティブ機械学習の理論的根拠に基づいており、グローバルな説明が高品質なトレーニングセットの構築をガイドできることを示している。
• XGLを実装・評価するためのルールベースの実装である「hinter」を設計した。この実装を用いて、人間主導および機械主導のベースラインと比較した。
• 本手法は、最適でないユーザーおよび注意を払うユーザーの両方をサポートし、監視者が常に最も情報量の多い例を選択しない場合でも、強力な性能を維持する。

実験結果

リサーチクエスチョン

• RQ1 未知の未知の要因を含むモデルにおいて、グローバルな説明が、監視者が情報量の多い例を選択するのを効果的にガイドできるか？
• RQ2 XGLは、モデル品質および物語的バイアスへの耐性という観点で、機械主導および人間主導のインタラクティブ学習戦略と比較してどのように異なるか？
• RQ3 グローバルな説明とインタラクティブ機械学習の理論的関係は何か？ そして、これは効果的な監視の設計をどのように支援するか？
• RQ4 監視者が注意を払っていない、または最適でない例選択を行う場合、XGLの性能はどの程度維持されるか？
• RQ5 グローバルな説明は、局所的説明が隠してしまう体系的なモデルの欠陥を、監視者が特定・是正するのを支援できるか？

主な発見

• XGLは、未知の未知の領域におけるモデルの真の性能を歪める可能性のある局所的説明への過剰依存を回避することで、物語的バイアスを顕著に低減する。
• 合成データおよび実世界のデータセットにおいて、XGLは機械主導および人間主導のインタラクティブ学習戦略と同等またはそれ以上のモデル品質を達成する。
• ノイズが多い、または最適でない監視者を伴う状況でも、XGLは強力な性能を維持する。特に、監視者が少なくとも50％の確率で情報量の多い誤りを選択する場合に顕著である。
• ルール選択のしきい値を1桁下げても、XGLの性能は安定しており、監視者の注意の程度が変化しても耐性があることが示された。
• グローバルな説明は、監視者が解釈可能なルール（例：ヒーパチススデータセットにおける例）を特定・検証するのを可能にし、実世界の分野における実用性を示した。
• インタラクティブ機械学習との理論的リンクにより、グローバルな説明が高品質なトレーニングセット構築をガイドする有効なメカニズムであることが確認された。