[論文レビュー] Explanation-Based Tuning of Opaque Machine Learners with Application to Paper Recommendation

Benjamin Charles Germain Lee, Kyle Lo+2 more|arXiv (Cornell University)|Mar 9, 2020

Explainable Artificial Intelligence (XAI)参考文献 28被引用数 4

ひとこと要約

この論文では、LIMEADEと呼ばれるフレームワークを紹介している。LIMEADEは、ニューラルレコメンダーのような不透明な機械学習モデルを、局所的サーヴィエージェント解釈（例：LIME）に基づいてユーザーが調整できるようにする。意味的整合性（Semantic Sanity）と呼ばれる科学論文レコメンダーに適用したところ、ユーザースタディーでユーザーのコントロール感、信頼性、満足度が著しく向上し、ブラックボックスモデルにおける解釈とインタラクティブなモデルチューニングのギャップを埋めた。

ABSTRACT

Research in human-centered AI has shown the benefits of machine-learning systems that can explain their predictions. Methods that allow users to tune a model in response to the explanations are similarly useful. While both capabilities are well-developed for transparent learning models (e.g., linear models and GA2Ms), and recent techniques (e.g., LIME and SHAP) can generate explanations for opaque models, no method currently exists for tuning of opaque models in response to explanations. This paper introduces LIMEADE, a general framework for tuning an arbitrary machine learning model based on an explanation of the model's prediction. We apply our framework to Semantic Sanity, a neural recommender system for scientific papers, and report on a detailed user study, showing that our framework leads to significantly higher perceived user control, trust, and satisfaction.

研究の動機と目的

• 説明手法の進展にもかかわらず、不透明（ブラックボックス）な機械学習モデルに対するインタラクティブチューニングの機能不足に対処すること。
• 予測の局所的解釈に基づいてモデルの挙動をユーザーが調整できる汎用フレームワークの開発。
• 説明に基づくチューニングが、実世界のレコメンデーションシステムにおけるユーザーのコントロール感、信頼性、満足度の認識を向上させるかどうかの評価。
• 実用的環境（科学論文推薦）においてフレームワークを適用・検証し、ユーザースタディーを用いて検証すること。

提案手法

• LIMEADEは、不透明なモデル（例：ニューラルネットワーク）の予測を解釈するために、局所的サーヴィエージェント解釈（例：LIME）を統合する。
• 解釈から得られる顕著な特徴をユーザーに提示し、ユーザーが特徴量の重みや値を直接変更できるようにする。
• ユーザーが指定した変更は、元のモデルの入力空間にマッピングされ、モデルの予測が変更後の挙動を反映するように再評価される。
• 繰り返しチューニングをサポートし、ユーザーが順次解釈に基づいた調整を通じて予測を洗練できる。
• 本手法は汎用的であり、LIME や SHAP を含む任意のモデルに依存しない説明手法に適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、説明に基づくフィードバックを用いて不透明な機械学習モデルを効果的にチューニングできるか？
• RQ2 説明に基づくチューニングは、ユーザーのモデル予測に対する自己コントロール感を向上させるか？
• RQ3 説明に基づくインタラクティブチューニングは、ユーザーのモデル推薦に対する信頼性を向上させるか？
• RQ4 説明付きチューニングのユーザ満足度は、チューニング不可または説明なしのシステムと比較してどうなるか？

主な発見

• LIMEADEを用いたユーザーは、チューニング不可のベースラインと比較して、著しく高い自己コントロール感を報告した。
• ユーザーが説明に基づくチューニングに参加した後、モデルの推薦に対する信頼性が著しく向上した。
• 説明を用いたチューニングが可能になった場合、ユーザーのレコメンデーションシステムに対する満足度が著しく高まった。
• このフレームワークは、複雑なニューラルレコメンダー系に対して、直感的で行動的に意味のある調整をユーザーが行えるようにした。