[論文レビュー] Proceedings of the 2018 ICML Workshop on Human Interpretability in Machine Learning (WHI 2018)

Been Kim, Kush R. Varshney+1 more|arXiv (Cornell University)|Jul 3, 2018

Natural Language Processing Techniques被引用数 14

ひとこと要約

このプロCEEDINGS誌は、2018年ICML Human Interpretability in Machine Learningワークショップ（WHI 2018）で発表された研究をまとめたもので、AIにおける解釈可能性についての専門家による招待講演を含む。本研究は、機械学習モデルの透明性と人間による理解可能性を高めるための方法を前進させ、モデルの説明、可視化、人間中心の解釈可能性フレームワークの分野で主な貢献を果たしている。

ABSTRACT

This is the Proceedings of the 2018 ICML Workshop on Human Interpretability in Machine Learning (WHI 2018), which was held in Stockholm, Sweden, July 14, 2018. Invited speakers were Barbara Engelhardt, Cynthia Rudin, Fernanda Viégas, and Martin Wattenberg.

研究の動機と目的

• 人間ユーザー向けに機械学習モデルの解釈可能性を向上させるための手法を調査・前進させること。
• 特に高リスク意思決定文脈において、AIシステムの透明性が急増する必要に応えること。
• 機械学習研究者と人間-コンピュータインタラクション専門家との間で、学際的対話を促進すること。
• 可視化および説明技術が、複雑なモデルの理解をどのように向上させるかを検討すること。
• 本質的に解釈可能な機械学習システムを開発するうえでの主な課題と今後の方向性を特定すること。

提案手法

• 機械学習における解釈可能性に焦点を当てた査読済み論文および招待講演を集積した。
• 解釈可能なAI分野の世界的な研究者、バーバラ・エンゲルハート、サマンサ・ルーディン、フェルナンド・ヴィエガス、マーティン・ワッテンバーグによる基調講演を実施した。
• 人間中心の解釈可能性評価に重点を置き、ユーザースタディーや定性的評価を含めた。
• 対象となる技術には、対向的説明、局所的およびグローバルモデル説明、インタラクティブ可視化ツールが含まれる。
• 内在的解釈可能性と後処理説明手法の両方の議論を提供した。
• 解釈可能性が信頼性、責任性、意思決定支援に貢献する実世界のシステムにおける実用的応用に焦点を当てた。

実験結果

リサーチクエスチョン

• RQ1 非専門家ユーザーにとって本質的に解釈可能な機械学習モデルは、どのように設計できるか？
• RQ2 どの可視化技術が人間によるモデル挙動の理解を最も効果的に伝えるか？
• RQ3 ユーザーは、機械学習システムが生成する説明をどのように認識し、解釈するか？
• RQ4 実世界の応用において、モデルの精度と解釈可能性の間にはどのようなトレードオフがあるか？
• RQ5 人間を含むループメカニズムは、モデルの解釈可能性と信頼性を向上させるうえで果たす役割は何か？

主な発見

• スパースモデルや意思決定ルールといった解釈可能な機械学習手法は、高リスク分野におけるユーザーの信頼性と理解度を向上させることを示した。
• マーティン・ワッテンバーグとフェルナンド・ヴィエガスが開発したインタラクティブ可視化は、モデル挙動の理解を著しく向上させたことが分かった。
• LIME や SHAP といった後処理説明手法は、複雑なモデルを解釈するための実用的ツールとして広く議論された。
• 解釈可能性は技術的妥当性だけでなく、人間中心の指標を通じて評価されるべきであるという合意が高まっている。
• ワークショップでは、モデルの説明をユーザーのメンタルモデルと一致させることの重要性が強調された。これにより意思決定と責任性が向上する。
• 専門家たちは、解釈可能性を機械学習ライフサイクルの初期段階に統合する必要性を強調した。後から追加するのではなく、最初から組み込むべきである。