[論文レビュー] ProtoMIL: Multiple Instance Learning with Prototypical Parts for Fine-Grained Interpretability

Dawid Rymarczyk, Aneta Kaczyńska+3 more|arXiv (Cornell University)|Aug 24, 2021

Explainable Artificial Intelligence (XAI)参考文献 46被引用数 4

ひとこと要約

ProtoMIL は、視覚的プロトタイプを活用することで、モデルの精度と細分化された解釈可能性の両方を向上させる自己説明可能な複数インスタンス学習（MIL）フレームワークを導入する。ケースベース推論プロセスを通じてプロトタイプ部分をモデル化することで、予測と説明の両方において詳細なインスタンスレベルの説明を可能にし、5つのベンチマークMILデータセットで最先端の性能を達成する。

ABSTRACT

Multiple Instance Learning (MIL) gains popularity in many real-life machine learning applications due to its weakly supervised nature. However, the corresponding effort on explaining MIL lags behind, and it is usually limited to presenting instances of a bag that are crucial for a particular prediction. In this paper, we fill this gap by introducing ProtoMIL, a novel self-explainable MIL method inspired by the case-based reasoning process that operates on visual prototypes. Thanks to incorporating prototypical features into objects description, ProtoMIL unprecedentedly joins the model accuracy and fine-grained interpretability, which we present with the experiments on five recognized MIL datasets.

研究の動機と目的

• 複数インスタンス学習（MIL）モデルにおける細分化された解釈可能性の欠如に対処すること。
• 意味のあるインスタンスレベルの説明を提供する自己説明可能なMILフレームワークを開発すること。
• 視覚的プロトタイプをMILに統合し、性能を損なうことなくモデルの解釈可能性を向上させること。
• 弱教師付き学習におけるモデルの精度と解釈可能性のギャップを埋めること。

提案手法

• ProtoMIL は、バッグ内のインスタンスのキーパートを表す視覚的プロトタイプを学習するプロトタイプベースのアテンション機構を採用する。
• 予測と説明のために、入力インスタンスを学習済みプロトタイプと比較するケースベース推論アプローチを用いる。
• 対照的学習の目的関数を通じて、分類精度とプロトタイプの整合性を同時に最適化する。
• トレーニング中にプロトタイプを更新し、データの判別性があり意味的に意味のある部分を表現する。
• アテンション重みは、インスタンスとプロトタイプ間の類似度に基づいて計算され、インスタンスレベルの解釈可能性を実現する。
• バッグラベルのみを用いた弱教師付き学習で、エンドツーエンドに訓練される。

実験結果

リサーチクエスチョン

• RQ1 プロトタイプベースの推論を通じて、MILモデルが高精度と細分化された解釈可能性の両方を達成できるか？
• RQ2 視覚的プロトタイプは、予測をインスタンスレベルでどのように説明できるかの能力を向上させるか？
• RQ3 プロトタイプを統合することで、弱教師付き学習における一般化性能とロバストネスはどの程度向上するか？
• RQ4 ケースベース推論メカニズムは、標準的なアテンションと比較して、MILモデルにおいてどのように異なるか？

主な発見

• ProtoMIL は、5つの認知済みMILベンチマークデータセットで最先端の性能を達成する。
• 学習済みプロトタイプに最も類似したインスタンスの特定部分を強調することで、細分化された解釈可能性を提供する。
• プロトタイプの統合により、ベースラインMIL手法と比較してモデルの精度と説明品質の両方が向上する。
• 標準的なアテンション機構と比較して、ProtoMIL が生成する説明は、より意味的に明確で局所化されている。