[論文レビュー] Dual-stream Maximum Self-attention Multi-instance Learning

Bin Li, Kevin W. Eliceiri|arXiv (Cornell University)|Jun 9, 2020

Image Retrieval and Classification Techniques参考文献 22被引用数 4

ひとこと要約

本稿では、二重スティームアーキテクチャを用いて、インスタンス分類器とバッグ分類器を同時に学習するニューラルネットワークベースのMILモデル、Dual-stream Maximum Self-attention Multi-instance Learning (DSMIL) を提案する。最初のスティームではマックスプーリングを用いて最も活性化されたインスタンスを特定し、そのインスタンスを二番目のスティームでの自己自己注意スコアの計算のクエリとして用いる。これにより、計算量をO(n²)からO(n)に削減しながら性能を向上させ、ベンチマークMILデータセットでSOTA（最先端）の結果を達成した。

ABSTRACT

Multi-instance learning (MIL) is a form of weakly supervised learning where a single class label is assigned to a bag of instances while the instance-level labels are not available. Training classifiers to accurately determine the bag label and instance labels is a challenging but critical task in many practical scenarios, such as computational histopathology. Recently, MIL models fully parameterized by neural networks have become popular due to the high flexibility and superior performance. Most of these models rely on attention mechanisms that assign attention scores across the instance embeddings in a bag and produce the bag embedding using an aggregation operator. In this paper, we proposed a dual-stream maximum self-attention MIL model (DSMIL) parameterized by neural networks. The first stream deploys a simple MIL max-pooling while the top-activated instance embedding is determined and used to obtain self-attention scores across instance embeddings in the second stream. Different from most of the previous methods, the proposed model jointly learns an instance classifier and a bag classifier based on the same instance embeddings. The experiments results show that our method achieves superior performance compared to the best MIL methods and demonstrates state-of-the-art performance on benchmark MIL datasets.

研究の動機と目的

• インスタンスレベルのラベルが入手できない弱教師付き学習の課題に対処すること。
• バッグサイズに比例して2乗的に増加するMILモデルにおける完全自己注意の計算量を低減すること。
• 依存関係モデリングに最も関連性の高いインスタンス（最も活性化されたインスタンス）に注目することで分類性能を向上させること。
• 共有されたインスタンス埋め込みを用いてインスタンス分類器とバッグ分類器を同時に学習させることで、特徴抽出を強化すること。
• 例えば1万〜数万のパッチを含むWhole Slide Imagesのような大規模バッグの学習を可能にするために、スティーム間の交互最適化を可能にすること。

提案手法

• モデルは二重スティームアーキテクチャを採用している：最初のスティームは標準的なマックスプーリングを用いて最も活性化されたインスタンス埋め込みを特定する。
• 二番目のスティームは、バッグ内のすべてのインスタンスに対して、最も活性化されたインスタンスとの相関関係に基づいて自己注意スコアを計算し、クエリ・キー機構を形成する。
• この最も活性化されたインスタンスに限定した自己注意メカニズムにより、計算量をO(n²)からO(n)に削減でき、大規模バッグに対してもスケーラブルである。
• 注意スコアは、インスタンス埋め込みをバッグ埋め込みに集約するために用いられ、その後バッグレベル分類に使用される。
• モデルは、マックスプーリングスティームからのインスタンス分類器と、注意スティームからのバッグ分類器を、同じインスタンス埋め込みを共有しながら同時に学習する。
• 学習は二つのスティーム間を交互に実行し、非常に大規模なバッグに対しても、深層特徴抽出器を効果的にバックプロパゲート可能にする。

実験結果

リサーチクエスチョン

• RQ1 自己注意を最も活性化されたインスタンスに限定することで、MILモデルの性能向上と計算コスト低減が達成できるか？
• RQ2 インスタンス分類器とバッグ分類器を同時に学習する二重スティームアーキテクチャは、単一スティームアプローチに比べてより優れた特徴表現をもたらすか？
• RQ3 提案手法は、1万〜数万のパッチを含むWhole Slide Image解析のような大規模バッグにスケーラブルか？
• RQ4 DSMILにおけるインスタンス分類器の性能は、標準的なMILマックスプーリングモデルと比較してどうか？
• RQ5 インスタンススティームとバッグスティーム間の交互学習戦略が、モデルの収束性と性能に与える影響は何か？

主な発見

• DSMILは、MILベンチマークデータセットでSOTA性能を達成し、AbMILP、IQSA-AbMILP、LSA-AbMILPを含む既存手法をすべて上回った。
• コロニー癌データセットでは、91.1%の正確度（±0.012）、93.2%の適合率（±0.013）、91.2%のFスコア（±0.009）を達成し、すべてのベースラインを上回った。
• 乳癌データセットでは、93.7%の正確度（±0.000）、92.5%の適合率（±0.091）、97.4%のFスコア（±0.050）を達成し、高い安定性と性能を示した。
• 最も活性化されたインスタンスに限定した自己注意により、計算量をO(n²)からO(n)に削減し、大規模バッグへのスケーラビリティを実現した。
• 学習後、インスタンス分類器スティームは独立して使用可能であり、完全なバッグ自己注意を必要とせずに、信頼性の高いインスタンスレベル予測が得られる。
• 交互学習戦略により、例えばWhole Slide Image分類のような極めて大規模なバッグにおいても、深層特徴抽出器と集約演算子の効果的最適化が可能になった。