[論文レビュー] Studying The Effect of MIL Pooling Filters on MIL Tasks

Mustafa Ümit Öner, Jared Marc Song Kye-Jet+2 more|arXiv (Cornell University)|Jun 2, 2020

Image Retrieval and Classification Techniques参考文献 45被引用数 6

ひとこと要約

本論文は、リンパ節転移データセットを用いて5つの実世界のMILタスクで、ニューラルネットワークフレームワーク内での5つのMILプーリングフィルタ（max、mean、attention、distribution、distribution with attention）を評価している。'distribution'および'distribution with attention'フィルタは、全分布情報の捕捉により、他のフィルタを一貫して上回り、提案されたDistribution-Netモデルは、古典的MILデータセットにおいて最先端の手法を上回った。

ABSTRACT

There are different multiple instance learning (MIL) pooling filters used in MIL models. In this paper, we study the effect of different MIL pooling filters on the performance of MIL models in real world MIL tasks. We designed a neural network based MIL framework with 5 different MIL pooling filters: `max', `mean', `attention', `distribution' and `distribution with attention'. We also formulated 5 different MIL tasks on a real world lymph node metastases dataset. We found that the performance of our framework in a task is different for different filters. We also observed that the performances of the five pooling filters are also different from task to task. Hence, the selection of a correct MIL pooling filter for each MIL task is crucial for better performance. Furthermore, we noticed that models with `distribution' and `distribution with attention' pooling filters consistently perform well in almost all of the tasks. We attribute this phenomena to the amount of information captured by `distribution' based pooling filters. While point estimate based pooling filters, like `max' and `mean', produce point estimates of distributions, `distribution' based pooling filters capture the full information in distributions. Lastly, we compared the performance of our neural network model with `distribution' pooling filter with the performance of the best MIL methods in the literature on classical MIL datasets and our model outperformed the others.

研究の動機と目的

• 異なるMILプーリングフィルタが多様な実世界のMILタスクに与える影響を調査すること。
• 従来の点推定フィルタ（maxやmeanなど）と比較して、分布ベースのプーリングフィルタの有効性を評価すること。
• 分布学習とアテンションメカニズムを統合した新たな「distribution with attention」プーリング機構を開発・評価すること。
• 提案されたフレームワークを古典的データセットにおける最先端MIL手法と比較してベンチマークを実施し、汎化性と性能を検証すること。
• 全分布的情報を捉えることで、複数のMILタスクにおけるロバスト性と正確性が向上することを実証すること。

提案手法

• max、mean、attention、distribution、distribution with attentionの5つの異なるプーリングフィルタを備えたニューラルネットワークベースのMILフレームワークを設計した。
• リンパ節転移データセットを用いて5つの異なるMILタスクを定式化した：陽性対陰性分類、固有クラス数の予測、多クラス分類、多タスク分類、回帰。
• インスタンススコアをビンと標準偏差を用いて確率分布としてモデル化することで、'distribution'プーリングを実装し、全分布表現を可能にした。
• 分布ビンごとにアテンション重みを学習することで、'distribution'プーリングを強化し、'distribution with attention'フィルタを構築した。
• 全パラメータの安定性を確保するため、10分割交差検証を実施し、各タスクで5回の繰り返し実験を実施した。
• 古典的MILデータセット（MUSK1、MUSK2、FOX、TIGER、ELEPHANT）において、'distribution'プーリングモデルの性能を評価し、最先端の手法と比較した。

実験結果

リサーチクエスチョン

• RQ1 異なるMILプーリングフィルタ（max、mean、attention、distribution、distribution with attention）は、多様な実世界のMILタスクでどのように性能を発揮するか？
• RQ2 インスタンススコアの全分布を捉える（分布プーリングにより）ことで、点推定（例：maxやmean）よりも性能が向上するか？
• RQ3 分布プーリングにアテンションを統合することで、複数のMILタスクで性能がさらに向上するか？
• RQ4 提案された'distribution with attention'プーリングフィルタは、古典的ベンチマークデータセットにおける既存の最先端MIL手法と比較してどうか？
• RQ5 分布ベースのプーリングの優位性は、分類、回帰、カウント予測といった異なる種類のMILタスクにわたり一貫しているか？

主な発見

• 'distribution'および'distribution with attention'プーリングフィルタは、リンパ節転移データセットの5つのMILタスクすべてで最良の全体的性能を達成した。
• 金属玉の袋分類実験において、'distribution'プーリングを用いたモデルは'max'および'mean'プーリングを上回った。これは、全分布表現の優位性を示している。
• 提案されたDistribution-Netモデルは、'distribution'プーリングを用いて、古典的MILデータセットで最先端の性能を達成した。MUSK1（92.3% ± 7.1%）、MUSK2（93.2% ± 6.7%）、ELEPHANT（90.0% ± 7.7%）の全データセットで、従来の手法（従来のものおよびニューラルネットワークベースのベースライン）を上回った。
• プーリングフィルタの選択によってタスクごとの性能に顕著な差が生じたため、最適な結果を得るためにはタスクに応じたフィルタ選定が必要であることが示された。
• 'distribution with attention'フィルタは、タスク全体にわたり強力かつ一貫した性能を示し、汎用MILアプリケーションにおける堅牢な選択肢であると考えられる。
• 本研究は、点推定手法に比べて分布ベースのプーリングがより豊かな情報を捉えられることを確認しており、複雑で多様なMILタスクにおいて優れた性能を発揮する根拠が裏付けられた。