[论文解读] Studying The Effect of MIL Pooling Filters on MIL Tasks

Mustafa Ümit Öner, Jared Marc Song Kye-Jet+2 more|arXiv (Cornell University)|Jun 2, 2020

Image Retrieval and Classification Techniques参考文献 45被引用 6

一句话总结

该论文在五个真实世界的关系学习（MIL）任务上，使用淋巴结转移数据集，在神经网络框架中评估了五种MIL池化滤波器——最大值、平均值、注意力、分布和带注意力的分布——的表现。'分布'和'带注意力的分布'滤波器通过捕捉完整的分布信息，持续优于其他方法，且所提出的Distribution-Net模型在经典MIL数据集上超越了当前最先进方法。

ABSTRACT

There are different multiple instance learning (MIL) pooling filters used in MIL models. In this paper, we study the effect of different MIL pooling filters on the performance of MIL models in real world MIL tasks. We designed a neural network based MIL framework with 5 different MIL pooling filters: `max', `mean', `attention', `distribution' and `distribution with attention'. We also formulated 5 different MIL tasks on a real world lymph node metastases dataset. We found that the performance of our framework in a task is different for different filters. We also observed that the performances of the five pooling filters are also different from task to task. Hence, the selection of a correct MIL pooling filter for each MIL task is crucial for better performance. Furthermore, we noticed that models with `distribution' and `distribution with attention' pooling filters consistently perform well in almost all of the tasks. We attribute this phenomena to the amount of information captured by `distribution' based pooling filters. While point estimate based pooling filters, like `max' and `mean', produce point estimates of distributions, `distribution' based pooling filters capture the full information in distributions. Lastly, we compared the performance of our neural network model with `distribution' pooling filter with the performance of the best MIL methods in the literature on classical MIL datasets and our model outperformed the others.

研究动机与目标

• 探究不同MIL池化滤波器在多样化真实世界MIL任务中对模型性能的影响。
• 评估基于分布的池化滤波器与传统点估计滤波器（如最大值和平均值）相比的有效性。
• 开发并测试一种新型的'带注意力的分布'池化机制，结合分布学习与注意力机制。
• 在经典数据集上将所提出的框架与当前最先进MIL方法进行基准对比，以验证其泛化能力和性能表现。
• 证明捕捉完整的分布信息可提升多种MIL任务中的鲁棒性与准确性。

提出的方法

• 设计了一个基于神经网络的MIL框架，包含五种不同的池化滤波器：最大值、平均值、注意力、分布和带注意力的分布。
• 在淋巴结转移数据集上构建了五个不同的MIL任务：阳性与阴性分类、唯一类别数量预测、多分类、多任务分类和回归。
• 通过使用区间和标准差对实例得分建模为概率分布，实现'分布'池化，从而实现完整的分布表征。
• 通过在分布区间上学习注意力权重，增强'分布'池化，形成'带注意力的分布'滤波器。
• 采用10折交叉验证，并在每个任务上重复实验五次，以确保性能评估的稳健性。
• 在经典MIL数据集（MUSK1、MUSK2、FOX、TIGER、ELEPHANT）上评估'分布'池化模型，并与当前最先进方法进行比较。

实验结果

研究问题

• RQ1 不同MIL池化滤波器（最大值、平均值、注意力、分布、带注意力的分布）在多样化真实世界MIL任务中的表现如何？
• RQ2 通过'分布'池化捕捉实例得分的完整分布，是否优于点估计方法（如最大值或平均值）？
• RQ3 将注意力机制整合到分布池化中，是否能进一步提升多种MIL任务中的性能？
• RQ4 所提出的'带注意力的分布'池化滤波器与现有最先进MIL方法在经典基准数据集上的表现相比如何？
• RQ5 基于分布的池化在不同类型的MIL任务（包括分类、回归和计数预测）中是否表现出一致的优越性？

主要发现

• '分布'和'带注意力的分布'池化滤波器在淋巴结转移数据集的五个MIL任务中均取得了最佳整体性能。
• 在金属球袋分类实验中，使用'分布'池化的模型优于使用'最大值'和'平均值'池化的模型，证明了完整分布表征的优势。
• 采用'分布'池化的所提出Distribution-Net模型在经典MIL数据集上实现了最先进性能，在MUSK1（92.3% ± 7.1%）、MUSK2（93.2% ± 6.7%）和ELEPHANT（90.0% ± 7.7%）上全面超越所有传统及神经网络基线方法。
• 不同池化滤波器在任务间的表现差异显著，表明滤波器选择必须根据具体任务进行，以获得最佳结果。
• '带注意力的分布'滤波器在各项任务中均表现出强劲且一致的性能，表明其是通用MIL应用的稳健选择。
• 本研究证实，基于分布的池化比点估计方法能捕捉更丰富的信息，从而在复杂多样的MIL任务中实现更优性能。