[论文解读] Beta-Rank: A Robust Convolutional Filter Pruning Method For Imbalanced Medical Image Analysis

Morteza Homayounfar, Mohamad Koohi‐Moghadam+2 more|arXiv (Cornell University)|Apr 15, 2023

COVID-19 diagnosis using AIMedicine被引用 3

一句话总结

本文提出 Beta-Rank，一种新颖的卷积滤波器剪枝方法，旨在提升在数据不平衡的医学图像数据集中的模型效率与鲁棒性。通过基于输入-输出激活变化而非仅滤波器权重来对滤波器进行排序，Beta-Rank 实现了更优的性能表现——在 IDRID 和 ISIC 数据集上，FLOPs 分别降低最高达 58% 和 45%，同时保持或提升准确率；在真实世界部署中，智能手机应用实现内存使用降低 79%、推理速度提升 72%。

ABSTRACT

As deep neural networks include a high number of parameters and operations, it can be a challenge to implement these models on devices with limited computational resources. Despite the development of novel pruning methods toward resource-efficient models, it has become evident that these models are not capable of handling "imbalanced" and "limited number of data points". We proposed a novel filter pruning method by considering the input and output of filters along with the values of the filters that deal with imbalanced datasets better than others. Our pruning method considers the fact that all information about the importance of a filter may not be reflected in the value of the filter. Instead, it is reflected in the changes made to the data after the filter is applied to it. In this work, three methods are compared with the same training conditions except for the ranking values of each method, and 14 methods are compared from other papers. We demonstrated that our model performed significantly better than other methods for imbalanced medical datasets. For example, when we removed up to 58% of FLOPs for the IDRID dataset and up to 45% for the ISIC dataset, our model was able to yield an equivalent (or even superior) result to the baseline model. To evaluate FLOP and parameter reduction using our model in real-world settings, we built a smartphone app, where we demonstrated a reduction of up to 79% in memory usage and 72% in prediction time. All codes and parameters for training different models are available at https://github.com/mohofar/Beta-Rank

研究动机与目标

• 解决在数据不平衡和数据点有限条件下的医学图像分析中模型效率与鲁棒性的挑战。
• 通过捕捉输入-输出激活变化来提升滤波器剪枝效果，而非仅依赖滤波器权重大小。
• 开发一种在标准剪枝方法失效的不平衡数据集上仍能保持高性能的剪枝方法。
• 通过显著降低 FLOPs 和内存占用，实现在资源受限设备（如智能手机）上的实际部署。
• 为移动医学图像分析提供一种实用、高效且准确的解决方案。

提出的方法

• Beta-Rank 提出一种基于卷积前后特征图中激活变化幅度的新型滤波器排序准则，捕捉超越权重值的功能重要性。
• 该方法计算基于 beta 散度的评分，衡量每个滤波器对输入特征图的改变程度，突出具有显著变换影响的滤波器。
• 根据滤波器的 beta 排名得分进行排序与剪枝，优先保留对特征表示变化贡献最大的滤波器。
• 该方法在预训练后的微调阶段应用，确保剪枝过程中准确率下降最小。
• 在多个基准测试（包括 IDRID 和 ISIC）中，于相同训练条件下评估该方法，并通过消融研究验证其鲁棒性。
• 开发了一款智能手机应用程序以展示实际部署中的效率提升，测量内存占用与推理时间的降低。

实验结果

研究问题

• RQ1 一种考虑输入-输出激活变化的滤波器剪枝方法，是否能在数据不平衡的医学图像数据集中超越传统的基于权重的排序方法？
• RQ2 Beta-Rank 在保持或提升准确率的前提下，能在多大程度上降低 FLOPs 和参数量，尤其是在不平衡医学数据上？
• RQ3 与基线模型相比，Beta-Rank 在真实世界移动设备部署场景下的表现如何？
• RQ4 所提出的排序机制是否能提升在医学图像数据集中罕见或代表性不足类别上的泛化能力？
• RQ5 在数据稀缺条件下，Beta-Rank 与现有剪枝方法相比，在鲁棒性与效率方面表现如何？

主要发现

• 在 IDRID 数据集上，Beta-Rank 实现了最高达 58% 的 FLOPs 降低，同时保持或超过基线模型的准确率。
• 在 ISIC 数据集上，该方法将 FLOPs 降低了最高达 45%，性能与基线模型相当或更优。
• 在智能手机应用中部署时，Beta-Rank 实现了内存使用降低 79% 和预测时间减少 72%。
• Beta-Rank 在多个基准测试中优于 14 种现有剪枝方法，尤其在处理类别不平衡数据方面表现更优。
• 基于激活变化的排序方法在识别关键滤波器方面，比基于权重大小或梯度的方法更有效。
• 该方法在罕见疾病类别上展现出强大的泛化能力与鲁棒性，而标准剪枝方法在这些情况下常会失效。