[論文レビュー] Beta-Rank: A Robust Convolutional Filter Pruning Method For Imbalanced Medical Image Analysis

Morteza Homayounfar, Mohamad Koohi‐Moghadam+2 more|arXiv (Cornell University)|Apr 15, 2023

COVID-19 diagnosis using AIMedicine被引用数 3

ひとこと要約

本論文では、不均衡な医療画像データセットにおけるモデルの効率性と耐性を向上させるために、新しい畳み込みフィルタープルーニング手法Beta-Rankを提案する。フィルターウェイトの大きさだけでなく、入力出力活性化の変化に基づいてフィルターをランク付けすることで、Beta-Rankは優れた性能を達成し、IDRIDでは最大58%、ISICでは最大45%のFLOPs削減を実現しながら、精度を維持または向上させる。実世界のデプロイでは、スマートフォンアプリケーションでメモリ使用量が79%低減され、推論時間が72%高速化された。

ABSTRACT

As deep neural networks include a high number of parameters and operations, it can be a challenge to implement these models on devices with limited computational resources. Despite the development of novel pruning methods toward resource-efficient models, it has become evident that these models are not capable of handling "imbalanced" and "limited number of data points". We proposed a novel filter pruning method by considering the input and output of filters along with the values of the filters that deal with imbalanced datasets better than others. Our pruning method considers the fact that all information about the importance of a filter may not be reflected in the value of the filter. Instead, it is reflected in the changes made to the data after the filter is applied to it. In this work, three methods are compared with the same training conditions except for the ranking values of each method, and 14 methods are compared from other papers. We demonstrated that our model performed significantly better than other methods for imbalanced medical datasets. For example, when we removed up to 58% of FLOPs for the IDRID dataset and up to 45% for the ISIC dataset, our model was able to yield an equivalent (or even superior) result to the baseline model. To evaluate FLOP and parameter reduction using our model in real-world settings, we built a smartphone app, where we demonstrated a reduction of up to 79% in memory usage and 72% in prediction time. All codes and parameters for training different models are available at https://github.com/mohofar/Beta-Rank

研究の動機と目的

• データの不均衡と限られたデータポイントの下で、医療画像解析におけるモデルの効率性と耐性の課題に対処すること。
• フィルターの重要性を、単にフィルター重みの大きさではなく、入出力活性化の変化を通じて捉えることで、フィルタープルーニングを改善すること。
• 標準的なプルーニングが失敗するような、不均衡なデータセットでも高いパフォーマンスを維持できるプルーニング手法を開発すること。
• FLOPsおよびメモリの大幅な削減を通じて、スマートフォンなどのリソース制約のあるデバイスへの実世界でのデプロイを可能にすること。
• モバイル医療画像解析に実用的で、効率的かつ正確なソリューションを提供すること。

提案手法

• Beta-Rankは、畳み込みの前後における特徴マップの活性化変化の大きさに基づく、新たなフィルター順位付け基準を導入し、重み値を超えた機能的意義を捉える。
• 各フィルターが入力特徴マップにどれほど変化をもたらすかを測る、ベータダイバージェンスに基づくスコアを計算する。
• フィルターはそのベータランクスコアに基づいて順位付けされ、特徴表現の変化に最も寄与するフィルターが優先的にプルーニング対象となる。
• 事前学習後にファインチューニング段階で適用されるため、プルーニング中に精度の低下が最小限に抑えられる。
• IDRIDやISICを含む複数のベンチマークで、同一の学習条件下で評価され、アブレーションスタディによりその耐性が検証されている。
• スマートフォンアプリケーションの開発を通じて、実世界での効率的利点を実証し、メモリ使用量と推論時間の削減を測定した。

実験結果

リサーチクエスチョン

• RQ1 入出力活性化の変化を考慮するフィルタープルーニング手法が、不均衡な医療画像データセットにおいて、従来の重みベースの順位付けを上回る性能を示せるか？
• RQ2 Beta-Rankは、不均衡な医療データにおいて、FLOPsおよびパラメータをどの程度削減しながら、精度を維持または向上させられるか？
• RQ3 ベースラインモデルと比較して、Beta-Rankは実世界のモバイルデプロイメント環境でどの程度の性能を示すか？
• RQ4 提案された順位付けメカニズムは、医療画像データセットにおけるレアなまたは代表されないクラスでの一般化性を向上させるか？
• RQ5 データ不足の下で、既存のプルーニング手法と比較して、Beta-Rankは耐性と効率性の面で優れているか？

主な発見

• Beta-Rankは、IDRIDデータセットで最大58%のFLOPs削減を達成しながら、ベースラインモデルの精度を維持または上回った。
• ISICデータセットでは、FLOPsを最大45%削減し、ベースラインと同等またはより優れたパフォーマンスを示した。
• スマートフォンアプリケーションにデプロイした際、メモリ使用量が79%低減され、予測時間が72%短縮された。
• Beta-Rankは、複数のベンチマークで14の既存プルーニング手法を上回り、特にクラスの不均衡なデータの処理において優れた性能を示した。
• 重みの大きさや勾配に基づく手法と比較して、活性化の変化に基づく順位付けが、重要なフィルターを特定する上でより効果的であることが判明した。
• 標準的なプルーニングが失敗しやすい、医療画像における希少疾患クラスに対しても、本手法は強力な一般化性と耐性を示した。