[論文レビュー] Forward-Forward Contrastive Learning

Md Atik Ahamed, Jin Chen+1 more|arXiv (Cornell University)|May 4, 2023

COVID-19 diagnosis using AIMedicine被引用数 3

ひとこと要約

本論文は、バックプロパゲーションを用いずに、フォワード・フォワード・アルゴリズムの原則に従い、各ネットワーク層で局所的および最終表現でグローバルに自己教師付き対照学習を適用する、新しいマルチステージ事前学習手法であるForward-Forward対照学習（FFCL）を提案する。FFCLは、前立腺がん分類においてImageNetで事前学習されたResNet-18よりも3.69%高い正確性を達成し、一般化性能と微細な特徴学習の向上を示している。

ABSTRACT

Medical image classification is one of the most important tasks for computer-aided diagnosis. Deep learning models, particularly convolutional neural networks, have been successfully used for disease classification from medical images, facilitated by automated feature learning. However, the diverse imaging modalities and clinical pathology make it challenging to construct generalized and robust classifications. Towards improving the model performance, we propose a novel pretraining approach, namely Forward Forward Contrastive Learning (FFCL), which leverages the Forward-Forward Algorithm in a contrastive learning framework--both locally and globally. Our experimental results on the chest X-ray dataset indicate that the proposed FFCL achieves superior performance (3.69% accuracy over ImageNet pretrained ResNet-18) over existing pretraining models in the pneumonia classification task. Moreover, extensive ablation experiments support the particular local and global contrastive pretraining design in FFCL.

研究の動機と目的

• 標準的なバックプロパゲーションおよびImageNet事前学習の限界を、多様な画像モalityおよび微細な病変に対して解決すること。
• 事前学習中に勾配のバックプロパゲーションを回避するフォワード・フォワード・アルゴリズムの原則を活用し、医療画像分類におけるモデルの一般化性能と特徴学習を向上させること。
• 両者で表現学習を強化する、完全に自動化され、しきい値の設定を必要としない、局所的（層単位）およびグローバル的（最終埋め込み）レベルの事前学習戦略を開発すること。
• 対照学習をフォワード・フォワードメカニズムと統合することで、特に低ショットまたはドメインシフト状況下の医療画像分類タスクにおける性能向上が図られることを実証すること。

提案手法

• FFCLは二段階の事前学習を実行する：まず、ReLU活性化後の特徴マップを用いて、各残差ブロックで局所的対照学習を実施し、コサイン埋め込み損失を適用する。
• 第二に、同じコサイン埋め込み損失を用いて、最終埋め込み空間にグローバルな対照学習を適用し、同じラベルまたは異なるラベルを持つ画像ペアを比較する。
• 局所的およびグローバルな対照損失は、埋め込み間の正規化されたドット積を用いて計算され、正例および負例ペアに対してマージンベースの監視が施される。
• このフレームワークは、勾配計算を回避し、手動によるしきい値チューニングを排除する、変更を加えたフォワード・フォワード・アルゴリズムの応用に基づく。
• 事前学習後、モデルは二値交差エントロピー損失を用いて、標準的なバックプロパゲーションによる微調整を実施し、下流分類タスクに進む。
• この手法は完全に自動化されており、段階間でのハイパーパrameterチューニングを必要とせず、エンドツーエンド学習に拡張可能である。

実験結果

リサーチクエスチョン

• RQ1 局所的およびグローバルな対照学習を組み合わせたマルチステージ事前学習戦略は、医療画像分類における一般化性能の向上に寄与するか？
• RQ2 標準的なバックプロパゲーションを、フォワード・フォワードにインspiredされた対照学習事前学習メカニズムに置き換えることで、医療画像における特徴学習が向上するか？
• RQ3 局所的およびグローバルな事前学習の順序が、前立腺がん分類におけるモデル性能にどのように影響するか？
• RQ4 提案手法は、リソースが限られた医療画像分野の状況下で、ImageNet事前学習および最先端手法を上回る性能を示せるか？

主な発見

• ランダム重み初期化とResNet-18を用いて、FFCLは小児のチストレントX線データセットで80.45%の正確性を達成し、ImageNet事前学習済みのRBPベースラインを3.69%上回った。
• ランダム初期化下で、FFCLはAUC 93.33%を達成し、RBPベースライン（89.15%）および最先端手法（AUC 75〜78.4%）を上回った。
• アブレーションスタディにより、局所的およびグローバルな事前学習の組み合わせが不可欠であることが確認された。局所的またはグローバルな対照学習のみで訓練したモデルは、劣った性能を示した。
• ImageNet初期化でさえも、FFCLは72.28%の正確性を達成し、ランダム初期化のRBPベースライン（76.76%）を上回った。
• ランダム初期化下で局所的のみの事前学習戦略を用いた場合、正確性は62.50%にとどまり、グローバルな文脈が性能に不可欠であることが示された。
• ResNet-34を用いた場合、FFCLはランダム初期化で78.85%の正確性を達成し、RBPベースライン（78.53%）をわずかに上回り、アーキテクチャを問わず一貫した向上が得られたことが確認された。