[論文レビュー] CytoImageNet: A large-scale pretraining dataset for bioimage transfer learning

Stanley Bryan Z. Hua, Alex X. Lu+1 more|arXiv (Cornell University)|Nov 23, 2021

Cell Image Analysis Techniques参考文献 19被引用数 5

ひとこと要約

CytoImageNetは、40の公開データソースから収集された890,737枚の顕微鏡画像を含む大規模で弱いラベルが付与されたデータセットで、894のクラスをカバーしており、バイオイメージ分析のドメイン特化型事前学習を可能にする。CytoImageNetで事前学習した特徴量をImageNetの特徴量と融合することで、下流の顕微鏡分類タスクで、どちらか一方の特徴量よりも顕著に性能が向上し、補完的で生物学的に関連する表現を示している。

ABSTRACT

Motivation: In recent years, image-based biological assays have steadily become high-throughput, sparking a need for fast automated methods to extract biologically-meaningful information from hundreds of thousands of images. Taking inspiration from the success of ImageNet, we curate CytoImageNet, a large-scale dataset of openly-sourced and weakly-labeled microscopy images (890K images, 894 classes). Pretraining on CytoImageNet yields features that are competitive to ImageNet features on downstream microscopy classification tasks. We show evidence that CytoImageNet features capture information not available in ImageNet-trained features. The dataset is made available at https://www.kaggle.com/stanleyhua/cytoimagenet.

研究の動機と目的

• 機能ゲノム研究やドラッグディスカバリーフィールドにおける高スルーレート顕微鏡画像の効率的で自動化された解析のニーズに対応すること。
• ImageNet特徴量が顕微鏡画像における生物学的に関連するパターンを十分に捉えていないという限界を克服し、ドメインに適合した事前学習データセットを構築すること。
• 公開利用可能なリソースから大規模で弱いラベルが付与されたバイオイメージデータセットを収集するためのスケーラブルなフレームワークを開発すること。
• CytoImageNetで事前学習した特徴量がImageNet特徴量と補完的であることを示し、下流のトランスファー学習性能を向上させること。

提案手法

• Recursion、Image Data Resource、Broad Bioimage Benchmark Collection、Kaggle、Cell Image Libraryの5つのデータベースから、5つの公開データセットを統合し、合計890,737枚の顕微鏡画像を収集した。
• 生物種、細胞タイプ、フェノタイプ、化合物、遺伝子、siRNAなどのメタデータを用いて弱いラベルを割り当てた。1ラベルあたりの画像数が287枚以上になるように閾値を設定し、十分な表現を確保した。
• 高頻度ラベルの過剰代表を防ぐために、ラベルの多様性を向上させるために層別ダウンサンプリングを適用した。
• 強度正規化（0.1百分位数から99.9百分位数まで）により画像を標準化し、前処理としてチャネルマージまたはチャネル別特徴抽出の両方を検討した。
• EfficientNetB0モデルをCytoImageNetで学習させ、下流分類タスクにおける最終層の1つ前（penultimate layer）の特徴量をImageNet特徴量と比較した。
• 特徴量の連結による融合を用いて、補完的表現学習の評価を実施した。

実験結果

リサーチクエスチョン

• RQ1 ImageNet事前学習と比較して、大規模で弱いラベルが付与された顕微鏡画像データセットが、バイオイメージ分類タスクにおけるトランスファー学習性能を向上させられるか？
• RQ2 CytoImageNetで学習した特徴量は、ImageNet特徴量に存在しない生物学的情報を捉えているか？
• RQ3 CytoImageNet特徴量とImageNet特徴量を融合することで、下流の顕微鏡タスクでどちらか一方を使用するよりも性能が向上するか？
• RQ4 顕微鏡データに対するドメイン特化型事前学習は、一般自然画像の事前学習を上回る程度の性能を示すか？
• RQ5 さまざまな下流顕微鏡データセットで微調整した場合、CytoImageNet特徴量とImageNet特徴量の性能を比較するとどうなるか？

主な発見

• CytoImageNet特徴量は、すべての下流タスクでImageNet特徴量と同等の性能を示し、BBC021では83.5%、COOS7 Test Set 1では88.87%の正確度を達成した。
• CytoImageNet特徴量とImageNet特徴量を融合することで、BBC021では86.41%、CYCLoPsでは77.97%、COOS7 Test Set 1では94.80%に向上し、どちらか一方の特徴量を使用する場合よりも顕著に性能が向上した。
• COOS7 Test Set 4では、融合モデルが87.47%の正確度を達成したのに対し、ImageNet特徴量のみでは82.19%、CytoImageNet特徴量のみでは78.52%にとどまった。
• CytoImageNetでの検証精度が11.32%にとどまったことから、ハイパーパramータチューニングにより特徴量品質と下流性能をさらに向上できる可能性がある。
• チャネルごとのピクセル強度正規化とチャネル別特徴抽出が、すべてのデータセットおよび特徴量タイプで最高の性能を示した。
• 特徴量融合による顕著な性能向上は、CytoImageNetとImageNetの事前学習が生物学的画像分析に適した、異なる補完的表現を学習していることを示している。