[論文レビュー] Self-Supervised Learning of Phenotypic Representations from Cell Images with Weak Labels

Jan Cross-Zamirski, Guy Williams+4 more|arXiv (Cornell University)|Sep 16, 2022

Cell Image Analysis Techniques被引用数 16

ひとこと要約

本稿では、弱いラベル（例：化合物や処置）を用いて、ビジョントランスフォーマーを活用して高スループット細胞画像から生物学的に意味のある表現を学習する自己教師付き知識蒸留フレームワーク、WS-DINOを提案する。この手法は、単一細胞のクロップ処理を必要とせず、自己注意マップを介して構造的に解釈可能な特徴を学習する。BBBC021データセットにおいて、非同一化合物（NSC）予測で98%、非同一化合物および非同一バッチ（NSCB）予測で96%の最先端性能を達成した。

ABSTRACT

We propose WS-DINO as a novel framework to use weak label information in learning phenotypic representations from high-content fluorescent images of cells. Our model is based on a knowledge distillation approach with a vision transformer backbone (DINO), and we use this as a benchmark model for our study. Using WS-DINO, we fine-tuned with weak label information available in high-content microscopy screens (treatment and compound) and achieve state-of-the-art performance in not-same-compound mechanism of action prediction on the BBBC021 dataset (98%), and not-same-compound-and-batch performance (96%) using the compound as the weak label. Our method bypasses single cell cropping as a pre-processing step, and using self-attention maps we show that the model learns structurally meaningful phenotypic profiles.

研究の動機と目的

• 高スループット顕微鏡画像からの表現学習に、弱いラベル（例：化合物、処置）を自己教師付き学習で活用する手法の開発。
• 完全にアノテートされた単一細胞データや大量の事前処理に依存せずに、メカニズム・オブ・アクション（MOA）予測性能の向上。
• 自己注意マップを用いて細胞の構造的特徴を捉える生物学的に解釈可能な表現の学習。
• 複数のバッチにまたがる弱いラベル構造を活用して、高スループットスクリーニングデータにおけるバッチ補正を実現。
• 部分的なラベル情報を持つ他の自己教師付きモデルやデータセットに適応可能な汎用的フレームワークの構築。

提案手法

• WS-DINOは、知識蒸留を用いて弱いラベルをDINO自己教師付き学習フレームワークに統合し、生徒ネットワークが対照的損失を用いて教師ネットワークと一致するように学習する。
• 生徒および教師ネットワークの両方でビジョントランスフォーマー（ViT）バックボーンを用い、入力画像をグローバルおよびローカルのクロップに分割することで対照的学習を可能にする。
• 弱いラベル（化合物または処置）を用いて、同じラベルを持つ画像ペアをサンプリングし、生徒ネットワークが類似した表現反応をグループ化するよう学習する可能性を高める。
• 訓練中に弱いラベルグループの代表が均等になるように重み付きランダムサンプラーを用いることで、一般化性能の向上を図る。
• 自己注意マップを可視化して、モデルがどの細胞構造に注目しているかを解釈し、学習された特徴の生物学的妥当性を検証する。
• 訓練の安定化のため、生徒の重みに基づいて教師ネットワークの重みを指数的移動平均（EMA）で更新する。

実験結果

リサーチクエスチョン

• RQ1 弱いラベル情報（例：化合物や処置）を自己教師付き学習フレームワークに効果的に統合することで、表現学習の性能向上が図れるか？
• RQ2 知識蒸留を用いて弱いラベルを統合することで、教師なし事前学習に比べ、メカニズム・オブ・アクション（MOA）予測性能が向上するか？
• RQ3 自己注意マップによって示されるように、学習された表現が生物学的に意味があり、構造的に解釈可能であるか？
• RQ4 同じ化合物の画像が複数のバッチに分散している高スループットスクリーニングデータにおいて、このフレームワークが暗黙的にバッチ補正を実行できるか？
• RQ5 BBBC021のようなベンチマークデータセットにおいて、WS-DINOは非同一化合物（NSC）および非同一化合物および非同一バッチ（NSCB）MOA予測の観点で、既存の最先端手法と比較してどのように差をつけるか？

主な発見

• 化合物を弱いラベルとして用いた場合、BBBC021データセットにおいて非同一化合物（NSC）予測で98%の精度を達成し、先行手法を上回った。
• 同じ弱いラベルを用いて非同一化合物および非同一バッチ（NSCB）予測でも96%の精度を達成し、効果的なバッチ補正が可能であることを示した。
• 処置を弱いラベルとして用いた場合、自己教師付きDINO（92% NSC）と同等の性能にとどまり、バッチレベルの交絡要因のため、処置ラベルが効果的でない可能性が示唆された。
• 自己注意マップから、モデルが核、微小管、アクチン線維など生物学的に関連する構造に注目していることが明らかになり、解釈可能性が裏付けられた。
• 単一細胞のクロップ処理やセグメンテーションを回避することで、前処理の複雑さを低減しながらも高い性能を維持した。
• このフレームワークは汎用性が高く、他の自己教師付きモデルに容易に適応可能であり、部分的なMOAラベルを持つデータセットへも適用可能である。これにより、実世界のドラッグディスcoveryパイプラインにおける実用的応用が可能になった。