[論文レビュー] Knowledge transfer of Deep Learning for galaxy morphology from one survey to another

H. Domínguez Sánchez, J. Zuntz+57 more|arXiv (Cornell University)|Jul 2, 2018

Remote Sensing in Agriculture被引用数 1

ひとこと要約

この論文は、スローン・デジタル・スカイ・サーベイ（SDSS）データで事前学習されたディープラーニングモデルが、最小限の追加ラベル付けでダークエネルギー・サーベイ（DES）の銀河を分類するために迅速に適応可能であることを示している。わずか300〜500枚のDES銀河を用いた小さなファインチューニングステップにより、正解率が95％を超えるようになり、完全性と純度も顕著に向上する。これにより、異なる機器的特徴を持つサーベイ間で、形態的知識を効率的に転送できることが可能になる。

ABSTRACT

Deep Learning (DL) algorithms for morphological classification of galaxies have proven very successful, mimicking (or even improving) visual classifications. However, these algorithms rely on large training samples of labeled galaxies (typically thousands of them). A key question for using DL classifications in future Big Data surveys is how much of the knowledge acquired from an existing survey can be exported to a new dataset, i.e. if the features learned by the machines are meaningful for different data. We test the performance of DL models, trained with Sloan Digital Sky Survey (SDSS) data, on Dark Energy survey (DES) using images for a sample of 5000 galaxies with a similar redshift distribution to SDSS. Applying the models directly to DES data provides a reasonable global accuracy ($\sim$ 90%), but small completeness and purity values. A fast domain adaptation step, consisting in a further training with a small DES sample of galaxies ($\sim$ 500-300), is enough for obtaining an accuracy > 95% and a significant improvement in the completeness and purity values. This demonstrates that, once trained with a particular dataset, machines can quickly adapt to new instrument characteristics (e.g., PSF, seeing, depth), reducing by almost one order of magnitude the necessary training sample for morphological classification. Redshift evolution effects or significant depth differences are not taken into account in this study.

研究の動機と目的

• 一つの銀河サーベイで学習したディープラーニングモデルが、異なる画像特性を持つ別のサーベイに効果的に転送可能かどうかを調査すること。
• 再トレーニングを一切行わず、ターゲットサーベイからの小さなラベル付きサブセットのみを用いて、事前学習モデルの新しいデータセット（DES）における性能を評価すること。
• ファインチューニングによるドメイン適応が、形態分類における分類精度、完全性、純度に与える影響を評価すること。
• 転移後に高い性能を達成するために、ターゲットサーベイで必要な最小限のラベル付きデータ量を特定すること。

提案手法

• スローン・デジタル・スカイ・サーベイ（SDSS）の大きなラベル付き銀河サンプルを用いてディープラーニングモデルを事前学習する。
• ダークエネルギー・サーベイ（DES）の5,000個の銀河のサンプルに、SDSSの赤方偏移分布と一致するように、事前学習済みモデルを直接適用する。
• 300〜500枚のラベル付きDES銀河を用いた小さなラベル付きサブセットで、モデルをファインチューニングすることで、迅速なドメイン適応ステップを実施する。
• DESテストセットにおける標準指標（全体正解率、完全性、純度）を用いて、モデルの性能を評価する。
• 両サーベイ間で同じアーキテクチャとハイパーパramータを用いることで、ドメインシフトと適応の影響を明確に分離する。

実験結果

リサーチクエスチョン

• RQ1 SDSSデータで学習したディープラーニングモデルが、再トレーニングなしでDESデータに直接適用された場合、高い正解率を達成できるか？
• RQ2 異なる機器的特徴を持つ新しいサーベイに転送された際、事前学習モデルの性能はどの程度低下するか？
• RQ3 転移後に高い分類精度を達成するために、ターゲットサーベイ（DES）で必要な最小限のラベル付きサンプルサイズはどの程度か？
• RQ4 ファインチューニングが、異なるサーベイ間で形態分類の完全性と純度にどの程度向上効果をもたらすか？

主な発見

• SDSSで学習したモデルをDESデータに直接適用した場合、全体正解率は約90％に達する。
• 同じモデルは、ドメインシフトによる性能低下を示すために、不十分な完全性と純度を示す。
• 300〜500枚のラベル付きDES銀河を用いたファインチューニングにより、正解率が95％を超えるようになる。
• 完全性と純度の指標は、ファインチューニングステップ後に顕著に向上し、ターゲットドメインへの一般化性能の向上を示している。
• 結果から、一つのサーベイから別のサーベイへ知識を転送することで、ラベル付きトレーニングデータ量をほぼ1桁減少させられることが示された。