[論文レビュー] Visualizing the Hidden Features of Galaxy Morphology with Machine Learning

Jia-Ming Dai, Jizhou Tong|arXiv (Cornell University)|Jul 16, 2018

Image Processing and 3D Reconstruction参考文献 4被引用数 5

ひとこと要約

本論文では、Galaxy Zoo 2 データセットで訓練された3つの畳み込みニューラルネットワーク（CNN）から抽出した高次元特徴表現に t-SNE 視覚化を適用し、銀河形態の隠れた構造的パターンを解明した。主な発見は、CNN が学習した特徴が、ナス型と縁側型の銀河が特徴空間内で視覚的に類似しており、入り組んでおり、また、ラベルが誤って記録された銀河（例：完全に丸い滑らかな銀河として誤分類されたスパイラル銀河）がクラスタリングの異常から特定されたことである。

ABSTRACT

We train three convolutional neural networks (CNNs) to classify galaxies with Galaxy Zoo 2 dataset and extract the activations from the last fully connected layer or the last average pooling layer of CNNs to study the high-dimensional abstract feature representations of galaxy images. We apply t-Distributed Stochastic Neighbour Embedding (t-SNE), a popular dimensionality reduction technique, to visualize the high-dimensional galaxy feature representations in two-dimensional scatter plots. From the visualization, we try to understand the galaxy images data itself and obtain some highly valuable insights. For instance, the learned galaxy feature representations from networks indicate that the galaxies belonging to the same class tend to group together, i.e. same morphological galaxies are clustered; The cluster of completely round smooth galaxy and the cluster of in-between smooth galaxy (between completely round and cigar-shaped) are moved closer, compared to other clusters; The cluster of cigar-shaped smooth galaxy and the cluster of edge-on galaxy are intertwined surprisingly; A galaxy mislabelled as spiral galaxy in the original dataset falls in the cluster of completely round smooth galaxy, and manual inspection also identifies out the outlier as a completely round smooth galaxy. These findings will facilitate the study of galaxy morphology.

研究の動機と目的

• 深層ニューラルネットワークが学習した高次元特徴表現を分析することで、銀河形態における隠れた構造的パターンを解明すること。
• CNN が学習した特徴の t-SNE 視覚化が、銀河画像データにおける意味のあるグローバルおよびローカル構造を明らかにできるかどうかを評価すること。
• 学習済み特徴空間における銀河画像のクラスタリング行動を観察することで、潜在的なデータラベルの誤りを同定すること。
• 特に滑らかな銀河を含む、異なる形態的クラスが訓練済みモデルの潜在空間内でどのように関係しているかを調査すること。
• 銀河分類システムや形態的分析パイプラインの改善に役立つ知見を提供すること。

提案手法

• 5つの形態的クラス（完全に丸い、中間的、ナス型、縁側型、スパイラル）に分類する目的で、Galaxy Zoo 2 データセット上で3つの異なる CNN アーキテクチャを訓練した。
• 各訓練済み CNN の最終全結合層または最終平均プーリング層の活性化値を抽出し、銀河画像の高次元特徴表現を構築した。
• t-分布確率的近傍埋め込み（t-SNE）を用いて、これらの特徴の次元を2次元に低次元化し、視覚化を行った。
• 得られた2次元の散乱図を分析し、銀河クラス間のクラスタリングパターン、構造的関係、および異常を特定した。
• t-SNE 視覚化からの発見を検証するため、誤分類されたまたは外れ値とされる銀河を手動で点検した。
• 学習およびテストサブセットの両方で分析を実施し、データ分割ごとの学習済み表現の一貫性を比較した。

実験結果

リサーチクエスチョン

• RQ1 同じ形態的クラスに属する銀河は、CNN が学習した高次元特徴空間に集まっているか？
• RQ2 特に滑らかな銀河を含む、異なる形態的クラスは、学習済み特徴空間内でどのように関係しているか？
• RQ3 CNN が学習した特徴の t-SNE 視覚化により、形態的に異なる銀河種が予期しない構造的類似性を示すことがあるか？
• RQ4 視覚化により、ネットワークによって誤って分類された誤ってラベル付けされたまたは異常な銀河を検出できるか？
• RQ5 学習サブセットとテストサブセットにおける特徴表現の質に違いはあり、これはモデルの一般化能力に何を示唆するか？

主な発見

• 同じ形態的クラスに属する銀河は t-SNE 視覚化においてクラスタを形成しており、CNN が識別的かつ一貫性のある特徴表現を学習していることを示している。
• 完全に丸い滑らかな銀河のクラスタと、丸いとナス型の中間の滑らかな銀河のクラスタは、他のクラスタよりも近接して配置されており、視覚的および構造的類似性を示している。
• ナス型の滑らかな銀河のクラスタと縁側型の銀河のクラスタは、特徴空間内で顕著に入り組んでおり、重なっていることから、それらの形態的特徴に高い視覚的類似性があると示唆されている。
• 元のデータセットでスパイラルとしてラベル付けされていた銀河が、完全に丸い滑らかな銀河のクラスタ内に位置しており、手動での点検で実際に丸い滑らかな銀河であると確認された。これは、ラベル誤りの検出が正当化された例である。
• 視覚化により、細長いスパイラル銀河が縁側型やナス型の銀河と視覚的に類似しており、両方のクラスタに近接して配置されていることが明らかになった。これは、共通の構造的特徴を有している可能性を示唆している。
• 薄暗い、または小さな中心銀河（例：GalaxyID 109266 および 914775）のような外れ値は、一貫して誤分類されており、視覚的に曖昧であることが判明した。これは、形態的分類における課題を浮き彫りにした。