[论文解读] Unsupervised Learning for Stellar Spectra with Deep Normalizing Flows

Ioana Ciucă, Yuan-Sen Ting|arXiv (Cornell University)|Jul 6, 2022

Blind Source Separation Techniques被引用 4

一句话总结

该论文提出Mendis，一种基于归一化流（Neural Spline Flows与GLOW）的无监督深度生成模型，可在无需标注恒星参数的情况下学习恒星光谱的复杂高维分布。通过实现精确的似然评估并建模像素级相关性，Mendis无需预先标注即可检测异常值——如CEMP星、快速旋转星和剥离星——提供了一种稳健且可解释的方法，用于在大规模光谱巡天中发现未知的原子跃迁和稀有恒星天体。

ABSTRACT

Stellar spectra encode detailed information about the stars. However, most machine learning approaches in stellar spectroscopy focus on supervised learning. We introduce Mendis, an unsupervised learning method, which adopts normalizing flows consisting of Neural Spline Flows and GLOW to describe the complex distribution of spectral space. A key advantage of Mendis is that we can describe the conditional distribution of spectra, conditioning on stellar parameters, to unveil the underlying structures of the spectra further. In particular, our study demonstrates that Mendis can robustly capture the pixel correlations in the spectra leading to the possibility of detecting unknown atomic transitions from stellar spectra. The probabilistic nature of Mendis also enables a rigorous determination of outliers in extensive spectroscopic surveys without the need to measure elemental abundances through existing analysis pipelines beforehand.

研究动机与目标

• 解决监督学习在恒星光谱学中的局限性，即受限于已知标签空间，阻碍对未知异常值的检测。
• 克服传统无监督方法（如PCA和VAEs）缺乏精确似然评估和灵活条件建模能力的不足。
• 开发一种概率性、可逆的模型，以捕捉复杂的光谱相关性，并实现基于恒星参数的条件光谱生成。
• 通过在学习到的分布下评估新光谱的似然性，实现在大规模光谱巡天中自动化、无标签的异常值检测。
• 通过分析学习到的光谱数据中像素间的相关性，揭示隐藏的原子跃迁，即使在缺乏元素丰度先验知识的情况下亦可实现。

提出的方法

• 在深度生成模型中采用归一化流——特别是Neural Spline Flows与GLOW——以学习从简单高斯基分布到恒星光谱复杂分布的可逆双射变换。
• 在20,000个由Kurucz大气模型生成的、类似APOGEE的高分辨率光谱（R ≈ 22,000）上进行模型训练，控制变化的参数包括T_eff、log g、[Fe/H]以及20多种元素的丰度。
• 引入25 K的T_eff随机扰动、0.1 dex的log g扰动和0.01 dex的[Fe/H]扰动，以模拟观测不确定性并提升模型鲁棒性。
• 利用归一化流的可逆性，计算任意光谱的精确对数似然，从而实现基于原理的分布外检测。
• 利用模型生成条件光谱的能力，通过条件设定恒星参数，探索不同物理条件下光谱分布的特性。
• 通过计算流的雅可比矩阵，分析学习到的光谱像素间相关结构，揭示因共享元素跃迁而相关的波长对。

实验结果

研究问题

• RQ1 与PCA或VAEs相比，归一化流能否更有效地建模恒星光谱的复杂高维分布，特别是在捕捉像素级相关性方面？
• RQ2 像Mendis这样的无监督模型在不依赖预计算标签的情况下，能在多大程度上检测到稀有或极端的恒星天体（如CEMP星、快速旋转星）？
• RQ3 归一化流的概率框架能否通过识别光谱数据中的相关特征，揭示未知的原子跃迁？
• RQ4 当应用于具有未知或极端物理特性的光谱时，Mendis的基于似然的异常值检测方法有多稳健？
• RQ5 学习到的光谱分布能否作为下游任务（如半监督学习或恒星光谱中的域自适应）的先验？

主要发现

• Mendis成功以高保真度学习合成恒星光谱的分布，生成的光谱在视觉上与真实训练光谱无法区分。
• 该模型准确捕捉了光谱中像素间的相关性，揭示了相关特征对应于同一化学元素的跃迁，即使在元素丰度未知的情况下亦成立。
• 通过似然评估实现的分布外检测成功将已知极端恒星类型（如CEMP星、快速旋转星和剥离星）识别为低似然样本，尽管其外观与训练光谱相似。
• 异常光谱的似然值显著低于分布内光谱，证明该方法在无需预先标注的情况下，对稀有或异常天体的筛选具有强大鲁棒性。
• 即使在信噪比（SNR = 300）符合真实观测条件的噪声和退化光谱上进行训练，模型仍能保持准确的相关性结构，表明其对观测条件具有强大泛化能力。
• 该方法可通过识别光谱数据中相关像素对，实现对未知原子跃迁的发现，为基于数据驱动的替代ab initio量子力学计算提供了新途径。