[论文解读] Deep learning insights into cosmological structure formation

Luisa Lucie-Smith, Hiranya V. Peiris+3 more|arXiv (Cornell University)|Nov 20, 2020

Galaxies: Formation, Evolution, Phenomena被引用 7

一句话总结

本文提出一种三维卷积神经网络（CNN），直接从初始宇宙密度场预测暗物质晕质量，绕过了传统的解析近似方法。尽管模型从原始空间数据中学习，其预测结果对各向异性特征不敏感，表明晕质量仅取决于各向同性的、球对称平均的初始条件，这挑战了椭球坍缩模型中的既定假设。

ABSTRACT

The evolution of linear initial conditions present in the early universe into extended halos of dark matter at late times can be computed using cosmological simulations. However, a theoretical understanding of this complex process remains elusive; in particular, the role of anisotropic information in the initial conditions in establishing the final mass of dark matter halos remains a long-standing puzzle. Here, we build a deep learning framework to investigate this question. We train a three-dimensional convolutional neural network (CNN) to predict the mass of dark matter halos from the initial conditions, and quantify in full generality the amounts of information in the isotropic and anisotropic aspects of the initial density field about final halo masses. We find that anisotropies add a small, albeit statistically significant amount of information over that contained within spherical averages of the density field about final halo mass. However, the overall scatter in the final mass predictions does not change qualitatively with this additional information, only decreasing from 0.9 dex to 0.7 dex. Given such a small improvement, our results demonstrate that isotropic aspects of the initial density field essentially saturate the relevant information about final halo mass. Therefore, instead of searching for information directly encoded in initial conditions anisotropies, a more promising route to accurate, fast halo mass predictions is to add approximate dynamical information based e.g. on perturbation theory. More broadly, our results indicate that deep learning frameworks can provide a powerful tool for extracting physical insight into cosmological structure formation.

研究动机与目标

• 开发一种深度学习框架，无需依赖预定义的物理特征，即可学习从初始宇宙密度场到最终暗物质晕质量的非线性映射。
• 探究初始密度场中的各向异性特征（如潮汐剪切）是否对晕质量预测有显著贡献。
• 通过分析深度神经网络中学习到的表征，提供对宇宙结构形成过程的物理解释性洞察。
• 检验基于原始空间数据的数据驱动方法是否能超越或重新诠释基于球对称与椭球对称坍缩的解析模型。

提出的方法

• 使用N体模拟的初始条件作为输入，训练一个3D卷积神经网络（CNN）以预测晕质量。
• 网络通过多个卷积层和全连接层处理原始3D密度场，端到端学习分层空间特征。
• 采用具有柯西分布的似然函数建模预测不确定性，半高全宽（γ）在训练过程中进行优化。
• 通过高斯、拉普拉斯和组Lasso先验对权重进行正则化，以防止过拟合并促进特征学习中的稀疏性。
• 使用AMSGrad优化器训练，并基于验证损失采用早停策略，以防止对训练数据的过拟合。
• 在独立的初始条件实现上进行训练和评估，以确保泛化能力，并避免对特定模拟输出的过拟合。

实验结果

研究问题

• RQ1 在原始初始密度场上训练的深度学习模型，其预测最终晕质量的准确性是否优于传统解析模型？
• RQ2 从初始条件中提取的各向异性特征（如潮汐剪切）是否显著提升晕质量预测性能？
• RQ3 CNN学习到的特征是否等价于初始密度场的球对称平均，还是捕捉到了方向性或非对称结构？
• RQ4 模型的预测能力是否依赖于初始条件中的空间各向异性的特征，还是对这些特征具有不变性？
• RQ5 基于数据驱动的深度学习方法是否能揭示当前解析框架未能捕捉到的关于晕质量起源的新物理解释？

主要发现

• 该CNN在无需显式输入特征（如潮汐剪切或球对称超密度）的情况下，即可实现对晕质量的高精度预测。
• 从输入数据中移除各向异性信息不会降低模型性能，表明网络学习的是各向同性、球对称平均的特征。
• 模型的预测对初始密度场中的方向性变化保持不变，表明晕质量仅取决于密度涨落的大小，而非其取向。
• 尽管学习了所有可能的卷积特征组合，最终预测结果并不依赖于初始条件的各向异性特征。
• 结果表明，控制晕质量形成的物理机制本质上是各向同性的，支持在该背景下球对称坍缩模型优于椭球对称模型。
• 深度学习框架成功从原始模拟数据中提取出具有物理意义且可解释的关系，为宇宙结构形成研究开辟了新路径。