[论文解读] Optimal Neural Summarisation for Full-Field Weak Lensing Cosmological Implicit Inference

Denise Lanzieri, Justine Zeghal+4 more|arXiv (Cornell University)|Jul 15, 2024

Galaxies: Formation, Evolution, Phenomena被引用 2

一句话总结

本文提出了一种基于变分互信息最大化（VMIM）损失函数的理论最优神经摘要方法，用于全视野弱引力透镜宇宙学推断。在模拟的LSST第10年wCDM情景中，VMIM训练的神经摘要实现了参考图灵指标（FoM）的100%，优于基于MSE的方法（81% FoM），并确立了VMIM作为从弱引力透镜数据中提取完整宇宙学信息的理论最优且经验有效的途径。

ABSTRACT

Traditionally, weak lensing cosmological surveys have been analyzed using summary statistics motivated by their analytically tractable likelihoods, or by their ability to access higher-order information, at the cost of requiring Simulation-Based Inference (SBI) approaches. While informative, these statistics are neither designed nor guaranteed to be statistically sufficient. With the rise of deep learning, it becomes possible to create summary statistics optimized to extract the full data information. We compare different neural summarization strategies proposed in the weak lensing literature, to assess which loss functions lead to theoretically optimal summary statistics to perform full-field inference. In doing so, we aim to provide guidelines and insights to the community to help guide future neural-based inference analyses. We design an experimental setup to isolate the impact of the loss function used to train neural networks. We have developed the sbi_lens JAX package, which implements an automatically differentiable lognormal wCDM LSST-Y10 weak lensing simulator. The explicit full-field posterior obtained using the Hamiltonian Monte Carlo sampler gives us a ground truth to which to compare different compression strategies. We provide theoretical insight into the loss functions used in the literature and show that some do not necessarily lead to sufficient statistics (e.g. Mean Square Error (MSE)), while those motivated by information theory (e.g. Variational Mutual Information Maximization (VMIM)) can. Our numerical experiments confirm these insights and show, in our simulated wCDM scenario, that the Figure of Merit (FoM) of an analysis using neural summaries optimized under VMIM achieves 100% of the reference Omega_c - sigma_8 full-field FoM, while an analysis using neural summaries trained under MSE achieves only 81% of the same reference FoM.

研究动机与目标

• 确定哪种神经网络损失函数可生成全视野弱引力透镜推断中的统计充分摘要统计量。
• 从理论和实证性能角度，比较不同神经摘要策略在捕捉宇宙学信息方面的表现。
• 为设计宇宙学推断中最佳神经压缩器提供一个基于信息论的系统性框架。
• 开发并发布一个公开可用的模拟框架sbi_lens，以支持神经摘要统计量的可重现基准测试。

提出的方法

• 作者使用sbi_lens JAX工具包设计了一个受控的实验设置，该工具包提供自动可微的对数正态弱引力透镜模拟器，以及用于使用哈密顿蒙特卡洛（HMC）进行显式全视野推断的工具。
• 通过固定神经网络架构和模拟驱动推断（SBI）流程，仅改变损失函数，以隔离其影响，比较MSE回归与基于VMIM的训练。
• 通过在模拟的wCDM LSST第10年弱引力透镜情景中使用HMC采样，获得真实全视野后验分布，作为评估摘要统计量的参考基准。
• 理论分析表明，VMIM能最大化摘要统计量t与宇宙学参数θ之间的互信息I(t, θ)，而这是统计充分性的充要条件。
• 实证评估比较了不同神经摘要所导出的参数约束的图灵指标（FoM），以显式全视野推断为基准。
• 该框架支持在受控条件下对端到端神经压缩策略进行比较，且已公开发布，以支持社区基准测试。

实验结果

研究问题

• RQ1 在神经摘要训练期间最小化均方误差（MSE）是否能产生弱引力透镜宇宙学推断中的统计充分统计量？
• RQ2 变分互信息最大化（VMIM）是否在理论上和实证上均能生成全视野推断的最优、充分统计量？
• RQ3 在使用神经摘要进行宇宙学参数估计时，不同损失函数如何影响图灵指标（FoM）？
• RQ4 与传统摘要统计量相比，神经压缩在多大程度上能保留弱引力透镜数据的完整宇宙学信息内容？
• RQ5 在存在系统误差和非高斯特征等现实模拟复杂性时，VMIM是否足够稳健，以实现近乎充分的性能？

主要发现

• 在模拟的wCDM LSST第10年弱引力透镜情景中，基于VMIM的神经摘要实现了参考全视野图灵指标（FoM）的100%，表明信息提取接近最优。
• 相比之下，使用MSE回归训练的摘要仅实现了参考FoM的81%，表明MSE在捕捉完整宇宙学信息方面表现欠佳。
• 理论分析证实，VMIM在原则上具备生成充分统计量的能力，因其能最大化摘要与参数之间的互信息I(t, θ)。
• 实证结果表明，VMIM生成的后验分布与真实全视野后验高度相似，C2ST评分为0.6，表明存在非平凡但非完全的偏离。
• 本研究确立了基于信息论的损失函数（如VMIM）在宇宙学推断中优于标准回归损失（如MSE）的神经摘要性能。
• sbi_lens模拟框架及相关代码已公开发布，以支持宇宙学中神经压缩方法的可重现基准测试与未来发展。