[论文解读] Projected Regression Methods for Inverting Fredholm Integrals: Formalism and Application to Analytical Continuation

Louis-François Arsenault, Richard Neuberg+2 more|arXiv (Cornell University)|Dec 15, 2016

Atomic and Subatomic Physics Research被引用 8

一句话总结

本文提出一种基于机器学习的投影回归方法，用于求解病态的弗雷德霍姆第一类积分方程，利用稳定前向解数据库对反演过程进行正则化。该方法在抗噪声能力方面优于最大熵方法，并能提供不确定性估计，在量子多体系统解析延拓问题中表现更优，实现了更精确的能隙结构恢复与一致的不确定性量化。

ABSTRACT

We present a machine learning approach to the inversion of Fredholm integrals of the first kind. The approach provides a natural regularization in cases where the inverse of the Fredholm kernel is ill-conditioned. It also provides an efficient and stable treatment of constraints. The key observation is that the stability of the forward problem permits the construction of a large database of outputs for physically meaningful inputs. We apply machine learning to this database to generate a regression function of controlled complexity, which returns approximate solutions for previously unseen inputs; the approximate solutions are then projected onto the subspace of functions satisfying relevant constraints. We also derive and present uncertainty estimates. We illustrate the approach by applying it to the analytical continuation problem of quantum many-body physics, which involves reconstructing the frequency dependence of physical excitation spectra from data obtained at specific points in the complex frequency plane. Under standard error metrics the method performs as well or better than the Maximum Entropy method for low input noise and is substantially more robust to increased input noise. We expect the methodology to be similarly effective for any problem involving a formally ill-conditioned inversion, provided that the forward problem can be efficiently solved.

研究动机与目标

• 解决物理科学中常见的第一类弗雷德霍姆积分方程的病态反演问题，其中微小的数据误差会导致解的误差显著放大。
• 提出一种稳定、抗噪声且能尊重物理约束（如非负性、矩条件）的正则化方法。
• 构建一个能够提供重构函数不确定性估计的框架，从而实现对预测结果的置信度评估。
• 在量子多体物理中的解析延拓问题上验证该方法的有效性，该问题为弗雷德霍姆反演的典型范例。
• 弥合机器学习与统计方法与物理反问题之间的鸿沟，为传统方法（如最大熵）提供一种实用且可扩展的替代方案。

提出的方法

• 通过高效稳定求解物理上有意义输入的前向问题，构建大规模的输入-输出对数据库。
• 在数据库上训练具有可控复杂度的核回归模型，以近似逆映射，从而实现内在正则化。
• 通过约束优化，将无约束回归解投影到满足物理约束（如非负性、矩条件）的函数子空间中。
• 基于与训练点的距离设计插值测试，判断新输入是否在模型的可信域范围内。
• 对样本外预测的残差使用分位数回归，计算点对点的5%–95%预测区间，以实现不确定性估计。
• 将回归问题形式化为复杂度受限的学习问题，采用核方法与调优参数控制过拟合与不稳定性。

实验结果

研究问题

• RQ1 基于前向解数据库的机器学习回归方法，能否实现对病态弗雷德霍姆积分方程的稳定且正则化的反演？
• RQ2 在输入噪声逐渐增加的条件下，该方法与最大熵方法相比，在准确性和鲁棒性方面表现如何？
• RQ3 该方法能否有效恢复具有尖锐特征与能隙的谱函数，而这类特征常使传统方法面临挑战？
• RQ4 在存在噪声数据的情况下，能否可靠地计算并解释该框架中的不确定性估计？
• RQ5 该方法在前向问题稳定且计算高效的其他反问题中，其泛化能力在多大程度上成立？

主要发现

• 在低噪声水平下，ACwPR方法在Kullback-Leibler散度度量下表现与最大熵相当或更优，平均有51%的案例优于MaxEnt。
• 在高噪声水平下，ACwPR显著优于MaxEnt，81%的案例中Kullback-Leibler误差更低，99%的案例中均方绝对误差更低。
• 对于具有尖锐峰和宽广特征的谱函数，ACwPR保持高精度，其不确定性边界紧密捕捉真实函数，而MaxEnt的预测范围更宽且不可靠。
• 在谱函数存在能隙的挑战性案例中，ACwPR正确保留了零区域，而MaxEnt则显著将预测扩展至能隙区域，表明其未能尊重物理约束。
• 在最低噪声水平下，该方法的预测误差与无噪声数据的固有误差相当，表明其具有高保真度与低系统性偏差。
• 插值测试成功识别出可信预测，不确定性估计具有良好校准性，绝大多数情况下95%预测区间覆盖了真实函数。