[论文解读] Explorations on anisotropic regularisation of dynamic inverse problems by bilevel optimisation

Martin Benning, Carola‐Bibiane Schönlieb+2 more|arXiv (Cornell University)|Feb 3, 2016

Sparse and Compressive Sensing Techniques参考文献 20被引用 3

一句话总结

该论文提出了一种双层优化框架，通过空间与时间总变差正则化项的下确界卷积，学习动态视频去噪中的最优各向异性正则化参数。通过求解一个非凸、非线性参数化的下层逆问题，该方法能够自适应于视频内容——实现最高46.87 dB的PSNR和0.942的SSIM，表明最优正则化参数对场景动态特性极为敏感，复杂运动下κ ≈ 0.5，静态背景则κ ≈ 0或1。

ABSTRACT

We explore anisotropic regularisation methods in the spirit of [Holler & Kunisch, 14]. Based on ground truth data, we propose a bilevel optimisation strategy to compute the optimal regularisation parameters of such a model for the application of video denoising. The optimisation poses a challenge in itself, as the dependency on one of the regularisation parameters is non-linear such that the standard existence and convergence theory does not apply. Moreover, we analyse numerical results of the proposed parameter learning strategy based on three exemplary video sequences and discuss the impact of these results on the actual modelling of dynamic inverse problems.

研究动机与目标

• 解决在标准理论因非线性参数依赖而失效的动态反问题中选择最优正则化参数的挑战。
• 开发一种双层优化策略，利用真实数据学习时空正则化参数以实现视频去噪。
• 研究通过学习调整空间与时间正则化项的下确界卷积，能否有效减少如阶梯效应等伪影。
• 评估在参数学习下，将正则化分解为空间与时间分量是否具有意义且稳定。
• 在具有不同动态特性和背景稳定性的真实视频序列上展示该方法的性能。

提出的方法

• 将双层优化问题形式化，其中上层最小化下层变分正则化问题解的数据保真度损失。
• 采用下确界卷积正则化项，结合空间与时间总变差，通过参数κ ∈ [0,1]平衡空间与时间保真度。
• 将下层问题应用于Tikhonov型泛函：min_u { ½||Ku−g||² + G(u;α) }，其中G为对空间与时间导数TV范数的下确界卷积。
• 采用非光滑、非线性参数化的正则化模型，其中参数α（包括κ）以前非凸、非Lipschitz方式进入下层问题，导致标准收敛理论失效。
• 使用迭代优化方法数值求解双层问题，利用真实数据计算上层损失函数。
• 对重建结果及分量分解执行伽马校正与视觉分析，以评估定性性能。

实验结果

研究问题

• RQ1 双层优化能否在标准理论不适用的动态反问题中，有效学习非线性依赖的正则化参数？
• RQ2 在具有不同运动特性的视频序列中，空间与时间正则化之间的最优平衡（κ）如何变化？
• RQ3 下确界卷积模型是否能实现有意义的空间与时间分量分解，且该分解在参数学习下是否稳定？
• RQ4 与标准Tikhonov或TV方法相比，所学习的正则化在多大程度上减少了视频去噪中的伪影（如阶梯效应）？
• RQ5 在复杂运动存在的情况下，不同误差度量（PSNR、SSIM）与视觉质量及最优参数选择的相关性如何？

主要发现

• 在高动态的'flight'序列中，最优κ约为0.52，表明空间与时间正则化权重接近相等，两者均对重建有贡献。
• 在以动态内容为主的'Harlem shake'序列中，最优κ为0.0265，表明时间正则化占主导，方法实现了41.02 dB的PSNR和0.9604的SSIM。
• 在'flight'序列中，最优κ为0.542，方法实现46.87 dB的PSNR和0.942的SSIM，表明在复杂运动下表现优异。
• 在背景静止的序列中，空间与时间分量的分解清晰可辨，κ ≈ 0或1，表明某一成分占主导。
• 即使原始κ值超出[0,1]范围，该方法仍能成功学习参数，通过公式(4.5)进行转换，视觉与定量评估结果保持一致。
• 研究表明，正则化模型及其参数κ的选择高度依赖于视频内容，仅当模型结构与场景动态特性匹配时，才能实现最优性能。