[論文レビュー] Hybrid Physical-Deep Learning Model for Astronomical Inverse Problems

François Lanusse, P. Melchior+1 more|arXiv (Cornell University)|Dec 9, 2019

Advanced Image Processing Techniques参考文献 20被引用数 7

ひとこと要約

この論文は、微分可能で物理的根拠を持つ尤度と、ピクセル自己回帰モデルに基づく深層生成事前分布を組み合わせたハイブリッド物理的手法と深層学習モデルを提案し、天文学的逆問題を解く。明示的な尤度、物理的制約、データ駆動型事前分布を統合することで、異なるデータ品質に応じた再訓練なしに解釈可能で微分可能かつ頑健な画像データの源分離を実現する。

ABSTRACT

We present a Bayesian machine learning architecture that combines a physically motivated parametrization and an analytic error model for the likelihood with a deep generative model providing a powerful data-driven prior for complex signals. This combination yields an interpretable and differentiable generative model, allows the incorporation of prior knowledge, and can be utilized for observations with different data quality without having to retrain the deep network. We demonstrate our approach with an example of astronomical source separation in current imaging data, yielding a physical and interpretable model of astronomical scenes.

研究の動機と目的

• 科学的逆問題におけるブラックボックス型深層学習の解釈可能性と一般化の限界を克服すること。
• ノイズモデル、正値制約などの物理的知識（例：非負性）を微分可能な機械学習フレームワークに統合すること。
• 源分離におけるヒューリスティックな形状的事前分布（例：対称性、単調性）を、現実的な天文学的データで学習されたデータ駆動型深層生成事前分布に置き換えること。
• 深層ネットワークの再訓練なしに、さまざまなデータ品質レベルで頑健な推論を可能にすること。
• 物理的前方モデル、明示的な尤度、および複雑な深層事前分布を組み合わせたMAP推論フレームワークの開発

提案手法

• 逆問題をベイズ的MAP推定として定式化：観測値の対数尤度と信号の対数事前分布を最大化する。
• 既知の共分散を持つガウスノイズモデルを用いてデータ尤度をモデル化し、微分可能性と物理的一致性を確保する。
• ピクセル自己回帰モデル（例：PixelCNN）を用いて、高精度なシミュレーションまたは観測データで学習された明示的かつ扱いやすい微分可能な事前分布 $ p_{\theta}(\mathbf{x}) $ を提供する。
• 非微分可能な物理的制約（例：非負性、フラックスの正値性）を、反復的最適化スキームにおける近似作用素を介して統合する。
• 反復的近接勾配法を用いて、組み合わせ損失関数 $ \mathcal{L} = \frac{1}{2}\|\mathbf{y}-\mathbf{A}\mathbf{x}\|_{\Sigma^{-1}}^2 - \log p_{\theta}(\mathbf{x}) + \sum R_i(\mathbf{x}) $ を最適化する。
• 既存のコードベース（例：scarlet）を活用し、その解析的事前分布を学習された深層事前分布に置き換えることで、最先端のデブレンドャーと比較する。

実験結果

リサーチクエスチョン

• RQ1 明示的な尤度を持つ深層生成モデルを物理的前方モデルと効果的に組み合わせることで、天文学的逆問題における解釈可能性が向上するか？
• RQ2 データ駆動型深層事前分布は、ヒューリスティックな形状的事前分布（例：対称性、単調性）と比較して、複雑で不規則な銀河のデブレンドにどの程度優れているか？
• RQ3 1つの訓練済み深層事前分布が、再訓練なしにさまざまなデータ品質レベルにどの程度一般化できるか？
• RQ4 近似作用素を用いることで、微分不能な物理的制約（例：非負性）が微分可能な最適化フレームワーク内で効果的に強制できるか？
• RQ5 最先端の手法（例：scarlet）と比較して、ハイブリッドモデルが残差とアーチファクトをどの程度低減できるか？

主な発見

• 提案手法は、複雑で不規則な銀河を含むシーンにおいて、ベースラインのscarletデブレンドャーと比較して顕著に低い残差を達成した。
• 深層生成事前分布は、剛体的な対称性や単調性制約に起因するアーチファクトを引き起こさずに、現実的な銀河形状を効果的に回復した。
• 尤度関数と前方モデルから深層事前分布を分離したことで、さまざまなノイズレベルやデータ品質に対しても、再訓練なしに頑健性を維持した。
• 近似作用素の使用により、非負性などの物理的制約が効果的に強制されつつ、最適化のための微分可能性が保たれた。
• 定性的な比較では、周囲の源に影響を受ける領域においても、深層事前分布はscarletの解析的事前分布よりもより正確で物理的に妥当な復元成分を生成した。
• 本手法は、微分可能で解釈可能かつ一般化可能な天文学的逆問題のフレームワークを提供し、LSST時代のデータ解析への応用可能性を有する。