[論文レビュー] The troublesome kernel -- On hallucinations, no free lunches and the accuracy-stability trade-off in inverse problems

Nina Maria Gottschling, Vegard Antun+2 more|arXiv (Cornell University)|Jan 5, 2020

Medical Imaging Techniques and Applications被引用数 12

ひとこと要約

本稿は、画像分野におけるAIベースの手法を含む逆問題ソルバーにおける幻覚現象、不安定性、予測不能な性能の背後にある理論的基盤を確立する。著者は、こうした失敗要因が前方作用素の核（kernel）と固有の精度-安定性トレードオフに起因することを証明し、普遍的に最適な再構成写像が存在しないことを示している。これにより、「無料のランチ」の定理が得られ、特定の条件下ではこうした問題が数学的に避けがたいことを説明している。

ABSTRACT

Methods inspired by Artificial Intelligence (AI) are starting to fundamentally change computational science and engineering through breakthrough performances on challenging problems. However, reliability and trustworthiness of such techniques is a major concern. In inverse problems in imaging, the focus of this paper, there is increasing empirical evidence that methods may suffer from hallucinations, i.e., false, but realistic-looking artifacts; instability, i.e., sensitivity to perturbations in the data; and unpredictable generalization, i.e., excellent performance on some images, but significant deterioration on others. This paper provides a theoretical foundation for these phenomena. We give mathematical explanations for how and when such effects arise in arbitrary reconstruction methods, with several of our results taking the form of `no free lunch' theorems. Specifically, we show that (i) methods that overperform on a single image can wrongly transfer details from one image to another, creating a hallucination, (ii) methods that overperform on two or more images can hallucinate or be unstable, (iii) optimizing the accuracy-stability trade-off is generally difficult, (iv) hallucinations and instabilities, if they occur, are not rare events, and may be encouraged by standard training, (v) it may be impossible to construct optimal reconstruction maps for certain problems. Our results trace these effects to the kernel of the forward operator whenever it is nontrivial, but also apply to the case when the forward operator is ill-conditioned. Based on these insights, our work aims to spur research into new ways to develop robust and reliable AI-based methods for inverse problems in imaging.

研究の動機と目的

• 逆問題ソルバー、特に画像分野におけるAI駆動の手法における幻覚現象、不安定性、予測不能な性能の数学的起源を説明すること。
• 特定の入力において高い精度を示すにもかかわらず、再構成手法が失敗する理論的条件を確立すること。
• 前方作用素の核と悪条件性が、深層学習の結果としてのアーティファクトではなく、こうした失敗の中心的要因であることを示すこと。
• 精度と安定性を同時に最適化することが根本的に制限されることを示し、避けがたいトレードオフが生じることを明らかにすること。
• 深層学習に限らず、あらゆる再構成手法に適用可能な理論的枠組みを提供し、逆問題における根本的な限界を明らかにすること。

提案手法

• 前方作用素の核と零空間の性質を用いて、逆問題における再構成写像を分析する数学的枠組みを構築する。
• 安定的核空間性質（rNSP）を適用し、正確かつ安定した回復が可能となる条件を特徴づける。
• rNSPから導かれる誤差バウンドを用いて、スパarsityと測定ノイズの観点から再構成の正確性と安定性を定量的に評価する。
• 「無料のランチ」の定理を証明し、特定の画像で過剰に性能を発揮する場合、一般化時に幻覚や不安定性が生じることを示す。
• 測定作用素Aと再構成写像Ψの共同設計を分析し、安定的かつ正確な回復にはモデルクラスM₁に整合した注意深い整合性が必要であることを示す。
• モデルベース手法（例：ℓ¹最小化）と学習済み写像を比較し、後者は構造的誤差の挙動により幻覚の発生が抑えられることを示す。

実験結果

リサーチクエスチョン

• RQ1 逆問題における再構成手法が、真の値に存在しないが、現実的で信じられるようなアーティファクト（幻覚）を生成する条件は何か？
• RQ2 なぜ一部のAIベースの手法は特定の画像では高い精度を示すが、近接する画像では崩壊的失敗を示すのか？この現象は回避可能か？
• RQ3 不安定性と幻覚は、前方作用素の核の構造に起因する程度はどの程度か？
• RQ4 逆問題における最適な再構成写像は存在可能か？存在しない場合、その理由は何か？
• RQ5 精度-安定性トレードオフはどのように数学的に生じるのか？定量的にバウンディング可能か？

主な発見

• 幻覚は、再構成手法が1つの画像で過剰に性能を発揮する場合に生じ、その結果、1つの画像から別の画像へと不正な現実的詳細が移転される。
• 不安定性と幻覚はまれな現象ではなく、前方作用素の核が非自明な場合、2つ以上の画像で過剰に性能を発揮する場合には数学的に避けがたい。
• 精度と安定性のトレードオフは根本的に最適化が困難であり、「無料のランチ」の定理により、あらゆる画像で最適な1つの手法が存在しないことが証明されている。
• 標準的な訓練手順は、前方作用素が悪条件である場合、間接的に幻覚や不安定性を助長する可能性がある。
• ℓ¹最小化などモデルベース手法は、rNSPを満たしている場合、非物理的なウェーブレット様アーティファクトとして誤差が現れるため、幻覚の発生が抑制されやすい。
• 圧縮センシングに基づく写像は、前方作用素AがrNSPを満たし、信号がモデルクラスM₁に属する場合にのみ安定的かつ正確に機能する。それ以外の場合は、不安定性や幻覚が生じる可能性がある。