[論文レビュー] Domain-specific loss design for unsupervised physical training: A new approach to modeling medical ML solutions

Hendrik Burwinkel, H. Matz+7 more|arXiv (Cornell University)|May 9, 2020

Machine Learning in Healthcare参考文献 30被引用数 2

ひとこと要約

本論文では、物理学に裏付けられた損失関数にドメイン固有の微分可能な光線追跡モデルを統合した、新しい深層学習フレームワークであるOpticNetを提案する。物理的で正確な眼モデルを用いた教師なし事前学習と、その後の実際の患者データへのファインチューニングを可能にすることで、OpticNetは2つのバイオメトリックデータセットにおいて、既存の式や標準的なニューラルネットワークをはるかに上回る、最先端のIOLパワー予測性能を達成した。

ABSTRACT

Today, cataract surgery is the most frequently performed ophthalmic surgery in the world. The cataract, a developing opacity of the human eye lens, constitutes the world's most frequent cause for blindness. During surgery, the lens is removed and replaced by an artificial intraocular lens (IOL). To prevent patients from needing strong visual aids after surgery, a precise prediction of the optical properties of the inserted IOL is crucial. There has been lots of activity towards developing methods to predict these properties from biometric eye data obtained by OCT devices, recently also by employing machine learning. They consider either only biometric data or physical models, but rarely both, and often neglect the IOL geometry. In this work, we propose OpticNet, a novel optical refraction network, loss function, and training scheme which is unsupervised, domain-specific, and physically motivated. We derive a precise light propagation eye model using single-ray raytracing and formulate a differentiable loss function that back-propagates physical gradients into the network. Further, we propose a new transfer learning procedure, which allows unsupervised training on the physical model and fine-tuning of the network on a cohort of real IOL patient cases. We show that our network is not only superior to systems trained with standard procedures but also that our method outperforms the current state of the art in IOL calculation when compared on two biometric data sets.

研究の動機と目的

• 白内障手術における眼内レンズ（IOL）パワー予測の精度を向上させること。
• 完全にデータ駆動型または物理学に基づくIOL計算手法の限界を克服し、両方のアプローチを統合すること。
• 既存の機械学習ソリューションにおける物理的一致性の欠如と、正確なIOL幾何形状モデリングの不足を解消すること。
• 限られたアノテート済み医療データを活用するため、物理的モデル上で教師なし事前学習を実施する手法を開発すること。
• 物理的モデルから実際の患者データへの転移学習を可能にし、一般化性能を向上させるとともに過学習を低減すること。

提案手法

• 人間の眼の完全なIOL幾何形状と光学的性質を考慮した、ドメイン固有の微分可能な単一光線光線追跡モデルを提案する。
• 光の伝播物理学に基づいた新しい微分可能な損失関数を設計し、物理的勾配をニューラルネットワークにバックプロパゲート可能にする。
• 物理的制約をネットワーク重みに埋め込むために、シミュレートされた物理的眼モデル上で教師なし事前学習を実施する。
• 転移学習手順を導入：事前学習済みネットワークを実際のバイオメトリック患者データでファインチューニングし、臨床的ばらつきに適応する。
• バイオメトリック眼データを処理し、IOLパワーを予測するために残差U-NetアーキテクチャをOpticNetに採用する。
• 5分割交差検証を用いて性能を検証し、標準IOL式およびベースラインニューラルネットワークと比較する。

実験結果

リサーチクエスチョン

• RQ1 微分可能な物理学ベースの損失関数は、標準的な教師あり学習と比較して、IOLパワー予測の精度を向上させることができるか？
• RQ2 物理的眼モデル上で教師なし事前学習を実施することで、データが少ない医療機械学習における一般化性能の向上と過学習の低減が達成できるか？
• RQ3 物理的モデルから実際の患者データへの転移学習により、既存のIOL計算式を著しく上回る性能が得られるか？
• RQ4 完全なIOL幾何形状と正確な光の伝播を組み込むことで、予測性能にどのような影響を与えるか？
• RQ5 提案手法は、異なるバイオメトリックデータ分布、特に統合データセットを含む環境でも頑健に機能するか？

主な発見

• OpticNetは、最初のデータセットで平均絶対誤差（MAE）が0.206 D、2番目のデータセットで0.264 Dを達成し、すべての基準IOL式およびベースラインニューラルネットワークを著しく上回った。
• IOL予測における平均二乗誤差（RMSE）は、最初のデータセットで0.402 D、2番目のデータセットで0.551 Dにまで低下し、バーレット・ユニバーサルII式即ちをも上回った。
• 物理的事前学習を行わない標準ニューラルネットワーク（Solo NN）は著しく過学習しており、最初のデータセットでRMSEが0.759 D、2番目のデータセットで0.916 Dに達し、一般化性能が著しく低いことが示された。
• OpticNetの性能は、すべての基準式と統計的に優れており（大多数のケースでp < 0.001）、わずかに小さいデータセットでのホッファーQ式に対してはp値が0.08にとどまった。
• 物理的光線追跡モデル（Raytracer）単体でも大多数の式を上回る性能を示したが、OpticNetに劣っており、物理モデリングと学習による適応の組み合わせの利点を裏付けた。
• 転移学習スキームにより、OpticNetはデータセット間で一般化可能であり、両データセットを統合した際には最も優れた性能を示し、MAEが0.249 Dにまで低下した。