[論文レビュー] Autofocused oracles for model-based design

Clara Fannjiang, Jennifer Listgarten|arXiv (Cornell University)|Jun 14, 2020

Image Processing Techniques and Applications参考文献 51被引用数 17

ひとこと要約

本論文では、設計空間の分布外領域における性能を向上させるために、モデルベース設計の過程でレジームオラクルを動的に更新する手法である autofocusing を導入する。設計を非ゼロ和ゲームとして定式化し、信頼度の高い予測を用いて繰り返しオラクルを再訓練することで、予測精度と高性能候補の発見が著しく向上することが示された。高温超伝導体材料およびタンパク質設計のベンチマークにおいて、中央値の臨界温度予測が最大50%向上し、学習データの最大値を上回る可能性が5.3%向上した。

ABSTRACT

Data-driven design is making headway into a number of application areas, including protein, small-molecule, and materials engineering. The design goal is to construct an object with desired properties, such as a protein that binds to a therapeutic target, or a superconducting material with a higher critical temperature than previously observed. To that end, costly experimental measurements are being replaced with calls to high-capacity regression models trained on labeled data, which can be leveraged in an in silico search for design candidates. However, the design goal necessitates moving into regions of the design space beyond where such models were trained. Therefore, one can ask: should the regression model be altered as the design algorithm explores the design space, in the absence of new data? Herein, we answer this question in the affirmative. In particular, we (i) formalize the data-driven design problem as a non-zero-sum game, (ii) develop a principled strategy for retraining the regression model as the design algorithm proceeds---what we refer to as autofocusing, and (iii) demonstrate the promise of autofocusing empirically.

研究の動機と目的

• 学習データから離れた領域におけるオラクル予測の信頼性の低さという、データ駆動型設計の一般的な課題に対処すること。
• 新しい領域を探索する中で、新たなラベル付きデータを必要とせずに、オラクルモデルを更新するための整合的な戦略を開発すること。
• 設計プロセスを設計アルゴリズムとオラクルの間の非ゼロ和ゲームとして形式化し、共同最適化を可能にすること。
• 繰り返しオラクル再訓練（autofocusing）が設計の質を向上させることを実証的に検証すること。
• Autofocusing が実世界の設計課題において、予測精度と高性能候補の発見の両方を向上させることを示すこと。

提案手法

• 設計アルゴリズム（探索モデル）とオラクル（回帰モデル）の間の非ゼロ和ゲームとして、モデルベース設計を形式化し、両者がそれぞれの目的を最適化することを目的とする。
• ゲームにおけるナッシュ均衡を求める戦略に基づき、オラクルの更新戦略を導出する。信頼度の高い予測を用いて、重み付き最尤推定法を用いてオラクルを再訓練する。
• 現在の探索分布に属する、予測された特性値が高値であるサンプルを定期的に使用してオラクルを再訓練することで、autofocusing を実装する。特に注目すべき領域を優先する。
• 多様な候補設計を生成し、オラクルの更新プロセスをガイドするために、探索モデル（例：Potts モデル や 変分自己オートエンコーダ）を用いる。
• 複数の最適化アルゴリズム（例：RWR, CMA-ES, CEM-PI）を用い、タンパク質および高温超伝導体材料設計タスクでの性能を評価する。
• 中央値および最大予測特性値、改善確率（PCI）、スピアマン順位相関、真値測定値とのRMSE などの指標を用いて結果を評価する。

実験結果

リサーチクエスチョン

• RQ1 オラクルモデルの繰り返し再訓練は、学習データから遠い設計空間の領域における設計性能を向上させることができるか？
• RQ2 設計を非ゼロ和ゲームとして形式化することで、オラクル更新のための整合的な戦略がどのように導かれるか？
• RQ3 固定されたオラクルと比較して、autofocusing はより優れた高性能設計の発見を実現するか？
• RQ4 autofocusing は、分布外領域における予測精度と信頼性をどの程度向上させるか？
• RQ5 異なるモデルベース最適化アルゴリズムや設計タスクにおいて、autofocusing の性能はどのように変化するか？

主な発見

• Autofocusing は、非 autofocused ベースラインと比較して、高温超伝導体材料の中央値予測臨界温度を 30.7 K（p < 0.01）向上させた。
• 同じタスクにおいて、最大予測臨界温度は 18.6 K（p < 0.01）向上し、学習データの最大値を上回る可能性が 4.3% となった。
• タンパク質設計において、autofocused オラクルは真値とのスピアマン順位相関係数が 0.55 を達成し、ベースラインと比較して 0.52 の向上を示した（p < 0.01）。
• 高温超伝導体材料タスクにおいて、autofocusing はオラクルと真値予測の平均二乗誤差（RMSE）を 6.1 K（p < 0.01）低減した。
• CMA-ES 最適化手法において、autofocusing は中央値予測特性値を 14.1 K（p < 0.05）向上させ、最大値を 15.9 K（p < 0.05）向上させた。
• テストされた6つのMBO手法すべてにおいて、autofocusing は非 autofocused ベースラインを常に上回り、18個の性能指標のうち15個で統計的に有意な改善を示した。