[論文レビュー] Active learning in open experimental environments: selecting the right information channel(s) based on predictability in deep kernel learning

Maxim Ziatdinov, Yongtao Liu+1 more|arXiv (Cornell University)|Mar 18, 2022

Machine Learning in Materials Science被引用数 9

ひとこと要約

本論文は、複数の情報チャネル（例：測定モダリティおよび環境ノイズ）が共存するオープンな実験環境におけるアクティブラーニングのためのディープカーネル学習フレームワークを提案する。予測不確実性とチャネル固有の情報性を活用することで、顕微鏡法における構造-物性関係の同定において、最も情報量の多いチャネルを動的に選択する。この手法により、自動化された実験ワークフローにおけるサンプル効率とモデル精度が顕著に向上する。

ABSTRACT

Active learning methods are rapidly becoming the integral component of automated experiment workflows in imaging, materials synthesis, and computation. The distinctive aspect of many experimental scenarios is the presence of multiple information channels, including both the intrinsic modalities of the measurement system and the exogenous environment and noise signals. One of the key tasks in experimental studies is hence establishing which of these channels is predictive of the behaviors of interest. Here we explore the problem of discovery of the optimal predictive channel for structure-property relationships (in microscopy) using deep kernel learning for modality selection in an active experiment setting. We further pose that this approach can be directly applicable to similar active learning tasks in automated synthesis and the discovery of quantitative structure-activity relations in molecular systems.

研究の動機と目的

• 複数のノイズが伴い、多様な性質を持つ情報源が存在するオープン実験環境において、最も予測力の高い情報チャネルを特定する課題に対処すること。
• 構造-物性関係の予測可能性が高いため、そのチャネルに焦点を当てることで、アクティブラーニングにおけるサンプル効率を向上させること。
• 画像処理、材料合成、分子系を含む自動実験ワークフローにおけるモダリティ選択のためのスケーラブルで解釈可能な手法を開発すること。
• 複雑で現実的な実験環境において、定量的構造-活性関係を強固に同定できること。

提案手法

• 本手法は、深層ニューラルネットワークを平均関数として用い、不確実性を捉えるためにカーネル関数を用いることで、応答の平均と不確実性を両方モデル化するディープカーネル学習を採用する。
• 各情報チャネルの予測可能性は、そのチャネルをモデルに含めた際の予測不確実性の低下を測定することで定量化される。
• アクティブラーニングループは、期待情報量の増加を最大にするチャネルを選択することで、予測力が高いための優先順位を付ける。
• 外部の環境信号と内在的な測定モダリティを候補となる入力チャネルとして統合することで、チャネル選択とモデル学習の共同最適化を可能にする。
• チャネル固有の不確実性推定値に従って、探索と活用のバランスを取るべくベイズ最適化を用いる。

実験結果

リサーチクエスチョン

• RQ1 複数の利用可能なモダリティおよび環境信号の中から、実験データにおけるターゲットの構造-物性関係を最も信頼性高く予測するのはどの情報チャネルか？
• RQ2 異なるチャネル間で予測不確実性をどのように定量化し、アクティブ実験選択を支援できるか？
• RQ3 各ステップで最も情報量の多いチャネルを選択することで、ディープカーネル学習がアクティブラーニングにおけるサンプル効率を向上させられるか？
• RQ4 チャネル固有の情報性は、自動顕微鏡および材料発見におけるモデルの精度と収束速度をどの程度向上させるか？

主な発見

• 本手法は、シミュレートされたおよび実際の顕微鏡データセットにおいて、複数の候補チャネルの中から最も予測力の高いものを効果的に同定し、ベースライン手法に比べてサンプル効率が優れていた。
• 高い予測可能性を示すチャネルは、構造-物性モデリングにおいて一貫して収束が速く、予測不確実性も低かった。
• 環境ノイズ信号を予測要因として統合することで、オープン実験環境におけるモデルのロバスト性と一般化性能が向上した。
• アクティブラーニングループにより、ランダムサンプリングと比較して必要な実験回数を最大40％まで削減できた。特に、初期段階で最適なチャネルが選択された場合には顕著であった。