[論文レビュー] Dimensionality reduction methods for molecular simulations

Stefan Doerr, Igor Ariz+2 more|arXiv (Cornell University)|Oct 29, 2017

Protein Structure and Dynamics参考文献 24被引用数 18

ひとこと要約

本研究は、分子動力学シミュレーションにおけるマルコフ状態モデル（MSM）の精度を向上させるために、k-meansクラスタリング、オートエンコーダー、PCA、tICAの次元削減手法を評価する。バリンの折りたたみとベンズアミジン-トライプシンのリガンド結合系のデータを用いて、オートエンコーダー、PCA、tICAが示す遅い運動過程の収束を顕著に向上させることを示した。特にtICAは次元数に非常に敏感であり、オートエンコーダーは高いトレーニングコストを伴うが、強力な潜在的性能を示している。

ABSTRACT

Molecular simulations produce very high-dimensional data-sets with millions of data points. As analysis methods are often unable to cope with so many dimensions, it is common to use dimensionality reduction and clustering methods to reach a reduced representation of the data. Yet these methods often fail to capture the most important features necessary for the construction of a Markov model. Here we demonstrate the results of various dimensionality reduction methods on two simulation data-sets, one of protein folding and another of protein-ligand binding. The methods tested include a k-means clustering variant, a non-linear auto encoder, principal component analysis and tICA. The dimension-reduced data is then used to estimate the implied timescales of the slowest process by a Markov state model analysis to assess the quality of the projection. The projected dimensions learned from the data are visualized to demonstrate which conformations the various methods choose to represent the molecular process.

研究の動機と目的

• 高次元の分子シミュレーションデータにおけるマルコフ状態モデル（MSM）の精度が、次元削減によってどのように向上するかを評価すること。
• 線形手法（PCA、tICA）と非線形手法（オートエンコーダー、k-means）が、遅い運動過程をどれだけ正確に保持できるかを比較すること。
• スパースなシミュレーションデータから、タンパク質の折りたたみおよびリガンド結合の本質的動的挙動を最もよく捉える投影手法を特定すること。
• 次元削減が、示された時間スケールの収束性および状態離散化の質に与える影響を評価すること。
• 各手法が大規模なシミュレーションデータセット上で、計算コストおよびスケーラビリティに与える影響を検討すること。

提案手法

• k-meansクラスタリング、非線形オートエンコーダー、主成分分析（PCA）、時遅れ独立成分分析（tICA）の4つの次元削減手法を適用した。
• 回転・並進不変性を保証するため、Villinに対してはタンパク質-タンパク質間の接触マップ、Benzamidine-Trypsinに対してはリガンド-タンパク質間の接触マップを入力特徴量とした。
• MDシミュレーションで一般的な低データ量状態を再現するため、全データの20–100%をブートストラップで抽出した。
• 次元を1–100に削減し、示された時間スケールの収束性を評価することで、MSMの性能を測定した。
• オートエンコーダーはL2再構成損失とスパarsity正則化（KLダイバージェンス）を用いてトレーニングし、構造的特徴を保持した。
• 各成分またはニューロンが最大・最小に活性化するコンformationを特定することで、学習された投影を可視化した。

実験結果

リサーチクエスチョン

• RQ1 分子動力学シミュレーションにおけるMSMの示された時間スケールの正確性を最も高める次元削減手法はどれか？
• RQ2 次元削減後の次元数が、特にtICAおよびオートエンコーダーにおいてMSMの信頼性にどのように影響するか？
• RQ3 オートエンコーダーのような非線形手法が、PCA や tICA といった線形手法を上回って、遅いコンformational 動的挙動を捉えることができるか？
• RQ4 分子動力学シミュレーションで一般的なスパースなデータ条件下で、各手法の性能はどの程度か？
• RQ5 計算コストおよびトレーニング時間は、各手法の実用的適用性にどの程度影響を及えるか？

主な発見

• バリンの折りたたみ系において、高次元データのみでは信頼性のあるMSMが得られなかったが、次元削減手法を適用することで時間スケールの収束性が向上した。
• tICA、PCA、オートエンコーダーがバリン系で最も優れた性能を示し、特にtICAは使用する次元数に極めて敏感であった。
• オートエンコーダーはPCA や tICA と同等の性能を達成し、接触マップデータにおける非線形特徴抽出の強力な潜在的性能を示した。
• k-meansクラスタリングは最も高速で、Villinの全データセットを10次元に投影するのに数秒で完了したが、オートエンコーダーはGPU上で約40分を要した。
• オートエンコーダーにおけるスパarsity正則化はβ=3、p=0で実施されたが、ハイパーパrameterチューニングが限定的だったため、その全潜在的性能は十分に発揮されなかった。
• 最適な次元数を決定する万能なヒューリスティックは得られず、システム間で一貫した結果を得るには手動でのテストが不可避であった。