[論文レビュー] Physicist's Journeys Through the AI World - A Topical Review. There is no royal road to unsupervised learning

Imad Alhousseini, Wissam Chemissany+2 more|arXiv (Cornell University)|May 2, 2019

Adaptive Dynamic Programming Control参考文献 7被引用数 4

ひとこと要約

この論文では、事前の知識なしに観測データから物理法則を自律的に発見することができる深層学習フレームワーク「AI Physicist」を提示する。人工ニューラルネットワーク、強化学習、およびオッカムの剃刀に基づく分割統治戦略を用いて、減衰振動子、量子ビットのダイナミクス、日心説的運動といった物理理論を再構築し、生データから根本的な原理を教師なしで発見することを実証する。

ABSTRACT

Artificial Intelligence (AI), defined in its most simple form, is a technological tool that makes machines intelligent. Since learning is at the core of intelligence, machine learning poses itself as a core sub-field of AI. Then there comes a subclass of machine learning, known as deep learning, to address the limitations of their predecessors. AI has generally acquired its prominence over the past few years due to its considerable progress in various fields. AI has vastly invaded the realm of research. This has led physicists to attentively direct their research towards implementing AI tools. Their central aim has been to gain better understanding and enrich their intuition. This review article is meant to supplement the previously presented efforts to bridge the gap between AI and physics, and take a serious step forward to filter out the "Babelian" clashes brought about from such gabs. This necessitates first to have fundamental knowledge about common AI tools. To this end, the review's primary focus shall be on deep learning models called artificial neural networks. They are deep learning models which train themselves through different learning processes. It discusses also the concept of Markov decision processes. Finally, shortcut to the main goal, the review thoroughly examines how these neural networks are capable to construct a physical theory describing some observations without applying any previous physical knowledge.

研究の動機と目的

• 機械がデータから物理法則を発見できるようにすることで、物理学と人工知能の間の格差を埋めること。
• 事前の知識なしに物理理論を構築できるシステムを開発することで、物理学における教師なし学習の課題に取り組むこと。
• 深層ニューラルネットワークが自己組織的学習を通じて、生データから複雑な物理的原則を自律的に推論できることを示すこと。
• 対称性やゲージ不変性といった物理に由来するインダクティブバイアスを、一般化性能を向上させるために機械学習アーキテクチャに統合することの役割を調査すること。
• 高エネルギー物理学および強相関電子系物理学における、古典的および量子的機械学習を統合する「量子AI Physicist」の基盤を築くこと。

提案手法

• 生データからの特徴学習と表現学習のためのコアアーキテクチャとして、人工ニューラルネットワーク（ANN）を採用する。
• 効率的なニューラルネットワークの訓練のため、確率的勾配降下法（SGD）およびAdam最適化手法を用いる。
• 価値関数とベルマン方程式を用いたマルコフ決定過程（MDPs）による強化学習を適用し、方策学習をガイドする。
• 複雑な問題を単純で解釈可能な部分理論に分割する分割統治アルゴリズムを実装する。
• モデル選択段階で、より単純で一般化しやすい理論を優先するため、オッカムの剃刀を適用する。
• 関連する理論を統合的に統合し、一貫性があり最小限の物理的記述を生成する統合アルゴリズムを用いる。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは、いかなる事前の物理的知識なしに、観測データから物理法則を発見できるか？
• RQ2 深層学習モデルは、物理学者の科学的推論プロセスを模倣するようにどのように構造化できるか？
• RQ3 対称性や単純さといったインダクティブバイアスは、物理法則の教師なし発見を可能にする上で果たす役割は何か？
• RQ4 強化学習と動的計画法は、AIが物理理論を構築するのをどのように支援できるか？
• RQ5 このフレームワークは、量子系に拡張可能か、量子機械学習と統合可能か？

主な発見

• AI Physicistは、事前の物理方程式なしに、時間領域データからのみの観測を用いて減衰振動子のダイナミクスを成功裏に再構築した。
• モデルは測定データから量子ビットの振る舞いを正確に推定し、非古典的系からの学習能力を示した。
• 日心説的モデルの実験では、惑星の運動データから万有引力の逆二乗則を発見し、教師なし学習によってケプラーの法則を回復した。
• オッカムの剃刀と分割統治戦略の統合により、モデルの一般化性能が著しく向上し、過学習が軽減された。
• フレームワークは、ニューラルネットワークがデータから対称性や保存則を自律的に発見できることを示し、自動科学的発見への道筋を示唆した。
• 著者らは、将来の拡張として、量子機械学習とテンソルネットワークを用いた「量子AI Physicist」の構築を提案し、高エネルギー物理学および強相関系物理学における発見可能性を高めることを期待している。