[논문 리뷰] Physicist's Journeys Through the AI World - A Topical Review. There is no royal road to unsupervised learning

Imad Alhousseini, Wissam Chemissany외 2명|arXiv (Cornell University)|2019. 05. 02.

Adaptive Dynamic Programming Control참고 문헌 7인용 수 4

한 줄 요약

이 논문은 관측 데이터에서 사전 지식 없이 물리 법칙을 자율적으로 발견할 수 있는 'AI 물리학자'—딥 러닝 프레임워크를 제시한다. 인공 신경망, 강화 학습, 옥카머의 나이프 원칙에 따라 이끌리는 분할 정복 전략을 사용하여, 감쇠된 단자진동자, 큐비트 역학, 일주운동과 같은 물리 이론을 재구성함으로써 원시 데이터에서 기초 원리를 비지도 학습으로 발견하는 데 성공한다.

ABSTRACT

Artificial Intelligence (AI), defined in its most simple form, is a technological tool that makes machines intelligent. Since learning is at the core of intelligence, machine learning poses itself as a core sub-field of AI. Then there comes a subclass of machine learning, known as deep learning, to address the limitations of their predecessors. AI has generally acquired its prominence over the past few years due to its considerable progress in various fields. AI has vastly invaded the realm of research. This has led physicists to attentively direct their research towards implementing AI tools. Their central aim has been to gain better understanding and enrich their intuition. This review article is meant to supplement the previously presented efforts to bridge the gap between AI and physics, and take a serious step forward to filter out the "Babelian" clashes brought about from such gabs. This necessitates first to have fundamental knowledge about common AI tools. To this end, the review's primary focus shall be on deep learning models called artificial neural networks. They are deep learning models which train themselves through different learning processes. It discusses also the concept of Markov decision processes. Finally, shortcut to the main goal, the review thoroughly examines how these neural networks are capable to construct a physical theory describing some observations without applying any previous physical knowledge.

연구 동기 및 목표

• 기계가 데이터에서 물리 법칙을 발견할 수 있도록 물리학과 인공지능의 격차를 메우기.
• 기존 지식 없이 물리 이론을 구성할 수 있는 시스템을 개발하여 물리학에서의 비지도 학습 과제를 해결하기.
• 딥 뉴럴 네트워크가 자율적으로 자기 조직화 학습을 통해 관측 데이터에서 복잡한 물리 원리를 추론할 수 있음을 입증하기.
• 대칭성과 게이지 불변성과 같은 물리 기반의 인덕티브 바이어스를 기계 학습 아키텍처에 통합하여 일반화 능력을 향상시키기.
• 고에너지 물리학과 응집물질 물리학 분야에서 고전적 및 양자 기계 학습을 통합하는 데 기초가 되는 '양자 강화된 AI 물리학자'의 기반 마련하기.

제안 방법

• 원시 데이터에서 특징 학습과 표현을 위해 핵심 아키텍처로 인공 신경망(ANN)을 사용한다.
• 신경망을 효율적으로 훈련하기 위해 확률적 경사 하강법(SGD)과 Adam 최적화 기법을 적용한다.
• 가치 함수와 벨먼 방정식을 사용한 마코프 결정 과정(MDP)을 통한 강화 학습을 통해 정책 학습을 이끌어낸다.
• 복잡한 문제를 더 단순하고 해석 가능한 부분 이론으로 나누는 분할 정복 알고리즘을 구현한다.
• 모델 선택 시 더 단순하고 일반화 능력이 뛰어난 이론을 선호하기 위해 옥카머의 나이프 원칙을 적용한다.
• 유사한 이론들을 통합하여 일관되고 최소한의 물리적 기술로 만드는 통합 알고리즘을 사용한다.

실험 결과

연구 질문

• RQ1 사전 물리 지식 없이 AI 시스템이 관측 데이터에서 물리 법칙을 발견할 수 있는가?
• RQ2 딥 러닝 모델은 어떻게 물리학자가 과학적 추론 과정을 모방할 수 있도록 구성할 수 있는가?
• RQ3 대칭성과 단순성과 같은 인덕티브 바이어스는 비지도 학습을 통한 물리 법칙 발견을 어떻게 지원하는가?
• RQ4 강화 학습과 동적 프로그래밍은 AI가 물리 이론을 구성하도록 훈련시키는 데 어떻게 활용될 수 있는가?
• RQ5 이 프레임워크는 양자 시스템으로 확장되거나 양자 기계 학습과 통합될 수 있는가?

주요 결과

• AI 물리학자는 사전 물리 방정식 없이도 시간 시리즈 데이터에서 감쇠된 단자진동자의 역학을 성공적으로 재구성했다.
• 모델은 측정 데이터에서 큐비트의 양자 행동을 정확히 추론하여 비고전적 시스템에서 학습할 수 있음을 입증했다.
• 일주운동 모델 실험에서 AI 물리학자는 별의 운동 데이터로부터 만유인력의 역제곱 법칙을 유추하여 비지도 학습을 통해 케플러의 법칙을 회복했다.
• 옥카머의 나이프 원칙과 분할 정복 전략의 통합은 모델의 일반화 능력을 크게 향상시키고 과적합을 줄였다.
• 프레임워크는 뉴럴 네트워크가 데이터에서 대칭성과 보존 법칙을 자율적으로 발견할 수 있음을 보여주며 자동 과학 발견의 길을 제시한다.
• 저자들은 향후 양자 기계 학습과 텐서 네트워크를 사용해 '양자 AI 물리학자'로의 확장을 제안하며, 고에너지 물리학과 응집물질 물리학 분야에서의 발견 가능성을 열어둔다.