[논문 리뷰] Opening the black box of deep learning

Dian Lei, Xiaoxiao Chen외 1명|arXiv (Cornell University)|2018. 05. 22.

Generative Adversarial Networks and Image Synthesis참고 문헌 32인용 수 24

한 줄 요약

이 논문은 양자역학과 통계역학에 의해 지배되는 물리계로 간주되는 딥러닝을 설명하기 위한 물리기반 프레임워크를 제안한다. 이 프레임워크는 컨볼루션, 풀링, 활성화와 같은 핵심 연산이 물리적 원리로부터 자연스럽게 유도됨을 보여주며, 딥러닝의 성공이 보편적인 물리법칙과의 일치에서 비롯됨을 입증한다. 이는 딥러닝의 효과성과 일반화 능력에 대한 통합적이고 이론적으로 탄탄한 설명을 제공한다.

ABSTRACT

The great success of deep learning shows that its technology contains profound truth, and understanding its internal mechanism not only has important implications for the development of its technology and effective application in various fields, but also provides meaningful insights into the understanding of human brain mechanism. At present, most of the theoretical research on deep learning is based on mathematics. This dissertation proposes that the neural network of deep learning is a physical system, examines deep learning from three different perspectives: microscopic, macroscopic, and physical world views, answers multiple theoretical puzzles in deep learning by using physics principles. For example, from the perspective of quantum mechanics and statistical physics, this dissertation presents the calculation methods for convolution calculation, pooling, normalization, and Restricted Boltzmann Machine, as well as the selection of cost functions, explains why deep learning must be deep, what characteristics are learned in deep learning, why Convolutional Neural Networks do not have to be trained layer by layer, and the limitations of deep learning, etc., and proposes the theoretical direction and basis for the further development of deep learning now and in the future. The brilliance of physics flashes in deep learning, we try to establish the deep learning technology based on the scientific theory of physics.

연구 동기 및 목표

• 순수 수학이 아닌 물리학에 기반한 이론적 기반을 제공함으로써 딥러닝의 '블랙박스 문제'를 해결하는 것.
• 딥러닝이 작동하는 이유—특히 깊은 구조가 필요한 이유—를 양자역학과 통계역학의 원리로 설명하는 것.
• 컨볼루션, 풀링, 정규화와 같은 핵심 딥러닝 구성요소를 임의의 알고리즘적 선택이 아니라 물리적 과정으로 통합적으로 이해하는 것.
• 에너지, 엔트로피, 대칭성과 같은 과학법칙, 특히 이들에 기반한 물리학적 원리로 딥러닝을 이론적으로 기반화하여 향후 발전을 위한 기초를 마련하는 것.
• 물리법칙을 따르는 물리적 데이터는 본질적으로 딥러닝 네트워크에 의해 학습 가능하지만, 기호적 데이터나 비물리적 데이터는 그렇지 않음을 보여주는 것.

제안 방법

• 뉴런을 입사하는 웨이브 함수(준입자)에 반응하는 양자계로 모델링한 신경망을 물리계로 간주하며, 양자 중첩과 상호작용 해밀토니안에 의해 지배된다.
• 입력 데이터를 웨이브 함수로 간주하고, 네트워크 활성화를 양자 측정 결과에서 유도된 확률분포로 간주하며, 네트워크가 입자 수나 운동량 측정과 같은 물리적 관측량을 수행한다고 본다.
• 상호작용 포텐셜을 통해 준입자의 자극 상태 수를 측정하는 물리적 연산으로서 컨볼루션을 유도하며, 이는 양자 산란 과정과 유사하다.
• 비용 함수(예: 교차엔트로피)를 통계역학에서의 엔트로피 기반 목표함수로 설정하여 최적화가 에너지 최소화 및 최대 엔트로피 원리와 같은 물리적 원리와 연결됨을 보여준다.
• 재규격화군 개념과 대칭성 원리(예: 국소성, 이동 불변성)를 사용하여 깊은 네트워크에서의 계층적 특징 학습과 일반화를 설명한다.
• 미세구조적(CNN 유사)과 거시구조적(RBM 유사) 모델을 구분한다: CNN은 양자 측정 과정으로, RBM은 많은 미세 상태에 대한 통계적 평균으로 간주된다.

실험 결과

연구 질문

• RQ1 왜 딥러닝은 깊어야 하는가? 어떤 물리적 원리가 깊이를 필수적으로 만드는가?
• RQ2 표준 딥러닝 연산들—컨볼루션, ReLU, 풀링, 정규화—는 어떤 물리법칙에서 유도되는가?
• RQ3 왜 딥러닝 네트워크는 물리적 데이터에 대해 잘 일반화되지만, 기호적 또는 비물리적 데이터에선 실패하는가?
• RQ4 분류 작업에서 교차엔트로피를 비용 함수로 선택하는 데 물리적 근거는 무엇인가?
• RQ5 컨볼루션 신경망의 성공이 알고리즘적 기교가 아니라 물리적 측정 과정의 자연스러운 결과임을 설명할 수 있는가?

주요 결과

• 컨볼루션 신경망은 준입자 자극 상태 수를 물리적 측정으로 수행하며, 컨볼루션 커널은 상호작용 해밀토니안에 해당하여 물리적 특징 추출의 효과성을 설명한다.
• 딥러닝의 성공은 임의적이지 않으며, 국소성, 대칭성, 에너지 최소화와 같은 기본 물리법칙과의 일치에서 비롯되며, 이는 실제 세계 데이터에 내재된 특성이다.
• 교차엔트로피를 비용 함수로 사용하는 것은 통계역학에서의 엔트로피와의 대응으로 인해 정당화되며, 최적화가 무질서와 정보의 물리적 원리와 연결됨을 보여준다.
• 딥러닝의 일반화 능력은 실제 세계 데이터(물리적 데이터)가 자유도가 적은 단순한 물리모델을 따르기 때문에 본질적으로 딥러닝 네트워크에 의해 학습 가능하기 때문이며, 이는 자연스러운 학습 가능성의 근거가 된다.
• 학습을 레이어 단위로가 아니라 종단 간(end-to-end)으로 수행할 수 있는 이유는 물리적 모델이 전체 네트워크를 일관된 양자 측정 과정으로 간주하기 때문이며, 순차적 스택이 아니라는 점에서 설명된다.
• 이 프레임워크는 위치 기반 뉴런과 하이브리드 앙상블 네트워크와 같은 새로운 연구 방향을 예측하며, 물리적 일관성에 기반하고 실험적 검증이 가능하다.