[논문 리뷰] Training of Physical Neural Networks

Ali Momeni, Babak Rahmani외 26명|arXiv (Cornell University)|2024. 06. 05.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 광학 및 전자기 시스템과 같은 물리적 시스템을 활용해 계산을 수행하는 물리 신경망(PNN)의 학습 방법에 대한 종합적인 리뷰를 제시한다. 백프로파게이션 기반, 백프로파게이션 불필요, 국소 학습 기법을 평가하며, 효율성, 내구성, 하드웨어 호환성 간의 상충 관계를 강조하고, 확장 가능한 에너지 효율적인 AI 시스템을 위한 주요 과제와 향후 방향을 규명한다.

ABSTRACT

Physical neural networks (PNNs) are a class of neural-like networks that leverage the properties of physical systems to perform computation. While PNNs are so far a niche research area with small-scale laboratory demonstrations, they are arguably one of the most underappreciated important opportunities in modern AI. Could we train AI models 1000x larger than current ones? Could we do this and also have them perform inference locally and privately on edge devices, such as smartphones or sensors? Research over the past few years has shown that the answer to all these questions is likely "yes, with enough research": PNNs could one day radically change what is possible and practical for AI systems. To do this will however require rethinking both how AI models work, and how they are trained - primarily by considering the problems through the constraints of the underlying hardware physics. To train PNNs at large scale, many methods including backpropagation-based and backpropagation-free approaches are now being explored. These methods have various trade-offs, and so far no method has been shown to scale to the same scale and performance as the backpropagation algorithm widely used in deep learning today. However, this is rapidly changing, and a diverse ecosystem of training techniques provides clues for how PNNs may one day be utilized to create both more efficient realizations of current-scale AI models, and to enable unprecedented-scale models.

연구 동기 및 목표

• 물리적 플랫폼 간에 다양한 물리 신경망(PNN) 학습 방법을 분석하고 비교하는 것.
• 에너지 효율성, 하드웨어 내구성, 학습 속도를 고려할 때 PNN의 확장성에 있어 핵심 과제를 규명하는 것.
• 계산 비용과 하드웨어 호환성 측면에서 백프로파게이션 기반과 백프로파게이션 불필요 학습 기법 간의 상충 관계를 평가하는 것.
• 내재된 물리적 동역학을 활용해 대규모 저에너지 AI 추론을 실현할 수 있는지 타당성을 평가하는 것.
• 현재 방법의 격차, 특히 하드웨어 변동성과 노이즈에 대한 내구성 측면에서의 격차를 규명함으로써 향후 연구를 위한 도로도를 제공하는 것.

제안 방법

• PNN의 학습 방법을 백프로파게이션 기반, 백프로파게이션 불필요, 국소 학습 접근법으로系적으로 분류한다.
• 메모리 요구량, 월클록 수렴 시간, 디지털 시뮬레이션 필요성, 물리적 파라미터 업데이트 지원 여부 기준으로 각 기법을 평가한다.
• 직접 피드백 정렬(DFA), 평형 전파(EP), 해밀토니안 에코 백프로파게이션(HEB), 산란 백프로파게이션 기법 등을 소개한다.
• 메모리 부담을 줄이고 학습 효율성을 향상시키기 위해 물리적 인식 백프로파게이션 및 애드조인트 방법 기반 접근법을 분석한다.
• 동시 섭동 확률적 근사(SPSA) 및 인구 기반 알고리즘(예: 유전자 알고리즘)과 같은 기울기 기반 최적화 방법을 고려한다.
• 물리적 기울기 계산의 중요성과 손실 없는 시스템에서 시간 역전 대칭성을 활용한 효율적 학습의 중요성을 강조한다.

실험 결과

연구 질문

• RQ1 물리 신경망에서 백프로파게이션 기반과 백프로파게이션 불필요 학습 기법 간의 핵심 상충 관계는 무엇인가?
• RQ2 PNN 하드웨어의 내재된 물리적 동역학을 활용하면 학습 효율성이 어떻게 향상될 수 있는가?
• RQ3 디지털 시뮬레이션에 의존하지 않고도 PNN 학습이 하드웨어 변동성, 노이즈, 파라미터 드리프트에 얼마나 견딜 수 있는가?
• RQ4 대규모 PNN 학습을 위한 최소한의 디지털 계산 요구량은 무엇이며, 이를 어떻게 줄일 수 있는가?
• RQ5 지역 정보만을 필요로 하는 국소 학습 규칙을 사용해 물리적 시스템을 분산형 및 확장 가능한 방식으로 학습시킬 수 있는가?

주요 결과

• 현재까지 존재하는 PNN 학습 방법 중에서 저비용 학습, PNN 하드웨어 표현력의 전면적 활용, 하드웨어 변동성에 대한 내구성의 세 가지 기준을 동시에 충족시키는 방법은 존재하지 않는다.
• 실내에서의 BP 및 물리적 인식 BP와 같은 백프로파게이션 기반 방법은 디지털 시뮬레이션을 필요로 하며, 전통적 딥러닝과 유사한 수렴 시간을 보여 학습 효율성이 제한된다.
• 직접 피드백 정렬(DFA) 및 산란 백프로파게이션은 디지털 계산 요구량을 줄이고 전체 백프로파게이션 없이도 학습이 가능하지만, 수렴 속도는 느리다.
• 애드조인트 방법과 해밀토니안 에코 백프로파게이션(HEB)은 O(1) 메모리 요구량과 O(1) 수렴 시간을 달성해 특정 물리적 시스템에 대해 매우 효율적이다.
• 평형 전파(EP)와 HEB는 시간 역전 대칭성을 가지며 손실이 없는 시스템에 적합하여 최소한의 디지털 오버헤드로 에너지 효율적인 학습이 가능하다.
• SPSA 및 진화 전략과 같은 기울기 기반 최적화 방법은 O(N·T₀)의 시간과 O(N)의 측정값을 요구하므로, 최적화 없이 대규모 모델에 적용하기에는 비현실적이다.