[논문 리뷰] Artificial Neural Network Approach for Solving Fractional order initial value problems

Susmita Mall, Snehashish Chakraverty|arXiv (Cornell University)|2018. 10. 11.

Fractional Differential Equations Solutions참고 문헌 32인용 수 7

한 줄 요약

이 논문은 분수계수 초기값문제(FIVPs)를 해결하기 위해 오차 역전파를 사용하는 다층 피드포워드 구조를 갖춘 새로운 인공신경망(ANN) 접근법을 제안한다. 초기 조건을 네트워크 출력에 통합하고 비지도 학습을 통해 손실 함수를 최소화함으로써 고정밀 근사해를 도출하며, 수치 결과는 기존 방법과 강한 일치를 보인다.

ABSTRACT

In this paper, an Artificial Neural Network (ANN) technique is developed to find solution of celebrated Fractional order Differential Equations (FDE). Compared to integer order differential equation, FDE has the advantage that it can better describe sometimes various real world application problems of physical systems. Here we have employed multi-layer feed forward neural architecture and error back propagation algorithm with unsupervised learning for minimizing the error function and modification of the parameters (weights and biases). Combining the initial conditions with the ANN output gives us a suitable approximate solution of FDE. To prove the applicability of the concept, some illustrative examples are provided to demonstrate the precision and effectiveness of this method. Comparison of the present results with other available results by traditional methods shows a close match which establishes its correctness and accuracy of this method.

연구 동기 및 목표

• 해석적으로 풀기 어려운 분수계수 미분방정식(FDEs)을 해결하기 위한 메쉬 기반, 메타휴리스틱 계산 방법을 개발하기 위해.
• 복잡하거나 비정수계수 도함수를 포함한 FDEs를 다룰 때 전통적인 수치적 방법의 한계를 극복하기 위해.
• 다양한 분수계수를 갖는 FIVPs에 대한 해를 근사하기 위해 인공신경망을 사용하는 것이 실현 가능하고 정확한지 입증하기 위해.
• 기본 해법 및 수치적 해법을 기준으로 제안된 ANN 프레임워크를 벤치마크 예제를 통해 검증하기 위해.

제안 방법

• 분수계수 초기값문제의 해를 근사하기 위해 다층 피드포워드 신경망을 사용한다.
• 손실 함수를 최소화하는 데 기반한 비지도 학습 전략을 사용하여 네트워크를 훈련시킨다. 이 손실 함수는 FDE의 잔차와 초기 조건에서 유도된다.
• 손실 함수는 분수계수 미분방정식의 잔차와 초기 조건 위반을 결합하여 복합 오차 지표를 형성한다.
• 전파 알고리즘을 통해 가중치와 편향을 업데이트하여 훈련 중 총 오차를 최소화한다.
• 초기 조건을 네트워크 출력 구조에 직접 통합하여 훈련 시작 단계부터 만족되도록 보장한다.
• 메쉬 분할이 필요 없이 수렴성과 정확도를 평가하기 위해 몇 가지 예시 FIVPs에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 인공신경망이 높은 정밀도로 분수계수 초기값문제의 해를 효과적으로 근사할 수 있는가?
• RQ2 제안된 ANN 기반 방법은 FDEs를 해결할 때 기존의 수치적 또는 해석적 방법과 비교해 정확도가 높은가?
• RQ3 라벨이 없는 데이터 또는 도메인 분할 없이도 비지도 학습과 역전파를 통해 FDEs를 얼마나 효과적으로 해결할 수 있는가?
• RQ4 네트워크 출력 구조에 초기 조건을 직접 통합함으로써 해의 일致성과 수렴성이 향상되는가?
• RQ5 이 방법은 다양한 분수계수와 비선형 FDEs에 대해 얼마나 강건한가?

주요 결과

• 제안된 ANN 방법은 기존 수치적 방법과 비슷한 정확도를 달성하며, 수치 결과는 정확하거나 기준 해와 밀접한 일치를 보인다.
• 이 방법은 선형 및 비선형 방정식을 포함한 다양한 유형의 분수계수 초기값문제를 효과적으로 처리할 수 있다.
• 오차 역전파를 통한 비지도 학습을 활용하면 라벨이 없는 데이터나 격자 기반 분할이 필요 없이 효과적인 훈련이 가능하다.
• 초기 조건을 네트워크 출력 구조에 통합함으로써 해가 처음부터 초기 조건을 만족함을 보장한다.
• 다양한 시험 케이스에서 이 방법은 강건성과 일관성을 보이며, 분수계수 미분법 문제에 대한 광범위한 응용 가능성을 시사한다.