[論文レビュー] Review of Applications of Generalized Regression Neural Networks in Identification and Control of Dynamic Systems

Ahmad Jobran Al-Mahasneh, Sreenatha G. Anavatti+1 more|arXiv (Cornell University)|May 29, 2018

Fault Detection and Control Systems参考文献 3被引用数 32

ひとこと要約

本稿は、動的システムの同定および制御における一般化回帰ニューラルネットワーク（GRNN）のレビューを行い、複数のベンチマークデータセットを通じて、バックプロパゲーションニューラルネットワーク（BPNN）と比較して、GRNNが著しく高速な学習と高い精度を達成することを示している。主な貢献は、回帰および制御タスクにおいてGRNNの優位性を実証的・実験的に検証したことであり、特に学習誤差と学習時間を最小限に抑えつつ、高い汎化性能を維持できることを示している。

ABSTRACT

This paper depicts a brief revision of Generalized Regression Neural Networks (GRNN) applications in system identification and control of dynamic systems. In addition, a comparison study between the performance of back-propagation neural networks and GRNN is presented for system identification problems. The results of the comparison confirm that GRNN has shorter training time and higher accuracy than the counterpart back-propagation neural networks.

研究の動機と目的

• 一般化回帰ニューラルネットワーク（GRNN）の既存の応用をレビューし、統合する。
• 学習精度と学習時間の観点から、GRNNとバックプロパゲーションニューラルネットワーク（BPNN）の性能を評価・比較する。
• 非線形動的システムのモデリングおよびリアルタイム適応による知能制御の実現において、GRNNの有効性を示す。
• 大規模データセットでの学習において生じる隠れ層の拡大問題に対処するため、クラスタリングや距離に基づくアルゴリズムなどのデータ削減技術について議論する。

提案手法

• GRNNは、隠れ層で正規化されたガウスカーネルを用い、バックプロパゲーションを経由せずにすべての学習パターンを記憶する1パス学習機構を採用する。
• 出力は、入力ベクトルと学習サンプルとの間のユークリッド距離に基づく重み付き平均で計算され、平滑化パラメータσがカーネル幅を制御する。
• コアとなる方程式：$ D_i = (X - X_i)^T(X - X_i) $ および $ \hat{Y} = \frac{\sum_{i=1}^{N} Y_i e^{-D_i/(2\sigma^2)}}{\sum_{i=1}^{N} e^{-D_i/(2\sigma^2)}} $、ここで $ D_i $ は距離、$ \sigma $ は平滑化パラメータである。
• 制御タスクにおいて、オフライン（逆動的モデルとして）およびオンライン（リアルタイム適応を伴い）の両方でGRNNが適用されている。
• 性能評価には、MATLAB MathWorksの7つのベンチマークデータセットを用い、平均二乗誤差（MSE）と学習時間を用いた。
• 四脚クアッドコpterの高度制御をシミュレートした結果、GRNNはリアルタイム追従性と高速学習能力を示した。

実験結果

リサーチクエスチョン

• RQ1 GRNNの性能は、システム同定タスクにおいてバックプロパゲーションニューラルネットワークと比べてどのように異なるか？
• RQ2 動的システムモデリングにおいて、GRNNの学習速度と精度の観点での主な利点は何か？
• RQ3 どのような種類の制御システムにおいてGRNNは効果的に応用可能であり、リアルタイム適応をどのように可能にするか？
• RQ4 大規模データセットでの学習において、GRNNの隠れ層の拡大問題はどのように緩和できるか？

主な発見

• GRNNは、すべてのデータセットでほぼゼロの学習誤差（例：単純なフィットデータセットでは4.44×10⁻¹⁸）を達成し、BPNNの精度を著しく上回った。
• GRNNの学習時間は1データセットあたり常に0.52秒未満であったのに対し、BPNNの学習時間は0.533～4.995秒の範囲にあり、GRNNの優れた高速性が示された。
• コレステロールおよびエンジンのデータセットでは、BPNNの学習誤差が非常に高かった（それぞれ3.67×10²および2.42×10³）、一方でGRNNは誤差5.56×10⁻⁵および2.67×10⁻¹⁰を達成した。
• GRNNは、シミュレートされた四脚クアッドコpterの制御に成功し、高い精度で高度のリファレンス信号を迅速に追従した。
• 本研究は、グローバル近似能力と高速学習能力に起因し、GRNNが回帰、近似、制御タスクにおいて非常に有効であることを確認した。
• 大規模GRNN応用における隠れ層の拡大問題を緩和するため、クラスタリングなどの次元削減技術が推奨される。