[論文レビュー] Comparing Semi-Parametric Model Learning Algorithms for Dynamic Model Estimation in Robotics

Sebastian Riedel, Freek Stulp|arXiv (Cornell University)|Jun 27, 2019

Gaussian Processes and Bayesian Inference参考文献 26被引用数 5

ひとこと要約

本論文は、ロボット工学における逆運動学モデリングの分野で、パラメトリック、ノンパラメトリック、および逐次的セミパラメトリックベースラインと比較して、特に結合的セミパラメトリックガウス過程回帰と、新しい結合的セミパラメトリックベイジアンニューラルネットワークを含む、セミパラメトリックモデル学習アプローチを評価している。結果として、結合的セミパラメトリックガウス過程回帰は、最小限のハイパーパrameterチューニングで一貫して最高の精度を達成し、ニューラルネットワークベースおよび逐次的アプローチを、3つの実機およびシミュレーテッドロボットのシナリオにおいて上回った。

ABSTRACT

Physical modeling of robotic system behavior is the foundation for controlling many robotic mechanisms to a satisfactory degree. Mechanisms are also typically designed in a way that good model accuracy can be achieved with relatively simple models and model identification strategies. If the modeling accuracy using physically based models is not enough or too complex, model-free methods based on machine learning techniques can help. Of particular interest to us was therefore the question to what degree semi-parametric modeling techniques, meaning combinations of physical models with machine learning, increase the modeling accuracy of inverse dynamics models which are typically used in robot control. To this end, we evaluated semi-parametric Gaussian process regression and a novel model-based neural network architecture, and compared their modeling accuracy to a series of naive semi-parametric, parametric-only and non-parametric-only regression methods. The comparison has been carried out on three test scenarios, one involving a real test-bed and two involving simulated scenarios, with the most complex scenario targeting the modeling a simulated robot's inverse dynamics model. We found that in all but one case, semi-parametric Gaussian process regression yields the most accurate models, also with little tuning required for the training procedure.

研究の動機と目的

• ロボットシステムにおける逆運動学モデルの精度を向上させるために、結合的セミパラメトリックモデリングアプローチの有効性を評価すること。
• パラメトリックのみ、ノンパラメトリックのみ、および逐次的セミパラメトリック手法と比較して、セミパラメトリックガウス過程回帰の性能を評価すること。
• パラメトリックおよびノンパラメトリック成分の同時最適化が、逐次的アプローチと比較して、一般化性能および不確実性の定量化に優れているかどうかを調査すること。
• 再現可能性およびセミパラメトリック学習のための今後の研究を促進するために、オープンソースのデータセットおよびパラメトリックモデルを提供すること。

提案手法

• 既知のパラメトリックモデル $ h_{\theta_m}(x) $ とノンパラメトリックな残差モデル $ g_{\theta_{np}}(x) $ の組み合わせとして、セミパラメトリックモデル学習を形式化し、$ f(x) \approx h_{\theta_m}(x) + g_{\theta_{np}}(x) $ と表す。
• 勾配ベース最適化を用いて、パラメトリックおよびノンパラメトリックの両方のパrameterを同時に最適化する、結合的セミパラメトリックガウス過程回帰（LLS-GP）を採用する。
• パラメトリックモデルとニューラルネットワークを統合し、残差をエンドツーエンドで学習する、新しい結合的セミパラメトリックベイジアンニューラルネットワーク（BaMbANN）を提案する。
• 逐次的セミパラメトリックベースライン（LLS-SVRおよびLLS-GP）を実装し、まず最小二乗法またはサポートベクターレグレッションを用いてパラメトリックモデルのパrameterを推定した後、ガウス過程を用いて残差を学習する。
• 予測精度および不確実性の定量化の評価指標として、ネガティブ・ログ尤度（NLLH）および平均二乗誤差（RMSE）を用いる。
• すべての手法を、1台の実機（可変インピーダンスアクチュエータ）および2つのシミュレーテッドロボットシステムを含む、3つのテストシナリオに適用する。

実験結果

リサーチクエスチョン

• RQ1 結合的セミパラメトリックモデリングは、逐次的セミパラメトリックおよび完全にパラメトリックまたはノンパラメトリックな手法と比較して、顕著に逆運動学モデルの精度を向上させるか？
• RQ2 結合的セミパラメトリックベイジアンニューラルネットワークの性能は、結合的セミパラメトリックガウス過程回帰と比較して、精度および不確実性推定の観点でどのように異なるか？
• RQ3 パラメトリックおよびノンパラメトリック成分の同時最適化と逐次的最適化の違いが、内挿および外挿設定における一般化性能に与える影響は何か？
• RQ4 さまざまなセミパラメトリックアプローチは、特に実世界のロボットシナリオにおいて、モデル不一致やデータ外れに対してどれほど頑健であるか？

主な発見

• 1つのテストシナリオを除き、すべてのシナリオで結合的セミパラメトリックガウス過程回帰が最小のRMSEを達成し、内挿および外挿設定の両方で優れた予測精度を示した。
• 結合的セミパラメトリックベイジアンニューラルネットワーク（BaMbANN）は、逐次的ベースラインと同等の精度を達成したが、セミパラメトリックガウス過程回帰の性能には及ばなかった。
• BaMbANNアプローチは、独立した学習実行間でモデル精度のばらつきが著しく高く、他の手法と比較して学習の安定性が劣ることが示された。
• セミパラメトリックガウス過程回帰は、すべてのシナリオで最低のネガティブ・ログ尤度（NLLH）を測定し、頑健な不確実性推定を提供した。
• LLS-SVRおよびLLS-GPなどの逐次的セミパラメトリック手法は、完全にパラメトリックまたはノンパラメトリックなモデルよりも精度が向上したが、結合的アプローチに劣った。
• 著者らは、すべての学習およびテストデータ、およびパラメトリックモデルを公開し、セミパラメトリック学習のための再現可能性および今後の研究を支援した。