[論文レビュー] Human-like machine learning: limitations and suggestions

Georgios Mastorakis|arXiv (Cornell University)|Nov 14, 2018

Human Pose and Action Recognition参考文献 32被引用数 8

ひとこと要約

この論文は、コンピュータビジョンにおけるデータ駆動型機械学習を批判し、大規模で代表的なデータセットに依存することで一般化性とロバスト性が制限されることを主張する。本稿では、物理法則に基づくシミュレーションや自己学習のアプローチを提案し、データパターンを超えた行動理解を可能にすることで、多数のラベル付き例が不要な人間並みの適応性を実現することを目的とする。

ABSTRACT

This paper attempts to address the issues of machine learning in its current implementation. It is known that machine learning algorithms require a significant amount of data for training purposes, whereas recent developments in deep learning have increased this requirement dramatically. The performance of an algorithm depends on the quality of data and hence, algorithms are as good as the data they are trained on. Supervised learning is developed based on human learning processes by analysing named (i.e. annotated) objects, scenes and actions. Whether training on large quantities of data (i.e. big data) is the right or the wrong approach, is debatable. The fact is, that training algorithms the same way we learn ourselves, comes with limitations. This paper discusses the issues around applying a human-like approach to train algorithms and the implications of this approach when using limited data. Several current studies involving non-data-driven algorithms and natural examples are also discussed and certain alternative approaches are suggested.

研究の動機と目的

• データ不足や代表的でないデータによる現在のデータ駆動型機械学習の行動認識における限界を是正すること。
• 人間の学習をデータに基づいて行うことが最適であるのか、あるいは代替的なデータフリーな手法がより優れたパフォーマンスをもたらすのかを検討すること。
• 大規模なアノテート済みデータセットへの依存を低減するため、シミュレーションベースおよび自己学習アプローチを調査すること。
• 物理的理解（例：重力、力学的ダイナミクス）が、ロバストで一般化可能なAI行動を可能にする役割を検証すること。
• 人間によるデータのキュレーションから、自律的で物理的知見に基づき、自己矯正可能なAIシステムへの移行を提言することにより、高度な人工知能を実現すること。

提案手法

• 歩行や転倒などの行動のための合成トレーニングデータを生成するために、シミュレーションエンジン（例：マイオスケルタル、物理ベース）を用いる。
• 重力、質量、姿勢などの物理法則をモデルに統合することで、ラベルなしでも現実世界のダイナミクスを反映した行動を可能にする。
• スティックモデルを用いた強化学習により、走行やジャンプなどの歩行行動を訓練する。
• 動画データではなく、数学的シミュレーションを用いて、物体の落下や人の転倒などのイベントをデータフリーでモデリングすることを提言する。
• 人間の模倣行動の観察に依存するのではなく、物理的相互作用をシミュレートすることで学習・自己矯正を行うAIシステムの構築を提唱する。
• データから条件を暗記するのではなく、表面が滑らかである理由といった因果的理解をモデルに埋め込むことを提案する。

実験結果

リサーチクエスチョン

• RQ1 大規模で多様なラベル付きデータセットに依存せずに、機械学習が行動認識において人間並みのロバスト性を達成できるか？
• RQ2 現在のデータ駆動型アプローチは、遮蔽、レアイベント、物理的ばらつきの下でどれほど一般化に失敗するのか？
• RQ3 物理ベースのシミュレーションモデルは、行動認識のためのAIトレーニングにおいて、実世界の動画データに依存するのを代替または低減できるか？
• RQ4 生物学的発達にインspiredされた自己学習および自己矯正メカニズムは、人間による監視学習を上回るAIパフォーマンスをどのように向上させるか？
• RQ5 物理的ダイナミクスの因果的理解は、観察済み例を超えて一般化を可能にするAIに果たす役割は何か？

主な発見

• コンピュータビジョンにおける現在のデータ駆動型アプローチは、特に遮蔽やレアイベント下で、限られた、代表的でない、あるいはバイアスがかかるデータセットのため、一般化性に欠ける。
• シミュレーションによる合成データはサンプルサイズを増やすが、物理的行動のばらつきや、車両衝突や転倒のような複雑なシナリオのばらつきを十分に高められない。
• 物理ベースのシミュレーションモデル（例：転倒にはマイオスケルタル、歩行には二足歩行）は、データフリーな行動モデリングの概念的実証を示しているが、スケーラビリティには限界がある。
• 生物学的発達にインspiredされた自己学習および自己矯正メカニズムは、人間によるアノテーションデータへの依存を低減する可能性を秘めているが、AI分野ではまだ十分に調査されていない。
• 重力や表面の摩擦といった因果的物理的原則の理解により、事前に観察されていなくても行動を推論できるようになり、適応性と一般化性が向上する。
• 物理的知見を学習フレームワークに統合することで、AIが自律的に行動をシミュレート・矯正でき、長期的なパフォーマンスとロバスト性において、データ集約型手法を上回る可能性がある。