[論文レビュー] Knowledge Augmented Machine Learning with Applications in Autonomous Driving: A Survey

Julian Wörmann, Daniel Bogdoll+50 more|arXiv (Cornell University)|May 10, 2022

Machine Learning and Data Classification被引用数 14

ひとこと要約

本サーベイは、外部知識を統合することで、データ駆動型モデルの性能を向上させる知識拡張機械学習（KAML）を提案する。低データまたは安全が重要なシナリオにおける汎化性と信頼性の向上を図る。KAML手法を知識統合、抽出、整合性の3つに分類し、構造化された知識がデータ不足を緩和し、実世界の展開におけるモデルの信頼性を高める仕組みを示す。

ABSTRACT

The availability of representative datasets is an essential prerequisite for many successful artificial intelligence and machine learning models. However, in real life applications these models often encounter scenarios that are inadequately represented in the data used for training. There are various reasons for the absence of sufficient data, ranging from time and cost constraints to ethical considerations. As a consequence, the reliable usage of these models, especially in safety-critical applications, is still a tremendous challenge. Leveraging additional, already existing sources of knowledge is key to overcome the limitations of purely data-driven approaches. Knowledge augmented machine learning approaches offer the possibility of compensating for deficiencies, errors, or ambiguities in the data, thus increasing the generalization capability of the applied models. Even more, predictions that conform with knowledge are crucial for making trustworthy and safe decisions even in underrepresented scenarios. This work provides an overview of existing techniques and methods in the literature that combine data-driven models with existing knowledge. The identified approaches are structured according to the categories knowledge integration, extraction and conformity. In particular, we address the application of the presented methods in the field of autonomous driving.

研究の動機と目的

• 自律走行における完全にデータ駆動型のモデルの限界、特に代表されない状況や安全が重要なシナリオにおける課題を解決すること。
• データ不足や分布シフトに対処するために、外部知識を機械学習に統合する手法を特定・分類すること。
• 知識統合、知識抽出、知識整合性の3本の柱に沿って、知識拡張アプローチを体系的に分析すること。
• 自律走行におけるKAMLの実用的影響を示し、安全を確保する上で信頼性と解釈可能性が不可欠な意思決定を実現すること。
• 実世界のAI展開における知識拡張学習の最先端技術と未解決の課題を包括的に概説すること。

提案手法

• 既存のKAML技術を、知識統合（例：記号的ルール、知識グラフ、制約の統合）、知識抽出（例：事前学習モデルやエキスパートシステムから知識を蒸留）、知識整合性（例：論理的一致性や物理的妥当性の強制）の3つの主要コンponentsに分類すること。
• アーキテクチャ的制約、損失関数、アテンションメカニズムを通じて、ニューラルネットワークに事前知識を埋め込む手法を調査し、汎化性能の向上を図ること。
• 知識グラフと記号的推論が、自律システムにおける表現学習と意思決定をどのように支援するかを説明すること。
• 交通ルール、物理的力学、シーンの意味論といった分野固有の知識と一致するようにモデル予測を強制する技術をレビューすること。
• 深層学習と記号的AIを組み合わせたハイブリッド学習フレームワーク、特に神経記号的ネットワークや微分可能な論理モジュールを分析すること。
• 不確実性の定量化とアクティブラーニングが、知識の一貫性を保ちながらアノテーションコストを低減する役割を評価すること。

実験結果

リサーチクエスチョン

• RQ1 自律走行における低データまたはレアイベントのシナリオで、外部知識を効果的にデータ駆動型モデルに統合する方法は何か？
• RQ2 解釈可能な知識を学習済みモデルやエキスパートシステムから抽出するための主な技術的アプローチは何か？特にモデルの透明性を高めるために。
• RQ3 知識整合性メカニズムは、分布外設定において予測が論理的に一貫性を持ち、物理的に妥当であることをどのように保証できるか？
• RQ4 知識拡張モデルは、自律走行アプリケーションにおいて、純粋にデータ駆動型のモデルと比較して、汎化性、安全性、信頼性の面でどのように優れているか？
• RQ5 実世界の安全が重要なシステムにスケーラブルに適用するにあたり、知識拡張機械学習における主な課題と未解決の研究課題は何か？

主な発見

• 知識拡張モデルは、大規模なアノテート済みデータセットへの依存を減らすことで、データが不足する状況での汎化性能を顕著に向上させる。
• 交通ルールや物理的力学といったドメイン知識を統合することで、稀な状況や曖昧な運転状況においても、より信頼性が高く解釈可能な予測が得られる。
• 微分可能な論理や制約付き最適化といった知識整合性を強制する手法は、分布外ケースにおけるモデルの頑健性を高め、予測誤差を低減する。
• 知識グラフと記号的推論による知識統合は、信頼性の高い意思決定を実現するだけでなく、安全が重要なシステムにおけるデバッグと検証を容易にする。
• ハイブリッド神経記号的フレームワークは、深層学習の表現力と記号的AIの推論能力を組み合わせる上で、有望な道筋を示している。
• 進展は見られるものの、スケーラブルな知識取得、動的知識統合、リアルタイムの自律走行システムにおける異種知識ソース間の一貫性確保といった課題は依然として残っている。