[論文レビュー] Knowledge-augmented Deep Learning and Its Applications: A Survey

Zijun Cui, Tian Gao+2 more|arXiv (Cornell University)|Nov 30, 2022

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本調査は、体系的な同定、表現、統合を通じて、多様な分野知識（科学的および経験的）を統合することにより、深層学習におけるデータ効率性、一般化性能、解釈可能性を向上させるフレームワークとして、知識拡張型深層学習（KADL）を紹介する。本調査は、知識の種別と表現に関する包括的な新規分類法を提示し、コンピュータビジョン、自然言語処理、科学的モデリングにおける統合手法について包括的なレビューを実施し、ハイブリッド統合、不確実性モデリング、意思決定レベルの統合といった主な課題と今後の方向性を特定する。

ABSTRACT

Deep learning models, though having achieved great success in many different fields over the past years, are usually data hungry, fail to perform well on unseen samples, and lack of interpretability. Various prior knowledge often exists in the target domain and their use can alleviate the deficiencies with deep learning. To better mimic the behavior of human brains, different advanced methods have been proposed to identify domain knowledge and integrate it into deep models for data-efficient, generalizable, and interpretable deep learning, which we refer to as knowledge-augmented deep learning (KADL). In this survey, we define the concept of KADL, and introduce its three major tasks, i.e., knowledge identification, knowledge representation, and knowledge integration. Different from existing surveys that are focused on a specific type of knowledge, we provide a broad and complete taxonomy of domain knowledge and its representations. Based on our taxonomy, we provide a systematic review of existing techniques, different from existing works that survey integration approaches agnostic to taxonomy of knowledge. This survey subsumes existing works and offers a bird's-eye view of research in the general area of knowledge-augmented deep learning. The thorough and critical reviews of numerous papers help not only understand current progresses but also identify future directions for the research on knowledge-augmented deep learning.

研究の動機と目的

• データ集約的で解釈不能な深層学習モデルの限界を克服するため、分野知識を統合すること。
• KADLの3大タスク（知識同定、表現、統合）を定義し、体系化すること。
• 学際的かつ包括的な分野知識の包括的で統一的な分類法を提供すること。これは、学問分野に限定された既存の調査とは異なり、科学的知識と経験的知識を含む。
• 知識の種別に配慮した形で統合手法をレビューし、科学的知識と経験的知識の応用における差異を明確にすること。
• 不確実性モデリング、ハイブリッド統合、意思決定レベルの統合といった、モデルの頑健性と解釈可能性を向上させるための未解決課題を特定すること。

提案手法

• 分野知識を科学的知識（例：物理法則、数学的式）と経験的知識（例：規則、事実、ヒューリスティクス）に分類する新規分類法を提案する。
• 知識表現形式を、記号論理、知識グラフ、確率的モデル、数学的式などに分類する。
• データ駆動型のトレーニング時統合と、事前モデルを用いた意思決定レベルの統合に分ける、知識統合手法を体系的にレビューする。
• 知識の種別に応じて統合手法を分類し、科学的知識には物理に基づくニューラルネットワークを、経験的知識にはニューラル記号モデルを適用する。
• 知識の種別から表現形式および統合手法へのマッピングを示す指針ツリー（図9）を導入し、KADL設計のためのロードマップを提供する。
• 不確実性を考慮した統合の必要性を強調し、科学的および経験的知識における不確実性を捉えるために確率的グラフィカルモデルの活用を提唱する。

実験結果

リサーチクエスチョン

• RQ1 深層学習応用において、多様な種類の分野知識（科学的および経験的）を体系的かつ分類的に同定・分類する方法は何か？
• RQ2 異なる種類の分野知識に最も適した表現形式は何か？ また、それらはモデル性能にどのように影響するか？
• RQ3 知識を深層学習モデルに統合する方法は何か？ その統合により、データ効率性、一般化性能、解釈可能性がどのように向上するか？
• RQ4 現在の統合手法の限界は何か？ 特に、不確実性の取り扱いや複数の知識種別の統合において。
• RQ5 頑健で一般化可能で解釈可能な知識拡張型深層学習を実現するため、今後の研究で最も有望な方向性は何か？

主な発見

• 本調査は、科学的知識（例：物理法則）と経験的知識（例：規則、ヒューリスティクス）を明確に区別する包括的な分野知識の分類法を確立し、これにより従来の学問分野に限定された調査を上回る包括性を実現した。
• 既存の統合手法は主にデータと同時に学習されるため、データと知識の間の原理的で明確な分離が欠如しており、解釈可能性と柔軟性に制限が生じている。
• 意思決定レベルの統合（知識に基づく事前モデルとデータ駆動型予測の組み合わせ）は、エンドツーエンドのトレーニング時統合に比べ、よりモジュール的かつ解釈可能な代替手法を提供する。
• 複数の技術（例：アーキテクチャ設計、正則化、精練）を組み合わせるハイブリッド統合手法は、現在のところ未開拓だが、相補的な強みを活かす上で有望である。
• 科学的および経験的知識における不確実性は、現在の手法ではほとんど無視されており、その不確実性を確率的モデリングで捉えることは、依然として未解決の課題のままである。
• 本調査は、実世界の応用に焦点を当てたKADL研究における深刻なギャップを特定した。多くの既存研究は、実用的で広範な展開を想定するのではなく、ラボスケールの科学的問題に限定されている。