[論文レビュー] Knowledge will Propel Machine Understanding of Content: Extrapolating from Current Examples

Amit Sheth, Sujan Perera+1 more|arXiv (Cornell University)|Oct 25, 2016

Natural Language Processing Techniques参考文献 36被引用数 10

ひとこと要約

この論文は、ラベル付きデータが乏しい、もしくは主観的・暗黙的・マルチモーダルな内容を含むタスクにおいて、知識統合が複雑なテキストおよびマルチモーダルデータの機械理解を進めるために不可欠であると主張している。ラベル付きデータが不足する状況や、主観的・暗黙的・マルチモーダルなコンテンツを扱う際、ドメイン固有の知識からクロスドメインの知識に至るまで、意図的に作成された知識を機械学習および自然言語処理（NLP）技術と組み合わせることで、著者らは、データ駆動型アプローチのみに依存するのとは異なり、モデルの一般化性能と性能を顕著に向上させられることを示している。

ABSTRACT

Machine Learning has been a big success story during the AI resurgence. One particular stand out success relates to unsupervised learning from a massive amount of data, albeit much of it relates to one modality/type of data at a time. In spite of early assertions of the unreasonable effectiveness of data, there is increasing recognition of utilizing knowledge whenever it is available or can be created purposefully. In this paper, we focus on discussing the indispensable role of knowledge for deeper understanding of complex text and multimodal data in situations where (i) large amounts of training data (labeled/unlabeled) are not available or labor intensive to create, (ii) the objects (particularly text) to be recognized are complex (i.e., beyond simple entity-person/location/organization names), such as implicit entities and highly subjective content, and (iii) applications need to use complementary or related data in multiple modalities/media. What brings us to the cusp of rapid progress is our ability to (a) create knowledge, varying from comprehensive or cross domain to domain or application specific, and (b) carefully exploit the knowledge to further empower or extend the applications of ML/NLP techniques. Using the early results in several diverse situations - both in data types and applications - we seek to foretell unprecedented progress in our ability for deeper understanding and exploitation of multimodal data.

研究の動機と目的

• 複雑で主観的、あるいは暗黙的な内容を含むテキストおよびマルチモーダルデータの理解において、データに依存する機械学習モデルの限界を克服すること。
• ラベル付きまたはラベルなしの訓練データが不足する状況において、ドメイン固有の知識やクロスドメインの知識がどのように補完的役割を果たすかを調査すること。
• 知識の創出と効果的な活用が、実世界の応用において、既存の機械学習およびNLP技術を拡張・強化できることを実証すること。
• 学習フレームワークに知識を統合することで、マルチモーダル理解の分野における急速な進歩を予測すること。

提案手法

• ドメイン固有の知識ベースやクロスドメインの知識ベースを含む、多様なソースからの構造化知識の作成。
• 外部知識をニューラルネットワークと統合するモデルの設計により、推論力と一般化性能の向上。
• 低リソース環境や複雑なテキスト理解のシナリオにおける表現学習の向上に知識を応用。
• テキスト、ビジョン、音声などの複数モダリティ間の統一フレームワーク内で、知識を用いてアライメントと推論を実現。
• 暗黙のエンティティや主観的コンテンツを含むシナリオにおいて、知識を用いて表現学習をガイドすること。
• 多様なデータタイプおよび応用分野において、知識拡張型モデルの妥当性・一般化性能・耐性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータが乏しく、収集に費用がかかる状況において、知識はどのように機械学習モデルの性能を向上させるか？
• RQ2 名前付きエンティティの単純な認識を超えて、知識はどのように複雑で主観的、あるいは暗黙的なコンテンツの理解を向上させるか？
• RQ3 マルチモーダル学習に知識を効果的に統合することで、複数モダリティ間のアライメントと推論がどのように向上するか？
• RQ4 既存のNLPおよび機械学習技術の能力を、低リソース環境や複雑なドメインにおいてどのように拡張するかに、知識は果たす役割は何か？
• RQ5 意図的に作成された知識は、多様な応用分野において、モデルの一般化性能と性能に測定可能な向上をもたらすか？

主な発見

• 知識統合により、大規模なラベル付きデータが入手不可であっても、複雑なテキストおよびマルチモーダルデータのより深い理解が可能になる。
• ドメイン固有の知識やクロスドメインの知識を用いることで、主観的・暗黙的コンテンツ認識タスクにおけるモデル性能が顕著に向上する。
• 知識拡張型モデルは、多様なデータタイプおよび応用分野において、一般化性能と耐性が向上していることが示された。
• 意図的に作成された知識は、既存の機械学習およびNLP技術の範囲および効果を効果的に拡張できる。
• 複数の応用分野における初期の結果から、知識が複雑なシナリオにおいて、未曾有の理解水準に達するモデルの能力を強化していることが確認された。
• 知識と機械学習の相乗効果は、単にデータ駆動型アプローチを超えたマルチモーダル理解分野における急速な進歩を実現する道筋を示している。