[論文レビュー] Data Curation with Deep Learning [Vision]: Towards Self Driving Data Curation.

Saravanan Thirumuruganathan, Nan Tang+1 more|arXiv (Cornell University)|Mar 4, 2018

Data Quality and Management参考文献 44被引用数 7

ひとこと要約

本論文では、深層学習を活用して、データ発見、統合、クリーニングなどのデータクリーニングタスクを自動化する、ドメインに依存せずタスクに依存しないデータクリーニングフレームワークであるAutoDCを提案する。視覚や自然言語処理で成功を収めた深層学習技術を応用することで、データクリーニングにおける人的労働を削減し、自己走行型データパイプラインの実現を目指す。

ABSTRACT

Past. Data curation - the process of discovering, integrating, and cleaning data - is one of the oldest data management problems. Unfortunately, it is still the most time consuming and least enjoyable work of data scientists. So far, successful data curation stories are mainly ad-hoc solutions that are either domain-specific (for example, ETL rules) or task-specific (for example, entity resolution). Present. The power of current data curation solutions are not keeping up with the ever changing data ecosystem in terms of volume, velocity, variety and veracity, mainly due to the high human cost, instead of machine cost, needed for providing the ad-hoc solutions mentioned above. Meanwhile, deep learning is making strides in achieving remarkable successes in areas such as image recognition, natural language processing, and speech recognition. This is largely due to its ability to understanding features that are neither domain-specific nor task-specific. Future. Data curation solutions need to keep the pace with the fast-changing data ecosystem, where the main hope is to devise domain-agnostic and task-agnostic solutions. To this end, we start a new research project, called AutoDC, to unleash the potential of deep learning towards self-driving data curation. We will discuss how different deep learning concepts can be adapted and extended to solve various data curation problems. We showcase some low-hanging fruits about the early encounters between deep learning and data curation happening in AutoDC. We believe that the directions pointed out by this work will not only drive AutoDC towards democratizing data curation, but also serve as a cornerstone for researchers and practitioners to move to a new realm of data curation solutions.

研究の動機と目的

• データ量、速度、多様性、信頼性の増大に伴うデータクリーニングの課題を解決する。
• 人的作業に大きく依存する現在の一時的でドメイン特化的またはタスク特化的なデータクリーニング手法の限界を克服する。
• 深層学習を用いて、ドメインに依存せずタスクに依存しないスケーラブルな自動データクリーニングシステムを構築する。
• 深層学習の特徴抽出能力を活用し、タスク特化の特徴工学を必要とせずに多様なデータクリーニングタスクに一般化する。
• 自己走行型データパイプラインを通じたデータクリーニングの民主化を実現する新しい研究分野を切り開く。

提案手法

• コンピュータビジョンや自然言語処理で使用されている深層学習アーキテクチャを、エンティティ解決やスキーママッチングなどのデータクリーニングタスクに適応する。
• 表現学習を用いて、異種のデータソース間で意味的で共通する表現を自動的に発見する。
• 手動でルールを設計せずに、マッチング、クリーニング、統合などのデータクリーニングコンponentsを統合的に学習できるエンドツーエンドのニューラルモデルを設計する。
• トランスファーラーニングと少数ショットラーニングを適用し、最小限のラベル付きデータで新しいドメインやタスクに一般化できるようにする。
• アテンション機構とシーケンスモデリングを活用して、構造が可変であるデータや複雑なデータ関係を扱う。
• 深層学習モデルを多様なデータクリーニング信号に基づいて学習させ、自動意思決定を可能にするモジュラーパイプラインを構築する。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、データ発見、統合、クリーニングといったコアなデータクリーニングタスクを、人的介入を最小限に抑えて効果的に自動化できるか？
• RQ2 手動でルールを設計しないで、ドメインに依存せずタスクに依存しないパフォーマンスを達成できるか、深層学習はどの程度その可能性を有するか？
• RQ3 視覚や自然言語処理で得られた表現学習の知見を、タスク特化の工学を最小限に抑えてデータクリーニング問題に適用できるか？
• RQ4 自己走行型データクリーニングシステムを構築するために必要な、主なアーキテクチャ的およびトレーニング的要素は何か？
• RQ5 初期の深層学習ベースのAutoDCアプローチは、従来のルールベースまたはヒューリスティック手法と比較して、スケーラビリティと正確性の面でどの程度優れているか？

主な発見

• AutoDCにおける初期実験では、深層学習モデルが、人的介入を最小限に抑えながらエンティティ解決やスキーママッチングなどのデータクリーニングタスクを効果的に学習できることを示している。
• 表現学習により、タスク特化の特徴工学を必要とせずに、多様なデータタイプやデータソースに一般化する能力が向上した。
• アテンション機構とシーケンスモデリングにより、構造が可変であるか、ノイズが多いデータを含む複雑なデータクリーニングタスクのパフォーマンスが向上した。
• トランスファーラーニングと少数ショット適応により、ラベル付き例が限られた状況でも新しいドメインに一般化できるようになった。これにより、大規模なアノテート済みデータセットへの依存が減少した。
• 深層学習をデータクリーニングパイプラインに統合することで、人的なルール作成の必要性が顕著に減少し、自己走行型データパイプラインへの道筋が示された。
• 提案されたフレームワークは、従来の手法が人的コストの高さにより失敗する高速度・高多様性のデータワークロードに対してもスケーラブルである可能性を示している。