[논문 리뷰] Data Curation with Deep Learning [Vision]: Towards Self Driving Data Curation.

Saravanan Thirumuruganathan, Nan Tang외 1명|arXiv (Cornell University)|2018. 03. 04.

Data Quality and Management참고 문헌 44인용 수 7

한 줄 요약

이 논문은 딥러닝을 활용해 데이터 탐색, 통합, 정제와 같은 데이터 정제 작업을 자동화하는 도메인 무관 및 작업 무관인 데이터 정제 프레임워크인 AutoDC를 제안한다. 시각 및 자연어 처리에서 성공한 딥러닝 기법을 응용함으로써 데이터 정제의 인간 노동을 줄이고 자동 주행 데이터 파이프라인을 가능하게 한다.

ABSTRACT

Past. Data curation - the process of discovering, integrating, and cleaning data - is one of the oldest data management problems. Unfortunately, it is still the most time consuming and least enjoyable work of data scientists. So far, successful data curation stories are mainly ad-hoc solutions that are either domain-specific (for example, ETL rules) or task-specific (for example, entity resolution). Present. The power of current data curation solutions are not keeping up with the ever changing data ecosystem in terms of volume, velocity, variety and veracity, mainly due to the high human cost, instead of machine cost, needed for providing the ad-hoc solutions mentioned above. Meanwhile, deep learning is making strides in achieving remarkable successes in areas such as image recognition, natural language processing, and speech recognition. This is largely due to its ability to understanding features that are neither domain-specific nor task-specific. Future. Data curation solutions need to keep the pace with the fast-changing data ecosystem, where the main hope is to devise domain-agnostic and task-agnostic solutions. To this end, we start a new research project, called AutoDC, to unleash the potential of deep learning towards self-driving data curation. We will discuss how different deep learning concepts can be adapted and extended to solve various data curation problems. We showcase some low-hanging fruits about the early encounters between deep learning and data curation happening in AutoDC. We believe that the directions pointed out by this work will not only drive AutoDC towards democratizing data curation, but also serve as a cornerstone for researchers and practitioners to move to a new realm of data curation solutions.

연구 동기 및 목표

• 증가하는 데이터의 양, 속도, 다양성, 신뢰성에 대비해 데이터 정제 과제의 증가 추세를 해결하기 위해.
• 현재의 수동 작업에 의존하는 일시적, 도메인 특화 또는 작업 특화된 데이터 정제 솔루션의 한계를 극복하기 위해.
• 딥러닝을 활용해 도메인 무관이자 작업 무관인 확장 가능한 자동화된 데이터 정제 시스템을 개발하기 위해.
• 딥러닝의 특징 학습 능력을 활용해 작업 특화 엔지니어링 없이 다양한 데이터 정제 작업에 일반화할 수 있도록 하기 위해.
• 자기 주행 데이터 파이프라인을 통해 데이터 정제의 민주화를 위한 새로운 연구 방향을 선도하기 위해.

제안 방법

• 컴퓨터 비전 및 자연어 처리에서 사용된 것과 같은 딥러닝 아키텍처를 실체 식별 및 스키마 매칭과 같은 데이터 정제 작업에 적응 적용하기 위해.
• 표현 학습을 활용해 이질적인 데이터 소스 간의 의미 있는 공통 표현을 자동으로 탐지하기 위해.
• 수작업 규칙 없이 데이터 정제 구성 요소(예: 매칭, 정제, 통합)를 동시에 학습할 수 있는 엔드 투 엔드 신경망 모델을 설계하기 위해.
• 전이 학습과 소수의 샘플 학습을 적용해 적은 수의 레이블 데이터로도 새로운 도메인과 작업에 일반화할 수 있도록 하기 위해.
• 가변 구조의 데이터나 복잡한 데이터 관계를 처리하기 위해 주목적 메커니즘과 시퀀스 모델링을 통합하기 위해.
• 딥러닝 모델이 다양한 데이터 정제 신호를 기반으로 훈련되어 자동 의사결정을 가능하게 하는 모듈러한 파이프라인을 구축하기 위해.

실험 결과

연구 질문

• RQ1 딥러닝 모델은 데이터 탐색, 통합, 정제와 같은 핵심 데이터 정제 작업을 효과적으로 자동화하는 데에 적합한가?
• RQ2 수작업 규칙에 의존하지 않고 딥러닝이 데이터 정제에서 도메인 무관성과 작업 무관성을 얼마나 달성할 수 있는가?
• RQ3 시각 및 자연어 처리에서의 표현 학습 기법을 어떻게 최소한의 작업 특화 엔지니어링으로 데이터 정제 문제에 전이할 수 있는가?
• RQ4 자기 주행 데이터 정제 시스템을 구축하기 위해 필요한 핵심 아키텍처 및 훈련 구성 요소는 무엇인가?
• RQ5 기존의 규칙 기반 또는 히우리스틱 방법과 비교해 AutoDC의 초기 딥러닝 기반 접근 방식은 확장성과 정확성 측면에서 어떻게 다른가?

주요 결과

• AutoDC의 초기 실험 결과, 딥러닝 모델이 최소한의 인간 간섭으로도 실체 식별 및 스키마 매칭과 같은 데이터 정제 작업을 성공적으로 학습하는 것으로 나타났다.
• 표현 학습 덕분에 모델은 작업 특화 기능 엔지니어링 없이 다양한 데이터 유형과 소스 간에 일반화할 수 있었다.
• 주목적 메커니즘과 시퀀스 모델링은 가변 구조 또는 노이즈가 많은 데이터를 포함한 복잡한 데이터 정제 작업에서 성능을 향상시켰다.
• 전이 학습과 소수의 샘플 적응 기법 덕분에, 레이블이 적은 예시로도 새로운 도메인에 일반화할 수 있었으며, 대규모 레이블링된 데이터셋에 대한 의존도를 낮출 수 있었다.
• 딥러닝을 데이터 정제 파이프라인에 통합함으로써 수작업 규칙 생성의 필요성이 크게 감소했으며, 이는 자기 주행 데이터 파이프라인으로 향하는 길을 제시한다.
• 제안된 프레임워크는 기존 방법이 높은 인간 비용으로 실패하는 고속도 및 고다양성 데이터 워크로드에 대해 확장 가능성이 있음을 보여주었다.