[논문 리뷰] Data Curation with Deep Learning [Vision]

Saravanan Thirumuruganathan, Nan Tang외 2명|arXiv (Cornell University)|2018. 03. 04.

Data Quality and Management참고 문헌 58인용 수 6

한 줄 요약

이 시각 논문은 특성 공학, 데이터 부족, 과제별로 특화된 아키텍처 부족 등의 핵심 과제를 해결함으로써 딥러닝(DL)을 활용해 데이터 쿠레이션을 혁신적으로 개선하고자 제안한다. 다중모odal 표현 학습, 데이터 쿠레이션에 유용한 딥러닝 아키텍처 설계, 데이터 효율적인 딥러닝 기법의 적응을 통한 인간의 데이터 탐색, 통합, 정제 작업에 소요되는 노력 감소를 위한 로드맵을 제시한다.

ABSTRACT

Data curation - the process of discovering, integrating, and cleaning data - is one of the oldest, hardest, yet inevitable data management problems. Despite decades of efforts from both researchers and practitioners, it is still one of the most time consuming and least enjoyable work of data scientists. In most organizations, data curation plays an important role so as to fully unlock the value of big data. Unfortunately, the current solutions are not keeping up with the ever-changing data ecosystem, because they often require substantially high human cost. Meanwhile, deep learning is making strides in achieving remarkable successes in multiple areas, such as image recognition, natural language processing, and speech recognition. In this vision paper, we explore how some of the fundamental innovations in deep learning could be leveraged to improve existing data curation solutions and to help build new ones. In particular, we provide a thorough overview of the current deep learning landscape, and identify interesting research opportunities and dispel common myths. We hope that the synthesis of these important domains will unleash a series of research activities that will lead to significantly improved solutions for many data curation tasks.

연구 동기 및 목표

• 데이터 과학자들이 소비하는 시간의 최대 80%를 차지하는 데이터 쿠레이션의 높은 인간적 비용을 해결하기 위해.
• 수작업 특성 공학과 레이블러드 데이터에 의존하는 기존 데이터 쿠레이션 솔루션의 한계를 극복하기 위해.
• 비전과 자연어처리(NLP) 분야에서의 딥러닝 성공 사례를 활용해 데이터 중복 제거, 오류 탐지, 엔티티 매칭 등의 데이터 쿠레이션 작업을 자동화하고 향상시키기 위해.
• 딥러닝 도입을 이끄는 원칙적인 연구 생태계(tac)를 구축하여 벤치마크와 도메인 특화 아키텍처를 제공하기 위해.
• 기업 환경의 데이터 쿠레이션 설정에서 주요 위험 요소인 데이터 욕구, 모델의 해석 가능성, 악성 공격에 대한 취약성을 완화하기 위해.

제안 방법

• 수집된 데이터(구조화된, 비구조화된, 그래픽, 시간적 데이터)의 표현 학습을 통해 수작업 특성 공학 없이도 자동으로 특징을 학습할 수 있도록 제안한다.
• 비전 분야의 CNN, NLP 분야의 RNN과 유사한 방식으로 데이터 쿠레이션 작업에 특화된 도메인 전용 딥러닝 아키텍처를 설계한다.
• 대규모 레이블러드 데이터셋에 의존도를 줄이기 위해 전이 학습, 비지도 사전 학습, 약한 감독 기법과 같은 데이터 효율적 딥러닝 기법을 적응 적용한다.
• 데이터 복구 및 품질 결정에 대한 해석 가능한 예측을 제공하기 위해 설명 가능한 AI(XAI) 기법을 통합한다.
• 이미지넷과 TPC를 영감으로 삼아 표준화된 평가를 가능하게 하고 딥러닝 기반 데이터 쿠레이션 연구의 가속화를 위해 벤치마크 생태계(tac)를 개발한다.
• 데이터 탐색 및 엔티티 매칭과 같은 작업에 기존 딥러닝 기법을 새로운 방식으로 적용하며, 튜플과 컬럼을 위한 어텐션 메커니즘과 임베딩 공간을 활용한다.

실험 결과

연구 질문

• RQ1 딥러닝을 어떻게 활용해 데이터 쿠레이션에서 특성 공학을 자동화하고 도메인 전문 지식 의존도를 낮출 수 있는가?
• RQ2 데이터 중복 제거, 오류 탐지 등의 데이터 쿠레이션 작업에 맞게 맞춤형으로 조정할 수 있는 가장 유망한 딥러닝 아키텍처는 무엇인가?
• RQ3 레이블러드 데이터가 부족하고 비용이 많이 드는 데이터 쿠레이션 환경에서 데이터 욕구가 큰 딥러닝 모델을 효과적으로 적용할 수 있는 방법은 무엇인가?
• RQ4 데이터 쿠레이션에서 딥러닝 모델의 해석 가능성을 향상시키기 위해 어떤 기법이 도메인 전문가의 신뢰와 사용 가능성을 높일 수 있는가?
• RQ5 딥러닝 기반 데이터 쿠레이션 연구의 가속화와 평가를 위해 표준화된 벤치마크 생태계를 어떻게 설계할 수 있는가?

주요 결과

• 딥러닝은 특징 학습과 규칙 생성을 자동화함으로써 데이터 쿠레이션에서 인간의 노력을 크게 줄일 수 있으며, 쿠레이션에 소요되는 80%의 시간을 줄일 수 있다.
• 구조화된 데이터, 텍스트, 그래프, 이미지 등 다양한 다중모달 데이터로부터의 표현 학습은 일반화되고 재사용 가능한 특징을 제공하여 다양한 데이터 쿠레이션 작업의 성능을 향상시킨다.
• 특히 비지도 사전 학습과 전이 학습을 포함한 기존 딥러닝 기법을 적응 적용함으로써 데이터 부족 문제를 효과적으로 해결할 수 있으며, 대규모 레이블러드 데이터셋에 대한 의존도를 줄일 수 있다.
• 튜플, 컬럼, 제약 조건 등의 데이터 쿠레이션 객체에 특화된 새로운 딥러닝 아키텍처는 데이터 특유의 패턴을 더 효과적으로 포착함으로써 일반 모델보다 뛰어난 성능을 낼 수 있다.
• 데이터 복구 결정에 대한 해석 가능한 근거를 제공함으로써 신뢰도와 사용 가능성을 높이기 위해 설명 가능한 AI 기법을 딥러닝 모델에 통합할 수 있다.
• 표준화된 벤치마크 생태계(tac)는 모델 간 비교, 혁신 가속화, 연구의 재현 가능성 확보에 필수적이다.