[논문 리뷰] Overcoming data scarcity with transfer learning

Maxwell L. Hutchinson, Erin Antono외 4명|arXiv (Cornell University)|2017. 11. 02.

Machine Learning in Materials Science참고 문헌 7인용 수 79

한 줄 요약

이 논문은 세 가지 전이 학습 아키텍처—명시적 잠재 변수, 다중 작업, 차이 학습—를 재료 정보학 문제에 적용해 데이터가 드문 상황을 다루고 서로 다른 데이터셋의 맥락을 보존하며 밴드갭/색상 및 NO 환원 활성화 에너지의 사례 연구를 제시합니다.

ABSTRACT

Despite increasing focus on data publication and discovery in materials science and related fields, the global view of materials data is highly sparse. This sparsity encourages training models on the union of multiple datasets, but simple unions can prove problematic as (ostensibly) equivalent properties may be measured or computed differently depending on the data source. These hidden contextual differences introduce irreducible errors into analyses, fundamentally limiting their accuracy. Transfer learning, where information from one dataset is used to inform a model on another, can be an effective tool for bridging sparse data while preserving the contextual differences in the underlying measurements. Here, we describe and compare three techniques for transfer learning: multi-task, difference, and explicit latent variable architectures. We show that difference architectures are most accurate in the multi-fidelity case of mixed DFT and experimental band gaps, while multi-task most improves classification performance of color with band gaps. For activation energies of steps in NO reduction, the explicit latent variable method is not only the most accurate, but also enjoys cancellation of errors in functions that depend on multiple tasks. These results motivate the publication of high quality materials datasets that encode transferable information, independent of industrial or academic interest in the particular labels, and encourage further development and application of transfer learning methods to materials informatics problems.

연구 동기 및 목표

• 재료 정보학에서 데이터 부족 문제의 필요성과 데이터 간 맥락 차이를 보존해야 하는 필요성을 동기화합니다.
• 저해상도 대규모 데이터 세트를 활용해 작은 고충실도 데이터 세트에 대한 예측을 개선하는 방법을 평가합니다.
• 실제 재료 문제에서 세 가지 TL 아키텍처(명시적 잠재 변수, 다중 작업, 차이 학습)를 비교합니다.
• 각 사례 연구에서 각 TL 접근법의 정확도 향상과 해석 가능성의 트레이드오프를 평가합니다.

제안 방법

• 명시적 잠재 변수, 다중 작업 학습, 차이 학습의 세 가지 TL 아키텍처를 설명하고 구현합니다.
• 잭나이프 기반 불확실성 정량화를 갖춘 기본 학습기로 랜덤 포리스트를 사용합니다.
• 교차 검증 및 홀드아웃 세트를 사용해 단일 작업 기준선과 TL 방법을 비교합니다.
• 밴드 갭 및 색상 예측에 DFT에서 실험으로의 전이와 NO 환원 활성화 에너지의 다단 반응 경로에 TL 아키텍처를 적용합니다.

실험 결과

연구 질문

• RQ1 저해상도(DFT)에서 고해상도(실험) 밴드갭 및 관련 색상 데이터로 이동할 때 전이 학습이 예측 정확도를 향상시킬 수 있나요?
• RQ2 어떤 TL 아키텍처(명시적 잠재 변수, 다중 작업, 차이)가 다수준 피드백 밴드갭 및 색상 분류에 대해 가장 좋은 성능을 보이나요?
• RQ3 NO 환원 촉매 반응에서 활성화 에너지 예측 및 속도 결정 단계 분류에서 TL 방법이 향상되며 어떤 아키텍처가 가장 효과적인가요?
• RQ4 희소 데이터 상황에서 이러한 TL 접근법이 정확도, 데이터 효율성 및 해석 가능성을 어떻게 균형 있게 달성하나요?

주요 결과

• 차이 구조가 다중 피드백 밴드갭에 대해 기본선 및 다른 TL 방법 대비 최상위 성능을 달성합니다.
• 명시적 잠재 변수 구조는 종종 강건한 개선을 제공하며 여러 작업에서 벤치마크를 능가할 수 있습니다.
• 다중 작업 학습은 일부 작업(예: 밴드갭과 색상 분류에서)의 경우 벤치마크와 유사하거나 초과할 수 있지만, 라벨 불균형으로 인해 다른 경우에는 성능이 떨어질 수 있습니다.
• NO 환원 활성화 에너지에서 잠재 변수 구조는 여러 단계에서 오차를 줄이고 속도 결정 단계 분류의 F1을 향상시키며, 다중 작업은 RDS에서 성능이 떨어질 수 있습니다.
• TL 방법은 비교 가능한 성능을 훨씬 적은 실험 라벨로 달성할 수 있게 해줍니다(예: 차이 구조의 밴드갭에서 4배 적은 라벨).
• 잠재 변수 및 차이 구조는 라벨 간의 관계를 드러내어 해석 가능성을 높여 줍니다.