[논문 리뷰] Baler -- Machine Learning Based Compression of Scientific Data

Fritjof Bengtsson, C. Doglioni외 7명|arXiv (Cornell University)|2023. 05. 03.

Computational Physics and Python Applications인용 수 4

한 줄 요약

Baler는 과학적 데이터셋에 대해 높은 압축 비율을 달성하면서도 핵심 데이터 무결성을 유지하는 기계학습 기반의 손실 압축 도구입니다. 오토에인코더를 사용하며, 기존의 Zip과 같은 전통적 방법보다 뛰어난 성능을 보이며 고에너지물리학 데이터에서 최대 20배의 압축 비율을 달성하고 복원 오차가 최소화되며, 제어 가능한 손실을 갖춘 교차 분야 과학적 데이터 압축을 위한 모듈러한 프레임워크를 제공합니다.

ABSTRACT

Storing and sharing increasingly large datasets is a challenge across scientific research and industry. In this paper, we document the development and applications of Baler - a Machine Learning based data compression tool for use across scientific disciplines and industry. Here, we present Baler's performance for the compression of High Energy Physics (HEP) data, as well as its application to Computational Fluid Dynamics (CFD) toy data as a proof-of-principle. We also present suggestions for cross-disciplinary guidelines to enable feasibility studies for machine learning based compression for scientific data.

연구 동기 및 목표

• 다양한 분야에서 점점 커지는 과학적 데이터셋을 저장하고 공유하는 데 직면한 도전 과제를 해결하기 위해.
• 기계학습을 활용해 과학적 데이터에 특화된 유연하고 모듈러하며 오픈소스인 손실 압축 도구를 개발하기 위해.
• 과학적 분석에 적합한 제어 가능하고 정량화 가능한 손실을 수반하는 고압축 비율을 달성하기 위해.
• 고에너지물리학(High Energy Physics, HEP) 및 유체역학 시뮬레이션(Computational Fluid Dynamics, CFD) 데이터셋에서 증명 사례를 제공하기 위해.
• 과학 워크플로우에서 기계학습 기반 압축의 타당성 연구를 지원하기 위한 교차 분야 가이드라인을 수립하기 위해.

제안 방법

• Baler는 인코더와 디코더 각각에 3개의 완전 연결층을 가지며, 압축을 위한 버티컬 레이어를 갖춘 깊은 오토에인코더 아키텍처를 사용합니다.
• 모델은 하이브리드 손실 함수를 사용해 훈련됩니다: $ L_{total} = (1 - \beta)L_{reco} + \beta L_{sparse} $, 재구성 정확도와 희박성 사이의 균형을 맞춥니다.
• 잠재 공간 표현이 압축된 데이터로 사용되며, 복구 시 디코더가 원래 입력을 재구성합니다.
• 프레임워크는 오프라인 압축을 지원하며, 훈련과 압축이 동일한 데이터셋에서 수행되어 향후 온라인 배포를 위한 길을 열어줍니다.
• 성능 평가는 평균 절대 오차(MAE), 평균 제곱 오차(MSE), 신호 대 잡음 비(SNR) 등의 지표를 사용하며, 통계적 불확실성도 함께 보고합니다.
• 도구는 오픈소스 레포지토리(https://github.com/baler-ml/baler)에 구현되어 있어 다양한 과학 분야에서의 커스터마이제이션과 재사용이 가능합니다.

Figure 2 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=1.7$ .

실험 결과

연구 질문

• RQ1 기계학습 기반 오토에인코더는 과학적 데이터셋에 대해 높은 압축 비율을 달성하면서도 후속 분석에 적합한 데이터 무결성을 유지할 수 있는가?
• RQ2 Baler의 압축 성능은 기존의 손실 없는 압축 방식(예: Zip)과 비교해 파일 크기와 복원 품질 측면에서 어떻게 다른가?
• RQ3 잠재 공간 차원 수와 하이퍼파rameter $\beta$ 를 변화시켰을 때 압축 효율성과 복원 오차에 어떤 영향을 미치는가?
• RQ4 Baler는 고에너지물리학 및 유체역학 시뮬레이션과 같은 다양한 과학적 데이터 유형에 대해 최소한의 재구성 없이 효과적으로 적용될 수 있는가?
• RQ5 과학적 데이터 파이프라인에서 기계학습 기반 압축의 타당성 연구를 지원하기 위해 어떤 교차 분야 가이드라인을 수립할 수 있는가?

주요 결과

• Baler는 고에너지물리학 데이터에서 최대 20배의 압축 비율을 달성했으며, mNeutralHadronMultiplicity 특징에 대해 평균 절대 오차(MAE)는 $ 1.14 \times 10^{00} \pm 3.21 \times 10^{-01} $을 기록했습니다.
• mNeutralEmEnergy 특징의 경우, Baler는 2.0의 압축 비율을 달성했고, MAE는 $ 1.76 \times 10^{01} \pm 1.44 \times 10^{00} $로, 중간 수준의 압축에서도 높은 무결성을 유지함을 보여주었습니다.
• Zip과 비교해 Baler는 파일 크기를 더 크게 줄였습니다. 예를 들어 압축 비율 2.0일 때, Baler의 출력은 모든 테스트 파일 크기(250–1500 MB)에서 압축된 입력보다 일관되게 작았습니다.
• 모델은 여러 고에너지물리학 특징에서 뛰어난 성능을 보였으며, MAE 값은 mPhotonMultiplicity의 $ 4.37 \times 10^{-03} \pm 1.44 \times 10^{-02} $에서부터 mChargedEmEnergy의 $ 1.52 \times 10^{00} \pm 2.06 \times 10^{-01} $까지 다양했습니다.
• CFD 토이 데이터에 대해 증명 사례로 적용했으며, 이는 Baler가 HEP를 넘어서 광범위한 적용 가능성을 지닌다는 것을 보여주었습니다.
• 연구는 제어 가능한 손실과 과학 워크플로우에서 실험적 노이즈 수준과의 호환성을 강조하는 교차 분야 가이드라인의 기초를 마련했습니다.

Figure 3 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=6$ .