[论文解读] Baler -- Machine Learning Based Compression of Scientific Data

Fritjof Bengtsson, C. Doglioni+7 more|arXiv (Cornell University)|May 3, 2023

Computational Physics and Python Applications被引用 4

一句话总结

Baler 是一种基于机器学习的有损数据压缩工具，采用自编码器技术，在保持关键数据保真度的同时，实现对科学数据集的高比率压缩。与传统方法（如 Zip）相比，它在高能物理数据上实现了高达 20 倍的压缩率，且重建误差极小，并提供了一个模块化框架，适用于跨学科的科学数据压缩，支持可控的损失。

ABSTRACT

Storing and sharing increasingly large datasets is a challenge across scientific research and industry. In this paper, we document the development and applications of Baler - a Machine Learning based data compression tool for use across scientific disciplines and industry. Here, we present Baler's performance for the compression of High Energy Physics (HEP) data, as well as its application to Computational Fluid Dynamics (CFD) toy data as a proof-of-principle. We also present suggestions for cross-disciplinary guidelines to enable feasibility studies for machine learning based compression for scientific data.

研究动机与目标

• 为应对跨学科日益增长的科学数据集存储与共享挑战。
• 开发一种灵活、模块化且开源的有损数据压缩工具，专为科学数据设计，基于机器学习技术。
• 实现在可控、可量化数据损失下的高比率压缩，适用于科学分析。
• 在高能物理（HEP）和计算流体动力学（CFD）数据集中提供原理验证应用。
• 建立跨学科指南，支持在科学工作流中开展基于机器学习的压缩可行性研究。

提出的方法

• Baler 采用深层自编码器架构，编码器和解码器均包含三个全连接层，利用瓶颈潜在空间实现压缩。
• 模型使用混合损失函数进行训练：$ L_{total} = (1 - \beta)L_{reco} + \beta L_{sparse} $，在重建精度与稀疏性之间取得平衡。
• 潜在空间表示作为压缩后的数据，解码器在解压缩过程中重构原始输入。
• 该框架支持离线压缩，训练与压缩在同一数据集上完成，为未来在线部署奠定基础。
• 性能通过均值绝对误差（MAE）、均方误差（MSE）和信噪比（SNR）等指标评估，并报告统计不确定性。
• 该工具已开源部署于代码仓库（https://github.com/baler-ml/baler），支持在各科学领域中自定义与复用。

Figure 2 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=1.7$ .

实验结果

研究问题

• RQ1 基于机器学习的自编码器能否在保持适合下游分析的数据保真度的前提下，对科学数据集实现高比率压缩？
• RQ2 与传统无损压缩方法（如 Zip）相比，Baler 在文件大小和重建质量方面表现如何？
• RQ3 潜在空间维度和超参数 $\beta$ 的变化对压缩效率和重建误差有何影响？
• RQ4 Baler 能否在无需大量配置调整的情况下，有效应用于多种科学数据类型，如 HEP 和 CFD 模拟数据？
• RQ5 可建立何种跨学科指南，以支持在科学数据流水线中开展基于机器学习的压缩可行性研究？

主要发现

• 在高能物理数据上，Baler 对 mNeutralHadronMultiplicity 特征实现了最高 20 倍的压缩率，均值绝对误差（MAE）为 $ 1.14 \times 10^{00} \pm 3.21 \times 10^{-01} $。
• 对于 mNeutralEmEnergy 特征，Baler 实现了 2.0 倍的压缩率，MAE 为 $ 1.76 \times 10^{01} \pm 1.44 \times 10^{00} $，即使在中等压缩率下也表现出高保真度。
• 与 Zip 相比，Baler 显著减小了文件大小——例如在 2.0 倍压缩率下，Baler 的输出文件在所有测试文件大小（250–1500 MB）下均小于压缩前的 Zip 文件。
• 该模型在多个 HEP 特征上表现出稳健性能，MAE 值范围为 $ 4.37 \times 10^{-03} \pm 1.44 \times 10^{-02} $（mPhotonMultiplicity）至 $ 1.52 \times 10^{00} \pm 2.06 \times 10^{-01} $（mChargedEmEnergy）。
• 该框架在 CFD 仿真玩具数据上成功验证了可行性，表明其应用范围不仅限于 HEP。
• 本研究为跨学科指南奠定了基础，强调了可控损失与科学工作流中实验噪声水平的兼容性。

Figure 3 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=6$ .