[論文レビュー] Baler -- Machine Learning Based Compression of Scientific Data

Fritjof Bengtsson, C. Doglioni+7 more|arXiv (Cornell University)|May 3, 2023

Computational Physics and Python Applications被引用数 4

ひとこと要約

Baler は、科学的データセットに対して高い圧縮比を達成しながらも、重要なデータの忠実度を保持する、機械学習ベースの損失圧縮ツールである。自己符号化器を用いて、従来の方法（例：Zip）よりも優れた性能を示し、高エネルギー物理学（HEP）データに対して最大20倍の圧縮を実現し、再構築誤差は最小限に抑えられる。また、制御された損失を伴う、分野を越えた科学的データ圧縮のためのモジュラーなフレームワークを提供する。

ABSTRACT

Storing and sharing increasingly large datasets is a challenge across scientific research and industry. In this paper, we document the development and applications of Baler - a Machine Learning based data compression tool for use across scientific disciplines and industry. Here, we present Baler's performance for the compression of High Energy Physics (HEP) data, as well as its application to Computational Fluid Dynamics (CFD) toy data as a proof-of-principle. We also present suggestions for cross-disciplinary guidelines to enable feasibility studies for machine learning based compression for scientific data.

研究の動機と目的

• 分野を越えて増加する科学的データセットの保存および共有の課題に対処すること。
• 機械学習を用いた科学的データに特化した、柔軟でモジュラーかつオープンソースの損失圧縮ツールを開発すること。
• 科学的分析に適した、制御可能で定量的なデータ損失を伴う高圧縮比を実現すること。
• 高エネルギー物理学（HEP）および計算流体力学（CFD）データセットにおけるプロトタイプ応用を提供すること。
• 科学的ワークフローにおける機械学習ベースの圧縮の可能性に関する妥当性調査のための分野を越えたガイドラインを確立すること。

提案手法

• Baler は、エンコーダーとデコーダーの両方に3層の全結合層を備えた深層自己符号化器アーキテクチャを採用し、圧縮のためにボトルネックとなる潜在空間を用いる。
• モデルはハイブリッド損失関数を用いて訓練される：$ L_{total} = (1 - \beta)L_{reco} + \beta L_{sparse} $、再構築精度とスパarsityのバランスをとる。
• 潜在空間表現が圧縮データとして機能し、復元時にデコーダーが元の入力を再構築する。
• フレームワークはオフライン圧縮をサポートしており、トレーニングと圧縮が同一データセットで実行される。これにより、将来的なオンライン展開への道筋が開かれる。
• 性能評価には平均絶対誤差（MAE）、平均二乗誤差（MSE）、信号対雑音比（SNR）などの指標が用いられ、統計的不確実性が報告される。
• ツールはオープンソースのリポジトリ（https://github.com/baler-ml/baler）に実装されており、科学的分野全体でのカスタマイズと再利用が可能である。

Figure 2 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=1.7$ .

実験結果

リサーチクエスチョン

• RQ1 機械学習ベースの自己符号化器は、科学的データセットに対して高い圧縮比を達成しつつ、後続の分析に適したデータ忠実度を維持できるか？
• RQ2 Baler の圧縮性能は、従来の無損失圧縮（例：Zip）と比較して、ファイルサイズと再構築品質の面でどのように異なるか？
• RQ3 潜在空間の次元数やハイパーパramータ $\beta$ を変化させた場合、圧縮効率と再構築誤差にどのような影響があるか？
• RQ4 Baler は、HEP や CFD シミュレーションのような多様な科学的データタイプに、最小限の再設定で効果的に適用可能か？
• RQ5 科学的データパイプラインにおける機械学習ベースの圧縮の可能性に関する妥当性調査を支援するための、分野を越えたガイドラインをどのように確立できるか？

主な発見

• Baler は、高エネルギー物理学データにおいて最大20倍の圧縮比を達成し、mNeutralHadronMultiplicity 特徴量の平均絶対誤差（MAE）は $ 1.14 \times 10^{00} \pm 3.21 \times 10^{-01} $ であった。
• mNeutralEmEnergy 特徴量では、圧縮比2.0で MAE が $ 1.76 \times 10^{01} \pm 1.44 \times 10^{00} $ に留まり、中程度の圧縮でも高い忠実度を示した。
• Zip と比較して、Baler はファイルサイズを著しく小さくした。例えば、圧縮比2.0の状態では、250〜1500 MB の全テストファイルサイズにおいて、Baler の出力が常に圧縮前の入力よりも小さくなった。
• 複数の HEP 特徴量において、モデルは頑健な性能を示し、MAE 値は mPhotonMultiplicity の $ 4.37 \times 10^{-03} \pm 1.44 \times 10^{-02} $ から mChargedEmEnergy の $ 1.52 \times 10^{00} \pm 2.06 \times 10^{-01} $ の範囲で変動した。
• CFD 用のトゥイ・データを用いたプロトタイプとしての実装により、CFD 以外の分野への応用可能性が示された。
• 本研究は、制御された損失と科学的ワークフローにおける実験的ノイズレベルとの整合性を重視した、分野を越えたガイドラインの基盤を確立した。

Figure 3 : Distributions of the variables making up the 4-momentum of the jets. Alongside each distribution is a histogram of the response for that variable after compression with $R=6$ .