[論文レビュー] Git-Theta: A Git Extension for Collaborative Development of Machine Learning Models

Nikhil Kandpal, Brian Lester+7 more|arXiv (Cornell University)|Jun 7, 2023

Software Engineering Research被引用数 5

ひとこと要約

Git-Theta は、モデルのチェックポイントをバイナリーブロブではなく、構造化されたパラメーターグループとして扱うことで、機械学習モデルの共同開発とバージョン管理を可能にする Git 拡張機能です。通信効率の高い更新、モデル変更の自動マージ、細粒度のバージョン追跡をサポートし、ストレージおよび転送コストを削減しながら、共同でのモデル進化を実現します。LoRA の更新では 0.27 GB のストレージ容量にまで抑えられ、語彙変更では 1024 kB に留まります。

ABSTRACT

Currently, most machine learning models are trained by centralized teams and are rarely updated. In contrast, open-source software development involves the iterative development of a shared artifact through distributed collaboration using a version control system. In the interest of enabling collaborative and continual improvement of machine learning models, we introduce Git-Theta, a version control system for machine learning models. Git-Theta is an extension to Git, the most widely used version control software, that allows fine-grained tracking of changes to model parameters alongside code and other artifacts. Unlike existing version control systems that treat a model checkpoint as a blob of data, Git-Theta leverages the structure of checkpoints to support communication-efficient updates, automatic model merges, and meaningful reporting about the difference between two versions of a model. In addition, Git-Theta includes a plug-in system that enables users to easily add support for new functionality. In this paper, we introduce Git-Theta's design and features and include an example use-case of Git-Theta where a pre-trained model is continually adapted and modified. We publicly release Git-Theta in hopes of kickstarting a new era of collaborative model development.

研究の動機と目的

• 機械学習モデル開発において、モデルが通常は孤立して訓練され、モノリシックなブロブとして扱われるため、共同でのバージョン管理が不十分であるという課題に対処すること。
• 最近の低ランク適応およびパrameter 効率的チューニングに関する研究にインspされ、パラメータレベルの変更を細粒度かつ通信効率的に追跡できる仕組みを提供すること。
• 独立して訓練されたモデル更新の自動マージを可能にし、完全な再訓練なしにモデルの共同進化を実現すること。
• Git にモデル認識のバージョニング機能を拡張することで、既存の Git に基づくソフトウェア開発ワークフローにシームレスに統合すること。
• 新しい更新タイプ、マージ戦略、チェックポイントフォーマットをサポートする拡張性の高いアーキテクチャを提供すること。

提案手法

• Git-Theta は、Git を拡張して、モデルのチェックポイントをパラメーターグループテンソルの集合として扱い、ファイル単位ではなくパラメータレベルでのバージョニングを可能にします。
• LoRA やアダプタなどのパラメータ効率的ファインチューニング手法を活用し、更新を小さなスパーステンソルとして表現することで、ストレージおよび通信のオーバーヘッドを顕著に削減します。
• 特に高精度から低精度への変換に効果的であるため、モデルチェックポイントの効率的ストレージおよび圧縮には Git LFS と TensorStore を使用します。
• ユーザーが新しい更新タイプ、マージ戦略、チェックポイントフォーマットを定義できるプラグインシステムを導入し、拡張性を向上させます。
• Git のマージロジックに類似した方法で、パラメーターグループの値を操作することで、モデル更新の自動マージを実現します。
• パラメーターグループの変更を比較することで、モデルバージョン間の意味のある差分レポートを提供し、モデル進化の洞察を提供します。

Figure 1: An overview of how Git-Theta manages a model checkpoint file during the five basic Git operations. The flow of data between the working tree, staging area, and remote associated with each Git command (left) is shown by the arrows matching the command’s color. For simplicity we include .git

実験結果

リサーチクエスチョン

• RQ1 既存の Git インfraストラクチャを活用して、パラメータレベルの変更を細粒度で追跡できる共同でバージョン管理可能なモデル開発が可能になるか？
• RQ2 通信効率の高い更新（例：LoRA やアダプタ）がバージョン管理システムにネイティブに統合可能で、ストレージおよび転送コストを削減できるか？
• RQ3 スケール上で独立して訓練されたモデル更新の自動マージが実現可能か？ また、モデル性能を保持しながら共同でのモデル進化が可能になるか？
• RQ4 Git-Theta のストレージおよびパフォーマンスのオーバーヘッドは、DVC や MLflow などの従来のブロブベースのモデル追跡システムと比較してどの程度か？
• RQ5 プラグインアーキテクチャを通じて、Git-Theta が多様なモデルアーキテクチャ、更新タイプ、マージ戦略をどの程度サポートできるか？

主な発見

• Git-Theta は、LoRA を用いた更新のストレージをわずか 0.27 GB にまで削減し、ブロブベースのシステムと比較して顕著な効率性向上を示しました。
• 語彙インデックスの削除を伴うモデル更新では、わずか 1024 kB のストレージで済み、スパースで非密度な変更を効率的に追跡できることを示しました。
• 更新対象のパラメータ数が少ない場合、処理時間が短縮されたため、選択的パラメータ更新によるパフォーマンスの向上が確認されました。
• 異なる貢献者から得た更新（例：RTE と ANLI のファインチューニング済みモデル）を正常にマージでき、予測通り RTE タスクで性能が向上しました。
• TensorStore の使用により、特に初回コミットで効果的な圧縮が実現され、高精度モデルチェックポイントのストレージコストが削減されました。
• T0 3B モデルが複数のタスクにわたり段階的に更新され、マージされた実世界の例を通じて、Git-Theta を用いた共同モデル開発が実現可能であることが実証されました。

Figure 2: Relative space saving of Git-Theta over Git LFS. Space savings are most apparent when using parameter-efficient training methods. Even when fine-tuning, where all parameters are updated and therefore need to be saved, Git-Theta still reduces storage requirements thanks to the way TensorSto