[論文レビュー] A Synthesis of Green Architectural Tactics for ML-Enabled Systems

Heli Järvenpää, Patricia Lago+4 more|arXiv (Cornell University)|Dec 15, 2023

Green IT and Sustainability被引用数 4

ひとこと要約

本論文は、51件の査読済みグリーンAI研究を統合し、ソフトウェアアーキテクチャの専門家によって検証された、機械学習（ML）を活用するシステム向けの30のグリーンアーキテクチャ戦略のカタログを提示する。これらの戦略は6つのカテゴリーに分類されており、モデルの正確性を損なわずにエネルギー消費と炭素排出量を削減するための実行可能で高水準の設計戦略を提供し、環境持続可能性を促進する。

ABSTRACT

The rapid adoption of artificial intelligence (AI) and machine learning (ML) has generated growing interest in understanding their environmental impact and the challenges associated with designing environmentally friendly ML-enabled systems. While Green AI research, i.e., research that tries to minimize the energy footprint of AI, is receiving increasing attention, very few concrete guidelines are available on how ML-enabled systems can be designed to be more environmentally sustainable. In this paper, we provide a catalog of 30 green architectural tactics for ML-enabled systems to fill this gap. An architectural tactic is a high-level design technique to improve software quality, in our case environmental sustainability. We derived the tactics from the analysis of 51 peer-reviewed publications that primarily explore Green AI, and validated them using a focus group approach with three experts. The 30 tactics we identified are aimed to serve as an initial reference guide for further exploration into Green AI from a software engineering perspective, and assist in designing sustainable ML-enabled systems. To enhance transparency and facilitate their widespread use and extension, we make the tactics available online in easily consumable formats. Wide-spread adoption of these tactics has the potential to substantially reduce the societal impact of ML-enabled systems regarding their energy and carbon footprint.

研究の動機と目的

• ソフトウェアアーキテクチャの観点から、環境持続可能性に配慮したMLシステムを設計するための具体的で実行可能なガイドラインの不足に対処すること。
• モデルレベルの最適化を越えて、エネルギー効率に焦点を当てたグリーンアーキテクチャ戦略を特定・統合すること。
• 透明性があり再利用可能で拡張可能な戦略のカタログを提供し、MLシステムにおける持続可能なソフトウェア工学の実践を支援すること。
• 環境的懸念を設計段階の意思決定に翻訳することで、グリーンAI研究とソフトウェアアーキテクチャの間のギャップを埋めること。
• 戦略を機械可読形式で公開し、既存のソフトウェア工学知識リポジトリに統合することで、産業界の採用促進とさらなる研究を支援すること。

提案手法

• 機械学習におけるグリーンAIおよび環境持続可能性に焦点を当てた51件の査読済み論文を対象とした体系的文献レビューを実施した。
• MLシステムにおけるエネルギー効率に寄与する高水準の設計技法（アーキテクチャ戦略）を文献から抽出・統合した。
• 同定された30の戦略を、データ中心、アルゴリズム設計、モデル最適化、モデルトレーニング、デプロイメント、管理の6つのテーマ的カテゴリーに分類した。
• MLシステムのソフトウェアアーキテクチャの専門家3名によるフォーカスグループを通じて、初期の戦略コレクションの妥当性を検証・精緻化した。
• 最終的なカタログを「Archive of Awesome and Dark Tactics（AADT）」に統合し、検索可能性と再利用性を確保した。
• すべての戦略を、出典情報とメタデータとともにZenodoに公開し、長期的なアクセシビリティとバージョン管理を実現した。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 科学的文献から、MLを活用するシステム向けに統合可能なグリーンアーキテクチャ戦略は何か？
• RQ2 RQ2: SA4MLの専門家は、統合されたグリーンアーキテクチャ戦略のコレクションをどのように評価するか？
• RQ3 RQ3: グリーンアーキテクチャ戦略をどのように構造化・形式化すれば、MLシステム設計における実用的採用を支援できるか？
• RQ4 RQ4: MLシステムアーキテクチャにおいて、エネルギー効率と他の品質特性（例：正確性）との間の主なトレードオフは何か？
• RQ5 RQ5: アーキテクチャ戦略をどのように一般化・拡張すれば、多様なMLアルゴリズムやシステム的懸念に対応できるか？

主な発見

• 本研究では、6つの整合的なカテゴリー（データ中心、アルゴリズム設計、モデル最適化、モデルトレーニング、デプロイメント、管理）に分類された、MLを活用するシステム向けの30のグリーンアーキテクチャ戦略を効果的に同定・統合した。
• フォーカスグループによる検証で、戦略の関連性と実用性が確認され、専門家は特に初期のアーキテクチャ意思決定段階での支援価値を強調した。
• 大多数の戦略はモデルレベルの効率性に焦点を当てており、フルスタックのMLシステムにおけるアーキテクチャ知識のギャップが顕在化している。
• 大多数の戦略がモデルの正確性を維持するか、最小限に損なうことが判明し、性能を犠牲にせずに顕著なエネルギー削減が達成可能であることが示された。
• AADTおよびZenodoへのカタログ統合により、長期的なアクセシビリティ、バージョニング、再利用性が保証された。
• 本研究は、アーキテクチャ戦略がグリーンAI研究とソフトウェア工学実践の間の橋渡しとして機能できることを示しており、MLシステムの体系的かつ持続可能な設計を可能にする。