[論文レビュー] Green AI

Roy Schwartz, Jesse Dodge+2 more|arXiv (Cornell University)|Jul 22, 2019

Green IT and Sustainability被引用数 73

ひとこと要約

本論文は、効率を精度と同様に評価指標として扱うべきだと提唱し、より環境配慮が行われた、より包摂的なAI研究を促進するための具体的な効率指標（FPO）を報告することを提案します。Red AIの要因を論じ、Green AIの指標を導入し、今後の方向性を概説します。

ABSTRACT

The computations required for deep learning research have been doubling every few months, resulting in an estimated 300,000x increase from 2012 to 2018 [2]. These computations have a surprisingly large carbon footprint [38]. Ironically, deep learning was inspired by the human brain, which is remarkably energy efficient. Moreover, the financial cost of the computations can make it difficult for academics, students, and researchers, in particular those from emerging economies, to engage in deep learning research. This position paper advocates a practical solution by making efficiency an evaluation criterion for research alongside accuracy and related measures. In addition, we propose reporting the financial cost or "price tag" of developing, training, and running models to provide baselines for the investigation of increasingly efficient methods. Our goal is to make AI both greener and more inclusive---enabling any inspired undergraduate with a laptop to write high-quality research papers. Green AI is an emerging focus at the Allen Institute for AI.

研究の動機と目的

• AIコミュニティに、精度以外の環境コストと包摂性のコストを研究に考慮する動機づけを与える。
• Red AI を推進する要因を特定する。モデルサイズ、データ規模、ハイパーパラメータ探索を含む。
• 従来の性能指標に伴う実用的で比較可能な効率指標を提案する。
• 効率と事前学習済みモデルの再利用を促す報告慣行とコミュニティ規範を推進する。

提案手法

• 文献や会議論文のサンプリングを用いて、Red AI を推進する計算量・データ・実験の傾向を分析する。
• 結果を生成するのに必要なFPO（浮動小数点演算）といった、単純で実装可能な効率指標を定義する。
• トレーニング、データ利用、ハイパーパラメータ検索を含む、計算資源節約の総合的な見解を主張する。
• 再現性のため、コスト感応曲線（予算 vs. 精度）とベースラインの報告を推奨する。
• FPO のハードウェア非依存性と、ラボ間の公正な比較における利点について論じる。
• 既存の効率性アプローチをレビューし、それらをGreen AI の目標に関連づける。

実験結果

リサーチクエスチョン

• RQ1 現代のAI研究において、Red AI に寄与する要因は何か？
• RQ2 ラボやハードウェアを超えて公正で比較可能、かつ意味のある効率の測定方法はどう設計できるか？
• RQ3 科学的進歩を犠牲にすることなく、Green AI を促進するにはどのような実践を採用できるか？
• RQ4 コミュニティが効率を精度と同様に比較するのに役立つ報告規範は何か？
• RQ5 AIコミュニティが会議で効率性重視の貢献を促すにはどうすればよいか？

主な発見

• AI 結果のコストは、1例あたりの処理コスト、データセットサイズ、ハイパーパラメータ実験の回数が増えるにつれて増大し、しばしば収益が逓減する。
• 大規模なモデルと膨大なデータは高コストで実質的な改善をもたらすが、効率中心の評価が必要である。
• FPO はハードウェア非依存で、実行時間と相関する、ワークを代表する効率指標を提供し、公正な比較に適している。
• 予算/精度曲線を報告することでモデル選択を指導し、データ規模と計算予算間の効率のトレードオフを明らかにできる。
• 現在のAI会議では効率より精度が重視される傾向があることが示唆されており、効率重視の評価・評価の余地がある。
• 事前学習済みモデルのリリースは、再学習コストを削減できる緑の成功例である。