[論文レビュー] TensorFlow.js: Machine Learning for the Web and Beyond

Daniel Smilkov, Nikhil Thorat+18 more|arXiv (Cornell University)|Jan 16, 2019

Scientific Computing and Data Management参考文献 17被引用数 132

ひとこと要約

本論文は TensorFlow.js の設計、API、実装を説明し、ブラウザと Node.js での機械学習モデルの学習と推論を可能にし、GPU アクセラレーションと環境横断性を実現します。

ABSTRACT

TensorFlow.js is a library for building and executing machine learning algorithms in JavaScript. TensorFlow.js models run in a web browser and in the Node.js environment. The library is part of the TensorFlow ecosystem, providing a set of APIs that are compatible with those in Python, allowing models to be ported between the Python and JavaScript ecosystems. TensorFlow.js has empowered a new set of developers from the extensive JavaScript community to build and deploy machine learning models and enabled new classes of on-device computation. This paper describes the design, API, and implementation of TensorFlow.js, and highlights some of the impactful use cases.

研究の動機と目的

• ブラウザとサーバーで利用できる JavaScript ベースの ML ライブラリの必要性を動機づける。
• 使いやすさと広範な機能性のバランスを取る TensorFlow.js の設計を説明する。
• API 表面（Ops API と Layers API）と WebGL および TensorFlow C バインディング向けのバックエンド抽象化を提示する。
• メモリ管理、非同期実行、デバッグ/プロファイリング機能を説明する。
• エコシステム統合、モデル変換、教育をはじめとする現実世界のユースケースを示す。

提案手法

• TensorFlow に合わせた API を Tensor と二つの API レイヤー（Ops と Layers）として設計する。
• ブラウザ内 WebGL のバックエンドとサーバー側展開のための Node.js バインディングを TensorFlow C に対して実装する。
• グラフベースとイージー（eager）モードの自動微分を提供し、使いやすさを優先する。
• メインスレッドをブロックしないように非同期実行を有効化し、data() の約束と dataSync() オプションを提供する。
• tf.tidy() のスコープ管理と WebGL のテクスチャ再利用を含むメモリ管理戦略を提供する。
• 準備済みモデルのためのモデルコンバーターと中央リポジトリを統合する。

実験結果

リサーチクエスチョン

• RQ1 JavaScript を用いてブラウザとサーバー環境の双方で ML を効果的に実装・展開するにはどうすればよいか。
• RQ2 初心者と上級者の両方が TensorFlow.js でモデルを構築・学習できるような API デザインの選択肢は何か。
• RQ3 実用的なパフォーマンスと移植性を提供するバックエンドと実行モデル（WebGL、Node.js TensorFlow C）はどれか。
• RQ4 JS ベースの ML ライブラリでのメモリ管理、非同期実行、デバッグ支援をどのように実装できるか。
• RQ5 ウェブベースの ML におけるモデル変換とエコシステム統合の影響と実用性はどうか。

主な発見

• TensorFlow.js はブラウザ（WebGL 経由）と Node.js（TensorFlow C 経由）の両方で学習と推論を可能にし、プレーン JavaScript よりも大幅な性能向上を達成します。
• 二つの API レイヤーが存在します：Ops（低レベルの線形代数）と Layers（Keras に似た高レベルのモデル構築）。
• 自動微分はグラフベースとイージー実行の両方をサポートし、性能とデバッグの利便性のバランスを取ります。
• WebGL バックエンドは CPU に対して報告されたベンチマークで約71xから685xの大幅なスピードアップを提供し、CUDA/CUDA-on-Node ではより高い利得を提供します。
• モデル変換器と中央のモデルリポジトリは、事前学習済みの TensorFlow/Keras モデルを TensorFlow.js に移植し、 ready-to-use のモデルを共有するのに役立ちます。
• メモリ管理機構（tf.tidy とテクスチャ再利用）は GPU メモリ環境でのリークを防ぐのに役立ちます。