[論文レビュー] Deep Learning Towards Mobile Applications

Ji Wang, Bokai Cao+4 more|arXiv (Cornell University)|Sep 10, 2018

Context-Aware Activity Recognition Systems参考文献 35被引用数 7

ひとこと要約

この論文は、モバイルデバイスへのディープラーニングの導入における課題と進展を調査し、プライバシーを守るモデル学習のためのフェデレーテッドラーニング、効率的な推論技術、およびユーザー識別や気分検出といった実世界の応用を焦点にしている。高精度（F1スコア98.97％）を維持しながら、ユーザーのプライバシーを守りつつ、モバイルデバイス上でディープラーニングを効果的に利用できることを示している。

ABSTRACT

Recent years have witnessed an explosive growth of mobile devices. Mobile devices are permeating every aspect of our daily lives. With the increasing usage of mobile devices and intelligent applications, there is a soaring demand for mobile applications with machine learning services. Inspired by the tremendous success achieved by deep learning in many machine learning tasks, it becomes a natural trend to push deep learning towards mobile applications. However, there exist many challenges to realize deep learning in mobile applications, including the contradiction between the miniature nature of mobile devices and the resource requirement of deep neural networks, the privacy and security concerns about individuals' data, and so on. To resolve these challenges, during the past few years, great leaps have been made in this area. In this paper, we provide an overview of the current challenges and representative achievements about pushing deep learning on mobile devices from three aspects: training with mobile data, efficient inference on mobile devices, and applications of mobile deep learning. The former two aspects cover the primary tasks of deep learning. Then, we go through our two recent applications that apply the data collected by mobile devices to inferring mood disturbance and user identification. Finally, we conclude this paper with the discussion of the future of this area.

研究の動機と目的

• 計算能力とバッテリー容量に制限のあるモバイルデバイスに、リource集的なディープニューラルネットワーク（DNN）を導入する課題に対処する。
• 中央サーバーに生データを転送せずに、モバイルデバイスからの分散データを用いてプライバシーを守るDNNの学習を可能にする。
• メモリとエネルギー制約があるにもかかわらず、モバイルハードウェア上でDNNを実行するための効率的な推論手法を開発する。
• ユーザー生成データを用いた実用的なモバイルディープラーニングの応用を実証する。具体的には、ユーザー識別や気分障害検出の例を挙げる。
• 将来的なモバイルディープラーニングシステムにおける効率性とプライバシーに関する主要な研究ギャップを特定する。

提案手法

• 生のユーザー データを中央サーバーに集約せずに、モバイルデバイス間でDNNをトレーニングするフェデレーテッドラーニングを活用し、プライバシーを保護する。
• DNNのサイズと計算コストを削減するため、モデル圧縮と量子化技術を採用して、デバイス上での推論に適応させる。
• キーストロークや加速度計などのモバイルセンサーからのデータを、ユーザー識別や気分分析の入力特徴量として活用する。
• ディープニューラルネットワーク（例：DNN、XGBoost、ランダムフォレスト）を用いて、モバイルセンサーのストリームからユーザー行動パターンを分類する。
• キーストロークのダイナミクスとモーショングラフパターンを活用して、高精度なユーザー識別を実現するシステム「DeepService」を設計する。
• 頻度の高いキーと低いキーを分離し、多軸加速度の相関を分析する特徴工学的手法を用いて、ユーザーの区別を向上させる。

実験結果

リサーチクエスチョン

• RQ1 プライバシーを損なわず、モバイルデバイス上でディープラーニングモデルを効率的にトレーニングする方法は何か？
• RQ2 リソース制限のあるモバイルハードウェア上で、大規模なDNNを効率的に推論するための技術は何か？
• RQ3 キーストロークや加速度計などのモバイルセンサーからのデータを用いて、ユーザーを正確に識別したり、気分状態を検出したりできるか？
• RQ4 共有されたモバイル環境において、識別対象のユーザー数が増加するにつれて、モデルのパフォーマンスはどのように低下するか？
• RQ5 モバイルアプリケーションへのディープラーニングの導入における主な課題と今後の方向性は何か？

主な発見

• フェデレーテッドラーニングにより、生のユーザー データをデバイス上に保持したまま、効果的なモデルトレーニングが可能となり、プライバシー懸念が軽減される。
• DeepServiceは、ユーザーのモバイル操作パターンに基づいたユーザー識別において、平均99.1％の正確性と98.97％のF1スコアを達成した。
• 同じデバイスを共有する状況（例：夫婦が同じスマートフォンを使用）でも、ユーザーを高精度に区別でき、多クラス識別において高い性能を示した。
• 10人のユーザーにスケーリングした場合、DeepServiceは87.35％の正確性と87.69％のF1スコアを達成し、XGBoost やランダムフォレストといった従来のモデルを上回った。
• 共有バイオメトリクス パatters のばらつきが増加するため、ユーザー数の増加に伴いパフォーマンスが低下する傾向にあり、スケーラビリティと正確性のトレードオフが明らかになった。
• 本論文は、将来的なモバイルディープラーニングは、クラウドベースの推論から、デバイス上でのトレーニングと推論へとシフトすると結論づけている。これは、モバイルプロセッサと無線技術の進歩に支えられている。