[論文レビュー] Expresso : A user-friendly GUI for Designing, Training and Exploring Convolutional Neural Networks

Ravi Kiran Sarvadevabhatla, R. Venkatesh Babu|arXiv (Cornell University)|May 25, 2015

Advanced Neural Network Applications参考文献 4被引用数 5

ひとこと要約

Expresso は、Caffe のディープラーニングフレームワークの上に構築された Python ベースで GUI によるツールであり、畳み込みニューラルネットワーク（CNN）の設計、学習、探索を簡素化することを目的としている。マルチスレッド実行、リアルタイムのお知らせ、データインポート、ネットワーク構築、学習、実験のモジュラーなコンponentsを備えたウィザード型インターフェースを提供し、コンピュータビジョンおよびディープラーニング分野の初心者や経験豊富な研究者にとってのアクセス性を向上させている。

ABSTRACT

With a view to provide a user-friendly interface for designing, training and developing deep learning frameworks, we have developed Expresso, a GUI tool written in Python. Expresso is built atop Caffe, the open-source, prize-winning framework popularly used to develop Convolutional Neural Networks. Expresso provides a convenient wizard-like graphical interface which guides the user through various common scenarios -- data import, construction and training of deep networks, performing various experiments, analyzing and visualizing the results of these experiments. The multi-threaded nature of Expresso enables concurrent execution and notification of events related to the aforementioned scenarios. The GUI sub-components and inter-component interfaces in Expresso have been designed with extensibility in mind. We believe Expresso's flexibility and ease of use will come in handy to researchers, newcomers and seasoned alike, in their explorations related to deep learning.

研究の動機と目的

• ディープラーニングにおける研究者や初心者にとっての入り口の障壁を低減するため、CNN 開発のための直感的なグラフィカルインターフェースを提供すること。
• Caffe のコマンドラインインターフェースには、低レベルの設定に不慣れなユーザーにとっては難解であるという限界を是正すること。
• データ処理、ネットワーク設計、学習、実験ワークフローを統合的に、かつ拡張可能な GUI 環境でシームレスに統合すること。
• エンドツーエンドの CNN 学習と、SVM 分類などの後続タスクに適した事前学習済みモデルを用いた特徴抽出を両方サポートすること。
• リアルタイムのお知らせ、視覚的フィードバック、および将来的な拡張性を考慮したモジュラーで拡張可能な GUI コンポーネントを通じて、使いやすさを向上させること。

提案手法

• Expresso は、データ、ネットワーク、学習、実験の4つのビューからなる GUI アーキテクチャを採用しており、CNN 開発におけるコアなワークフローにそれぞれ特化している。
• データビューは、複数の入力フォーマット（テキスト、LevelDB、.mat、HDF5、フォルダ）をサポートし、データの分割、プレビュー、フォーマット変換の機能も備えている。
• ネットワークビューは、コンテキストに応じた自動補完機能を備えたスマートエディットインターフェースを用い、ネットワークアーキテクチャの定義に適した Caffe 互換の 'prototxt' および 'deploy' ファイルを生成する。
• 学習ビューは、ウィザード型のプロセスを通じて学習設定をガイドする。データの選択、スクラッチからの学習または事前学習済み特徴の使用の選択、ソルバーパrameterの設定、リアルタイムでの進行状況追跡を伴う学習の開始が可能である。
• 実験ビューは、事前学習済みネットワークからの特徴抽出、学習済み特徴の可視化、精度、混同行列、クラスごとの指標を用いたモデル性能の評価を可能にする。
• マルチスレッドバックエンドにより、タスクの並列実行と、ソーシャルメディア UI に類似したイベントのお知らせが可能となり、応答性とユーザーのフィードバックが向上する。

実験結果

リサーチクエスチョン

• RQ1 GUI ベースのインターフェースは、Caffe のようなコマンドラインフレームワークを扱う際、ディープラーニング分野の研究者や初心者のアクセス性と使いやすさをどのように向上させるか？
• RQ2 ウィザード駆動で多視点構成された GUI は、CNN の設計・学習・評価のワークフローにおける認知的負荷をどの程度軽減し、スムーズ化するか？
• RQ3 モジュラーで拡張可能な GUI フレームワークは、エンドツーエンドの学習、特徴抽出、モデル評価といった多様なユースケースを、1つのツールで効果的にサポートできるか？
• RQ4 学習進行状況のリアルタイムのお知らせと可視化は、CNN 開発におけるユーザー体験とデバッグをどのように向上させるか？
• RQ5 パーサー基盤のデータインポートシステムの統合は、GUI が新しいデータフォーマットに対応するための拡張性と適応性にどのような影響を与えるか？

主な発見

• Expresso は、構造的でウィザードガイド付きの GUI を通じて、Caffe のコマンドラインインターフェースの複雑さを効果的に抽象化し、新規ユーザーの入り口の障壁を顕著に低減した。
• マルチスレッドアーキテクチャにより、並列実行とリアルタイムでの進行状況更新が可能となり、長時間にわたる学習プロセス中のユーザー体験が向上した。
• コンテキストに応じた自動補完機能を備えたスマートエディットインターフェースにより、関連するレイヤー設定オプションを動的に提供することで、エラーの低減とネットワーク設計の高速化が達成された。
• 事前学習済みネットワークからの特徴抽出が効率的にサポートされており、libsvm などのツールと互換性のあるフォーマットで結果をエクスポート可能である。
• 中間層の特徴の可視化により、学習済み表現の解釈が可能となり、モデルの分析やデバッグに貢献した。
• GUI コンポーネントおよびインターフェースのモジュラー設計により、将来的な拡張性が確保され、新しいディープラーニングワークフローおよびデータフォーマットに対応できる柔軟性が得られた。