[論文レビュー] Large-scale image analysis using docker sandboxing

Biswa Sengupta, Eduard Vazquez+5 more|arXiv (Cornell University)|Mar 7, 2017

Advanced Neural Network Applications参考文献 22被引用数 3

ひとこと要約

本論文では、GPUアクセラレーションとコンテナ化されたマイクロサービスを活用して、商業的応用における高速で柔軟かつ安全なマルチプロダクト検索を実現する、スケーラブルでDockerベースのアーキテクチャ、Cortexicaを提示する。このシステムは、オブジェクト検出に深層学習を、効率的な検索に分散インverted indexingを組み合わせ、多様な画像データベースにおいても高精度かつフェイルセーフなサブ秒応答時間を達成する。

ABSTRACT

With the advent of specialized hardware such as Graphics Processing Units (GPUs), large scale image localization, classification and retrieval have seen increased prevalence. Designing scalable software architecture that co-evolves with such specialized hardware is a challenge in the commercial setting. In this paper, we describe one such architecture ( extit{Cortexica}) that leverages scalability of GPUs and sandboxing offered by docker containers. This allows for the flexibility of mixing different computer architectures as well as computational algorithms with the security of a trusted environment. We illustrate the utility of this framework in a commercial setting i.e., searching for multiple products in an image by combining image localisation and retrieval.

研究の動機と目的

• 商業的環境における大規模画像解析のためのスケーラブルで安全かつ柔軟なソフトウェアアーキテクチャの設計。
• 専用ハードウェア（例：GPU）とソフトウェアが共進化するのを支援しつつ、アルゴリズムおよびアーキテクチャの柔軟性を維持する。
• オブジェクト局在化とコンテンツベース検索を統合することで、効率的で低レイテンシのマルチプロダクト検索を実現する。
• Dockerコンテナを用いて信頼できる隔離環境内で、ディープラーニングモデルや代替アルゴリズムのホットスワップを可能にする。
• 分散型でシャーディングされたインverted indexingと並列クエリ実行を通じて、システムの頑健性とパフォーマンスを確保する。

提案手法

• 各コンponentをサンドボックス化するDockerコンテナを用いたマイクロサービスアーキテクチャを採用し、隔離性、セキュリティ、およびアルゴリズムのホットスワップの容易性を確保する。
• GPUアクセラレーションを活用した最先端のディープラーニングモデル（Faster R-CNN、SSD、R-FCN）を用いてオブジェクト局在化を実現し、リアルタイム推論を達成する。
• マルチスケールの特徴抽出パイプラインを実装し、領域提案ネットワークと共有畳み込みバックボーン（例：VGG）を用いて効率的な検出を実現する。
• 局在化後、色・テクスチャ記述子（例：SIFT、LBP）を適用してコンテンツベース画像検索を実行し、大規模データベースにおける類似性検索を可能にする。
• 視覚的単語を画像IDにマッピングする分散型でシャーディングされたインvertedインデックスを構築し、水平スケーリングとフェイルセーフ性を実現する。
• 各データベースインスタンスを特定の製品カテゴリ（例：トップス、ジャケット）に専用化し、複数のインスタンスで並列に検索クエリを実行する。これにより、負荷分散と一貫性のある応答時間を実現する。

実験結果

リサーチクエスチョン

• RQ1 大規模画像解析に適したスケーラブルで安全なソフトウェアアーキテクチャを、専用ハードウェア（例：GPU）と共進化させながら設計するにはどうすればよいか？
• RQ2 生産環境において、ディープラーニングモデルや代替アルゴリズムの効率的なホットスワップを可能にするアーキテクチャパターンは何か？
• RQ3 オブジェクト局在化とコンテンツベース検索を効果的に統合することで、1枚の画像や動画ストリームからマルチプロダクト検索を実現するにはどうすればよいか？
• RQ4 大規模で多様な画像データベースにおいて、低レイテンシでスケーラブルかつフェイルセーフな検索を実現するインデックス戦略は何か？
• RQ5 モジュラーでコンテナ化されたフレームワークは、多様なアルゴリズムやデータタイプをサポートしつつ、高いパフォーマンスと正確性を維持できるか、その限界はどこか？

主な発見

• Cortexicaフレームワークは、10万～200万枚の画像データベースを対象としたマルチプロダクト検索において、データベースサイズや検出アイテム数に関係なくサブ秒応答時間を達成する。
• Dockerサンドボックス化の活用により、サービス中断を伴わずニューラルネットワークや代替アルゴリズムのホットスワップが可能となり、システムの柔軟性が向上する。
• 検索データベースを製品カテゴリ（例：トップス、ジャケット）ごとに分割することで、モノリシックなデータベースに比べて推論精度が顕著に向上する。
• シャーディングされた分散インvertedインデックスによりフェイルセーフ性が確保される：1台のサーバー障害は、単語のわずかなサブセットにしか影響を与えず、クエリ結果への影響を最小限に抑える。
• カテゴリ固有のデータベース上で並列に検索クエリを実行することで、検出数の増加に伴うパフォーマンス劣化を防ぎ、一貫性のある応答時間を維持する。
• 本システムは、1枚の画像や動画ストリームから複数のファッションアイテムを高精度に局在化・検索可能であり、視覚的な結果から意味的に関連するマッチングが得られている。