[論文レビュー] Deep Generalized Convolutional Sum-Product Networks for Probabilistic Image Representations

Jos van de Wolfshaar, Andrzej Pronobis|arXiv (Cornell University)|Feb 16, 2019

Machine Learning in Materials Science被引用数 5

ひとこと要約

本論文では、パラメータ化された積和構造を用いて、重ね合わせ、拡張、ストライド付きの受容 field を通じて画像内の空間的依存関係をモデル化する、新しい SPN アーキテクチャである Deep Generalized Convolutional Sum-Product Networks (DGC-SPNs) を提案する。この手法により、正確で効率的な推論が可能となり、複数のデータセットにおいて画像生成、分類、補完タスクで最先端の性能を達成した。従来の畝込み SPN よりも特徴の解像度とカバー範囲が向上した。

ABSTRACT

Sum-Product Networks (SPNs) are hierarchical, probabilistic graphical models capable of fast and exact inference that can be trained directly from high-dimensional, noisy data. Traditionally, SPNs struggle with capturing relationships in complex spatial data such as images. To this end, we introduce Deep Generalized Convolutional Sum-Product Networks (DGC-SPNs), which encode spatial features through products and sums with scopes corresponding to local receptive fields. As opposed to existing convolutional SPNs, DGC-SPNs allow for overlapping convolution patches through a novel parameterization of dilation and strides, resulting in significantly improved feature coverage and feature resolution. DGC-SPNs substantially outperform other convolutional and non-convolutional SPN approaches across several visual datasets and for both generative and discriminative tasks, including image completion and image classification. In addition, we demonstrate a modificiation to hard EM learning that further improves the generative performance of DGC-SPNs. While fully probabilistic and versatile, our model is scalable and straightforward to apply in practical applications in place of traditional deep models. Our implementation is tensorized, employs efficient GPU-accelerated optimization techniques, and is available as part of an open-source library based on TensorFlow.

研究の動機と目的

• 従来の和積ネットワーク（SPNs）が画像内の複雑な空間的構造をモデル化する点で限界を示しているのを是正すること。
• 拡張とストライドの新しいパラメータ化により、畝込みパッチの重複を可能にすることで、SPN の特徴のカバー範囲と解像度を向上させること。
• 生成的および判別的画像タスクの両方で優れた性能を発揮する、完全な確率的でスケーラブルな深層モデルの開発。
• 潜在変数の更新を改善する修正されたハードEM学習手順を導入し、学習効率と性能を向上させること。
• 実世界の展開に適した実用的でオープンソースの、GPU で加速された実装を提供すること。

提案手法

• DGC-SPNs は、調整可能な拡張とストライドを持つ局所的受容 field における積と和が作用する階層的アーキテクチャを採用しており、重複する空間的カバーを可能にしている。
• モデルは、拡張とストライドの一般化された定式化を通じて畝込み操作をパラメータ化し、柔軟で密な特徴表現を可能にしている。
• 空間的特徴は、局所的画像パッチに対応するスコープを持つ和積構造によって捉えられ、正確で効率的な確率的推論が可能になる。
• アーキテクチャはテンソル化され、GPU で加速された技術を用いて最適化されており、スケーラブルな学習と推論を可能にしている。
• 生成的モデリングの質を向上させるために、潜在変数の更新を改善する修正されたハードEM学習戦略が導入された。
• モデルは TensorFlow で実装され、広範な適用性を備えたオープンソースライブラリとして公開された。

実験結果

リサーチクエスチョン

• RQ1 構造的で畝込みのパラメータ化を通じて、SPNs は画像内の複雑な空間的依存関係を効果的にモデル化できるか？
• RQ2 変動する拡張とストライドを持つ重複する畝込み受容 field は、SPNs における特徴表現をどのように改善するか？
• RQ3 DGC-SPNs は、既存の畝込みおよび非畝込み SPN モデルと比較して、画像生成および分類タスクでどの程度優れた性能を示すか？
• RQ4 ハードEM学習に対する提案された修正は、SPNs の生成的能力を顕著に向上させるか？
• RQ5 DGC-SPNs は、スケーラブルで実用的である一方で、実世界の応用に適した高い性能を達成できるか？

主な発見

• DGC-SPNs は、画像生成および分類タスクの両方で、複数の画像データセットにおいて最先端の性能を達成した。画像補完や分類のタスクでも同様に優れた結果を示した。
• 従来の畝込み SPN よりも、重複する、拡張された、ストライド付きの受容 field により、特徴のカバー範囲と解像度が顕著に向上した。
• 修正されたハードEM学習手順により、再構成品質や尤度指標の面で、生成的モデリングの質に顕著な改善が見られた。
• DGC-SPNs は正確で効率的な推論を維持しており、GPU で加速されたハードウェア上で高速な学習とデプロイメントを可能にしている。
• オープンソースの TensorFlow 実装により、実用的応用への容易な統合とデプロイメントが可能であり、評価されたすべてのベンチマークで既存の SPN ベースラインを上回った。
• モデルのスケーラビリティと多様性のおかげで、確率的ビジョンタスクにおける従来の深層学習モデルの強力な代替手段となり得る。