[論文レビュー] Deep Generalized Convolutional Sum-Product Networks

Jos van de Wolfshaar, Andrzej Pronobis|arXiv (Cornell University)|Feb 16, 2019

Visual Attention and Saliency Detection参考文献 22被引用数 4

ひとこと要約

本稿では、ストライドおよびダイレーションの新たなパrameterizationを用いて、積層部における畳み込み操作を一般化することで、重複するパッチを許容しつつも確率的妥当性を保つ、新しいSPNアーキテクチャであるDeep Generalized Convolutional Sum-Product Networks (DGC-SPNs)を提案する。DGC-SPNsは、複数のデータセットにおいて画像補完および分類タスクで最先端の性能を達成し、既存のSPNモデルを上回っている。また、Keras/TensorFlowライブラリを用いたスケーラブルでGPU最適化された実装を提供している。

ABSTRACT

Sum-Product Networks (SPNs) are hierarchical, graphical models that combine benefits of deep learning and probabilistic modeling. SPNs offer unique advantages to applications demanding exact probabilistic inference over high-dimensional, noisy inputs. Yet, compared to convolutional neural nets, they struggle with capturing complex spatial relationships in image data. To alleviate this issue, we introduce Deep Generalized Convolutional Sum-Product Networks (DGC-SPNs), which encode spatial features in a way similar to CNNs, while preserving the validity of the probabilistic SPN model. As opposed to existing SPN-based image representations, DGC-SPNs allow for overlapping convolution patches through a novel parameterization of dilations and strides, resulting in significantly improved feature coverage and feature resolution. DGC-SPNs substantially outperform other SPN architectures across several visual datasets and for both generative and discriminative tasks, including image inpainting and classification. These contributions are reinforced by the first simple, scalable, and GPU-optimized implementation of SPNs, integrated with the widely used Keras/TensorFlow framework. The resulting model is fully probabilistic and versatile, yet efficient and straightforward to apply in practical applications in place of traditional deep nets.

研究の動機と目的

• 既存のSPNアーキテクチャが画像データにおける複雑な空間的関係を捉える能力に制限を受ける問題に対処すること。
• 完全性および分解可能性の制約に反しないように、SPNの積層部における重複する畳み込みパッチの実装を可能にすること。
• ストライドおよびダイレーションレートのパrameterizationを一般化することで、SPNベースの画像表現における特徴の解像度およびカバー範囲を向上させること。
• 実用的導入を可能にするために、Keras/TensorFlowに統合されたスケーラブルで効率的かつGPU最適化されたSPN実装の開発。
• 生成的および判別的視覚タスクの両方において、DGC-SPNsの優位性を示すこと。具体的には、画像補完および分類を含むタスクで検証する。

提案手法

• ストライドおよびダイレーションレートの一般化を用いて、SPN積層部における畳み込み操作の新たなパrameterizationを導入し、重複パッチの許容を可能にする。
• 和および積のノードにおけるスコープの一貫性を保つことで、SPNの妥当性（完全性および分解可能性）を維持する。
• 重み付き和および積演算を用いて、局所的特徴を階層的に統合し、グローバル表現を構築する。このプロセスにより、正確な確率的推論を保持する。
• 未観測データタスクにおけるパス選択バイアスの低減を図るため、未重み付き和入力（USI）とハードEMを統合する。
• KerasおよびTensorFlowに基づいて構築された新しいライブラリ、libspn-kerasを用いてDGC-SPNアーキテクチャを実装し、スケーラビリティと使いやすさを実現する。
• Adamやドロップアウトなどの標準的な深層学習最適化手法を用いてモデルを訓練するが、同時に完全な確率的意味論を保持する。

実験結果

リサーチクエスチョン

• RQ1 SPN積層部における重複する畳み込みパッチの導入は、確率的妥当性に反しない範囲で、特徴の解像度およびカバー範囲を向上させることができるか？
• RQ2 SPNにおけるストライドおよびダイレーションの一般化されたパrameterizationは、画像認識および再構成タスクの性能向上に寄与するか？
• RQ3 DGC-SPNsは、既存のSPNアーキテクチャと比較して、生成的および判別的画像タスクの両方で最先端の結果を達成できるか？
• RQ4 未重み付き和入力（USI）とハードEMの併用は、SPNにおける性能およびパス選択バイアスにどのような影響を及けるか？
• RQ5 新しいGPU最適化されたKeras/TensorFlowベースのSPN実装は、スケーラビリティおよび実用的利便性をどの程度向上させるか？

主な発見

• 画像補完タスクにおいて、DGC-SPNsは全データセットで最小のMSEを達成した。USIを用いた場合、Olivettiでは12.7%の改善（735 vs. 804）、Caltech 101では12.8%の改善（2801 vs. 3216）を記録した。
• MNISTでは、画像分類タスクで98.66%の精度を達成し、RAT-SPN（98.19%）およびPrometheus（98.37%）を上回った。
• Fashion MNISTでは、90.74%の精度を達成し、次に優れた手法（RAT-SPN：89.52%）を上回った。
• 未重み付き和入力（USI）とハードEMの併用により、パス選択バイアスが顕著に低減され、全データセットおよびタスクで性能が向上した。
• DGC-SPNsは、クラスごとにサブ-SPNを必要としていた従来手法とは異なり、全クラスで1つの共有SPNスタックを用いることで、スケーラビリティに優れた性能を示した。
• libspn-kerasライブラリにより、効率的でスケーラブルかつGPU加速された学習および推論が可能となり、SPNベースのモデルの再現性および広範な採用を促進した。