[論文レビュー] Fast Inference in Capsule Networks Using Accumulated Routing Coefficients

Zhao Zhen, Ashley Kleinhans+3 more|arXiv (Cornell University)|Apr 15, 2019

Caching and Content Delivery参考文献 6被引用数 9

ひとこと要約

この論文では、学習データから事前に計算して保存した「マスタールーティング係数」を用いて、反復的ダイナミックルーティングを1回の行列積に置き換えることで、Capsule Networksの高速推論手法を提案している。MNISTの変種では0.5%未満の精度低下で推論時間を大幅に短縮し、CIFAR-10では約5%の精度低下を示す。これにより、元のモデルの性能をほとんど維持したまま実用的なデプロイが可能になる。

ABSTRACT

We present a method for fast inference in Capsule Networks (CapsNets) by taking advantage of a key insight regarding the routing coefficients that link capsules between adjacent network layers. Since the routing coefficients are responsible for assigning object parts to wholes, and an object whole generally contains similar intra-class and dissimilar inter-class parts, the routing coefficients tend to form a unique signature for each object class. For fast inference, a network is first trained in the usual manner using examples from the training dataset. Afterward, the routing coefficients associated with the training examples are accumulated offline and used to create a set of "master" routing coefficients. During inference, these master routing coefficients are used in place of the dynamically calculated routing coefficients. Our method effectively replaces the for-loop iterations in the dynamic routing procedure with a single matrix multiply operation, providing a significant boost in inference speed. Compared with the dynamic routing procedure, fast inference decreases the test accuracy for the MNIST, Background MNIST, Fashion MNIST, and Rotated MNIST datasets by less than 0.5% and by approximately 5% for CIFAR10.

研究の動機と目的

• 反復的ダイナミックルーティングに起因するCapsule Networksの推論速度の遅さを解消すること。
• 学習データからのルーティング係数を1つの再利用可能なセットに集約できるかを検討すること。
• ダイナミックルーティングと比較して、推論時間を著しく短縮しながらも高いテスト精度を維持すること。
• 推論速度を向上させることで、実世界の応用におけるCapsNetsの実用的デプロイを可能にすること。

提案手法

• 事前処理段階で、すべての学習例からのルーティング係数を集約し、1つの「マスター」ルーティング係数行列を形成する。
• 推論時に、反復的ダイナミックルーティングによる再計算の代わりに、マスターのルーティング係数を使用する。
• ダイナミックルーティングにおけるr反復ループを、1回の行列積演算に置き換えることで、推論時に完全な並列化を可能にする。
• 標準的なダイナミックルーティングを用いてCapsNetを通常通り学習し、最終的な学習ステップでルーティング係数を抽出・保存する。
• マスターのルーティング係数をすべてのテスト入力に適用し、個々のサンプルごとのルーティング計算の必要性を排除する。
• 比較のため、ダイナミックおよび高速推論の両方で、max-minまたはソフトマックスルーティング戦略を用いる。

実験結果

リサーチクエスチョン

• RQ1 学習データからのルーティング係数を、テスト画像にうまく一般化できる1つのマスターマトリクスに集約できるか？
• RQ2 反復的ダイナミックルーティングを事前に計算されたマスターマトリクスに置き換えることで、推論速度と精度にどのような影響が生じるか？
• RQ3 ルーティング係数のクラス内およびクラス間相関が、マスタールーティング手法のパフォーマンスにどのように影響するか？
• RQ4 マスタールーティング係数は、将来的には学習の高速化にも応用可能か？

主な発見

• 高速推論手法は、MNIST、Background MNIST、Fashion MNIST、Rotated MNISTにおいて、ダイナミックルーティングと比較してテスト精度を0.5%未満の範囲で低下させるにとどまった。
• CIFAR-10では、精度が約5%低下しており、より複雑なデータセットではパフォーマンスギャップが顕著に現れている。
• マスタールーティング係数はクラス内では高い相関を示すが、クラス間では特にMNISTのような単純なデータセットではそれほど高くない。
• この手法により、ダイナミックルーティングのr反復を1回の行列積に置き換えることができ、完全な並列化が可能になり、顕著な高速化が達成された。
• CIFAR-10におけるパフォーマンスギャップの原因は、オブジェクトクラス間で予測ベクトルが十分に区別されていないことによるもので、ルーティング係数の集約が信頼性に欠ける要因となっている。
• クラス内類似度に基づいて外れ値のルーティング係数マトリクスを除外することで、複雑なデータセットにおけるパフォーマンス向上が可能であることが示唆され、今後の改善の道筋が示された。