[論文レビュー] Maximally Compact and Separated Features with Regular Polytope Networks

Federico Pernici, Matteo Bruni+2 more|arXiv (Cornell University)|Jan 15, 2023

Image Retrieval and Classification Techniques参考文献 2被引用数 6

ひとこと要約

本稿では、分類器の重みを正多面体の頂点に固定し、加法的角マージン損失と組み合わせることで、畳み込みニューラルネットワーク（CNN）において特徴量を最大限にcompactかつ分離されたものに生成する手法、Margin-Regular Polytope Networks（Margin-RePoNets）を提案する。この手法は補助損失を必要とせず、パラメータとハイパーパrameterを削減しながらも高い精度を維持する。

ABSTRACT

Convolutional Neural Networks (CNNs) trained with the Softmax loss are widely used classification models for several vision tasks. Typically, a learnable transformation (i.e. the classifier) is placed at the end of such models returning class scores that are further normalized into probabilities by Softmax. This learnable transformation has a fundamental role in determining the network internal feature representation. In this work we show how to extract from CNNs features with the properties of \emph{maximum} inter-class separability and \emph{maximum} intra-class compactness by setting the parameters of the classifier transformation as not trainable (i.e. fixed). We obtain features similar to what can be obtained with the well-known ``Center Loss'' \cite{wen2016discriminative} and other similar approaches but with several practical advantages including maximal exploitation of the available feature space representation, reduction in the number of network parameters, no need to use other auxiliary losses besides the Softmax. Our approach unifies and generalizes into a common approach two apparently different classes of methods regarding: discriminative features, pioneered by the Center Loss \cite{wen2016discriminative} and fixed classifiers, firstly evaluated in \cite{hoffer2018fix}. Preliminary qualitative experimental results provide some insight on the potentialities of our combined strategy.

研究の動機と目的

• クラス内compact性とクラス間分離性を確保するための追加パラメータと補助損失を必要とする従来の手法（例：Center Loss）の限界を克服すること。
• 分類器重みを固定する手法とCenter Lossによる判別的特徴学習の2つの異なる手法を統合・一般化し、一元的で原理的根拠のあるフレームワークを構築すること。
• 固定された幾何学的に最適な分類器構造を用いて、特徴空間におけるグローバルに最大のクラス間分離性とクラス内compact性を達成すること。
• 複数の損失関数間のバランス調整に必要なハイパーパrameterを排除するため、幾何的制約をSoftmax損失に組み込み、compact性と分離性を直接的に埋め込むこと。

提案手法

• 正多面体（例：単 simplex、正軸多面体、超立方体）の頂点に最終分類器の重みを固定することで、クラス中心間の内在的角分離を最大化する。
• 加法的角マージン損失を用いて、特徴量をそれぞれの固定分類器重みに向かって押し込むことで、最大限のクラス内compact性を実現する。
• 標準的なSoftmax交差エントロピー損失のみを用いてCNNを学習させつつ、固定分類器の幾何構造とマージン損失が併せて最適な特徴分布を強制する。
• 正多面体の頂点が持つ対称性と均等な角分布を活用し、すべてのクラスに対して局所的ではなくグローバルな特徴分離を実現する。
• L2正則化を特徴量に適用し、距離に基づく認識を可能にすることで、射影された特徴分布が期待される多面体幾何に一致することを保証する。
• φ（許容可能な最大マージン）を解析的に最適化することで、追加の学習を伴わず最大のcompact性を達成する。

実験結果

リサーチクエスチョン

• RQ1 正多面体の頂点から導かれる固定分類器重みは、深層特徴空間で最大のクラス間分離性を達成できるか？
• RQ2 固定された多面体分類器と加法的角マージン損失を組み合わせることで、補助損失を必要とせずに最大限のcompactな特徴量が得られるか？
• RQ3 可学習分類器と比較して、固定分類器に基づく特徴学習の精度と特徴幾何学的性質はどのように異なるか？
• RQ4 Center Loss やトリプルット損失のような従来手法と比較して、モデルのパラメータ数とハイパーパrameter数を削減できるか？
• RQ5 分類器の幾何的構造は、低次元特徴空間でも最大の特徴compact性と分離性を維持できるか？

主な発見

• 提案手法であるMargin-RePoNetは、標準的な可学習分類器と同等の分類精度（MNISTでは99.45%、EMNISTでは88.31%）を達成しながら、最大の幾何的compact性と分離性を持つ特徴量を生成する。
• 固定多面体分類器で学習された特徴量は、期待される幾何的構造（例：d=6次元における超立方体の頂点）と正確に一致しており、下位の多面体構造と完全に整合していることが示された。
• 低次元特徴空間においては、標準的な可学習分類器はクラス間分離を維持できないが、Margin-RePoNetsは固定された対称的分類器幾何学のおかげで最大の分離性を保持する。
• Center Loss やトリプルット損失のような補助損失の必要がなくなり、モデルの複雑さとハイパーパrameterチューニングの負担が軽減される。
• L2正則化された特徴量は、多面体頂点の正確な射影（例：6次元超立方体の2次元射影における単位正方形）を形成しており、グローバルな幾何的一致性が確認された。
• トレーニング可能なパラメータ数とハイパーパrameter数が顕著に削減され、数千クラスのスケール認識タスクに対してもスケーラブルな解決策を提供する。