[論文レビュー] Batch-Incremental Triplet Sampling for Training Triplet Networks Using Bayesian Updating Theorem

Milad Sikaroudi, Benyamin Ghojogh+3 more|arXiv (Cornell University)|Jul 10, 2020

AI in cancer detection参考文献 35被引用数 3

ひとこと要約

本稿では、クラス埋め込みをモデル化する多変量正規分布に従って、動的に陽性および陰性のトリプレットをサンプリングする、バッチインクリメンタルなトリプレットサンプリング手法として、ベイジアンアップデートトリプレット（BUT）およびベイジアンアップデートNCA（BUNCA）を提案する。共役事前分布を用いたベイジアンアップデートにより、ストリーミングミニバッチを経てクラス分布を段階的に改善することで、判別性の高い特徴抽出を促進し、MNISTおよびCRCヒストパスロジー画像データセットで最先端の性能を達成した。

ABSTRACT

Variants of Triplet networks are robust entities for learning a discriminative embedding subspace. There exist different triplet mining approaches for selecting the most suitable training triplets. Some of these mining methods rely on the extreme distances between instances, and some others make use of sampling. However, sampling from stochastic distributions of data rather than sampling merely from the existing embedding instances can provide more discriminative information. In this work, we sample triplets from distributions of data rather than from existing instances. We consider a multivariate normal distribution for the embedding of each class. Using Bayesian updating and conjugate priors, we update the distributions of classes dynamically by receiving the new mini-batches of training data. The proposed triplet mining with Bayesian updating can be used with any triplet-based loss function, e.g., triplet-loss or Neighborhood Component Analysis (NCA) loss. Accordingly, Our triplet mining approaches are called Bayesian Updating Triplet (BUT) and Bayesian Updating NCA (BUNCA), depending on which loss function is being used. Experimental results on two public datasets, namely MNIST and histopathology colorectal cancer (CRC), substantiate the effectiveness of the proposed triplet mining method.

研究の動機と目的

• 既存の埋め込みからの静的サンプリングから、学習済みクラス分布からの確率的サンプリングに移行することで、トリプレットネットワークの学習を改善すること。
• 固定されたデータインスタンスに依存する既存のトリプレットマイニング手法の限界、すなわち情報量の多い外れ値やレアパターンを逃す可能性を是正すること。
• クラス埋め込みのベイジアンアップデートを通じて不確実性とストリーミングデータを統合し、より頑健で一般化性の高い学習を実現すること。
• 標準的なメトリック学習ベンチマークを用いて、ベンチマークデータセット上での動的で分布ベースのトリプレットサンプリングの有効性を検証すること。

提案手法

• 各クラスの埋め込みを、平均と分散をパrameterとする多変量正規分布としてモデル化する。
• 共役事前分布（正規逆ウィシャート）を用いることで、新しいミニバッチに対して解析的なベイジアンアップデートが可能となる。
• 新しい学習データが到着するたびに、再帰的にクラス分布のパラメータ（平均および分散）を更新するベイジアンアップデートを適用する。
• ミニバッチ内の固定されたデータポイントからではなく、動的に更新された多変量正規分布から陽性および陰性のトリプレットをサンプリングする。
• トリプレット損失関数およびNCA損失関数を含む、あらゆるトリプレットベースの損失関数をサポートしており、モジュラリティが高く、広範な応用が可能である。
• バッチインクリメンタルな学習パイプラインに統合し、学習中にオンラインで適応可能である。

実験結果

リサーチクエスチョン

• RQ1 固定されたデータポイントからのサンプリングではなく、学習済みクラス分布からのサンプリングが、トリプレットネットワークの性能向上に寄与するか？
• RQ2 クラス埋め込みの動的ベイジアンアップデートが、学習された表現の判別性にどのように影響を与えるか？
• RQ3 分布ベースのサンプリングは、Batch Hard や DWS といった既存のサンプリング戦略を上回るリtrieval精度を達成するか？
• RQ4 ヒストパスロジー画像のような現実世界のデータセットにおける外れ値やデータ分布のシフトに対して、本手法はどの程度頑健であるか？
• RQ5 手書き数字や医療用組織パッチといった多様なデータタイプに、本手法は一般化可能か？

主な発見

• MNISTではBUTが88.03%のRecall@1を達成し、Batch Hard（85.75%）やNCA（85.40%）を上回る性能を示した。
• CRCヒストパスロジー画像データセットでは、BUTが79.14%のRecall@1を達成し、Batch Hard（79.09%）を除くすべてのベースラインを上回り、優れた一般化性能を示した。
• BUNCAはMNISTで78.67%、CRCでも78.67%のRecall@1を達成し、BUTほど攻撃的ではないが、データセット間で一貫した性能を示した。
• 本手法はリtrieval品質を顕著に向上させ、MNISTおよびヒストパスロジー画像の両方において、トップ10のリtrieval結果がクエリ画像と高い視覚的類似性を示した。
• 可視化結果から、腫瘍やムコイドなどの複雑なパターンでさえも、意味的に類似したサンプルを正しくリtrievalしていることが確認された。
• 本手法はクラス分布のシフトに対しても効果的に対処でき、ベイジアン不確実性モデリングにより外れ値への感受性が低減され、頑健性を維持した。