[論文レビュー] Needles in Haystacks: On Classifying Tiny Objects in Large Images

Nick Pawlowski, Suvrat Bhooshan+4 more|arXiv (Cornell University)|Aug 16, 2019

AI in cancer detection参考文献 37被引用数 8

ひとこと要約

本稿は、医療画像や高スペクトル画像で一般的な大規模画像内の微小対象の分類において、畳み込みニューラルネットワーク（CNNs）の性能を調査する。合成MNISTおよびヒストパスロジーに基づくデータセットを用いた新規のテストベッドを導入した。一般化性能は、対象画像比（O2I）が臨界値を下回ると急激に低下するが、深層モデルと十分な訓練データによりこれを緩和できる。特に、極めて低い信号対雑音比の状況では、マックスプーリングが最適化において優れた性能を示す。

ABSTRACT

In some important computer vision domains, such as medical or hyperspectral imaging, we care about the classification of tiny objects in large images. However, most Convolutional Neural Networks (CNNs) for image classification were developed using biased datasets that contain large objects, in mostly central image positions. To assess whether classical CNN architectures work well for tiny object classification we build a comprehensive testbed containing two datasets: one derived from MNIST digits and one from histopathology images. This testbed allows controlled experiments to stress-test CNN architectures with a broad spectrum of signal-to-noise ratios. Our observations indicate that: (1) There exists a limit to signal-to-noise below which CNNs fail to generalize and that this limit is affected by dataset size - more data leading to better performances; however, the amount of training data required for the model to generalize scales rapidly with the inverse of the object-to-image ratio (2) in general, higher capacity models exhibit better generalization; (3) when knowing the approximate object sizes, adapting receptive field is beneficial; and (4) for very small signal-to-noise ratio the choice of global pooling operation affects optimization, whereas for relatively large signal-to-noise values, all tested global pooling operations exhibit similar performance.

研究の動機と目的

• 大規模画像内の微小対象を分類する際の標準CNNの一般化限界、特に低信号対雑音（低O2I）領域における一般化限界を調査すること。
• データセットサイズ、モデル容量、受容 field 設計、およびグローバルプーリング操作が、低O2I条件下でのモデル性能に与える影響を特定すること。
• 低信号対雑音画像分類シナリオにおけるCNNの制御された評価のための再現可能なテストベッドを開発すること。
• 画像レベルのラベルのみが利用可能な状況で、サリエンシー マップによる弱教師付きオブジェクト局所化が可能かどうかを評価すること。
• 低O2I分類タスクで満足できる精度を達成するための最小データ要件を特定すること。

提案手法

• O2I比を制御したMNISTデジットを用いた合成データセットと、CAMELYON17のヒストパスロジー画像を用いた近似O2I制御の合成データセットを2つ構築した。
• ピクセルレベルのアノテーションを一切使用せず、画像レベルのラベルのみを用いて、容量を変化させたResNetベースのCNN（例：ResNet-50）を訓練した。
• 異なるO2I比とデータセットサイズにおいて、マックスプーリング、平均プーリング、logsumexp、およびソフトアテンションプーリングの複数のグローバルプーリング操作を評価した。
• 勾配に基づくサリエンシー マップを用いて、弱教師付きオブジェクト局所化性能を評価し、最大活性化領域を予測されたオブジェクト位置とみなした。
• 対象オブジェクトの真値バウンディングボックスを用いて、平均適合率（AP）を用いて検出性能を定量化した。
• 訓練データセットサイズ（1,400～22,552サンプル）とO2I比を体系的に変化させ、データ効率および一般化限界を調査した。

実験結果

リサーチクエスチョン

• RQ1 標準CNNが、大規模な訓練データセットを有しても一般化できなくなる最小のO2I比は何か？
• RQ2 特定のモデルにおいて、O2I比が低下するに従って、満足できる精度に到達するための必要な訓練データ量はどのように変化するか？
• RQ3 モデル容量を向上させることで、低O2I領域における一般化性能が向上するか？ もし向上するならば、そのメカニズムは何か？
• RQ4 異なるグローバルプーリング操作は、極めて低い信号対雑音比における最適化および一般化にどのように影響を与えるか？
• RQ5 画像レベルで訓練されたモデルのサリエンシー マップは、微小対象を十分な精度で局所化できるか、弱教師付き検出に利用可能か？

主な発見

• すべてのテストされたCNNが、ランダム性能を超えて一般化できなくなる臨界的なO2I比の限界が存在し、この限界はデータセットサイズに依存する。
• 一般化に必要な訓練データ量は、O2I比の逆数に比例して急激に増加するため、微小対象分類において強いデータ効率の課題が生じる。
• 高い容量を持つモデルは、低O2I領域でもより優れた一般化性能を示す。これは、複雑なノイズ構造をモデル化でき、特徴を効果的に抽出できるためと推測される。
• 期待されるオブジェクトサイズに合わせて受容 field を調整することで性能が向上し、低信号対雑音状況におけるインダクティブバイアスの重要性が裏付けられた。
• 極めて低いO2I比では、マックスプーリングが他のプーリング操作よりも高速かつ安定した最適化を実現するが、O2I比が高い場合には、すべてのプーリングタイプが同程度の性能を示す。
• 画像レベルで訓練されたモデルのサリエンシー マップは、対象オブジェクトの意味のある局所化を示しており、O2I比が低下するに従って平均適合率が低下するが、中程度のO2Iレベルでは依然として利用可能な検出性能を達成している。