[論文レビュー] On the Out-of-distribution Generalization of Probabilistic Image Modelling

Ming‐Tian Zhang, Andi Zhang+1 more|arXiv (Cornell University)|Sep 4, 2021

Advanced Data Compression Techniques被引用数 9

ひとこと要約

本論文は、局所的画像特徴にのみ焦点を当てることで、確率的画像モデリングにおける分布外（OOD）一般化を向上させるローカル自己回帰モデルを提案する。局所的依存関係をモデル化することで、教師なしOOD検出において最先端の性能を達成し、NeLLoCと呼ばれる新しい無損失画像圧縮方式を実現した。NeLLoCは、非常に効率的な並列復元を可能にし、高い圧縮率を達成した。

ABSTRACT

Out-of-distribution (OOD) detection and lossless compression constitute two problems that can be solved by the training of probabilistic models on a first dataset with subsequent likelihood evaluation on a second dataset, where data distributions differ. By defining the generalization of probabilistic models in terms of likelihood we show that, in the case of image models, the OOD generalization ability is dominated by local features. This motivates our proposal of a Local Autoregressive model that exclusively models local image features towards improving OOD performance. We apply the proposed model to OOD detection tasks and achieve state-of-the-art unsupervised OOD detection performance without the introduction of additional data. Additionally, we employ our model to build a new lossless image compressor: NeLLoC (Neural Local Lossless Compressor) and report state-of-the-art compression rates and model size.

研究の動機と目的

• 尤度ベースの応用を含む確率的画像モデルにおける分布外（OOD）一般化を支配する要因を調査すること。
• 訓練データが分布内データであるにもかかわらず、深層生成モデルがOODデータに対して高い尤度を割り当てる理由の理解不足を解消すること。
• 追加データを必要とせず、局所的特徴のモデリングによるモデル一般化の向上によって、OOD検出性能を向上させること。
• ローカル自己回帰モデリングを活用し、高い圧縮効率と並列復元が可能な新しい無損失画像圧縮方式NeLLoCを設計すること。
• 尤度ベース一般化の共通原理を通じて、OOD検出と無損失圧縮の間に接続を確立すること。

提案手法

• 各画素の分布を全画像ではなく局所的受容野に条件づけることで、グローバルな文脈に依存するのを軽減するローカル自己回帰モデルを提案。
• 各画素を固定サイズの近隣領域に基づいて予測する局所的自己回帰構造を採用し、パッチ単位での処理により並列復元を可能にする。
• 局所領域からの特徴を抽出する学習可能な局所的文脈エンコーダを用い、その特徴を正規化フローまたは類似の密度モデルを介して画素分布の予測に活用。
• 2つのタスクにモデルを適用：尤度のしきい値を用いた教師なしOOD検出、および推定尤度に基づく算術符号化を用いた無損失画像圧縮。
• モデルサイズと圧縮率を主な設計指標として、ローカル自己回帰モデルに基づく無損失画像圧縮方式NeLLoC（Neural Local Lossless Compressor）を導入。
• 画像を重複のないパッチに分割し、各パッチを独立して処理することで並列復元を実現。これにより、最小限のレート低下で最大400倍の高速化を達成。

実験結果

リサーチクエスチョン

• RQ1 確率的画像モデルにおける分布外一般化能力を支配する主な特徴は何か？
• RQ2 深層生成モデルが、分布内データで訓練されているにもかかわらず、OODデータに対して高い尤度を割り当てる理由は何か？
• RQ3 画像の局所的特徴のみをモデリングすることで、尤度ベースのタスクにおけるOOD一般化が向上するか？
• RQ4 ローカル自己回帰モデルは、追加データを用いずに教師なしOOD検出で最先端の性能を達成できるか？
• RQ5 このようなモデルを用いて、競争力のある圧縮率と小さなモデルサイズを実現し、並列処理が可能な高効率な無損失画像圧縮方式を構築できるか？

主な発見

• 局所的特徴が確率的画像モデルにおけるOOD一般化を支配しており、グローバルな文脈や意味的特徴はOODデータに対して予測力が低いことが判明。
• 提案されたローカル自己回帰モデルは、追加データを一切使用せず、CIFAR10およびImageNet32で教師なしOOD検出において最先端の性能を達成。
• NeLLoCは、最先端の圧縮率を達成：ImageNet64では3.24 BPD、ImageNetでは3.25 BPDを記録。モデルサイズはわずか2.75 MB。
• 復元時に画像を400パッチに分割することで、BPDは0.11（3.25から3.34に）上昇するが、最大400倍の高速化が可能で、レート劣化は最小限。
• CIFAR10で訓練したモデルがImageNet64（OOD）で3.25 BPDを達成し、強力なOOD一般化能力を示した。
• CIFAR10で訓練したモデルがSVHN（OOD）で2.13 BPDを達成し、先行手法（HiLLoC：2.29 BPD、L3C：3.17 BPD）を上回り、OOD一般化能力の向上を確認。