[論文レビュー] Complement Objective Training

Haoyun Chen, Pei-Hsin Wang+6 more|arXiv (Cornell University)|Mar 4, 2019

Adversarial Robustness in Machine Learning被引用数 15

ひとこと要約

本稿では、補数的誤差（補数目的）を最適化することで、誤りのあるクラスの予測確率を中和する新しい訓練枠組みである補数的目的訓練（COT）を提案する。これにより、主な目的（例：交差エントロピー）と補数的目的を同時に最適化することで、モデルの精度と耐性が向上し、FGSM白ボックス攻撃下で分類誤差が最大10%まで低減され、画像認識および自然言語処理のタスクにおいて一貫した性能向上が得られる。

ABSTRACT

Learning with a primary objective, such as softmax cross entropy for classification and sequence generation, has been the norm for training deep neural networks for years. Although being a widely-adopted approach, using cross entropy as the primary objective exploits mostly the information from the ground-truth class for maximizing data likelihood, and largely ignores information from the complement (incorrect) classes. We argue that, in addition to the primary objective, training also using a complement objective that leverages information from the complement classes can be effective in improving model performance. This motivates us to study a new training paradigm that maximizes the likelihood of the groundtruth class while neutralizing the probabilities of the complement classes. We conduct extensive experiments on multiple tasks ranging from computer vision to natural language understanding. The experimental results confirm that, compared to the conventional training with just one primary objective, training also with the complement objective further improves the performance of the state-of-the-art models across all tasks. In addition to the accuracy improvement, we also show that models trained with both primary and complement objectives are more robust to single-step adversarial attacks.

研究の動機と目的

• 標準的な訓練が最適化中に誤った（補数的）クラスからの情報をほとんど無視するという限界に対処すること。
• 誤ったクラスの予測確率を明示的に中和することで、モデルの一般化性能と耐性を向上させること。
• 補数的目的を組み込むことで、標準的な交差エントロピー訓練を上回る性能向上が可能かどうかを検証すること。
• FGSMのような1ステップ敵対的攻撃に対するCOTで訓練されたモデルの耐性を評価すること。
• 生成モデルや密度予測タスクを含む、より広範な応用分野における補数的目的の可能性を検討すること。

提案手法

• 誤ったクラスの確率を中和する新しい補数的目的として「補数エントロピー」を提案し、主な目的に影響を与えることなく、誤ったクラスの確率を抑制することを保証する。
• 訓練中に主な交差エントロピー損失と補数エントロピー損失の両方を最小化する共同最適化フレームワークを導入する。
• 主な目的と補数的目的の両方の勾配を同時に計算・逆伝播させる勾配ベースの最適化を採用する。
• 主な目的が損なわれないよう保ちつつ、補数的クラスが積極的に抑制されるように、バランスの取れた損失重み戦略を採用する。
• t-SNEを用いてモデルの埋め込みを可視化し、COTが表現空間におけるクラスクラスタをより密に、より明確に分離させることを示す。
• FGSM白ボックス攻撃およびトランスファー攻撃を適用し、敵対的生成に主な目的と補数的目的の両方の勾配を用いて耐性を評価する。

実験結果

リサーチクエスチョン

• RQ1 誤ったクラスの確率を中和する補数的目的を最適化することで、標準的な交差エントロピー訓練を上回るモデル精度の向上が達成可能か？
• RQ2 COTにより、学習された表現におけるクラスクラスタがより密かつ明確に分離されるという点で、より良い一般化性能が得られるか？
• RQ3 標準モデルと比較して、COTで訓練されたモデルはFGSMのような1ステップ敵対的攻撃に対してより耐性があるか？
• RQ4 補数的勾配を組み込むことで、トランスファーベースの敵対的攻撃の成功率にどのような影響が生じるか？
• RQ5 COTフレームワークは、物体検出、セグメンテーション、生成モデルなどの他のアーキテクチャやタスクに拡張可能か？

主な発見

• COTで訓練されたモデルは、コンピュータビジョンおよび自然言語理解の複数のタスクで顕著な精度向上を達成する。
• CIFAR-10では、FGSM白ボックス攻撃下で分類誤差が最大9.51ポイントまで低減され（例：PreAct ResNet-18では65.60%から56.17%に）、顕著な改善が得られた。
• COTモデルはトランスファー攻撃に対しても耐性が向上し、誤差率が最大6.58ポイントまで低減された（例：ResNeXt-29では70.24%から61.55%に）。
• t-SNEの可視化により、COTがより密で明確に分離されたクラスクラスタを生成することが確認され、特徴表現および一般化性能の向上が示された。
• 補数的目的により、主な目的に起因する摂動を相殺する勾配が導入され、敵対的攻撃に対する防御に寄与した。
• COTは、ResNet-110、WideResNet-28-10、DenseNet-BC-121を含む多様なアーキテクチャで一貫した性能向上を示し、広範な適用可能性が裏付けられた。