[論文レビュー] Adversarial Regression with Multiple Learners

Liang Tong, Sixie Yu+2 more|arXiv (Cornell University)|Jun 6, 2018

Adversarial Robustness in Machine Learning参考文献 13被引用数 10

ひとこと要約

本稿は、複数の学習者がモデルを共同で訓練し、1人の攻撃者が全モデルを回避するためのユニバーサルな摂動を設計するという、敵対的線形回帰のためのマルチリーナー・スターベルク・ゲーム（MLSG）フレームワークを提案する。学習者の損失関数の上界を導出することで、著者らはこのゲームが一意の対称的均衡を有することを示し、凸最適化により計算可能であることを示した。実験により、MLSGモデルがリッジ回帰やラッソ回帰といった正則化ベースラインと比較して、敵対的攻撃に対して著しく高い耐性を示すことが明らかになった。

ABSTRACT

Despite the considerable success enjoyed by machine learning techniques in practice, numerous studies demonstrated that many approaches are vulnerable to attacks. An important class of such attacks involves adversaries changing features at test time to cause incorrect predictions. Previous investigations of this problem pit a single learner against an adversary. However, in many situations an adversary's decision is aimed at a collection of learners, rather than specifically targeted at each independently. We study the problem of adversarial linear regression with multiple learners. We approximate the resulting game by exhibiting an upper bound on learner loss functions, and show that the resulting game has a unique symmetric equilibrium. We present an algorithm for computing this equilibrium, and show through extensive experiments that equilibrium models are significantly more robust than conventional regularized linear regression.

研究の動機と目的

• 1人の攻撃者が個別モデルではなく、複数の学習者を同時に標的にする状況における敵対的回帰をモデル化すること。
• 複数の学習者と1人の攻撃者の間の相互作用を、2段階の意思決定を伴うマルチリーナー・スターベルク・ゲーム（MLSG）として形式化すること。
• ゲーム理論的解析の簡略化と取り扱いやすさを確保するため、学習者の損失関数の上界を導出すること。
• 近似されたゲームにおける一意の対称的均衡の存在と一意性を証明し、効率的な計算を可能にすること。
• 均衡モデルが標準的な正則化回帰（例：リッジ回帰、ラッソ回帰）と比較して、敵対的特徴摂動に対してどれほど耐性があるかを実験的に検証すること。

提案手法

• 学習者をリーダーとし、モデルを最初に選択する。攻撃者をフォロワーとし、テスト時特徴に対してユニバーサルな摂動を選択する。このようにして、マルチリーナー・スターベルク・ゲーム（MLSG）として問題を定式化する。
• 各学習者の期待コスト関数を、通常の（$\mathcal{D}$）および悪意のある（$\mathcal{D}'$）テストデータ分布上の損失の重み付き和として定義し、$\beta$ を敵対的データの確率とする。
• 攻撃者の摂動を特徴ベクトルの最悪ケースのシフトとモデル化することで、学習者の損失関数の上界を導出する。このモデルは $\mathbf{z}$ と $\lambda$ でパラメータ化される。
• 上界を用いたゲームが一意の対称的均衡を有することを示し、これは凸最適化問題として解けることを示す。
• 敵対的摂動の上界に基づく制約を含む、$\ell_2$-正則化回帰を用いた凸最適化問題として、均衡の計算を定式化する。
• 導出された上界に基づく経験的リスク最小化を用いて、推定誤差が $\lambda$、$\beta$、$\mathbf{z}$ に存在しても、ユニバーサル敵対的攻撃に対して耐性のあるモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 複数の学習者が同時に攻撃を受ける状況において、ゲーム理論的フレームワークが敵対的回帰をモデル化できるか？
• RQ2 学習者の損失関数の上界が、取り扱いやすく、一意の均衡を持つ良好な性質を有するゲームを導くか？
• RQ3 近似されたゲームの対称的均衡は凸最適化により計算可能であり、それが耐性のあるモデルをもたらすか？
• RQ4 均衡モデルの耐性は、標準的な正則化回帰（例：リッジ回帰、ラッソ回帰）と比較して、敵対的攻撃に対して優れているか？
• RQ5 敵対的パラメータ（$\lambda$、$\beta$、$\mathbf{z}$）を過大評価することで、実際の耐性が向上するか？

主な発見

• マルチリーナー・スターベルク・ゲーム（MLSG）フレームワークは、1人の攻撃者がユニバーサル摂動を用いて複数の学習者を同時に標的にする現実的で有効な敵対的状況をモデル化している。
• 学習者の損失関数の上界が導出され、一意の対称的均衡を有するゲームとなり、凸最適化により計算可能である。
• 均衡モデルは理論的に、ロバスト最適化問題と同等であることが示され、その耐性の正式な根拠が得られた。
• ボストンおよびPDFデータセットにおける実験では、$\beta$ が高くなるほど、MLSGはリッジ回帰、ラッソ回帰、OLSと比較してRMSEの観点で一貫して優れた性能を示した。
• 敵対的パラメータ（$\lambda$、$\beta$、$\mathbf{z}$）を過大評価すると、過小評価よりもより耐性のあるモデルが得られ、保守的推定の利点が確認された。
• 正則化パラメータが誤って推定されても、MLSGモデルはベースライン手法と比較して著しく低い誤差を維持した。これは、実用的な耐性の高さを示している。