[論文レビュー] Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction

Ruochen Jiao, Liu X+3 more|arXiv (Cornell University)|May 27, 2022

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本稿では、半教師付き敵対的オートエノードによって分離された意味的特徴と潜在ラベルを学習することで、軌道予測における敵対的ロバストネスを向上させる、新しい手法である半教師付き意味的誘導型敵対的訓練（SSAT）を提案する。SSATは、攻撃下での予測誤差を最大73％まで低減し、標準的な敵対的訓練やベースラインと比較して、未観測の攻撃タイプへの一般化性能を顕著に向上させる。

ABSTRACT

Predicting the trajectories of surrounding objects is a critical task for self-driving vehicles and many other autonomous systems. Recent works demonstrate that adversarial attacks on trajectory prediction, where small crafted perturbations are introduced to history trajectories, may significantly mislead the prediction of future trajectories and induce unsafe planning. However, few works have addressed enhancing the robustness of this important safety-critical task.In this paper, we present a novel adversarial training method for trajectory prediction. Compared with typical adversarial training on image tasks, our work is challenged by more random input with rich context and a lack of class labels. To address these challenges, we propose a method based on a semi-supervised adversarial autoencoder, which models disentangled semantic features with domain knowledge and provides additional latent labels for the adversarial training. Extensive experiments with different types of attacks demonstrate that our Semisupervised Semantics-guided Adversarial Training (SSAT) method can effectively mitigate the impact of adversarial attacks by up to 73% and outperform other popular defense methods. In addition, experiments show that our method can significantly improve the system's robust generalization to unseen patterns of attacks. We believe that such semantics-guided architecture and advancement on robust generalization is an important step for developing robust prediction models and enabling safe decision-making.

研究の動機と目的

• 敵対的攻撃下での軌道予測モデルのロバストネス不足に起因する、安全でない自動運転意思決定を是正すること。
• 画像ベースの敵対的訓練とは異なり、豊富な文脈的入力、ラベルの欠如、多様な攻撃パターンといった、軌道予測における課題を克服すること。
• 長尾なドライブ行動分布を持つ回帰タスクにおいて、未観測の攻撃タイプへの敵対的防御の一般化を向上させること。
• 意味的分離と潜在ラベルの監督を敵対的訓練に統合することで、良性性能を損なうことなくロバストネスを向上させること。

提案手法

• ドメイン固有の意味的知識を組み込むことで、軌道データから分離された潜在表現を学習する半教師付き敵対的オートエノード（AAE）を提案する。
• 2段階の訓練パイプラインを導入する：まず、事前学習済み特徴抽出器を敵対的サンプルでファインチューニングし、次に再構成された軌道と意味的ラベルの両方を用いて潜在空間を正則化する。
• 意味的属性（例：レーン変更、速度）と運動パターンを分離する分離潜在空間を用いることで、よりロバストで解釈可能な特徴学習を実現する。
• 軌道空間における敵対的摂動（ADE攻撃）を用いて生成された摂動を適用し、多様で現実的な敵対的入力を得る敵対的訓練を実施する。
• 良性と敵対的状況での性能をバランスさせるために、Mixupベースのデータ拡張（Mixup-SSAT）を導入する。
• 再構成損失、敵対的損失、および潜在ベクトル上の対照的損失を組み合わせた半教師付き損失を採用し、分離性とロバストネスの向上を図る。

実験結果

リサーチクエスチョン

• RQ1 分類ラベルに依存せずに、半教師付き敵対的オートエノードが軌道予測における敵対的ロバストネスを向上させられるか？
• RQ2 分離された意味的特徴を組み込むことで、軌道予測における未観測の攻撃パターンへの一般化性能がどのように向上するか？
• RQ3 標準的な敵対的訓練と比較して、提案されたSSAT手法がさまざまな種類の敵対的攻撃下で予測誤差をどの程度低減できるか？
• RQ4 潜在空間の監督と分離性を導入することで、無教師または純粋にデータ拡張に基づく防御と比較して、より優れたロバストな一般化性能が得られるか？

主な発見

• SSATは、元のモデルと比較して、敵対的攻撃下での予測誤差を最大73％まで低減し、標準的な敵対的訓練や他のベースラインを顕著に上回る。
• 横方向および縦方向の摂動といった未観測の攻撃タイプにおいても、SSATは標準的な敵対的訓練を常に上回り、優れたロバストな一般化性能を示す。
• ADE攻撃下で訓練された場合、SSATは縦方向攻撃下で1.45mの予測誤差を達成したのに対し、標準的な敵対的訓練では2.66mであったため、強力な防御能力を示す。
• 無教師バージョン（Unsup-SSAT）は標準的な敵対的訓練よりもロバストネスを向上させるが、意味的ラベルを用いたSSATはさらに性能を向上させ、ラベル監督の価値を実証する。
• Mixup-SSATは、良性と敵対的状況での性能のトレードオフを良好にバランスさせ、混合比2が純粋な敵対的訓練よりも優れた結果を達成する。
• データ駆動型およびヒューリスティックな拡張手法は最小限の改善しかもたらさないため、複雑な回帰タスクにおいて意味的認識型分離の独自の利点が顕著に浮き彫りになる。