[論文レビュー] Sound Adversarial Audio-Visual Navigation

Yingfeng Yu, Wenbing Huang+4 more|arXiv (Cornell University)|Feb 22, 2022

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

本論文は、音声攻撃者を動的に導入し、競合音声でエージェントを引きつけることで、音響的に複雑な3次元環境においても頑健にナビゲートできるエージェントを訓練する新しいフレームワーク、音声アドバーシャル音声視覚ナビゲーション（SAAVN）を提案する。この手法は、集中型のコーチを備えた共同アクター・クリティック訓練方式を採用しており、ReplicaおよびMatterport3Dデータセットにおいて、クリーンでない、未観測の、および攻撃的環境においても一般化性能と頑健性が著しく向上する。

ABSTRACT

Audio-visual navigation task requires an agent to find a sound source in a realistic, unmapped 3D environment by utilizing egocentric audio-visual observations. Existing audio-visual navigation works assume a clean environment that solely contains the target sound, which, however, would not be suitable in most real-world applications due to the unexpected sound noise or intentional interference. In this work, we design an acoustically complex environment in which, besides the target sound, there exists a sound attacker playing a zero-sum game with the agent. More specifically, the attacker can move and change the volume and category of the sound to make the agent suffer from finding the sounding object while the agent tries to dodge the attack and navigate to the goal under the intervention. Under certain constraints to the attacker, we can improve the robustness of the agent towards unexpected sound attacks in audio-visual navigation. For better convergence, we develop a joint training mechanism by employing the property of a centralized critic with decentralized actors. Experiments on two real-world 3D scan datasets, Replica, and Matterport3D, verify the effectiveness and the robustness of the agent trained under our designed environment when transferred to the clean environment or the one containing sound attackers with random policy. Project: \url{https://yyf17.github.io/SAAVN}.

研究の動機と目的

• 現実世界の音響ノイズや意図的な干渉にさらされた際の、既存の音声視覚ナビゲーションエージェントの頑健性の欠如に対処すること。
• 音声攻撃者が時間経過とともに音量と音の種別を変更することで、エージェントを引きつける、現実的で敵対的な音響環境を模擬すること。
• エージェントと攻撃者との間でゼロサムゲームとして定式化された敵対的訓練により、エージェントの頑健性を向上させること。
• 学習の安定化と収束の向上を図るため、集中型コーチを備えた共同訓練メカニズムを開発すること。
• エージェントの転移性およびクリーン環境および敵対的環境（未観測の設定を含む）における性能を評価すること。

提案手法

• エージェントを引きつけるために、環境内を移動し、各タイムステップで音量と音の種別を変更する音声攻撃者を導入する。
• エージェントと攻撃者の間の相互作用を、攻撃者の出力制限（音量比 < 1）を設けたゼロサム2人ゲームとしてモデル化し、学習可能性と公平性を確保する。
• 学習の安定化とポリシー学習の向上を図るため、集中型コーチと分散型アクターを備えた共同アクター・クリティックフレームワークを採用する。
• 視覚的および音声的埋め込み（512次元）の要素ごとの乗算によるマルチモodal融合を用いることで、特徴表現を強化し、連結法を上回る性能を達成する。
• 頑健性評価のため、周期的（P）、可変的（V）、連続的（C）の3種類の攻撃タイプを訓練に用い、PVC統合設定を採用する。
• SoundSpacesプラットフォームを用い、SPL、R_mean、DTG、SSPLといった標準指標を用いて、ReplicaおよびMatterport3Dデータセットでベンチマークを実施する。

実験結果

リサーチクエスチョン

• RQ1 制御された敵対的音響環境で訓練された音声視覚ナビゲーションエージェントは、クリーン環境に一般化し、依然として良好な性能を発揮できるか？
• RQ2 動的な音声攻撃者に対する敵対的訓練は、クリーン環境での訓練と比較して、どのように頑健性を向上させるか？
• RQ3 集中型コーチを用いた共同訓練は、エージェントと攻撃者の独立した訓練に比べ、収束性と性能に優れているか？
• RQ4 マルチモーダル融合戦略（連結法対要素ごとの乗算）は、敵対的環境下でのナビゲーション性能にどのように影響するか？
• RQ5 最悪の敵対的状況下で訓練されたエージェントは、自然な非敵対的音響干渉に対しても良好に動作するか？

主な発見

• SAAVN:Pは、ReplicaのP環境で0.657のSPLおよび13.2のR_meanを達成し、AVN（0.609のSPL、11.0のR_mean）を上回り、未観測のP環境において0.041のSPL向上を示した。
• V環境では、SAAVN:Vが0.648のSPLおよび13.6のR_meanを達成し、未観測環境でAVN（0.549のSPL）に対して0.103のSPL向上を示した。
• C環境では、SAAVN:Cが0.609のSPLおよび12.7のR_meanを達成し、AVN（0.576のSPL、10.5のR_mean）を著しく上回り、未観測のC環境で0.033のSPL向上を示した。
• 最悪のPVC攻撃設定では、SAAVN:PVCはPVC環境で0.552のSPLおよび10.6のR_meanを達成し、未観測PVC環境でもわずか0.004のSPL低下に抑えられ、強力な一般化能力を示した。
• 要素ごとの乗算によるマルチモーダル融合は連結法を上回り、PVC環境で0.592のSPL（連結法：0.552）および11.8のR_mean（連結法：10.6）を達成した。
• 敵対的環境で事前学習されたエージェント（SAAVN）はクリーン環境でも良好な性能を維持したが、AVNエージェントは複雑な環境で著しく性能を低下させた。