[論文レビュー] Addressing Appearance Change in Outdoor Robotics with Adversarial Domain Adaptation

Markus Wulfmeier, Alex Bewley+1 more|arXiv (Cornell University)|Mar 4, 2017

Generative Adversarial Networks and Image Synthesis被引用数 15

ひとこと要約

本論文は、屋外ロボティクスにおける外観変化に対処するため、教師なしドメイン適応を用いてソース（ラベル付き学習）ドメインとターゲット（ラベルなしデプロイ）ドメインの特徴を整合化する、敵対的ドメイン適応（ADA）フレームワークを提案する。FCN-VGG16に混乱損失とピクセル単位の識別器を適用することで、昼夜の顕著なドメインシフト下でも、自律走行のためのフリー・スペースセグメンテーションにおいて顕著な性能向上を達成する。

ABSTRACT

Appearance changes due to weather and seasonal conditions represent a strong impediment to the robust implementation of machine learning systems in outdoor robotics. While supervised learning optimises a model for the training domain, it will deliver degraded performance in application domains that underlie distributional shifts caused by these changes. Traditionally, this problem has been addressed via the collection of labelled data in multiple domains or by imposing priors on the type of shift between both domains. We frame the problem in the context of unsupervised domain adaptation and develop a framework for applying adversarial techniques to adapt popular, state-of-the-art network architectures with the additional objective to align features across domains. Moreover, as adversarial training is notoriously unstable, we first perform an extensive ablation study, adapting many techniques known to stabilise generative adversarial networks, and evaluate on a surrogate classification task with the same appearance change. The distilled insights are applied to the problem of free-space segmentation for motion planning in autonomous driving.

研究の動機と目的

• 天候、時間帯、季節による外観変化に起因する屋外ロボティクスにおける性能低下の課題に対処すること。
• ターゲットドメインのラベルが不要な状況でもデプロイ可能となるように、外観変化を教師なしドメイン適応問題として再定式化すること。
• 既存の深層ニューラルネットワーク（例：AlexNet や FCN-VGG16）をドメイン間で安定的かつ一般化可能に適応できるフレームワークを開発すること。
• 実世界のロボティクス応用における敵対的学習の安定性とハイパーパrameter感受性を調査すること。
• 運動計画に不可欠な複雑なピクセル単位のセグメンテーションタスクにおいて、本手法の有効性を実証すること。

提案手法

• ドメイン識別器を用いて、ソースドメインとターゲットドメイン間のマージナル特徴分布を統合する敵対的ドメイン適応（ADA）を適用する。
• エンコーダーにおける教師あり学習と敵対的学習の目的関数のバランスを保つために、混乱損失の目的関数を用いる。
• セグメンテーションタスクにおける局所的特徴統合と性能向上を図るため、ピクセル単位の識別器を実装する。
• 最適な学習設定を同定するため、代替分類タスク（場所認識）を用いた広範なアブレーションスタディを実施する。
• 得られたインサイト（例：中間層での分岐層、教師ありウォームアップ）を、大規模なフリー・スペースセグメンテーションタスクに適用する。
• 敵対的学習における不安定性を軽減するため、勾配クリッピングと慎重なハイパーパrameterチューニングを実施する。

実験結果

リサーチクエスチョン

• RQ1 屋外ロボティクスの文脈において、敵対的ドメイン適応をどのように安定化させ、教師あり学習の目的関数と効果的にバランスを取るべきか？
• RQ2 深層ネットワークにおけるドメイン識別器の分岐層を、ドメイン適応性能を最適化するためにどこに配置すべきか？
• RQ3 ピクセル単位のセグメンテーションタスクにおける性能に、アーキテクチャの選択（例：ピクセル単位の識別器の使用）がどのように影響するか？
• RQ4 昼夜の顕著なドメインシフト（例：日中から夜間）のような極端なドメインシフトにおいて、ADAがどれほど性能向上をもたらすか？
• RQ5 ADAは正則化子として機能し得るか？すなわち、より多くのラベルなしデータが追加された場合、元のソースドメイン内でも性能が向上するか？

主な発見

• 混乱損失は、敵対的ドメイン適応における標準的な GAN 損失と比較して、学習の安定性と性能を顕著に向上させる。
• ドメイン識別器の分岐層を中間層に配置すると最良の性能が得られ、それより前の層に配置すると性能が低下する。
• ピクセル単位の識別器は、グローバル識別器よりもセグメンテーションタスクで優れた性能を示し、特徴レベルの統合を改善する。
• ADA はフリー・スペースセグメンテーションにおいて顕著な性能向上を達成し、ベースラインと比較してターゲットドメインでの mIoU が最大で 15% 向上する。
• ソースドメイン内でも、ラベルなしデータが増えるにつれて性能が向上するため、ADA が正則化子として機能することが示された。
• 昼夜の顕著なドメインシフトでさえ、ADA により性能向上が可能であるが、損失の重み付けが不適切な場合は結果が劣化する可能性がある。