[논문 리뷰] A System-Level View on Out-of-Distribution Data in Robotics

Rohan Sinha, Apoorva Sharma외 7명|arXiv (Cornell University)|2022. 12. 28.

Adversarial Robustness in Machine Learning인용 수 7

한 줄 요약

이 논문은 로봇 공학에서 분포 외(out-of-distribution, OOD) 데이터에 대해 체계적 수준의 관점에서 접근할 것을 주장한다. OOD에 대한 내성은 단일 모듈에서가 아니라 전체 자율성 스택—인식, 예측, 계획, 제어—전반에 걸쳐 평가되고 향상되어야 한다고 주장한다. 실시간, 에피소드 단위, 데이터 수명 주기의 세 가지 시간 스케일에서의 핵심 과제를 규명하고, 개방형 세계에서의 신뢰성 있는 로봇 구현을 향상시키기 위한 통합 프레임워크를 제안한다.

ABSTRACT

When testing conditions differ from those represented in training data, so-called out-of-distribution (OOD) inputs can mar the reliability of learned components in the modern robot autonomy stack. Therefore, coping with OOD data is an important challenge on the path towards trustworthy learning-enabled open-world autonomy. In this paper, we aim to demystify the topic of OOD data and its associated challenges in the context of data-driven robotic systems, drawing connections to emerging paradigms in the ML community that study the effect of OOD data on learned models in isolation. We argue that as roboticists, we should reason about the overall extit{system-level} competence of a robot as it operates in OOD conditions. We highlight key research questions around this system-level view of OOD problems to guide future research toward safe and reliable learning-enabled autonomy.

연구 동기 및 목표

• 학습 기반 로봇 시스템에서 실제 운영 환경이 훈련 데이터와 다를 때 발생하는 분포 외(OOD) 데이터 문제에 대한 핵심 과제를 다루기.
• OOD 내성은 개별 모듈을 독립적으로 최적화하는 것으로 해결될 수 없으며, 전체 스택 수준의 체계적 관점이 필요하다는 점을 강조하기.
• 실시간 의사결정, 에피소드 단위 환경 상호작용, 장기적 데이터 수명 주기 관리의 세 가지 핵심 시간 스케일에서의 주요 연구 격차를 규명하기.
• 문제를 모델 기반 문제로 보는 것이 아니라, 안전하고 개방형 세계에서의 자율성 실현에 필수적인 체계적 신뢰성 도전 과제로 프레임워크를 재정의하기.
• 자율성 스택과 데이터 수명 주기 전반에 걸친 구체적이고 실행 가능한 연구 질문을 제시하여 향후 연구를 자극하기.

제안 방법

• OOD 입력이 인식, 예측, 계획, 제어 모듈 전반에 걸쳐 어떻게 전파되고 성능이 열악해지는지 분석하기 위해 체계적 수준의 시각을 채택하기.
• 분석을 구체화하기 위해 실세계 로봇 응용 사례 두 가지—자율 드론 배달 및 가정용 로봇 조작—를 사례로 활용하기.
• OOD 내성은 고립된 모델 정확도나 불확실성 추정치가 아니라, 닫힘 루프 시스템 성능을 통해 평가되어야 한다는 제안.
• 메타학습, 다중 작업 학습, 지속 학습 등의 머신 러닝 트렌드에서의 통찰을 통합하여 분포 이탈에 대한 일반화 능력을 향상시키기.
• 재현 가능한 시스템 수준의 OOD 성능 평가를 가능하게 하기 위해, 보류된 OOD 시나리오를 포함한 공동 연구 벤치마크 필요성 강조하기.
• 제한된 장치 내 저장소와 희귀 장애 상황을 고려해, 자료 효율적이고 주도적인 학습 및 선택적 데이터 유지 전략의 필요성 강조하기.

실험 결과

연구 질문

• RQ1 실시간 운영에서 인식부터 저수준 제어에 이르기까지 전체 자율성 스택에서 OOD 데이터가 신뢰성에 어떤 영향을 미치는가?
• RQ2 특히 작업 분포가 배포 후 변화하는 상황에서, 다양한 익명 환경에서의 에피소드 단위 상호작용 동안 로봇 시스템이 일관된 성능을 유지하는 방법은 무엇인가?
• RQ3 제한된 저장소와 희귀 장애 사건을 고려할 때, 장기적 시스템 내성 향상을 위해 배포 중에 어떤 데이터 선택 및 유지 전략을 채택해야 하는가?
• RQ4 메타학습과 다중 작업 학습은 어떻게 배포 중 OOD 조건에 신속하게 적응할 수 있도록 활용될 수 있는가?
• RQ5 확장 가능하고 재현 가능한 방식으로 닫힘 루프 OOD 성능을 평가하기 위해 필요한 공동 연구 벤치마크와 시뮬레이션 플랫폼는 무엇인가?

주요 결과

• OOD 내성은 단지 모델 수준의 문제일 뿐 아니라, 인식, 예측, 계획, 제어 구성 요소를 아우르는 체계적 도전 과제이다.
• 모든 작업에 대해 평균 성능을 최적화하는 데서는 희귀하거나 분포가 이탈한 상황에서의 성능이 열악해질 수 있으며, 이는 분포 기반 내성 훈련의 필요성을 강조한다.
• 실시간 OOD 탐지 및 완화는 단지 인식 또는 불확실성 추정에만 국한되지 않고, 자율성 스택 전반에 통합된 메커니즘이 필요하다.
• 특히 선택적 데이터 유지 및 주도적 학습을 포함한 데이터 수명 주기 관리는 자원 제약이 있는 로봇에서 장기적 적응을 위해 핵심적이다.
• 재현 가능한 방식으로 시스템 수준의 OOD 내성 성능 평가를 가능하게 하기 위해, 보류된 OOD 시나리오를 포함한 공동 연구 벤치마크가 필수적이다.
• 기존의 머신 러닝 기법인 메타학습과 다중 작업 학습은 OOD 일반화 능력을 향상시키는 데 잠재력이 있지만, 로봇 시스템에 맞게 특화된 통합이 필요하다.