[논문 리뷰] Autonomics: In Search of a Foundation for Next Generation Autonomous Systems

David Harel, Assaf Marron외 1명|arXiv (Cornell University)|2019. 11. 16.

Software Engineering Research참고 문헌 32인용 수 52

한 줄 요약

이 논문은 행동 사양, 시뮬레이션 정밀도, 하이브리드 모델 기반 및 데이터 기반 의사결정이라는 핵심 과제를 해결함으로써 차세대 자율 시스템을 공 ing하는 데 기초가 되는 '자율성(autonomics)'을 제안한다. 예측 불가능하고 복잡한 조건에서 운영되는 시스템의 신뢰성을 확보하기 위해 공동체 주도의 공개된 공학 기반을 지지한다.

ABSTRACT

The potential benefits of autonomous systems have been driving intensive development of such systems, and of supporting tools and methodologies. However, there are still major issues to be dealt with before such development becomes commonplace engineering practice, with accepted and trustworthy deliverables. We argue that a solid, evolving, publicly available, community-controlled foundation for developing next generation autonomous systems is a must. We discuss what is needed for such a foundation, identify a central aspect thereof, namely, decision-making, and focus on three main challenges: (i) how to specify autonomous system behavior and the associated decisions in the face of unpredictability of future events and conditions and the inadequacy of current languages for describing these; (ii) how to carry out faithful simulation and analysis of system behavior with respect to rich environments that include humans, physical artifacts, and other systems,; and (iii) how to engineer systems that combine executable model-driven techniques and data-driven machine learning techniques. We argue that autonomics, i.e., the study of unique challenges presented by next generation autonomous systems, and research towards resolving them, can introduce substantial contributions and innovations in system engineering and computer science.

연구 동기 및 목표

• 차세대 자율 시스템을 위한 공동체가 통제하고, 공개 가능한 공학 기반을 구축하기 위해.
• 예측 불가능하고 변화하는 환경에서 행동을 사양하는 데 있어 엄격한 방법의 부족을 해결하기 위해.
• 시스템 설계에서 모델 기반 접근과 기계학습 기반 접근 간 격차를 메우기 위해.
• 복잡하고 인간이 포함된 환경에서의 시스템 행동에 대한 충실한 시뮬레이션과 분석을 가능하게 하기 위해.
• 모델 기반 설계의 신뢰성과 데이터 기반 AI의 적응성의 장점을 결합한 하이브리드 시스템의 개발을 지원하기 위해.

제안 방법

• 자율 시스템 내에서 에이전트, 오브제트, 환경을 구분하는 공식적인 용어와 프레임워크를 제안한다.
• 인간과 시스템 간 노동 분담에 기반한 자율성 스펙트럼을 도입한다.
• 에이전트 수준과 시스템 전체 수준의 행동을 포괄할 수 있는 이질적인 사양 기법을 지지한다.
• 통제 가능하고 반복 가능하며 종합적인 테스트를 가능하게 하기 위해 현실적이고 의미 인식 능력을 갖춘 시뮬레이션 환경의 필요성을 강조한다.
• 공통 인터페이스를 통해 모델 기반 및 ML 기반 구성 요소를 통합하는 하이브리드 시스템 아키텍처를 홍보한다.
• ML 구성 요소의 분해 가능성, 상호운용성, 설명 가능성에 대한 이론적 및 실용적 진전을 촉구한다.

실험 결과

연구 질문

• RQ1 예측 불가능한 환경 조건 하에서 자율 시스템의 행동과 의사결정을 어떻게 공식적으로 사양할 수 있는가?
• RQ2 복잡하고 실제 세계의 인간 및 동적 환경을 포함하는 시나리오에서 시스템 행동을 검증하기 위해 어떤 시뮬레이션 및 분석 기법이 필요한가?
• RQ3 모델 기반 및 데이터 기반(기계학습) 구성 요소를 하나의 시스템 아키텍처에 의미 있게 통합할 수 있는가?
• RQ4 기계학습 구성 요소에 크게 의존하는 시스템에서의 신뢰성과 검증 가능성 보장을 위한 기준과 방법은 무엇인가?
• RQ5 자율 시스템을 위한 공동체 주도의 공개 가능 기반을 어떻게 구축하고 지속시킬 수 있는가?

주요 결과

• 차세대 자율 시스템의 고유한 과제를 해결하기 위해 autonomics를 위한 기초 프레임워크가 필수적이다.
• 현재의 사양 언어는 복잡하고 예측 불가능한 시스템 행동과 의사결정을 기술하는 데 부적합하다.
• 다양하고 급변하는 조건에서 시스템 행동을 검증하기 위해 충실하고 의미 인식 능력을 갖춘 시뮬레이션이 핵심적이다.
• 모델 기반 및 ML 기반 구성 요소를 조합한 하이브리드 설계가 필요하지만, 이를 위해서는 새로운 아키텍처적 및 이론적 기반 필요하다.
• 기계학습 구성 요소를 포함한 복잡한 시스템에 대해 기존의 공식적 검증 방법은 부족하며, 향상된 시뮬레이션 및 커버리지 메트릭스가 필요하다.
• 신뢰할 수 있는 자율 시스템으로의 전환은 현재의 관행을 초월한 패러다임 전환을 요구하며, 새로운 과학적 및 공학적 기반 마련이 필수적이다.