[논문 리뷰] Reducing complexity of autonomous control agents for verifiability

Paolo Izzo, Hongyang Qu외 1명|arXiv (Cornell University)|2016. 03. 03.

Multi-Agent Systems and Negotiation참고 문헌 13인용 수 4

한 줄 요약

이 논문은 자율 제어 시스템의 복잡성과 검증 가능성 문제를 줄이기 위해 AgentSpeak에서 유도된 보다 단순화된 에이전트 아키텍처인 LISA를 제안한다. 추론 사이클을 단순화하고, DTMC 추상화를 통한 설계 시기 및 런타임 시기의 확률적 모델 체킹을 통합함으로써, LISA는 의사결정 과정의 형식적 검증을 가능하게 하며, 불확실성 하에서 임무 핵심 계획 선택을 위한 런타임 검증 사례 연구를 통해 성능을 입증한다.

ABSTRACT

The AgentSpeak type of languages are considered for decision making in autonomous control systems. To reduce the complexity and increase the verifiability of decision making, a limited instruction set agent (LISA) is introduced. The new decision method is structurally simpler than its predecessors and easily lends itself to both design time and runtime verification methods. The process of converting a control agent in LISA into a model in a probabilistic model checker is described. Due to the practical complexity of design time verification the feasibility of runtime probabilistic verification is investigated and illustrated in the LISA agent programming system for verifying symbolic plans of the agent using a probabilistic model checker.

연구 동기 및 목표

• 기존 AgentSpeak 기반 자율 제어 에이전트의 높은 복잡성과 낮은 검증 가능성 문제를 해결하기 위해.
• 자율 시스템의 의사결정 과정에서 아키텍처 복잡성을 감소시키기 위해.
• 이산 시간 마르코프 체인(DTMC)으로의 추상화를 통해 에이전트 행동의 형식적 검증을 가능하게 하기 위해.
• 확률적 모델 체킹 기법을 활용해 설계 시기 및 런타임 시기의 검증을 지원하기 위해.
• 실제 구현을 위해 기존 자율성 미들웨어(MOOS-IvP)와의 통합을 가능하게 하기 위해.

제안 방법

• 믿음, 욕망, 의도 집합 기반의 단순화된 추론 사이클을 가진 제한된 명령어 세트를 가진 LISA라는 에이전트 아키텍처를 제안한다.
• LISA 에이전트 행동을 이산 시간 마르코프 체인(DTMC)으로 추상화하여 설계 시기의 확률적 모델 체킹을 가능하게 한다.
• 계획 결과를 예측하기 위해 확률적 모델 체킹을 사용하는 런타임 검증 메커니즘을 도입하여 가장 신뢰할 수 있는 계획을 선택한다.
• 외부 동작을 통해 MOOS-IvP와 인터페이스를 연결함으로써 행동 기반 임무 실행 프레임워크와의 통합을 가능하게 한다.
• 에이전트 상태, 환경 조건(예: 기상 조건) 및 확률적 전이를 표현하기 위해 모듈러한 PRISM 모델을 사용한다.
• 다중 스레딩 처리를 적용하여 실시간으로 동시 계획 실행 및 상태 갱신을 관리한다.

실험 결과

연구 질문

• RQ1 AgentSpeak 기반 의사결정의 복잡성은 어떻게 줄여야 하며, 이를 통해 검증 가능성은 어떻게 향상될 수 있는가?
• RQ2 LISA는 설계 시기 검증을 위해 모델 체킹 도구를 사용할 수 있도록 이산 시간 마르코프 체인(DTMC)으로 형식적으로 추상화될 수 있는가?
• RQ3 불확실한 환경에서 런타임 확률적 검증이 계획 선택에 대해 실현 가능하고 효과적인가?
• RQ4 LISA는 실용적 구현을 위해 기존 자율성 미들웨어(MOOS-IvP)와 어떻게 통합될 수 있는가?
• RQ5 기상 조건과 같은 확률적 환경 요소는 계획 성공률 및 검증 결과에 어떤 영향을 미치는가?

주요 결과

• LISA는 추론 사이클을 단순화하고 명령어 세트를 제한함으로써 아키텍처 복잡성을 감소시켜 구조적 검증 가능성을 향상시킨다.
• LISA 에이전트는 형식적으로 DTMC로 추상화될 수 있으며, 이는 기존의 확률적 모델 체킹 기법을 설계 시기 검증에 적용할 수 있음을 의미한다.
• 런타임 확률적 모델 체킹을 통해 에이전트는 불확실한 조건 하에서 성공 가능성이 가장 높은 계획을 예측하고 선택할 수 있다.
• LISA는 외부 동작를 통해 MOOS-IvP와 통합 가능하며, 행동 활성화 플래그 및 임무 상태 변수를 수정함으로써 가능해진다.
• PRISM 모델 예시는 기상 조건이 확률적일 경우에도 임무 결과의 성공적인 검증을 보여주며, 악천후 조건에서는 영역 간 전환 확률이 60%로 나타났다.
• 시스템은 자원 및 환경 제약 조건 하에서도 임무 중단 및 오일 소비 동역학을 성공적으로 검증하여 강건성을 입증했다.