[논문 리뷰] The ORCA Hub: Explainable Offshore Robotics through Intelligent Interfaces

Helen Hastie, Katrin S. Lohan외 6명|arXiv (Cornell University)|2018. 03. 06.

Reservoir Engineering and Simulation Methods인용 수 30

한 줄 요약

ORCA Hub는 해양 로봇 공학 환경에서 신뢰도와 상황 인식 능력을 향상시키기 위해 실시간으로 맥락 인식 가능한 로봇 행동, 인지 및 계획에 대한 설명을 제공하는 설명 가능하고 다중모odal인 인간-로봇 인터페이스를 제안한다. 이는 인과 모델링과 적응형 인터페이스를 통해 높은 위험도를 지닌 복잡한 환경에서 인지 부담을 감소시키고 의사결정 지원을 가능하게 한다.

ABSTRACT

We present the UK Robotics and Artificial Intelligence Hub for Offshore Robotics for Certification of Assets (ORCA Hub), a 3.5 year EPSRC funded, multi-site project. The ORCA Hub vision is to use teams of robots and autonomous intelligent systems (AIS) to work on offshore energy platforms to enable cheaper, safer and more efficient working practices. The ORCA Hub will research, integrate, validate and deploy remote AIS solutions that can operate with existing and future offshore energy assets and sensors, interacting safely in autonomous or semi-autonomous modes in complex and cluttered environments, co-operating with remote operators. The goal is that through the use of such robotic systems offshore, the need for personnel will decrease. To enable this to happen, the remote operator will need a high level of situation awareness and key to this is the transparency of what the autonomous systems are doing and why. This increased transparency will facilitate a trusting relationship, which is particularly key in high-stakes, hazardous situations.

연구 동기 및 목표

• 높은 위험도를 지닌 해양 에너지 환경에서 자율 시스템에 대한 낮은 신뢰도 문제를 해결한다.
• 로봇 행동에 대한 맞춤형이고 맥락 민감한 설명을 제공함으로써 원격 운영자의 인지 부담을 줄인다.
• 인식, 계획 및 행동에 대한 투명하고 질문 가능한 설명을 통해 인간-로봇 협업을 가능하게 한다.
• 딥 러닝, 베이지안 네트워크 등 블랙박스 및 회색박스 AI 모델을 설명 가능한 프레임워크에 통합한다.
• 개인의 정신 모델, 모odal리티 및 실시간 인지 상태에 맞게 적응하는 사용자 중심 인터페이스를 개발한다.

제안 방법

• 사용자 맥락과 인지 부담을 고려해 설명 내용과 모odal리티를 동적으로 조정하는 적응형이고 맥락 기반의 다중모달 인터페이스를 설계한다.
• 동공 반사, NASA-TLX 등 비침습적 인지 부담 측정 방법을 사용하여 정보 제공 방식을 실시간으로 조절한다.
• 특히 CNN 및 RNN과 같은 블랙박스 모델에 대해, 인과 모델 유도 기법을 활용해 로봇 행동 및 제어기에서 인과적 설명을 생성한다.
• 인간의 이해 효율을 높이기 위해 계층적 정신 청크링 및 인지 처리 원리를 활용해 설명을 체계화한다.
• 인과적 계획 구조와 재계획 수단 출력을 설명 생성의 근거로 통합하여 추적 가능한 추론을 가능하게 한다.
• DARPA XAI COGLE 프로젝트의 기법을 응용하여 관찰 데이터에서 프로그래밍 가능한 모델을 유도해 해석 가능성 확보

실험 결과

연구 질문

• RQ1 해양 환경의 자율 시스템은 어떻게 운영자의 인지 부담을 줄일 수 있는 즉각적인, 설명 가능한 설명을 제공할 수 있는가?
• RQ2 다양한 사용자 정신 모델과 운영 맥락에서 효과적인 설명 형태(텍스트, 시각적, 자연어)는 무엇인가?
• RQ3 어떻게 블랙박스 로봇 행동에서 인과 모델을 유도하여 질문 가능한 투명성을 달성할 수 있는가?
• RQ4 높은 위험도의 로봇 운영에서 설명의 품질과 유용성을 평가하는 데 가장 적합한 지표는 무엇인가?
• RQ5 개별 사용자에 맞게 개인화된 설명을 제공하면서도 명료성과 인지적 노력 감소를 유지할 수 있는가?

주요 결과

• ORCA Hub는 블랙박스 모델에서조차도 인과적이고 질의 가능한 로봇 행동 표현을 생성함으로써 설명 가능한 자율성 실현에 기여한다.
• 인지 부담을 고려한 적응형 인터페이스 설계는 복잡한 해양 운영 환경에서 로봇 시스템의 사용성과 신뢰성 향상에 기여한다.
• 인식, 행동, 계획에 대한 설명, 예를 들어 "무엇을 보고 있나요?" 및 "왜 그렇게 했나요?"와 같은 질문은 인간-로봇 협업에 핵심적이다.
• 관찰 데이터에서 유도된 인과 모델링은 기저의 AI 모델이 투명하지 않더라도 로봇 의사결정의 해석 가능한 설명을 가능하게 한다.
• 시각적, 텍스트적, 청각적 피드백의 다중모달 통합은 상황 인식 능력을 향상시키고 더 빠르고 정보 기반의 의사결정을 지원한다.
• Flesch 독해도 및 사용자 성능 기준 평가 지표를 활용한 설명 평가 결과, 사용자 요구에 맞는 설명 스타일 맞춤화의 중요성이 확인되었다.