[논문 리뷰] Planning for Proactive Assistance in Environments with Partial Observability

Anagha Kulkarni, Siddharth Srivastava외 1명|arXiv (Cornell University)|2021. 05. 02.

AI in Service Interactions인용 수 4

한 줄 요약

이 논문은 부분적으로 관찰 가능한 환경에서 인간의 작업 비용을 줄이기 위해 의사소통 행동을 통해 인간의 믿음 상태를 전략적으로 조절함으로써 사전적 AI 보조를 위한 몬테카를로 트리 검색(MCTS) 기반 프레임워크를 제안한다. 사용자 연구를 통해 명확하고 믿음 상태를 조절하는 행동이 인간의 보조 인지도 향상시키고, 인지적 부담과 계획 노력 감소에 기여함을 입증한다.

ABSTRACT

This paper addresses the problem of synthesizing the behavior of an AI agent that provides proactive task assistance to a human in settings like factory floors where they may coexist in a common environment. Unlike in the case of requested assistance, the human may not be expecting proactive assistance and hence it is crucial for the agent to ensure that the human is aware of how the assistance affects her task. This becomes harder when there is a possibility that the human may neither have full knowledge of the AI agent's capabilities nor have full observability of its activities. Therefore, our \ extit{proactive assistant} is guided by the following three principles: \ extbf{(1)} its activity decreases the human's cost towards her goal; \ extbf{(2)} the human is able to recognize the potential reduction in her cost; \ extbf{(3)} its activity optimizes the human's overall cost (time/resources) of achieving her goal. Through empirical evaluation and user studies, we demonstrate the usefulness of our approach.

연구 동기 및 목표

• 인간이 AI 행동을 제한적으로 관찰하고 보조를 기대하지 않을 수 있는 환경에서 사전적 보조의 과제를 해결하기 위해.
• 사전적 보조가 인간의 작업 비용을 효과적으로 줄이고, 혼란이나 저항을 방지하기 위해 인간이 이를 인지할 수 있도록 보장하기 위해.
• 인간이 겪는 총 비용(시간/자원)을 최소화하기 위해 보조의 이점과 인간이 에이전트 행동을 처리하는 데 드는 인지적 부담을 균형 잡기 위해.
• AI 에이전트가 인간의 믿음 상태를 추론하고 관찰 가능성을 제어하여 비용 절감 효과를 효과적으로 통신할 수 있는 프레임워크를 개발하기 위해.
• 실증적 평가와 사용자 연구를 통해 명확하고 믿음 상태를 조절하는 행동이 인간의 인지도 향상과 인지적 부담 감소에 기여함을 검증하기 위해.

제안 방법

• 프레임워크는 인간과 AI 에이전트 간의 부분적 공동 계획을 샘플링하고 평가하기 위해 몬테카를로 트리 검색(MCTS)을 사용한다.
• 인간의 비용, 인지도, 총 노력에 대한 영향을 기반으로 보조 행동을 평가하는 유틸리티 트리를 구성한다.
• 에이전트는 물건을 전시하거나 청소된 방을 알리는 것과 같은 의사소통 행동을 합성하여 인간의 믿음 상태를 조절하고 보조의 인식을 높인다.
• 정보를 선택적으로 노출하거나 숨김(예: 카트 안에 약품 상자 표시, 빈 방 표시)으로써 인간의 관찰 가능성을 제어하여 인지적 과부하를 줄인다.
• 인식적 행동(예: 언어행동)과 인식적 영향을 갖는 실재적 행동을 통합하여 인간이 보조의 이점을 유추할 수 있도록 보장한다.
• 세 원칙을 균형 잡기 위해: 인간의 비용 감소, 비용 절감의 인지 가능성 증가, 인간이 에이전트 행동을 처리하는 데 드는 총 노력 최소화.

실험 결과

연구 질문

• RQ1 사전적 AI 보조가 인간이 보조를 기대하지 않을 수 있는 부분적으로 관찰 가능한 환경에서 인간의 작업 비용을 효과적으로 줄일 수 있는가?
• RQ2 명확하고 믿음 상태를 조절하는 행동이 인간의 사전적 보조 인지도에 얼마나 기여하는가?
• RQ3 의사소통 행동의 포함 여부가 인간의 인지적 부담과 계획 노력에 어떤 영향을 미치는가?
• RQ4 에이전트 행동을 인간의 작업 비용 절감과 인지적 과부하를 최적화하도록 합성할 수 있는가?
• RQ5 전략적 정보 공개(예: 물건 표시, 청소된 방 표시)가 인간의 작업 성과와 인식에 어떤 영향을 미치는가?

주요 결과

• 사용자 연구 1에서, 명확한 행동(카트 안 물건 전시)을 포함한 조건에서는 31명 중 25명이 로봇의 보조 행동을 인지했고, 기준 조건(해당 없음)에서는 31명 중 6명에 그쳤다.
• 사용자 연구 2에서, 명확한 행동(청소된 방 알림)을 포함한 조건에서는 27명 중 24명이 로봇의 보조를 인지했고, 기준 조건에서는 27명 중 6명에 그쳤다.
• 프로아티브 보조(PA) 조건의 평균 작업량 점수는 5.96(7점 척도 기준)였고, 기준 조건의 3.22보다 유의미하게 높았다(p < 0.0000001, Cohen’s d = 1.89).
• PA의 경우 로봇 행동 처리에 드는 평균 노력 점수는 6.06이었고, 기준 조건은 3.45였으며, p값 < 0.05, 효과 크기 1.62였다.
• 연구 2에서 PA는 인지적 부담을 5.55로 줄였고, 기준 조건은 2.74였으며, p값 < 0.05, 효과 크기 1.95였다.
• PA의 평균 처리 노력은 5.85였고, 기준 조건은 3.55였으며, p값 < 0.05, 효과 크기 1.67였다. 이는 명확한 행동이 인지적 과부하를 줄이는 데 기여함을 확인한다.