[논문 리뷰] Explaining by Imitating: Understanding Decisions by Interpretable Policy Learning

Alihan Hüyük, Daniel Jarrett외 1명|arXiv (Cornell University)|2023. 10. 28.

Machine Learning in Healthcare인용 수 5

한 줄 요약

이 논문은 오프라인, 부분 관찰 데이터로부터 에이전트의 믿음 갱신 과정과 믿음-행동 맵핑을 동시에 추정하는 베이지안 모델 기반 방법 INTERPOLE를 소개한다. 이는 결정론적이고 오프라인으로 인간의 의사결정을 감시할 수 있게 하며, 해부학적 믿음 단체와 의사결정 경계를 통해 설명 가능한 의사결정 모델링을 통해 블랙박스 대안보다 해석 가능성과 정확도에서 뛰어나다. 알츠하이머병 진단에서 이를 입증하였다.

ABSTRACT

Understanding human behavior from observed data is critical for transparency and accountability in decision-making. Consider real-world settings such as healthcare, in which modeling a decision-maker's policy is challenging -- with no access to underlying states, no knowledge of environment dynamics, and no allowance for live experimentation. We desire learning a data-driven representation of decision-making behavior that (1) inheres transparency by design, (2) accommodates partial observability, and (3) operates completely offline. To satisfy these key criteria, we propose a novel model-based Bayesian method for interpretable policy learning ("Interpole") that jointly estimates an agent's (possibly biased) belief-update process together with their (possibly suboptimal) belief-action mapping. Through experiments on both simulated and real-world data for the problem of Alzheimer's disease diagnosis, we illustrate the potential of our approach as an investigative device for auditing, quantifying, and understanding human decision-making behavior.

연구 동기 및 목표

• 실제의 부분 관찰 환경(예: 의료 분야)에서 실시간 실험을 수행할 수 없는 상황에서 인간의 의사결정을 이해할 수 있는 방법을 개발하는 것.
• 모방 학습 및 부모 학습에서의 투명성 부족 문제를 해결하기 위해 인간이 이해할 수 있는 해석 가능한 형태로 의사결정 과정을 모델링하는 것.
• 진짜 환경 역학에 대한 지식이 없거나 최적의, 편향 없는 행동을 가정하지 않고도 순수하게 오프라인 데이터로부터 학습하는 것.
• 감사, 정량화, 설명이 가능한 데이터 기반의 의사결정 표현을 제공함으로써 임상 실무의 해석과 분석을 지원하는 것.

제안 방법

• INTERPOLE는 의사결정을 두 단계 과정으로 모델링한다: 주관적 믿음 갱신 메커니즘을 통한 믿음 갱신과 확률적 믿음-행동 맵핑을 통한 행동 선택.
• 베이지안 프레임워크를 사용하여 에이전트의 믿음 역학(믿음이 시간에 따라 어떻게 변화하는지)과 의사결정 경계(믿음이 어떻게 행동으로 맵핑되는지)를 동시에 추론한다.
• 믿음을 믿음 단체(예: 세 가지 인지 상태인 NL, MCI, 치매에 대한 삼각형) 내의 점으로 표현함으로써 불확실성과 진단 진행 상황을 직관적으로 시각화할 수 있다.
• 잠재적 믿음과 의사결정 경계에 조건화된 观측치와 행동의 생성 모델을 사용하여 환경과의 상호작용 없이도 오프라인 학습이 가능하다.
• 도메인 전문가가 추론할 수 있는 해석 가능한 기하학적 구조(예: 믿음 공간 내의 의사결정 경계)를 사용함으로써 블랙박스 표현을 피한다.
• 부분 관찰에 강건하며, 에이전트의 믿음이 편향이 없거나 정책이 최적이 아니라는 가정을 하지 않는다.

실험 결과

연구 질문

• RQ1 실시간 상호작용 없이도 진짜 환경 역학을 알지 못한 채, 고위험도의 부분 관찰 환경(예: 의료 분야)에서 인간의 의사결정을 어떻게 모델링할 수 있는가?
• RQ2 특정 행동이 왜 취해지는지 명시적으로 드러내는 투명하고 해석 가능한 의사결정 정책 표현을 학습할 수 있는가?
• RQ3 믿음 갱신과 의사결정 경계는 임상 진단에서 관측된 행동을 어떻게 함께 형성하는가?
• RQ4 해석 가능한 기하학적 표현(예: 믿음 단체와 의사결정 경계)이 도메인 전문가의 진단 행동 이해를 얼마나 향상시킬 수 있는가?
• RQ5 이 방법은 기관 간 임상 실무의 변동성을 효과적으로 감사하고 정량화할 수 있는가?

주요 결과

• 의료진은 진단 진행 상황을 표현하는 데 믿음 단체 표현(C)을 일관되게 선호하였으며, 표나 벡터 기반 형식보다 더 직관적으로 느꼈다.
• 의사결정 경계 표현(B)는 MRI와 같은 진단 검사의 주문 가능성 전달에 가장 효과적이라고 평가받았지만, 척도 해석에 약간의 혼란이 있었다.
• 척도 해석의 약간의 모호함에도 불구하고 다수의 의료진은 특히 믿음 단체와 의사결정 경계를 포함한 기하학적 표현이 기존의 표나 벡터보다 더 해석 가능하다고 평가했다.
• 이 방법은 오프라인 EHR 데이터로부터 실제 알츠하이머병 진단 행동을 성공적으로 모델링하여 믿음의 진화와 행동 선택을 투명하고 인간이 읽을 수 있는 형태로 포괄하였다.
• 의료진은 표현이 MRI가 인지 상태 악화를 감지하는 데서 중요한 역할을 한다는 점을 명확히 하여 이해하는 데 도움이 되었다고 지적했으며, MRI가 주요 진단 촉진 요소가 아니더라도 말이다.
• 피드백에 따르면 믿음 단체는 시각적으로 효과적이지만, 인지 저하가离산 상태가 아니라 스펙트럼으로 간주되는 임상 이해와 충돌할 수 있다는 점이 제기되었다.