[논문 리뷰] HiTZ@Antidote: Argumentation-driven Explainable Artificial Intelligence for Digital Medicine

Rodrigo Agerri, Iñigo Alonso외 10명|arXiv (Cornell University)|2023. 06. 09.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 디지털 의료를 위한 설명형 AI 프레임워크인 HiTZ@Antidote를 소개한다. 이 프레임워크는 딥러닝과 인간과 유사한 추론 방식을 융합하여 임상 진단을 위한 고품질이고 상호작용 가능한 설명을 생성한다. 또한, 올바른 진단과 잘못된 진단에 대한 다국어로 구성된 추론 기반 설명을 포함하는 CasiMedicos 데이터셋을 제안하여 의료 분야의 설명형 AI를 발전시킨다.

ABSTRACT

Providing high quality explanations for AI predictions based on machine learning is a challenging and complex task. To work well it requires, among other factors: selecting a proper level of generality/specificity of the explanation; considering assumptions about the familiarity of the explanation beneficiary with the AI task under consideration; referring to specific elements that have contributed to the decision; making use of additional knowledge (e.g. expert evidence) which might not be part of the prediction process; and providing evidence supporting negative hypothesis. Finally, the system needs to formulate the explanation in a clearly interpretable, and possibly convincing, way. Given these considerations, ANTIDOTE fosters an integrated vision of explainable AI, where low-level characteristics of the deep learning process are combined with higher level schemes proper of the human argumentation capacity. ANTIDOTE will exploit cross-disciplinary competences in deep learning and argumentation to support a broader and innovative view of explainable AI, where the need for high-quality explanations for clinical cases deliberation is critical. As a first result of the project, we publish the Antidote CasiMedicos dataset to facilitate research on explainable AI in general, and argumentation in the medical domain in particular.

연구 동기 및 목표

• 학생 임상의사의 교육을 위해 고품질의 해석 가능 설명이 필요한 임상 AI 시스템의 핵심적 요구를 해결하기 위해.
• 의료 의사결정에서 저수준의 딥러닝 표현과 고수준의 인간 추론 패턴 사이의 격차를 메우기 위해.
• 정확한 진단을 뒷받침하는 근거 외에도, 대체 진단 가설을 반박하는 반론까지 제공하는 시스템을 개발하기 위해.
• 사용자 주도의 명확화와 깊이 있는 추론을 지원하는 대화 기반 설명 생성을 가능하게 하기 위해.
• 의료 분야의 설명형 AI 및 추론 마이닝 연구를 촉진하기 위해 다국어로 구조화된 데이터셋(CasiMedicos)을 제작하고 공개하기 위해.

제안 방법

• 의료 증거와 추론에 기반한 설명을 생성하기 위해 딥러닝 모델과 추론 체계를 융합한다.
• 정답과 오답에 대한 설명을 모두 생성하기 위해 추출형과 생성형 질문응답을 융합한 하이브리드 접근법을 사용한다.
• 다국어 대규모 언어 모델(mBERT, mT5 등)을 활용해 의료 분야에서의 다국어 간 전이 학습을 수행한다.
• 구조화된 추론 담론(annotation)을 적용: 설명을 특정 답변과 연결하고, 계층적 추론 구조를 레이블링하며, 담론 마커를 식별한다.
• 임상의사가 질문을 던지고, 설명을 도전하거나 동적으로 탐색할 수 있는 상호작용 가능한 XAI 시나리오를 설계한다.
• 스페인어 의료 시험 데이터(SAEI 및 CasiMedicos)를 영어로 번역하고 재주석 처리하여 다국어 연구 및 모델 훈련을 지원한다.

Figure 1: ANTIDOTE use-case scenario.

실험 결과

연구 질문

• RQ1 어떻게 추론 이론을 딥러닝과 효과적으로 융합하여 의료 AI에서 고품질의 인간이 이해할 수 있는 설명을 생성할 수 있는가?
• RQ2 임상 의사결정 지원에 효과적인 추론 기반 설명의 핵심적인 구조적 및 언어적 특징은 무엇인가?
• RQ3 다국어 대규모 언어 모델이 영어에서 스페인어, 프랑스어, 이탈리아어로 의료 분야에서 추론적 추론을 얼마나 효과적으로 전이할 수 있는가?
• RQ4 어떻게 설명을 구성하여 정확한 진단을 뒷받침하는 근거 외에도 대체 진단 가설을 반박하는 증거를 포함시킬 수 있는가?
• RQ5 의료 질의응답 데이터셋에서 신뢰성 있고 재현 가능하며 언어학적으로 rich한 추론 구조를 가능하게 하는 주석 체계는 무엇인가?

주요 결과

• CasiMedicos 데이터셋은 의료 분야에서 처음으로 다국어로 추론 구조가 주석 처리된 코퍼스로, 정답과 오답에 대한 설명을 모두 포함한다.
• 이 데이터셋은 의료 진단을 위한 추론 기반 설명의 식별 및 생성에 초점을 맞춘 새로운 QA 과제(추출형 및 생성형 모두)를 가능하게 한다.
• 다국어 간 전이 실험 결과, 다국어 LLM이 스페인어, 프랑스어, 이탈리아어에서 추론 마이닝 및 설명 생성 작업을 효과적으로 미세조정할 수 있음을 입증했다.
• 추론 체계를 딥러닝과 융합함으로써 AI가 생성한 의료 설명의 해석 가능성과 설득력이 향상됨을 확인했다.
• 시스템은 사용자가 후속 질문을 던지고 일관되며 맥락 인식 기반의 설명을 받을 수 있도록 상호작용 대화를 성공적으로 지원했다.
• 자유롭고 개방된 데이터셋을 CC BY 4.0 라이선스 하에 공개함으로써 향후 추론 기반 XAI 연구의 기반을 마련했으며, 재현 가능성과 커뮤니티 수용을 보장했다.

Figure 2: Explainable AI with Human in the Loop.