[논문 리뷰] Towards the Explanation of Graph Neural Networks in Digital Pathology with Information Flows

Junchi Yu, Tingyang Xu외 1명|arXiv (Cornell University)|2021. 12. 18.

Machine Learning in Healthcare인용 수 5

한 줄 요약

이 논문은 f-information라는 새로운 메트릭을 사용하여 방향성 정보 흐름을 측정함으로써 필요성과 충분성을 보장하는 디지털 병리학을 위한 새로운 GNN 설명기 IFEXPLAINER을 제안한다. BRACS 유방암 하위분류 데이터셋에서 정밀도, 분리도 및 병리의사 친화적인 설명 측면에서 기존 방법들을 능가한다.

ABSTRACT

As Graph Neural Networks (GNNs) are widely adopted in digital pathology, there is increasing attention to developing explanation models (explainers) of GNNs for improved transparency in clinical decisions. Existing explainers discover an explanatory subgraph relevant to the prediction. However, such a subgraph is insufficient to reveal all the critical biological substructures for the prediction because the prediction will remain unchanged after removing that subgraph. Hence, an explanatory subgraph should be not only necessary for prediction, but also sufficient to uncover the most predictive regions for the explanation. Such explanation requires a measurement of information transferred from different input subgraphs to the predictive output, which we define as information flow. In this work, we address these key challenges and propose IFEXPLAINER, which generates a necessary and sufficient explanation for GNNs. To evaluate the information flow within GNN's prediction, we first propose a novel notion of predictiveness, named $f$-information, which is directional and incorporates the realistic capacity of the GNN model. Based on it, IFEXPLAINER generates the explanatory subgraph with maximal information flow to the prediction. Meanwhile, it minimizes the information flow from the input to the predictive result after removing the explanation. Thus, the produced explanation is necessarily important to the prediction and sufficient to reveal the most crucial substructures. We evaluate IFEXPLAINER to interpret GNN's predictions on breast cancer subtyping. Experimental results on the BRACS dataset show the superior performance of the proposed method.

연구 동기 및 목표

• 예측에 대해 설명이 필요하고 충분한 조건을 만족하는 충실한 GNN 설명의 부족을 해결하기 위해, 설명이 예측에 대해 반드시 필요하고 충분하도록 보장한다.
• 기존 설명기들이 필요하지만 충분하지 않거나 그 반대의 경우를 초래하는 한계를 극복한다.
• GNN 모델의 현실적인 능력을 반영하고 방향성이 있는 정보 흐름 측정을 위한 새로운 척도인 f-information을 개발한다.
• 병리의사의 관점에서 설명 품질을 평가하기 위한 하위그래프 수준의 분리도를 기반으로 한 종합적인 평가 프레임워크를 제안한다.
• 유방암 하위분류와 같은 임상 과제에서 GNN 예측을 효율적이고 충실하게 해석할 수 있도록 한다.

제안 방법

• 입력 하위그래프에서 예측으로의 정보 흐름을 측정하기 위해 방향성과 GNN 용량을 고려한 f-information을 도입한다.
• 설명 하위그래프에서 예측으로의 정보 흐름을 최대화하는 최적화 문제로 IFEXPLAINER를 수립한다.
• 하위그래프 제거 후 잔류 정보 흐름을 최소화하여 설명이 반드시 필요하고 충분함을 보장한다.
• 이진화되고 해석 가능한 중요도 점수를 생성하기 위해 엔트로피와 크기 정규화를 적용한 미분 가능한 노드 마스크를 사용한다.
• 내부 GNN 임bedding에 접근할 필요 없이도 효율적으로 설명을 생성하기 위한 타당한 최적화 기법을 설계한다.
• 병리의사 친화적인 평가 지표를 제안하며, 이는 하위그래프 수준의 분리도를 기반으로 설명 품질을 평가한다.

실험 결과

연구 질문

• RQ1 모델 용량과 방향성을 고려한 GNN 내 정보 흐름의 더 충실한 측정 방법을 정의할 수 있는가?
• RQ2 주어진 예측에 대해 반드시 필요하고 충분한 GNN 설명을 어떻게 생성할 수 있는가?
• RQ3 이진화되고 병리의사가 이해할 수 있는 중요도 점수를 생성하는 설명 방법을 설계할 수 있는가?
• RQ4 하위그래프 분리도를 기반으로 한 제안된 평가 지표는 기존 방법과 비교해 설명 품질을 어떻게 반영하는가?
• RQ5 IFEXPLAINER는 실제 디지털 병리학 데이터에서 정밀도와 해석 가능성 측면에서 최첨단 설명기보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• IFEXPLAINER는 BRACS 데이터셋에서 모든 희박성 수준에서 가장 높은 Fidelity- 점수를 확보하여, 설명이 예측에 가장 필수적임을 나타낸다.
• IFEXPLAINER의 Fidelity+ 점수는 모든 베이스라인을 능가하여, 설명을 제거했을 때 예측이 가장 크게 변화함을 확인한다.
• 시각화 결과는 IFEXPLAINER가 이진화된 중요도 점수를 생성하며, 특히 유방암 하위분류에 핵심적인 역할을 하는 세포핵에 명확한 강조를 보인다. 반면 기울기 기반 또는 GRAPHLRP 방법은 대부분의 세포핵에 낮은 점수를 할당한다.
• 단절 실험 결과는 크기 및 엔트로피 정규화 항목이 모두 필수적임을 확인한다. 이들을 제거할 경우 설명이 너무 크거나 이진 구조를 잃게 된다.
• 제안된 분리도 기반 평가 지표는 고품질 설명을 효과적으로 식별하며, IFEXPLAINER는 쌍별 및 집계 분리도 점수 모두에서 베이스라인을 앞서나간다.
• 정성적 및 정량적 분석을 통해 IFEXPLAINER는 기존 방법보다 더 충실하고 더 해석 가능한 설명을 생성함을 입증한다.