[논문 리뷰] Explainability Techniques for Graph Convolutional Networks

Federico Baldassarre, Hossein Azizpour|arXiv (Cornell University)|2019. 05. 31.

Machine Learning in Materials Science참고 문헌 47인용 수 59

한 줄 요약

이 논문은 Graph Networks에 대한 gradient-based 및 decomposition-based 설명 가능성 기법을 분석하고, toy 감염 문제와 화학적 용해도 문제에서 이를 비교하며, GN 설명을 위한 PyTorch 구현을 제공합니다.

ABSTRACT

Graph Networks are used to make decisions in potentially complex scenarios but it is usually not obvious how or why they made them. In this work, we study the explainability of Graph Network decisions using two main classes of techniques, gradient-based and decomposition-based, on a toy dataset and a chemistry task. Our study sets the ground for future development as well as application to real-world problems.

연구 동기 및 목표

• 화학, 물리학 및 관련 분야에서 해석 가능한 Graph Networks의 필요성을 제고한다.
• 그래프 구조 모델에 대해 설명 기법들(gradient-based 및 decomposition-based)의 적용 가능성을 평가한다.
• 다른 방법에서 나온 설명을 대조하고 GN 설명 가능성의 도전 과제와 향후 방향을 강조한다.

제안 방법

• Battaglia et al. 2018의 방식대로 edge/node에 대해 phi를, 집계를 위해 rho를 사용하는 메시지-패싱 업데이트를 갖춘 Graph Network (GN) 형식화를 채택한다.
• 세 가지 설명 기법(Sensitivity Analysis (SA), Guided Backpropagation (GBP), Layer-wise Relevance Propagation (LRP))를 GN에 적용한다.
• 회귀 과제에 대한 적응을 포함하여 출력의 입력 관련성으로 분해하기 위해 epsilon-안정화된 LRP 규칙을 사용한다.
• 유연한 그래프 입력에 대해 PyTorch autograd 위에 설명 가능성 방법을 구현한다.
• 두 가지 과제에서 실험을 수행한다: 감염(Infection) 토이 데이터 세트는 감염 역학과의 비교를 위해, Solubility 데이터 세트는 용해도에 관련된 특징을 속성화하기 위해.
• 풀링, 간선 중요도 및 이질적 특징이 설명에 어떤 영향을 미치는지에 대한 논의를 제공한다.

실험 결과

연구 질문

• RQ1 GN 예측을 설명할 때 gradient-based 설명 방법이 decomposition-based 방법과 어떻게 비교되는가?
• RQ2 불규칙한 그래프 구조와 이질적 특징에 GN 설명 가능성을 적용할 때의 도전 과제와 고려사항은 무엇인가?
• RQ3 풀링 선택과 간선 연결성이 Graph Networks의 설명의 품질과 해석 가능성에 어떤 영향을 미치는가?
• RQ4 LRP와 같은 분해 기반 설명이 variation-based 방법에 비해 GN 예측에 대해 더 직관적인 속성화를 생성할 수 있는가?

주요 결과

• 변동성 기반 설명(SA, GBP)은 그래프 기반 의사결정의 원인에 대한 인간 직관과 다를 수 있다.
• 분해 기반 설명(LRP)은 GN 예측에 대해 더 자연스럽고 해석 가능한 속성화를 제공하는 경향이 있다.
• LRP는 화학 그래프의 특정 원자 특징에 대해 양의 및 음의 관련성을 속성화할 수 있으며, 알려진 용해도 관련 요인(예: R-OH 그룹이 용해도를 증가시킴)과 일치한다.
• 간선의 역할은 GN의 다단계 집계를 통해 강화되며, 간선 특징이 정보가 없더라도 중요한 연결을 밝히는 데 도움을 준다.
• 풀링 선택(sum/mean 대 max)은 설명에 상당한 영향을 미치며, 최대 풀링은 여러 기여 입력을 흐릴 수 있다; LRP는 일부 한계를 완화할 수 있다.
• 저자들은 GN 설명을 지원하기 위한 오픈 소스 PyTorch 구현을 제공한다(github.com/baldassarreFe/graph-network-explainability).