[논문 리뷰] ExplaiNE: An Approach for Explaining Network Embedding-based Link Predictions

Bo Kang, Jefrey Lijffijt외 1명|arXiv (Cornell University)|2019. 04. 22.

Advanced Graph Neural Networks참고 문헌 24인용 수 12

한 줄 요약

ExplaiNE는 네트워크 임bedding 기반 링크 예측을 위한 반사적 설명 방법을 제안하며, 예측된 링크 확률에 가장 큰 영향을 미치는 기존 링크를 특정하기 위해 그 링크를 약화시켰을 때의 영향을 측정한다. 이는 조건부 네트워크 임베딩에 적용되었을 때 특히 높은 정확도와 확장성을 보이며, 실제 공동 저자 네트워크와 영화 추천 네트워크에서 뛰어난 성능을 발휘한다.

ABSTRACT

Networks are powerful data structures, but are challenging to work with for conventional machine learning methods. Network Embedding (NE) methods attempt to resolve this by learning vector representations for the nodes, for subsequent use in downstream machine learning tasks. Link Prediction (LP) is one such downstream machine learning task that is an important use case and popular benchmark for NE methods. Unfortunately, while NE methods perform exceedingly well at this task, they are lacking in transparency as compared to simpler LP approaches. We introduce ExplaiNE, an approach to offer counterfactual explanations for NE-based LP methods, by identifying existing links in the network that explain the predicted links. ExplaiNE is applicable to a broad class of NE algorithms. An extensive empirical evaluation for the NE method `Conditional Network Embedding' in particular demonstrates its accuracy and scalability.

연구 동기 및 목표

• 최첨단 네트워크 임베딩(NE) 방법이 링크 예측(LP)에 매우 정확하지만 투명하지 않아서 발생하는 해석 불가능성 문제를 해결하기 위해.
• 수학적으로 타당한 접근법을 통해 NE 기반 LP 예측에 대한 인간이 이해할 수 있는 반사적 설명을 생성하기 위해.
• 다양한 NE 방법, 특히 음성 샘플링을 사용하는 스킵그램 기반 방법을 포함하여도 확장성과 실용성을 확보하기 위해.
• 실제 네트워크인 공동 저자 네트워크와 MovieLens와 같은 사례에서 정량적 및 정성적 평가를 통해 방법의 효과성을 검증하기 위해.
• ExplaiNE가 생성하는 설명이 안정적이고 확장 가능할 뿐 아니라, 추천 작업에서 장르 상관관계를 통해 의미 있는 의미를 지닌다는 것을 입증하기 위해.

제안 방법

• ExplaiNE는 반사적 추론을 사용한다: 기존 링크를 약화시켰을 때 목표 링크의 예측 확률에 어떤 영향을 미치는지 정량화한다.
• 예측된 링크 {i,j}에 대해, 기존 링크 {i,k}를 약화시켰을 때 링크 확률의 변화를 평가하여 {i,k}가 긍정적 또는 부정적 영향을 미친다고 식별한다.
• 먼저 모든 네트워크 내 링크 또는 비링크 기반 설명이 가능한 일반적인 형태로 수식을 제안한 후, 확장성을 위해 인cidnet 링크에 특화한다.
• 계산 비용을 줄이면서도 정확도를 유지하는 날카운 approximation을 도입하였으며, 이는 추론 실험을 통해 실증적으로 타당성을 입증하였다.
• 조건부 네트워크 임베딩(CNE)에 대해 상세히 적용하였으며, 그 기저의 미분 가능하고 투명한 구조를 활용해 효율적인 설명 생성을 구현하였다.
• 스킵그램과 음성 샘플링 기반의 다른 NE 방법들인 DeepWalk, node2vec, LINE, PTE 등으로의 ExplaiNE 확장 방안을 개략적으로 제시하였다.

실험 결과

연구 질문

• RQ1 링크 약화 기반의 반사적 설명이 NE 기반 링크 예측을 효과적이고 정확하게 설명할 수 있는가?
• RQ2 특히 근사화를 통한 경우, 대규모 네트워크에 적용했을 때 ExplaiNE 방법의 확장성은 어떠한가?
• RQ3 ExplaiNE가 생성한 설명은 공동 저자 관계나 추천 작업에서의 장르 유사성과 같은 의미 있는 네트워크 구조를 반영하는가?
• RQ4 공동 저자 및 추천 작업에서의 예측 성능 측면에서, 설명이 무작위 기반 모델과 비교해 어떻게 성능을 발휘하는가?
• RQ5 예를 들어 공동 저자나 영화 장르와 같은 설명의 내용과 예측된 링크의 특성 간 상관관계가 통계적으로 유의미한가?

주요 결과

• ExplaiNE는 예측된 링크 확률에 가장 큰 영향을 미치는 기존 링크를 성공적으로 식별하였으며, 자카르 자이트 클럽 네트워크에서 네트워크 기하학과 일치하는 직관적인 결과를 보였다.
• 공동 저자 예측 작업에서 높은 정밀도와 재현율을 달성하였으며, 여러 저자와 논문 길이(예: Eric P. Xing, Kamalika Chaudhuri, Ruslan Salakhutdinov, Michael I. Jordan)에 걸쳐 무작위 순위 기반 방법을 크게 능가하였다.
• MovieLens 네트워크에서 ExplaiNE가 생성한 상위 5개의 설명은, 시청한 영화나 전체 영화에서 추출한 설명 모두에서 추천된 영화의 장르와 통계적으로 유의미한 상관관계(p-값 수치적으로 0.0)를 보였다.
• 콜모고로프-스미르노프 검정을 통해 장르 겹침에 대한 p-값이 균일 분포가 아님을 확인하였으며, 귀무가설을 기각함으로써 ExplaiNE 설명이 추천된 항목의 특성과 의미적으로 관련이 있음을 입증하였다.
• ExplaiNE의 확장 가능한 근사화는 높은 안정성과 정확도를 유지하며, 대규모 네트워크에서 실시간 배포에 적합한 런타임 성능을 보였다.
• 정성적 분석을 통해 설명이 의미적으로 일관성을 지녔음을 확인하였다. 예를 들어, 유사한 연구 주제나 장르를 공유하는 공동 저자나 영화 장르가 우선순위로 설명에 포함되며, 이는 신뢰성과 설명 가능성 향상에 기여한다.