[논문 리뷰] Interplay between Federated Learning and Explainable Artificial Intelligence: a Scoping Review

Luis M. López-Ramos, Florian Leiser외 7명|arXiv (Cornell University)|2024. 11. 07.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 스코핑 리뷰는 연합 학습(FL)과 해석 가능한 인공지능(XAI) 간의 상호작용을 조사하며, FL이 모델 설명에 미치는 영향을 정량적으로 측정하는 연구가 거의 없다는 중요한 연구 격차를 밝혀낸다. 대부분의 연구가 기능 중요도 설명에 초점을 맞추고 있음에도 불구하고, FL 집계 과정에서 노드별 해석 가능성 패턴이 약화되며, 표준화된 보고 관행은 여전히 흔하지 않다.

ABSTRACT

Contains basic and extraction data about papers included in a scoping review about the interplay between federated learning and explainable artificial intelligence.

연구 동기 및 목표

• 연합 학습(FL)과 해석 가능한 인공지능(XAI)의 공동 응용에 대한 현재 연구 상태를 맵핑하고 분석하기.
• 특히 투명성과 재현 가능성 측면에서 FL과 XAI를 융합한 연구의 방법론적 및 보고 격차를 규명하기.
• FL 학습이 모델 해석 가능성과 사후 설명에 어떻게 영향을 미치는지, 특히 글로벌 설명과 로컬 설명의 정밀도 측면에서 조사하기.
• FL 라이브러리 사용 및 데이터 특성 기록과 같은 표준화된 보고 관행의 부족을 강조하기.
• FL이 모델 구조와 설명 가능성에 미치는 영향을 평가하기 위한 더 철저하고 정량적인 연구를 촉구하기.

제안 방법

• FL과 XAI를 명시적으로 다루는 동료 심사 논문을 대상으로 스코핑 리뷰를 수행하였으며, 주로 모델 해석 가능성 또는 사후 설명에서의 상호작용에 집중하였다.
• 포함 기준을 충족한 37개의 연구를 선별하였으며, 10개 이하의 데이터 센터를 포함한 수평적 FL(HFL) 설정에 중점을 두었다.
• 해석 가능성(예: 알고리즘적 투명성) 또는 설명 방법(예: 기능 중요도)에 중점을 두는지에 따라 연구를 분류하였다.
• TRIPOD+AI 및 MINIMAR와 같은 표준 준수 여부를 평가하여 보고 품질을 평가하였다.
• 기존의 FL 라이브러리(예: Flower, PySyft)의 사용 여부와 비교해 보다 커스터마이징된 구현 방식을 분석하였으며, 방법론 기술의 투명성 여부도 평가하였다.
• 특히 '해석 가능성', '해석 가능성', 'XAI' 등의 용어에 대한 불일치한 사용을 확인하고, 표준 정의 도입을 촉구하였다.

Figure 1: Schematic overview of a main research question: do explanations differ between federated models and centralized models?

실험 결과

연구 질문

• RQ1 중앙집중식 학습 대비 연합 학습(FL)이 모델 설명의 품질, 정밀도, 일관성에 어떤 영향을 미치는가?
• RQ2 FL과 XAI 연구 중 얼마나 많은 비율이 확립된 FL 라이브러리를 사용하고 있으며, 이는 재현성과 투명성에 어떤 영향을 미치는가?
• RQ3 연구가 보고 지침(예: TRIPOD+AI, MINIMAR)에 따라 데이터 특성, 모델 성능, 설명 메트릭스를 얼마나 잘 보고하고 있는가?
• RQ4 FL-XAI 연구에서 주로 사용되는 설명 방법의 유형은 무엇이며, 해석 가능성 중심 접근법과 비교해보면 어떠한가?
• RQ5 재현성과 책임감 있는 FL-XAI 시스템 구현을 저해하는 주요 방법론적 및 보고 격차는 무엇인가?

주요 결과

• 이 리뷰에서 유일하게 FL이 모델 설명에 미치는 영향을 명시적이고 정량적으로 분석한 연구는 한 건 뿐이었으며, 이는 이 분야에서 심각한 연구 격차가 있음을 시사한다.
• FL 노드 간 해석 가능성 메트릭스의 집계 과정에서 노드별 패턴이 흐려지며, 지역 해석 가능성 정밀도를 희생하면서까지 일반화된 글로벌 통찰을 도출한다.
• 8개의 논문에서 설명 방법을 FL 알고리즘의 구성 요소로 통합하여, XAI를 FL 학습 루프에 통합할 잠재력이 있음을 시사한다.
• 연구의 소수만이 확립된 FL 라이브러리(예: Flower, PySyft)를 사용하였으며, 대부분은 자체 개발한 구현 방식을 사용하거나 구현 세부 정보를 기재하지 않았다.
• 많은 연구에서 데이터 특성 기록을 생략하거나 TRIPOD+AI 또는 MINIMAR와 같은 보고 지침을 준수하지 않아 재현성과 감사 가능성에 악영향을 미쳤다.
• 용어 사용에 대한 합의가 없어 '해석 가능성', '해석 가능성', 'XAI' 등의 용어를 일관되지 않게 사용함으로써 비교 가능성과 방법론적 명확성에 장애를 초래하고 있다.

Figure 2: Flow diagram indicating the number of papers identified, excluded in the different phases, and included in the review.