[논문 리뷰] Blockchain-based Trustworthy Federated Learning Architecture

Sin Kit Lo, Yue Liu외 5명|arXiv (Cornell University)|2021. 08. 16.

Privacy-Preserving Technologies in Data참고 문헌 31인용 수 15

한 줄 요약

이 논문은 블록체인 기반의 피어드 학습 아키텍처를 제안하여 의료 AI의 책임성과 공정성을 향상시킨다. 스마트 계약 기반의 데이터-모델 기록부 및 가중치 공정 데이터 샘플러를 사용한다. 코로나19 흉부 X-ray 진단 작업에서의 평가 결과, 기존 피어드 학습 대비 모델 정확도, 일반화 능력 및 공정성이 향상됨.

ABSTRACT

Federated learning is an emerging privacy-preserving AI technique where clients (i.e., organisations or devices) train models locally and formulate a global model based on the local model updates without transferring local data externally. However, federated learning systems struggle to achieve trustworthiness and embody responsible AI principles. In particular, federated learning systems face accountability and fairness challenges due to multi-stakeholder involvement and heterogeneity in client data distribution. To enhance the accountability and fairness of federated learning systems, we present a blockchain-based trustworthy federated learning architecture. We first design a smart contract-based data-model provenance registry to enable accountability. Additionally, we propose a weighted fair data sampler algorithm to enhance fairness in training data. We evaluate the proposed approach using a COVID-19 X-ray detection use case. The evaluation results show that the approach is feasible to enable accountability and improve fairness. The proposed algorithm can achieve better performance than the default federated learning setting in terms of the model's generalisation and accuracy.

연구 동기 및 목표

• 다양한 이해관계자와 이질적인 데이터를 포함하는 피어드 학습 시스템에서의 책임성과 공정성 문제를 해결하기 위해.
• 투명하고 불변한 블록체인 기반의 기록부를 통해 국소 데이터와 모델 업데이트의 감사 가능성을 보장하기 위해.
• 가중치 공정 샘플링 알고리즘을 사용하여 피어드 학습에서 데이터 분포 편향을 완화하기 위해.
• 데이터 프라이버시와 공정성이 중요한 실제 의료 환경에서의 응용—코로나19 흉부 X-ray 진단—에서 접근 방식을 검증하기 위해.
• 블록체인 통합이 성능을 손상시키지 않으면서도 피어드 학습의 신뢰성을 향상시킬 수 있음을 보여주기 위해.

제안 방법

• 감사 가능성을 위해 블록체인에 스마트 계약 기반의 데이터-모델 기록부를 구현하여 국소 데이터, 국소 모델 업데이트, 글로벌 모델 버전을 기록하고 맵핑함.
• 데이터 기원과 모델 학습의 무결성을 검증할 수 있도록 데이터 기원과 모델 라인재를 기록함.
• 비-IID(비동일 및 독립적) 데이터에서 기인하는 편향을 줄이기 위해 클라이언트 간 클래스 분포를 균형 잡는 가중치 공정 데이터 샘플링 알고리즘을 설계함.
• 클라이언트별 클래스 빈도에 따라 샘플링 확률을 동적으로 조정하여 글로벌 모델의 공정성을 향상시킴.
• 디센터럴라이즈된 신뢰와 훈련 이벤트의 검증 가능하고 위변조 방지 기록을 가능하게 하여 블록체인과 피어드 학습을 통합함.
• 다양한 병원을 클라이언트로 하는 실제 코로나19 흉부 X-ray 진단 사례를 사용하여 시스템을 평가함.

실험 결과

연구 질문

• RQ1 블록체인 기반 시스템이 피어드 학습에서 책임성을 향상시키기 위해 데이터 및 모델 업데이트의 검증 가능하고 불변한 기록을 제공할 수 있는가?
• RQ2 데이터 이질성(비-IID 분포)은 어떻게 완화할 수 있으며, 이를 통해 피어드 모델 학습의 공정성을 향상시킬 수 있는가?
• RQ3 제안된 가중치 공정 데이터 샘플러는 기존 피어드 학습 대비 모델 일반화 및 공정성 향상에 어느 정도 기여하는가?
• RQ4 블록체인과 스마트 계약의 통합이 성능 저하 없이 피어드 학습의 신뢰성을 향상시킬 수 있는가?
• RQ5 의료 영상 작업에서 정확도, 공정성, 내구성 측면에서 제안된 아키텍처가 기존 피어드 학습을 능가하는가?

주요 결과

• 블록체인 기반의 데이터-모델 기록부는 다자간 피어드 학습에서 데이터 및 모델 라인재의 종단 간 감사 가능성을 성공적으로 구현하여 책임성 지원함.
• 가중치 공정 데이터 샘플러는 클라이언트 간 비균형적인 데이터 분포에서 기인하는 편향을 크게 줄여 모델의 공정성을 향상시킴.
• 제안된 아키텍처는 코로나19 흉부 X-ray 진단 작업에서 표준 피어드 학습 대비 높은 모델 정확도와 더 나은 일반화 성능를 달성함.
• 평가 결과, 블록체인 기록을 통해 데이터 프라이버시를 유지하면서도 투명하고 검증 가능한 모델 훈련이 가능함을 확인함.
• 스마트 계약과 블록체인의 통합은 성능에 큰 영향을 주지 않으면서도 피어드 학습 파이프라인의 신뢰도를 향상시킴.
• 실제 의료 환경에서의 적용 가능성과 효과성을 입증하여 책임감 있는 AI 구현을 지원함.