[논문 리뷰] APPFLChain: A Privacy Protection Distributed Artificial-Intelligence Architecture Based on Federated Learning and Consortium Blockchain

Jun-Teng Yang, Wen‐Yuan Chen외 3명|arXiv (Cornell University)|2022. 06. 26.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 Hyperledger Fabric 기반의 협의체 블록체인과 연합 학습을 통합하여 기밀 보장 분산 AI 아키텍처인 APPFLChain을 제안한다. 중앙집중식 데이터 수집을 제거함으로써 시스템은 데이터 기밀성, 무결성, 추적 가능성 및 신뢰할 수 있는 모델 추론을 보장한다. 시뮬레이션 결과는 보안성과 무결성을 유지하는 데 효과적임을 확인한다.

ABSTRACT

Recent research in Internet of things has been widely applied for industrial practices, fostering the exponential growth of data and connected devices. Henceforth, data-driven AI models would be accessed by different parties through certain data-sharing policies. However, most of the current training procedures rely on the centralized data-collection strategy and a single computational server. However, such a centralized scheme may lead to many issues. Customer data stored in a centralized database may be tampered with so the provenance and authenticity of data cannot be justified. Once the aforementioned security concerns occur, the credibility of the trained AI models would be questionable and even unfavorable outcomes might be produced at the test stage. Lately, blockchain and AI, the two core technologies in Industry 4.0 and Web 3.0, have been explored to facilitate the decentralized AI training strategy. To serve on this very purpose, we propose a new system architecture called APPFLChain, namely an integrated architecture of a Hyperledger Fabric-based blockchain and a federated-learning paradigm. Our proposed new system allows different parties to jointly train AI models and their customers or stakeholders are connected by a consortium blockchain-based network. Our new system can maintain a high degree of security and privacy as users do not need to share sensitive personal information to the server. For numerical evaluation, we simulate a real-world scenario to illustrate the whole operational process of APPFLChain. Simulation results show that taking advantage of the characteristics of consortium blockchain and federated learning, APPFLChain can demonstrate favorable properties including untamperability, traceability, privacy protection, and reliable decision-making.

연구 동기 및 목표

• 중앙집중식 AI 훈련이 IoT 및 산업 4.0 시스템에서 초래하는 보안 및 기밀성 위험을 해결하기 위해.
• 단일 서버 기반 데이터 수집의 한계, 즉 데이터 조작 및 기원 불명 문제를 극복하기 위해.
• 원시 데이터를 공유하지 않고도 여러 당사자 간에 협업형 AI 모델 훈련을 가능하게 하기 위해.
• 검증 가능하고 변경 불가능하며 추적 가능한 훈련 과정을 통해 모델 신뢰성을 확보하기 위해.
• 산업 응용 분야에 적합한 탈중앙화되고 신뢰할 수 있으며 기밀 보장이 되는 AI 훈련 프레임워크를 개발하기 위해.

제안 방법

• 탈중앙화된 AI 훈련을 위해 Hyperledger Fabric 기반 협의체 블록체인과 연합 학습을 융합한 하이브리드 아키텍처 설계.
• 연합 학습을 활용해 클라이언트가 원시 데이터를 중앙 서버에 전송하지 않고도 로컬 모델을 훈련할 수 있도록 하기 위해.
• 블록체인을 사용해 모델 업데이트, 집계 결과 및 훈련 메타데이터를 기록함으로써 감사 가능성과 무결성을 확보하기 위해.
• 참여 당사자 간 신뢰를 확보하기 위해 협의체 블록체인에 액세스 제어 및 합의 메커니즘 구현.
• 변경 불가능한 레거시 항목을 통해 모델 업데이트 및 데이터 기원의 추적 가능성을 제공하기 위해.
• 통신 중 모델 파라미터 보호 및 기밀성 유지에 기여하기 위해 암호 기법 통합.

실험 결과

연구 질문

• RQ1 탈중앙화된 AI 훈련 시스템은 모델 정확도와 신뢰성을 유지하면서도 어떻게 데이터 기밀성을 보장할 수 있는가?
• RQ2 협의체 블록체인이 산업용 IoT 환경에서 연합 학습의 보안성과 추적 가능성을 어느 정도 향상시킬 수 있는가?
• RQ3 블록체인과 연합 학습의 통합이 데이터 조작 및 무단 액세스 위험을 완화할 수 있는가?
• RQ4 제안된 아키텍처는 다자 환경에서 신뢰할 수 있고 검증 가능한 AI 의사결정을 어떻게 지원하는가?
• RQ5 실제 시뮬레이션 환경에서 시스템의 실용적 성능 특성은 어떠한가?

주요 결과

• APPFLChain는 중앙집중식 데이터 저장이 필요 없음을 성공적으로 입증하여 기밀성 및 보안 위험을 크게 감소시켰다.
• 모델 업데이트 및 훈련 이벤트의 변경 불가능한 블록체인 기록을 통해 데이터 기원 및 진위성을 보장한다.
• 시뮬레이션 결과는 시스템이 훈련 과정 중 데이터 무결성을 유지하고 조작을 방지할 수 있음을 확인한다.
• 모델 기여도의 추적 가능성을 지원함으로써 참가 당사자 간의 책임성과 감사 가능성을 확보한다.
• 연합 학습과 협의체 블록체인의 통합은 기밀 보호를 강화하면서도 모델 신뢰성을 유지한다.
• 실제 시뮬레이션에서 시스템은 변조 방지, 추적 가능성 및 기밀 보존 등의 유리한 특성을 보였다.