[논문 리뷰] Privacy-preserving Federated Learning based on Multi-key Homomorphic Encryption

Jing Ma, Si‐Ahmed Naas외 2명|arXiv (Cornell University)|2021. 04. 14.

Privacy-Preserving Technologies in Data참고 문헌 51인용 수 20

한 줄 요약

이 논문은 집합된 공개 키와 공동 복호화를 사용하는 다중 키 히든 암호화를 이용한 프라이버시 보장형 분산 학습 기반 xMK-CKKS를 제안한다. 모든 참가자가 함께 복호화하는 것을 요구함으로써 모델 업데이트의 기밀성을 보장하며, 동업자 공격에 저항하고 기존 Paillier 기반 기반의 방법에 비해 계산 비용을 감소시킨다. 이는 IoT 환경에 적합한 높은 모델 정확도와 낮은 에너지 소비(2.4W)를 유지한다.

ABSTRACT

With the advance of machine learning and the internet of things (IoT), security and privacy have become key concerns in mobile services and networks. Transferring data to a central unit violates privacy as well as protection of sensitive data while increasing bandwidth demands.Federated learning mitigates this need to transfer local data by sharing model updates only. However, data leakage still remains an issue. In this paper, we propose xMK-CKKS, a multi-key homomorphic encryption protocol to design a novel privacy-preserving federated learning scheme. In this scheme, model updates are encrypted via an aggregated public key before sharing with a server for aggregation. For decryption, collaboration between all participating devices is required. This scheme prevents privacy leakage from publicly shared information in federated learning, and is robust to collusion between $k

연구 동기 및 목표

• 모델 업데이트가 민감한 데이터를 드러낼 수 있는 분산 학습에서의 기밀성 유출 문제를 해결하기 위해.
• 기존의 히든 암호화 기반 분산 학습에서 공유 키가 존재해 어느 참가자라도 복호화할 수 있는 한계를 극복하기 위해.
• 자원 제약이 있는 IoT 기기에서 사용 가능한 다중 키 히든 암호화 기반의 설계를 위해.
• k < N−1개의 기기와 서버 간의 공모가 발생하더라도 모델 업데이트의 기밀성이 유지되도록 보장하기 위해.
• 기존의 히든 암호화 기반 분산 학습 기반에 비해 계산 비용과 에너지 소비를 감소시키기 위해.

제안 방법

• 개별 공개 키의 합으로 이루어진 집합된 공개 키를 사용하는 xMK-CKKS를 제안하며, 이는 MK-CKKS의 수정된 버전이다.
• 개별 비밀 키와 암호문을 결합하는 복호화 공유 메커니즘을 도입하여, 어느 한 참가자도 다른 이의 데이터를 복호화할 수 없도록 보장한다.
• 다중 키 히든 암호화를 활용해 서버에서 집계하기 전에 암호화된 모델 업데이트에 대해 히든 연산을 허용한다.
• 모든 참여 장치가 함께 복호화에 참여하도록 요구하여, 서버나 일부 클라이언트가 손상된 경우에도 무단 접근을 방지한다.
• 실수값 모델 가중치에 대한 효율적인 계산을 가능하게 하기 위해 근사 고정소수점 산술을 허용하는 CKKS를 사용한다.
• 장치들이 로컬에서 기울기(gradient)를 암호화하고 서버에 전송하여 집계한 후, 공동으로 글로벌 모델 업데이트를 복호화하는 분산 학습 파이프라인에 도입한다.

실험 결과

연구 질문

• RQ1 다른 키를 사용하는 기기들이 참여하는 분산 학습 환경에서, 기밀성 누출을 방지할 수 있는 다중 키 히든 암호화 기반의 설계가 가능한가?
• RQ2 암호화 또는 집계 단계에서 기기 간의 상호작용 없이 공동 복호화를 어떻게 달성할 수 있는가?
• RQ3 제안된 기반의 기술이 Paillier 및 MK-CKKS 기반의 분산 학습에 비해 계산 비용과 에너지 소비를 감소시킬 수 있는가?
• RQ4 실제 IoT 환경에서 비암호화된 분산 학습과 비교해 모델 정확도가 유사한가?
• RQ5 일부 기기와 서버 간의 공모에 대해 기반의 기술이 얼마나 견고한가?

주요 결과

• xMK-CKKS 기반의 분산 학습 기반은 기존의 분산 학습 및 MK-CKKS 또는 Paillier 암호화를 사용하는 안전한 기반과 비교해 유사한 모델 정확도를 유지한다.
• Paillier 기반 분산 학습에 비해 계산 비용이 크게 감소했으며, 암호화, 집계, 복호화, 복호화 공유 생성 단계에서 모두 MK-CKKS 수준의 성능을 기록한다.
• 10대의 Jetson Nano 장치에서 평균 에너지 소비는 2.4 와트로 측정되어 저전력 IoT 환경에 적합함을 입증한다.
• 복호화에 모든 참가자의 공유가 필요하므로, k < N−1개의 기기와 서버 간의 공모에 대해 기반의 기술이 견고함을 입증한다.
• 원시 데이터가 전송되지 않고 암호화된 모델 업데이트만 전송되므로 통신 비용은 낮게 유지된다.
• 스마트 헬스케어 시나리오에서 엣지 장치를 활용해 안전하고 확장성 있고 효율적인 분산 학습을 실현한다.