[논문 리뷰] Application of federated learning in manufacturing

Vinit Hegiste, Tatjana Legler외 1명|arXiv (Cornell University)|2022. 08. 09.

Privacy-Preserving Technologies in Data참고 문헌 24인용 수 4

한 줄 요약

이 논문은 원자료를 공유하지 않고도 여러 공장이 공동으로 품질 검사를 수행할 수 있도록 연합 학습(FL)을 제안한다. 각 공장은 원자료를 공유하지 않고도 공유된 딥 러닝 모델을 훈련시키며, ImageNet 가중치로 미세조정한 VGG-19 모델을 사용해 5회의 통신 라운드 내에 결함이 있는 USB 부품을 높은 정확도로 분류하는 글로벌 모델을 구축했다. 이는 무작위 가중치에서 훈련하는 것보다 우수한 성능을 보이며, 개인정보 보호를 위한 산업용 AI에 효과적임을 입증한다.

ABSTRACT

A vast amount of data is created every minute, both in the private sector and industry. Whereas it is often easy to get hold of data in the private entertainment sector, in the industrial production environment it is much more difficult due to laws, preservation of intellectual property, and other factors. However, most machine learning methods require a data source that is sufficient in terms of quantity and quality. A suitable way to bring both requirements together is federated learning where learning progress is aggregated, but everyone remains the owner of their data. Federate learning was first proposed by Google researchers in 2016 and is used for example in the improvement of Google's keyboard Gboard. In contrast to billions of android users, comparable machinery is only used by few companies. This paper examines which other constraints prevail in production and which federated learning approaches can be considered as a result.

연구 동기 및 목표

• 원자료를 공유하지 않고도 생산 데이터의 기밀성과 지적 재산권 제약을 고려한 산업용 머신 러닝에서 공동 모델 훈련을 가능하게 하기 위해.
• 결함 데이터가 제한적이고 비균일하게 분포된 실세계 제조 품질 검사 환경에서 연합 학습의 실현 가능성과 성능을 평가하기 위해.
• 낮은 데이터, 산업 환경에서의 연합 훈련에 적합한 모델 초기화 전략(무작위 vs. 사전 학습된 가중치)을 비교하기 위해.
• 다양한 클라이언트 데이터 분포에 걸쳐도 글로벌로 집계된 모델이 잘 일반화될 수 있는지를 입증하기 위해.
• 세 개의 클라이언트에서 실세계 결함 USB 부품 데이터셋을 사용해 연합 학습의 효과성을 검증하기 위해.

제안 방법

• 중앙 서버가 세 개의 클라이언트 공장에서 온 모델 가중치를 집계하는 방식으로 연합 학습을 구현하였으며, 각 공장은 자체적인 USB 부품 이미지 데이터셋을 보유하고 있었다.
• VGG-19 아키텍처를 사용하였으며, 사전 학습된 ImageNet 컨볼루션 레이어를 통해 특징 추출을 수행하고, 현지 결함 데이터에 대해 최종 분류기 헤드를 미세조정하였다.
• 모델 가중치는 각 클라이언트 장치에서 로컬으로 업데이트되며, 매 통신 라운드(CR) 후 중앙 서버로 전송되었고, FedAvg 알고리즘을 사용해 집계하였다.
• 매 통신 라운드마다 클라이언트 모델 가중치를 평균화하여 글로벌 모델을 재구성하였으며, 원본 이미지가 전송되지 않아 데이터 프라이버시가 보장되었다.
• 클라이언트는 현지 데이터를 사용해 모델을 훈련시키고, 어느 클라이언트의 훈련 데이터에도 포함되지 않은 제3자 USB를 포함한 외부 테스트 세트에서 성능을 평가하였다.
• 무작위 초기 가중치에서 시작하는 것과 사전 학습된 ImageNet 가중치를 사용하는 것의 성능을 비교하였으며, 수렴 속도와 일반화 성능를 측정하였다.

실험 결과

연구 질문

• RQ1 결함 데이터가 부족하고 공장 간 비균일하게 분포된 산업 환경에서, 연합 학습이 높은 정확도의 품질 검사 모델을 효과적으로 훈련시킬 수 있는가?
• RQ2 사전 학습된 ImageNet 가중치의 사용이 산업 결함 탐지에 대한 연합 학습의 수렴 속도와 모델 성능에 어떤 영향을 미치는가?
• RQ3 글로벌로 집계된 연합 모델이 어느 정도까지 훈련 데이터에 포함되지 않은 새로운 결함 유형이나 제3자 제품에 대해 일반화될 수 있는가?
• RQ4 클라이언트당 제한된 데이터를 가진 연합 환경에서, 통신 라운드 수가 글로벌 모델의 정확도와 강건성에 어떤 영향을 미치는가?
• RQ5 중앙 집중형 훈련에 비해 개인정보 보호 측면에서 연합 학습이 우수하면서도 산업 품질 검사에서 동일하거나 더 나은 일반화 성능을 유지할 수 있는가?

주요 결과

• ImageNet 가중치로 초기화된 미세조정된 VGG-19 모델은 단 5회의 통신 라운드 내에 높은 정확도로 결함 분류를 달성하였으며, 이는 무작위 가중치에서 시작한 모델보다 유의미하게 뛰어난 성능을 보였다.
• 글로벌 연합 모델은 어느 클라이언트의 훈련 데이터에도 포함되지 않은 제3자 USB 부품에 대해서도 잘 일반화되어 숨겨진 결함을 높은 신뢰도로 정확히 분류하였다.
• 무작위 초기 가중치에서 시작한 훈련은 최소 20회의 통신 라운드가 필요로 했고, 조차도 외부 데이터에서 성능이 열악했다.
• 연합 학습을 통해 훈련된 글로벌 모델은 실시간 분류에서 중앙 집중형 VGG 모델보다 약간 더 높은 신뢰도로 모든 결함을 탐지하여, 더 뛰어난 일반화 성능을 보였다.
• 사전 학습된 가중치를 사용함으로써 필요한 통신 라운드 수가 감소하고 수렴 성능가 향상되어, 제한된 데이터를 가진 산업 환경에서의 실용적 구현에 매우 중요한 요소로 입증되었다.
• 연합 학습 방식은 원자료가 공유되지 않아 데이터 프라이버시를 성공적으로 보존하였으며, 모든 훈련이 클라이언트 장치에서 로컬로 수행되었다.