[논문 리뷰] Cloud No Longer a Silver Bullet, Edge to the Rescue

Yuhao Zhu, Gu-Yeon Wei외 1명|arXiv (Cornell University)|2018. 02. 15.

IoT and Edge/Fog Computing참고 문헌 6인용 수 3

한 줄 요약

이 논문은 Siri와 같은 구 nu 인지 서비스의 증가하는 계산, 에너지, 대역폭 수요로 인해 중심화된 클라우드 처리에서 엣지 디바이스로의 전환 필요성을 주장한다. 엣지 디바이스에서 추론과 피어드 학습을 수행함으로써 지연 시간, 통신 비용, 프라이버시 위험을 줄이고, 개인화된 모델을 통해 정확도를 향상시킬 수 있다.

ABSTRACT

This paper takes the position that, while cognitive computing today relies heavily on the cloud, we will soon see a paradigm shift where cognitive computing primarily happens on network edges. The shift toward edge devices is fundamentally propelled both by technological constraints in data centers and wireless network infrastructures, as well as practical considerations such as privacy and safety. The remainder of this paper lays out our view of how these constraints will impact future cognitive computing. Bringing cognitive computing to edge devices opens up several new opportunities and challenges, some of which demand new solutions and some of which require us to revisit entrenched techniques in light of new technologies. We close the paper with a call to action for future research.

연구 동기 및 목표

• Siri와 같은 클라우드 기반 인지 서비스의 확장에 따른 지속 불가능한 에너지 및 대역폭 수요를 해결하기 위해.
• 연결된 디바이스로부터의 막대하고 실시간 데이터 처리를 위한 중심화된 데이터 센터와 무선 네트워크의 한계를 극복하기 위해.
• 민감한 사용자 데이터를 클라우드로 전송함으로써 발생하는 프라이버시 및 안전 문제를 완화하기 위해.
• 현장 내 머신 러닝과 피어드 학습을 통해 더 효율적이고 개인화되며 정확도가 높은 인지 서비스를 가능하게 하기 위해.
• 엣지 중심 인지 컴퓨팅을 위해 하드웨어, 알고리즘, 프라이버시 정책을 공동 설계함으로써 시스템 설계를 재구상하기 위해.

제안 방법

• 지연에 민감하고 대역폭을 많이 소비하며 프라이버시가 중요한 작업을 엣지 디바이스에서 처리하는 인지 엣지 컴퓨팅 아키텍처를 제안한다.
• 엣지 디바이스의 에너지 비례 설계를 활용하여 데이터 센터보다 더 낮은 에너지 소비로도 더 높은 총 계산 능력을 달성한다.
• 지역적 엣지 네트워크 내에서 밀리미터 웨이브 기술을 활용해 고대역폭, 저지연, 저에너지 통신을 가능하게 한다.
• 원시 사용자 데이터를 클라우드로 이동시키지 않고도 엣지 디바이스에서 머신 러닝 모델을 학습시킬 수 있도록 피어드 학습을 구현한다.
• 유연한 프라이버시, 성능, 에너지 효율성 간의 트레이드오프를 가능하게 하기 위해 하드웨어와 프라이버시 정책을 공동 설계한다.
• 자원 제약이 있는 엣지 하드웨어와 함께 학습 알고리즘을 공동 설계하여 현장 내 모델 업데이트 및 개인화를 지원한다.

실험 결과

연구 질문

• RQ1 클라우드 인프라가 과부하가 되지 않도록 하면서도 증가하는 데이터와 계산 수요에 따라 인지 컴퓨팅 시스템이 지속 가능하게 확장될 수 있는 방법은 무엇인가?
• RQ2 엣지 컴퓨팅이 클라우드 중심의 인지 처리에 비해 더 유망한 대안이 되는 데 기여하는 핵심 기술적 및 실용적 제약은 무엇인가?
• RQ3 모델 정확도나 시스템 성능을 훼손하지 않으면서도 프라이버시를 어떻게 유지할 수 있는가?
• RQ4 피어드 학습이 데이터 전송을 최소화하고 사용자 데이터를 현장에 유지하면서도 현장 내 학습을 어떻게 가능하게 할 수 있는가?
• RQ5 하드웨어, 알고리즘, 시스템 정책을 어떻게 공동 설계하여 엣지 기반 인지 시스템에서 성능, 에너지 효율성, 프라이버시를 최적화할 수 있는가?

주요 결과

• Siri와 같은 인지 서비스의 계산 수요는 기존 클라우드 서비스보다 최소 두 계단 이상 높으며, 2020년까지 데이터 센터의 성능을 세 배로 높여야 한다.
• 데이터 센터는 이미 미국 전체 에너지 소비의 1.8%를 차지하고 있으며, CMOS 스케일링의 수익 감소로 인해 추가 확장은 에너지 측면에서 비용이 지나치게 높아져 비현실적이다.
• 무선 통신은 약 10⁻⁶ J/bit의 속도로 에너지를 소비하며, 이는 64비트 부동소수점 연산(약 10⁻¹² J)의 100만 배 이상 높은 에너지 소비 비율이다.
• 엣지 디바이스는 데이터 센터보다 더 높은 에너지 비례성(energy-proportional)을 가지므로, 대규모로도 더 효율적인 계산이 가능하다.
• 피어드 학습을 통해 클라우드로 전송되는 것은 모델 업데이트뿐이며, 이로 인해 데이터 프라이버시를 유지하고 대역폭 소비를 최소화할 수 있다.
• 현장에서 학습된 개인화된 모델은 특히 자율주행 차량과 같은 안전이 중요한 애플리케이션에서 꼬리 정확도 문제를 크게 줄일 수 있다.