[논문 리뷰] SAIA: Split Artificial Intelligence Architecture for Mobile Healthcare System

Di Zhuang, Nam V. Nguyen외 2명|arXiv (Cornell University)|2020. 04. 25.

IoT and Edge/Fog Computing참고 문헌 64인용 수 4

한 줄 요약

SAIA는 실시간 조건에 따라 장치 내 경량 임베디드 AI와 클라우드에 있는 강력한 네트워크화된 AI 간에 데이터를 동적으로 라우팅하는 분할된 인공지능 아키텍처를 제안한다. 메타정보 기반의 결정 단위와 조정 가능한 초모수 ε를 사용함으로써, 피부 병변 및 손톱 곰팡이 병변 데이터셋에서 기존 방법들보다 뛰어난 효과성과 효율성을 달성하며, 통신 장애가 발생하는 동안에도 성능을 유지한다.

ABSTRACT

As the advancement of deep learning (DL), the Internet of Things and cloud computing techniques for biomedical and healthcare problems, mobile healthcare systems have received unprecedented attention. Since DL techniques usually require enormous amount of computation, most of them cannot be directly deployed on the resource-constrained mobile and IoT devices. Hence, most of the mobile healthcare systems leverage the cloud computing infrastructure, where the data collected by the mobile and IoT devices would be transmitted to the cloud computing platforms for analysis. However, in the contested environments, relying on the cloud might not be practical at all times. For instance, the satellite communication might be denied or disrupted. We propose SAIA, a Split Artificial Intelligence Architecture for mobile healthcare systems. Unlike traditional approaches for artificial intelligence (AI) which solely exploits the computational power of the cloud server, SAIA could not only relies on the cloud computing infrastructure while the wireless communication is available, but also utilizes the lightweight AI solutions that work locally on the client side, hence, it can work even when the communication is impeded. In SAIA, we propose a meta-information based decision unit, that could tune whether a sample captured by the client should be operated by the embedded AI (i.e., keeping on the client) or the networked AI (i.e., sending to the server), under different conditions. In our experimental evaluation, extensive experiments have been conducted on two popular healthcare datasets. Our results show that SAIA consistently outperforms its baselines in terms of both effectiveness and efficiency.

연구 동기 및 목표

• 제한된 계산 자원과 신뢰할 수 없는 연결성을 가진 이동형 및 IoT 헬스케어 장치에 딥러닝을 구현하는 데 도전하는 데에 대비하기 위해.
• 로컬 임베디드 AI와 원격 네트워크화된 AI를 모두 활용하는 하이브리드 AI 시스템을 설계하여, 통신 장애 발생 시에도 기능을 유지하기 위해.
• 데이터 특성과 시스템 조건에 따라 클라이언트 측 또는 서버 측 AI 처리를 적응적으로 선택하는 지능형 결정 단위를 개발하기 위해.
• 이동형 헬스케어 응용 프로그램에서 정확도, 지연 시간, 에너지 소비, 통신 오버헤드 간의 트레이드오���을 최적화하기 위해.
• 실세계 헬스케어 데이터셋을 기반으로 아키텍처를 평가하여 기존 접근 방식에 비해 뛰어난 내성성과 우수성을 입증하기 위해.

제안 방법

• 시스템은 네 구성 요소로 구성된 아키텍처를 사용한다: 데이터 전처리(객체 탐지, 의미적 세그멘테이션, 특징 추출), 임베디드 AI(경량 DNN 분류기), 네트워크화된 AI(다양한 고급 DNN의 융합), 핵심 결정 단위.
• 결정 단위는 메타특징(예: 이미지 품질, 복잡도, 맥락적 신호 등)에 기반한 경량 머신러닝 분류기로, 샘플을 현지에서 처리할지 원격에서 처리할지 예측한다.
• 결정 단위는 유연한 신뢰도 임계값을 설정할 수 있도록 조정 가능한 초모수 ε를 사용하여 다양한 네트워크 조건과 자원 가용성에 적응할 수 있도록 한다.
• 메타특징에는 이미지 해상도, 질감 복잡도, 병변 특성 등이 포함되며, 이는 분류 이전에 추출되어 라우팅 결정을 위한 정보를 제공한다.
• 임베디드 AI는 MobileNet 또는 EfficientNet과 같은 컴act 모델을 사용하는 반면, 네트워크화된 AI는 최첨단 정확도를 달성하기 위해 앙상블 모델을 활용한다.
• 시스템은 클라우드 의존 및 오프라인 운영을 모두 지원하여, 위성 링크 장애와 같은 경쟁 환경에서도 내성성을 확보한다.

실험 결과

연구 질문

• RQ1 클라우드 연결성이 불안정하거나 이용 불가능할 경우, 이동형 헬스케어 시스템은 어떻게 높은 진단 정확도를 유지할 수 있는가?
• RQ2 로컬 임베디드 AI와 원격 네트워크화된 AI 간에 의료 영상 샘플을 라우팅할 때 어떤 기준이 지침이 되어야 하는가?
• RQ3 경량 메타정보 기반의 결정 단위는 실시간 이동형 헬스케어 응용 프로그램에서 정확도, 지연 시간, 통신 비용을 효과적으로 균형 잡을 수 있는가?
• RQ4 기존의 클라우드 전용 또는 클라이언트 전용 AI 접근 방식에 비해 제안된 SAIA 아키텍처는 성능과 효율성 측면에서 어떻게 비교되는가?
• RQ5 결정 단위의 초모수 ε는 다양한 네트워크 및 기기 조건에서 시스템 행동을 최적화하기 위해 얼마나 조정 가능한가?

주요 결과

• SAIA는 피부 병변 및 손톱 곰팡이 병변 분류 데이터셋 두 개에서 기존 기준 시스템보다 효과성과 효율성 측면에서 일관되게 뛰어난 성능을 보였다.
• 초모수 ε를 활용한 메타정보 기반의 결정 단위는 불필요한 데이터 전송을 줄이면서도 진단 정확도를 손상시키지 않도록 하는 적응형 라우팅을 가능하게 했다.
• 시뮬레이션된 통신 장애 동안에도 임베디드 AI에 의존함으로써 높은 성능을 유지하여, 경쟁 환경에서의 내성성을 입증했다.
• 경량 결정 단위의 사용은 클라이언트 측에서의 계산 오버헤드를 크게 줄였으며, 지능적인 워크로드 분배를 가능하게 했다.
• 서버 측에서 여러 고급 DNN의 융합은 단독으로 사용 가능한 경량 모델로는 달성할 수 없는 최첨단 정확도를 달성했다.
• 실험 결과, 특히 대역폭 제약 조건에서 기존의 클라우드 전용 또는 분할 DNN 접근 방식에 비해 SAIA는 통신 부하와 에너지 소비를 감소시켰다.