[논문 리뷰] Deep Learning for Effective and Efficient Reduction of Large Adaptation Spaces in Self-Adaptive Systems

Danny Weyns, Omid Gheibi외 2명|arXiv (Cornell University)|2022. 04. 13.

Advanced Software Engineering Methodologies참고 문헌 75인용 수 6

한 줄 요약

이 논문은 자기적응형 시스템에서 큰 적응 공간을 온라인으로, 특성 엔지니어링 없이 줄이는 데에 사용할 수 있는 딥러닝 프레임워크인 DLASeR+를 제안한다. 공유된 신경망 아키텍처와 작업별 헤드를 통해 임계치, 최적화, 목표 설정 목표를 동시에 학습함으로써 DLASeR+는 분석 시간을 크게 줄이며 거의 최적에 가까운 적응 결정을 달성한다. 이는 정확도와 일반성 면에서 기존의 전수 검색 및 학습 기반 방법들을 모두 능가한다.

ABSTRACT

Many software systems today face uncertain operating conditions, such as sudden changes in the availability of resources or unexpected user behavior. Without proper mitigation these uncertainties can jeopardize the system goals. Self-adaptation is a common approach to tackle such uncertainties. When the system goals may be compromised, the self-adaptive system has to select the best adaptation option to reconfigure by analyzing the possible adaptation options, i.e., the adaptation space. Yet, analyzing large adaptation spaces using rigorous methods can be resource- and time-consuming, or even be infeasible. One approach to tackle this problem is by using online machine learning to reduce adaptation spaces. However, existing approaches require domain expertise to perform feature engineering to define the learner, and support online adaptation space reduction only for specific goals. To tackle these limitations, we present 'Deep Learning for Adaptation Space Reduction Plus' -- DLASeR+ in short. DLASeR+ offers an extendable learning framework for online adaptation space reduction that does not require feature engineering, while supporting three common types of adaptation goals: threshold, optimization, and set-point goals. We evaluate DLASeR+ on two instances of an Internet-of-Things application with increasing sizes of adaptation spaces for different combinations of adaptation goals. We compare DLASeR+ with a baseline that applies exhaustive analysis and two state-of-the-art approaches for adaptation space reduction that rely on learning. Results show that DLASeR+ is effective with a negligible effect on the realization of the adaptation goals compared to an exhaustive analysis approach, and supports three common types of adaptation goals beyond the state-of-the-art approaches.

연구 동기 및 목표

• 불확실 조건 하에서 자기적응형 시스템의 큰 적응 공간 분석이 계산적으로 불가능한 문제를 해결하기 위해.
• 온라인 적응 공간 축소에서 도메인 특화 특성 엔지니어링이 필요 없도록 하기 위해.
• 일관된 통합 학습 프레임워크 내에서 세 가지 일반적인 적응 목표 유형—임계치, 최적화, 목표 설정—을 모두 지원하기 위해.
• 특히 IoT 및 서비스 기반 시스템에서 적응 결정 수립의 효율성과 확장성을 향상시키기 위해.
• 목표 만족도를 유지하면서도 효과적이고 효율적인 런타임 적응 옵션 분석을 가능하게 하기 위해.

제안 방법

• DLASeR+는 여러 적응 목표에 걸쳐 시스템 상태 특징에서 표현을 학습하는 공유된 딥 네트워크 아키텍처를 사용한다.
• 임계치, 최적화, 목표 설정 목표를 위한 작업별 출력 헤드를 사용하여, 목표별 예측 능력을 유지하면서도 공동 학습을 가능하게 한다.
• 온라인 학습을 지원하여 새로운 시스템 상태가 관찰될 때마다 점진적인 적응 공간 축소를 가능하게 한다.
• 엔드 투 엔드 학습을 활용하여 수동 특성 엔지니어링을 제거하고, 원시 시스템 상태를 직접 적응 공간 순위 매기기로 매핑한다.
• 예측된 적응 품질을 전수 검색 결과와 비교하는 공식 분석 파이프라인을 사용하여 평가한다.
• 증가하는 적응 공간 크기와 다양한 목표 조합을 가진 두 개의 IoT 기반 애플리케이션에서 모델를 훈련하고 검증한다.

실험 결과

연구 질문

• RQ1 딥러닝 접근법이 특성 엔지니어링 없이도 큰 자기적응형 시스템의 적응 공간을 줄일 수 있는가?
• RQ2 한 번의 모델로 동시에 세 가지 적응 목표 유형—임계치, 최적화, 목표 설정—을 얼마나 효과적으로 지원할 수 있는가?
• RQ3 DLASeR+의 성능은 적응 시간과 목표 실현 측면에서 전수 분석 및 최신 학습 기반 방법과 비교해 볼 때 어떻게 되는가?
• RQ4 DLASeR+를 사용할 경우 적응 효율성과 목표 만족도 정확도 사이의 상호 교환 관계는 어떠한가?
• RQ5 DLASeR+는 이전 연구에서 사용된 것보다 훨씬 큰 적응 공간에 대해 확장 가능한가?

주요 결과

• DLASeR+는 전수 분석에 비해 목표 만족도에서 거의 무시할 수 없는 흐름을 보이며 거의 최적의 적응 결정을 달성한다. 특히 임계치 및 목표 설정 목표에서 그러하다.
• 최적화 목표의 경우 성능 저하가 미미하며, 품질 특성 실현 측면에서 작은 편이지만 수용 가능한 흐름이 있음을 보여준다.
• 적응 시간은 전수 분석 대비 수개의 주기로 크게 감소하여 대규모 시스템에서 실시간 적응을 가능하게 한다.
• DLASeR+는 효율성과 다중 목표 유형 지원 측면에서 두 가지 최신 학습 기반 접근법을 모두 능가한다.
• 프레임워크는 점차 커지는 적응 공간을 성공적으로 처리하여 IoT 기반 시나리오에서의 확장성을 입증한다.
• 모델의 엔드 투 엔드 학습 능력 덕분에 수동 특성 엔지니어링이 필요 없어지며, 이는 구현 가능성과 유지보수성을 향상시킨다.