[논문 리뷰] Cost minimization of network services with buffer and end-to-end deadline constraints

Victor Millnert, Enrico Bini외 1명|arXiv (Cornell University)|2016. 09. 15.

Cloud Computing and Resource Management인용 수 3

한 줄 요약

이 논문은 클라우드 환경에서 종단 간 딜레이 및 버퍼 제약 조건 하에 가상 네트워크 기능(VNF) 서비스 체인에 대한 비용 최소화 프레임워크를 제안한다. 동적 자원 스케일링을 최적화 문제로 모델링하여, 분석적 대기열 및 스케줄링 모델을 통해 지연 한계를 보장하면서 운영 비용을 최소화하는 제어 전략을 유도한다. 주요 결과로는 일정한 입력 흐름 하에서 안정적인 성능을 보이며, 적응형 온타임 연장 전략을 통해 간섭을 처리함을 보여준다.

ABSTRACT

Cloud computing technology provides the means to share physical resources among multiple users and data center tenants by exposing them as virtual resources. There is a strong industrial drive to use similar technology and concepts to provide timing sensitive services. One such is virtual networking services, so called services chains, which consist of several interconnected virtual network functions. This allows for the capacity to be scaled up and down by adding or removing virtual resources. In this work, we develop a model of a service chain and pose the dynamic allocation of resources as an optimization problem. We design and present a set of strategies to allot virtual network nodes in an optimal fashion subject to latency and buffer constraints.

연구 동기 및 목표

• 엄격한 종단 간 딜레이를 충족시키는 조건에서 클라우드 기반 가상 네트워크 기능(VNF) 서비스 체인의 운영 비용을 최소화하는 데 도전하는 것.
• 변동하는 워크로드와 버퍼 제약 조건 하에서 VNF 간 가상 머신의 동적 할당을 최적화 문제로 모델링하는 것.
• 대기열 행동과 처리 시간 동적 특성을 분석하여 종단 간 지연 한계를 충족시키는 제어 전략을 개발하는 것.
• 모델링 오류나 워크로드 급증과 같은 일시적 간섭을 고려하여 서비스 보장을 유지하기 위해 온타임 기간을 연장하는 것.
• 시간에 따라 변하는 요청 패턴과 불확실한 서비스 속도 하에서 향후 적응형 기반 시스템을 위한 기초를 마련하는 것.

제안 방법

• 서로 연결된 VNF로 구성된 서비스 체인의 수학적 모델을 수립하며, 각 VNF는 가상 머신 수를 구성 가능하게 한다.
• 각 패킷에 대해 종단 간 딜레이 제약 조건이 있는 일정한 속도의 요청 흐름으로 입력 스트림을 모델링한다.
• 각 VNF가 FIFO 순서로 요청을 처리하고, 우선순위를 부여하지 않는 실행 방식을 도입하며, 계산 시간보다 대기열 지연을 강조한다.
• 계산 및 스토리지 할당을 고려한 비용 모델을 유도하여 활성화된 머신 수에 대한 최소화 목표를 설정한다.
• 결정론적 대기열 이론과 네트워크 미적분을 사용하여 지연 한계를 분석하며, 특히 버퍼 오버플로 및 간섭 처리에 집중한다.
• 예상치 못한 워크로드 급증을 처리하기 위해 고려된 간섭 크기와 유휴 시간 가용성에 기반해 활성 기간을 연장하는 적응형 온타임 연장 전략(식 39)을 제안한다.

실험 결과

연구 질문

• RQ1 어떻게 가상 네트워크 기능을 동적으로 스케일링하여 비용을 최소화하면서 종단 간 지연 제약 조건을 충족시킬 수 있는가?
• RQ2 일정한 입력 흐름이 있는 서비스 체인에서 대기열 지연과 계산 시간이 종단 간 지연에 미치는 영향은 어떠한가?
• RQ3 모델링 오류나 워크로드 급증과 같은 예기치 못한 간섭이 발생할 경우 자원 할당은 어떻게 조정되어야 하는가?
• RQ4 버퍼 제약 조건 하에서 활성화된 가상 머신 수를 최소화하면서도 안정적인 운영을 보장할 수 있는 제어 전략은 무엇인가?
• RQ5 간섭으로 인해 필요한 처리 시간이 정상적인 온기간을 초과할 경우, 어떻게 하면 서비스 보장을 유지할 수 있는가?

주요 결과

• 제안된 제어 전략은 간섭 크기와 가용 유휴 시간에 기반해 VNF의 온타임을 동적으로 연장함으로써 종단 간 딜레이 준수를 보장한다.
• 모델은 종단 간 지연을 결정하는 데 있어 대기열 지연이 계산 지연보다 지배적임을 보여주며, 이는 버퍼 및 스케줄링 관리에 초점을 맞추는 데 정당성을 부여한다.
• 모델링 오류나 워크로드 급증과 같은 간섭은 식(39)을 사용해 온기간을 연장함으로써 처리할 수 있으며, 이는 추가 작업을 처리하기 위해 필요한 전체 및 부분적인 오프기간을 고려한다.
• 간섭 처리로 인한 비용 증가는 일정하며, 결정 변수와 독립적이므로 최적화 해법에 영향을 주지 않는다.
• 시간에 따라 변하는 워크로드 하에서 향후 적응형 기반 시스템을 위한 안정적인 기초를 제공하며, 피드백 기반 서비스 속도 적응 확장 가능성도 있다.
• 시뮬레이션 결과(문헌에서 수량화되지 않음)는 모델이 정확한 온타임 연장 덕분에 지연 한계를 유지하고 과다 할당을 방지함을 확인한다.