[논문 리뷰] pForest: In-Network Inference with Random Forests

Coralie Busse-Grawitz, Roland Meier외 3명|arXiv (Cornell University)|2019. 09. 12.

Internet Traffic Analysis and Secure E-voting참고 문헌 31인용 수 20

한 줄 요약

pForest는 프로그래머블 데이터 플레인에서 유연한 랜덤 포레스트 모델을 순차적으로 훈련시켜 유동적인 모델 전환을 통해 플로우 수명 주기 동안 동적으로 작동함으로써, 하드웨어 제약 조건 속에서도 소프트웨어 기반 머신러닝 시스템과 비슷한 정확도를 달성하면서도 조기에 정확한 트래픽 분류를 가능하게 한다. 이는 수십만 개의 플로우에 대해 조기에 정확한 분류를 제공한다.

ABSTRACT

When classifying network traffic, a key challenge is deciding when to perform the classification, i.e., after how many packets. Too early, and the decision basis is too thin to classify a flow confidently; too late, and the tardy labeling delays crucial actions (e.g., shutting down an attack) and invests computational resources for too long (e.g., tracking and storing features). Moreover, the optimal decision timing varies across flows. We present pForest, a system for "As Soon As Possible" (ASAP) in-network classification according to supervised machine learning models on top of programmable data planes. pForest automatically classifies each flow as soon as its label is sufficiently established, not sooner, not later. A key challenge behind pForest is finding a strategy for dynamically adapting the features and the classification logic during the lifetime of a flow. pForest solves this problem by: (i) training random forest models tailored to different phases of a flow; and (ii) dynamically switching between these models in real time, on a per-packet basis. pForest models are tuned to fit the constraints of programmable switches (e.g., no floating points, no loops, and limited memory) while providing a high accuracy. We implemented a prototype of pForest in Python (training) and P4 (inference). Our evaluation shows that pForest can classify traffic ASAP for hundreds of thousands of flows, with a classification score that is on-par with software-based solutions.

연구 동기 및 목표

• 네트워크 내 트래픽 분류 시점을 최적화하여 조기에 지나치게 일찍 또는 늦게 결정하는 문제를 해결하기 위해.
• 시간이 지남에 따라 변화하는 플로우 특성에 적응하는 머신러닝 모델을 사용하여 데이터 플레인에서 정확하고 실시간으로 분류를 수행하기 위해.
• 부동소수점 연산 없이, 반복문 없이, 제한된 메모리 자원만을 사용하는 프로그래머블 스위치의 엄격한 제약 조건 속에서도 높은 분류 정확도를 유지하는 시스템을 설계하기 위해.
• 플로우 수명 주기의 각 단계에 맞게 최적화된 랜덤 포레스트 모델의 시퀀스를 자동으로 생성하고 배포하여, 패킷 단위로 동적으로 모델 전환을 가능하게 하기 위해.
• 네트워크 내 추론이 조기에 이루어지면서도 정확할 수 있음을 입증하고, 고정된 패킷 수나 플로우 종료 시점에만 분류하는 기존 접근 방식을 능가하기 위해.

제안 방법

• pForest는 플로우 수명 주기의 특정 단계(예: 조기, 중기, 후기)에 최적화된 맥락 의존성 랜덤 포레스트 모델의 시퀀스를 훈련시킨다.
• 플로우 진행 상황과 레이블 예측의 신뢰도에 기반해, 패킷 단위로 실시간으로 이러한 모델들 사이를 동적으로 전환한다.
• 스위치 하드웨어 제약 조건을 충족시키기 위해 통계적 특징(예: 평균, 분산)을 부동소수점 연산을 피하기 위해 정수 산술로 자동 근사한다.
• 특수한 컴파일 전략을 사용해 훈련된 랜덤 포레스트 모델을 P4 프로그램으로 컴파일하여 메모리 및 파이프라인 효율성을 최적화한다.
• 모델 하이퍼파라미터(예: 깊이, 트리 수, 임계값)를 표본 추출하지 않은 격자 탐색을 통해 최적화하여 하드웨어 제약 조건 내에서 정확도를 극대화한다.
• 랜덤 포레스트의 해석 가능성과 강건성을 활용해, 특성의 이동과 제한된 계산 자원 상황에서도 높은 정확도를 유지한다.

실험 결과

연구 질문

• RQ1 고정된 패킷 수 기준에 의존하지 않고도, 가능한 한 빨리 정확도를 유지하면서 네트워크 내 분류를 수행할 수 있는가?
• RQ2 플로우 수명 주기 동안 기계학습 모델을 어떻게 동적으로 적응시켜 변화하는 특성의 중요도와 예측 신뢰도를 반영할 수 있는가?
• RQ3 부동소수점 연산 없이 제한된 메모리 자원만을 가진 프로그래머블 데이터 플레인에서 랜덤 포레스트를 얼마나 효율적으로 컴파일하고 실행할 수 있는가?
• RQ4 맥락 기반의 랜덤 포레스트 모델 시퀀스가 정적 모델보다 조기에 정확한 트래픽 분류에서 뛰어난 성능을 보일 수 있는가?
• RQ5 pForest의 성능은 분류 정확도와 시점 측면에서 소프트웨어 기반 머신러닝 시스템과 비교해 어떻게 다른가?

주요 결과

• pForest는 소프트웨어 기반 scikit-learn 구현과 비슷한 분류 정확도를 달성하여, 하드웨어 제약 조건이 있는 네트워크 내 추론이 오프라인 성능을 따라잡을 수 있음을 입증한다.
• 시스템은 레이블이 충분히 확립된 순간 즉시 플로우를 분류하여 너무 이르거나 너무 늦게 결정하지 않으며, DDoS 공격과 같은 네트워크 이벤트에 적절하게 대응할 수 있다.
• pForest는 낮은 지연 시간으로 수십만 개의 동시 플로우를 처리하면서도, 플로우 진행 상황에 기반해 패킷 단위로 모델 전환을 수행한다.
• 맥락 의존성 랜덤 포레스트의 사용 덕분에 시스템은 플로우 단계에 따라 특성 중요도와 결정 논리를 적응적으로 조정하여 예측의 신뢰도를 시간이 지남에 따라 향상시킨다.
• 컴파일 도구는 복잡한 랜덤 포레스트 모델을 스위치의 엄격한 제약 조건(정수 연산만 허용, 동적 메모리 할당 불가)을 충족시키며 P4 코드로 효과적으로 매핑한다.
• pForest는 고정된 패킷 수나 플로우 종료 시점에만 분류하는 기존의 네트워크 내 분류기들을 능가하며, 동적이고 단계 기반의 모델 선택의 가치를 입증한다.