[論文レビュー] Exploring Edge TPU for Network Intrusion Detection in IoT

Seyedehfaezeh Hosseininoorbin, Siamak Layeghy+3 more|arXiv (Cornell University)|Mar 30, 2021

Network Security and Intrusion Detection被引用数 7

ひとこと要約

この論文は、IoTエッジでのディープラーニングベースのネットワークインライン検出システム（NIDS）のデプロイにGoogleのEdge TPUを評価し、推論時間、エネルギー効率、分類性能の観点からARM Cortex-A53 CPUと比較している。驚くべきことに、非常に小さなモデルではCortex-A53がEdge TPUを上回るが、モデルサイズが臨界値を超えるとEdge TPUが優位になる。特に、オンチップメモリ容量を超えると、エッジAIデプロイ意思決定において極めて重要な二段階の性能挙動が明らかになった。

ABSTRACT

This paper explores Google's Edge TPU for implementing a practical network intrusion detection system (NIDS) at the edge of IoT, based on a deep learning approach. While there are a significant number of related works that explore machine learning based NIDS for the IoT edge, they generally do not consider the issue of the required computational and energy resources. The focus of this paper is the exploration of deep learning-based NIDS at the edge of IoT, and in particular the computational and energy efficiency. In particular, the paper studies Google's Edge TPU as a hardware platform, and considers the following three key metrics: computation (inference) time, energy efficiency and the traffic classification performance. Various scaled model sizes of two major deep neural network architectures are used to investigate these three metrics. The performance of the Edge TPU-based implementation is compared with that of an energy efficient embedded CPU (ARM Cortex A53). Our experimental evaluation shows some unexpected results, such as the fact that the CPU significantly outperforms the Edge TPU for small model sizes.

研究の動機と目的

• リソース制限のあるIoTエッジデバイスにディープラーニングベースのNIDSをデプロイする実用性を評価すること。
• Edge TPUと汎用組み込みCPUの間の推論速度、エネルギー効率、検出精度のトレードオフを調査すること。
• IoTセキュリティワークロードにおけるEdge TPUに効率的にデプロイ可能な最適なモデルサイズとニューラルアーキテクチャを特定すること。
• 特にオンチップメモリ制限に関連するEdge TPUの性能ボトルネックを同定すること。

提案手法

• 本研究では、NIDS用にスケーリングされたモデルサイズを用いた、順伝播型および畳み込みニューラルネットワーク（CNN）の2つの深層ニューラルネットワークアーキテクチャを実装した。
• ニューラルネットワークモデルは、インライン検出性能を評価するために、パブリックなIoTベンチマークデータセットで訓練および評価された。
• 推論は、Edge TPUおよびARM Cortex-A53の両方のプラットフォームで実行され、推論時間、エネルギー消費量、分類精度を測定した。
• モデルサイズを体系的に変化させ、モデルの複雑さがハードウェア効率に与える影響、特に8000 KiBのオンチップメモリ閾値周辺の影響を調査した。
• エネルギー効率は、分類性能をエネルギー消費量で除算することで算出し、異なるプラットフォーム間の比較を可能にした。
• Edge TPUの二段階的挙動は、モデルパラメータがオンチップメモリ容量を超えてオフチップメモリアクセスを必要とし始める際の性能の変化を観察することで分析した。

Figure 1: The feed forward neural network architecture

実験結果

リサーチクエスチョン

• RQ1 NIDSにおける小さなモデルと大きなモデルの両方において、Edge TPUの推論時間はARM Cortex-A53と比べてどの程度か？
• RQ2 さまざまなモデルサイズにおいて、Edge TPUのエネルギー効率はCortex-A53と比べてどの程度か？
• RQ3 Edge TPUが推論速度およびエネルギー効率の面でCortex-A53を上回り始めるモデルサイズはどの程度か？
• RQ4 Edge TPUのオンチップメモリ容量はその性能にどのように影響するのか？オフチップメモリアクセスが効率を低下させる閾値は何か？
• RQ5 ニューラルネットワークアーキテクチャの選択（順伝播型対CNN）は、Edge TPUにおける性能およびエネルギー効率に顕著な影響を与えるか？

主な発見

• 非常に小さなモデルサイズでは、ARM Cortex-A53が推論時間およびエネルギー効率の両面でEdge TPUを上回る。これは予想に反する結果であった。
• モデルサイズが約8000 KiB（オンチップメモリ容量）を超えると、Edge TPUのエネルギー効率がCortex-A53を上回るようになる。
• 8000 KiBの閾値を超えると、オフチップメモリアクセスの増加に伴い、Edge TPUの相対的性能優位性が低下し、二段階の性能挙動が明らかになった。
• CNNアーキテクチャは、すべてのモデルサイズにおいて、順伝播型アーキテクチャに比べて8〜10倍のエネルギー効率が向上していた。
• 両方のプラットフォームにおいて、モデルサイズの増加に伴いエネルギー効率は低下するが、Edge TPUは大規模モデルにおいても顕著な優位性を維持している。
• Edge TPUの性能は、オンチップメモリに対するモデルサイズの感度が極めて高いため、最適なデプロイのためにはモデルサイズの精密なチューニングが必要である。

Figure 2: The convolutional neural network (CNN) architecture